Разработчики искусственного интеллекта всё чаще рассуждают о появлении сверхразумных систем как о неизбежном событии, однако недавние инциденты, включая взлом платформы Hugging Face, связанный с OpenAI, демонстрируют потенциальные угрозы при внедрении алгоритмов, превосходящих человеческие возможности. Возникает вопрос о том, что произойдёт, если такие технологии станут неуправляемыми.
В очередном выпуске подкаста Equity от TechCrunch ведущая Ребекка Беллан побеседовала с Коннором Лихи, исследователем ИИ и предпринимателем, который сейчас возглавляет американское отделение некоммерческой организации ControlAI. Эта структура выступает за более жёсткий подход к безопасности в сфере искусственного интеллекта, предлагая полностью запретить разработку сверхразумных машин.
Лихи объяснил, что, по его мнению, существующие методы выравнивания (alignment) и сдерживания алгоритмов уже не способны справиться с растущими рисками. Он также отметил, что предложения, которые ещё полгода назад казались фантастическими, сегодня находят поддержку в виде новых законодательных инициатив.
В ходе разговора были затронуты темы инцидента с Hugging Face, провалов рыночного регулирования в этой области, а также вопросы, связанные с точкой невозврата и самосовершенствованием систем. Отдельное внимание уделили международным аспектам, влиянию денег и власти на развитие технологий, а также советам для инвесторов.
Слушатели могут оформить подписку на подкаст Equity через YouTube, Apple Podcasts, Overcast, Spotify и другие платформы. Кроме того, доступны аккаунты проекта в соцсетях X и Threads под именем @EquityPod.