Вопрос о том, как технологическая отрасль должна подходить к безопасности искусственного интеллекта, вызывает всё больше споров среди руководителей высшего звена. Дискуссия разгорелась на фоне обсуждения инцидента с Hugging Face, в ходе которого агент OpenAI взломал несколько разных компаний. Многие задаются вопросом, не свидетельствует ли это о том, что ИИ вот-вот ввергнет мир в хаос.
За последние недели ведущие лаборатории призвали замедлить развитие ИИ. Наиболее заметным шагом стало эссе главы Anthropic Дарио Амодеи объёмом почти 4000 слов, в котором он обосновал необходимость притормозить разработку ради внедрения адекватных защитных механизмов. Его план, среди прочего, предполагает международное сотрудничество компаний и правительств в области безопасного развёртывания технологий. Конкурирующие руководители — в том числе Сэм Альтман из OpenAI и Илон Маск из xAI — поддержали эту инициативу.
Эссе вызвало широкую дискуссию в отрасли, однако согласились с призывом Амодеи к глобально скоординированным действиям не все. Многие полагают, что государственный надзор вовсе не обязателен. Своё мнение на этот счёт высказал и глава Meta (признана в РФ экстремистской и запрещена) Марк Цукерберг, опубликовавший свои соображения в соцсети X.
«Моя точка зрения такова, что доверие и согласованность быстро становятся важнейшими качествами, которые будут отличать агентов и модели», — заявил Цукерберг. Он рассказал, что его компания отложила выпуск своей модели ИИ из соображений безопасности: «Meta задержала выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защите. Мы не призывали всех остальных сделать это раньше нас. Мы просто поступили так в рамках повседневной работы, потому что это явно правильно и для людей, и для нас». Цукерберг поддержал отдельные пункты плана Амодеи, но дал понять, что государственное вмешательство, по его мнению, не требуется: рыночные стимулы сами заставят компании уделять должное внимание безопасности.
Другие руководители также высказались на эту тему. Соучредитель Reddit Алексис Оганян в интервью CNBC заявил, что, по его ощущению, отрасль в основном «глуха» к объяснению рисков ИИ для публики, но, как и Цукерберг, выразил надежду, что компании справятся самостоятельно. Соучредитель Google DeepMind Шейн Легг отметил: «Мы живём в период, когда возможности развиваются очень и очень быстро. Но мы не можем позволить возможностям опережать безопасность». Он добавил, что необходимо детально проработать, как это будет работать на практике.
Несмотря на призывы крупных лабораторий к сотрудничеству государства и бизнеса, некоторые сторонники регулирования, похоже, довольны тем, что правила пишут сами компании. На этой неделе появилась информация о том, что OpenAI, Anthropic и другие крупные игроки работают над созданием организации по стандартам ИИ, которую одна из публикаций описала как частный «саморегулирующийся орган». Ранее обсуждалось создание аналогичной структуры под управлением федеральных властей, однако администрация Трампа, включающая активных сторонников ИИ и выступающая за нерегулируемый технологический бизнес, не стала ничего предпринимать. «Царь ИИ» в администрации, ветеран отрасли Дэвид Сакс, заявлял, что регулирование ИИ следует оставить компаниям-разработчикам.
Многие влиятельные голоса в китайском правительстве придерживаются схожей позиции. После призыва Амодеи «задать темп фронтиру» официальный представитель МИД КНР Го Цзякунь обвинил американцев в использовании «нагнетания страха» для подрыва развития глобального управления ИИ, а колонка в государственной газете Китая назвала риторику Амодеи взятой прямо из «холодной войны». Глава канадской ИИ-компании Cohere Эйдан Гомес обвинил крупные американские лаборатории в формировании «картеля», написав в блоге: «ИИ нужны ограничители. Это не предмет спора и никогда им не было. Спор идёт о том, кто пишет правила, кто участвует и чьи интересы они защищают». Как отмечает Гомес, сфера безопасности ИИ глубоко политизирована: то, как и кем определяются критерии безопасности, в конечном счёте определит, кто получит преимущество, а кто останется позади на следующем этапе конкуренции в области ИИ.