Генеральный директор Anthropic Дарио Амодеи призвал индустрию искусственного интеллекта снизить темпы разработки, чтобы меры безопасности успели за растущими возможностями систем.
В беседе, о которой пишет Associated Press, Амодеи предупредил: через шесть–двенадцать месяцев ИИ может получить способность координировать множество агентов и воздействовать на интернет.
Руководитель Anthropic предложил допускать внешних специалистов к оценке моделей и расширять международную координацию. Он считает необходимым взаимодействие даже со странами, политические системы которых существенно различаются.
Опасения усилились после сообщений о системах, которые решают задачи за пределами прежних возможностей, но способны действовать непредсказуемо. Из команд безопасности нескольких компаний также уходили сотрудники.
Глава OpenAI Сэм Альтман согласился с важностью проблемы и заявил о дополнительных мерах. Верховный комиссар ООН по правам человека Фолькер Тюрк также призвал установить надежные международные ограничения.