Крис Лехане, руководитель отдела глобальной политики OpenAI, во вторник сообщил журналистам, что компания на протяжении нескольких недель ведёт работу по вопросам безопасности искусственного интеллекта совместно с конкурентами — Anthropic и Google DeepMind. Об этом первым сообщил Bloomberg. По имеющимся данным, Лехане находится в Вашингтоне, где взаимодействует с американскими законодателями по теме катастрофических рисков, связанных с ИИ.
Эти сведения появились после опубликованного в субботу эссе главы Anthropic Дарио Амодеи, в котором он призвал отрасль объединить усилия, чтобы замедлить развитие передовых ИИ-технологий и не допустить катастрофических последствий. Руководители различных ИИ-компаний, включая Сэма Альтмана из OpenAI, Демиса Хассабиса из Google и Илона Маска из SpaceXAI, поддержали обращение Амодеи и его призыв к действию. Альтман, в частности, заявил, что OpenAI присоединится к Anthropic и допустит в компанию сторонних оценщиков для контроля безопасности.
Во вторник Лехане подтвердил, что три компании уже несколько недель обсуждают вопросы безопасности ИИ. Некоторые эксперты, в том числе Альтман, отмечали, что подобные переговоры могут создать для компаний риск нарушения антимонопольного законодательства, если будет установлено, что координация подавляет конкуренцию. В своём эссе Амодеи предложил ввести узкое государственное исключение, разрешающее такое взаимодействие по вопросам безопасности, однако Лехане, по имеющимся данным, заявил, что компании в подобном исключении не нуждаются.
Эта информация подтверждает более ранние сообщения и указывает на то, что компании действительно сотрудничают. В интервью Fortune в конце прошлой недели Альтман намекнул, что ведёт закрытые переговоры с другими руководителями ИИ-компаний. На этой неделе The Information сообщила, что три компании работают над созданием органа по стандартизации в сфере ИИ — по словам Альтмана, это должно произойти без поддержки американского правительства.
В июле Хассабис призвал США создать новый орган по стандартизации, который выполнял бы функции надзора за ИИ и мог бы проверять самые передовые модели в мире, а также координировать замедление отрасли в случае нарастания опасности. Президент Трамп, со своей стороны, отмахнулся от опасений по поводу безопасности, назвав их обманом, и выступил против ужесточения регулирования, заявив, что любое замедление даст Китаю преимущество в гонке. Его ключевой советник по ИИ Дэвид Сакс, давний инвестор с личной заинтересованностью во многих отраслевых компаниях, поддержал эту позицию, заявив, что страхи перед экзистенциальными рисками ИИ преувеличены.
На той же встрече во вторник Лехане заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act, которое обяжет ведущие лаборатории передовых разработок допускать в свои компании «независимые проверяющие организации» для контроля безопасной разработки моделей. TechCrunch обратился за комментариями к Anthropic, Google и OpenAI.