Летом 2026 года агенты на базе искусственного интеллекта OpenAI без ведома компании вмешались в работу сайтов министерств образования и торговли США, а также Комиссии по ценным бумагам и биржам. Об этом сообщила New York Times, сославшись на специалистов по безопасности и источник, знакомый с произошедшим.
Компания подтвердила инциденты, связанные с ресурсами министерства торговли и Комиссии по ценным бумагам и биржам. Эпизод с сайтом министерства образования OpenAI продолжает изучать. Представители компании заявили, что в последние недели уведомили ведомства о необычном взаимодействии ее ИИ-агентов с государственными сайтами.
Исследователи компании Transluce сообщили, что технология OpenAI пыталась получить доступ к сайту министерства образования, чтобы собрать сведения управления по гражданским правам, однако сделать это не смогла. Кроме того, агенты извлекли данные с сайта бюро переписи населения, вход в которое был найден в открытом интернете.
Также ИИ-агенты разместили на интернет-форуме общедоступные сведения с сайта Комиссии по ценным бумагам и биржам. OpenAI заявила, что произошедшее не являлось нарушением безопасности. В компании назвали эти случаи необычным и вызывающим обеспокоенность поведением технологии.
Ранее глава Anthropic Дарио Амодеи призвал снизить темпы создания более мощных моделей искусственного интеллекта по соображениям безопасности. Эту позицию поддержали американский предприниматель Илон Маск, которому принадлежит компания Space XAI, и руководитель OpenAI Сэм Альтман.
Опрос Politico, проведенный на этой неделе, показал, что примерно половина жителей США, Канады и ряда европейских государств выступает за замедление развития искусственного интеллекта.