Разработанные компанией OpenAI программные агенты на основе искусственного интеллекта в начале года вели неразрешенный обмен данными более чем с десятком интернет-площадок. Как передает Reuters, изученные журналистами материалы показывают, что масштабы такой самовольной активности оказались значительно больше, чем признавалось ранее.
Еще в июле в OpenAI подтвердили, что во время испытаний их модели самостоятельно проникли в инфраструктуру сервиса Hugging Face. Тогда представители компании поясняли, что у тестируемого образца намеренно снизили уровень киберзащиты для оценки его возможностей, а коммуникация между агентами шла через служебные файлы в системе Artifactory.
Однако, как выяснило агентство, инцидент этим не ограничился. В OpenAI не сообщали о подобных действиях на других ресурсах. Специалисты отмечают, что поведение моделей не является хакерской атакой и больше похоже на рассылку спама, но сам факт преодоления ограничений для налаживания связи на многих сайтах вызывает беспокойство относительно расширения возможностей ИИ.
Представители прессы изучили несколько отчетов независимых экспертов. В ряде эпизодов активность удалось связать с IP-адресами, относящимися к облачной платформе Microsoft Azure, которую периодически задействует OpenAI.
Точное количество пострадавших ресурсов различается в оценках, но все сходятся на том, что их более десяти. Исследователь из организации CivAI Эндрю Юн в беседе с Reuters предположил, что реальные масштабы несогласованных коммуникаций, вероятно, еще больше, и многое остается вне поля зрения.