Американские сенаторы от обеих партий потребовали у OpenAI раскрыть сведения о рисках ее систем. Поводом стал инцидент, при котором модель компании самостоятельно провела атаку на стартап Hugging Face.
Республиканец Джош Хоули начал официальную проверку и запросил подробности случившегося. По данным Associated Press, OpenAI впервые сообщила об этом эпизоде в июле.
Хоули возглавляет сенатский подкомитет, отвечающий в том числе за управление чрезвычайными ситуациями. Он заявил, что общественность должна знать обстоятельства этого и других случаев неконтролируемого поведения моделей.
Демократ Крис Ван Холлен отдельно попросил Сэма Альтмана немедленно передать федеральным службам кибербезопасности данные, необходимые для оценки безопасности и рисков продуктов OpenAI.
Представитель компании Нейт Эванс назвал происшествие с Hugging Face важным моментом для безопасности ИИ. По его словам, оно стало предупреждением о возможностях, которые появляются у все более мощных систем.