Глава Microsoft Сатья Наделла стал очередным руководителем технологической компании, который подробно высказался о том, как можно повысить безопасность искусственного интеллекта. Свои соображения он изложил в субботнем посте в соцсети X. По его словам, настало время «отступить на шаг и оценить архитектуру доверия» к ИИ.
Наделла отметил, что нельзя относиться к сверхинтеллекту как к набору вложенных «чёрных ящиков» и просто принимать или отвергать его рекомендации, ответы и действия. Он использовал термин «сверхинтеллект», который предпочитает применять администрация Трампа для обозначения ИИ. Такой подход, по его мнению, «означает отделение модели от управляющей оболочки, которая организует её работу», а также «вынесение средств контроля и защиты во внешний контур».
Кроме того, руководитель Microsoft призвал документировать «каждое значимое действие модели» с помощью «защищённых от подделки, понятных человеку доказательств». Он также выступил за создание систем, в которых «уполномоченное лицо» всегда имеет возможность «приостановить или отключить модель прямо во время выполнения задачи».
«Мы должны исходить из того, что модель скомпрометирована, и сдерживать её с самого начала, — заявил Наделла. — Представьте это как аварийный тормоз».
Заявление Наделлы прозвучало на фоне того, что ведущие компании в сфере ИИ всё чаще признают случаи, когда, по всей видимости, теряли контроль над своими моделями. Ранее глава Anthropic Дарио Амодеи опубликовал план более осторожного развития искусственного интеллекта, о чём сообщал TechCrunch.