Генеральный директор Anthropic Дарио Амодеи призвал разработчиков уменьшить скорость расширения возможностей моделей искусственного интеллекта. Он предложил использовать полученное время для контроля связанных с технологией рисков.
Трехэтапная схема предусматривает постоянную работу независимых оценщиков внутри ведущих лабораторий, сообщает Reuters. Проверяющим предлагается предоставить доступ, сопоставимый с доступом сотрудников, к инструментам и внутренним процедурам оценки угроз.
Второй элемент плана — координация компаний при формировании стандартов безопасности и ограничении неконтролируемых разработок. Третий предполагает международное сотрудничество по вопросам рисков ИИ.
Илон Маск и Сэм Альтман публично согласились с Амодеи. Альтман поддержал идею независимых проверяющих и сообщил, что OpenAI намерена внедрить похожий подход.
Амодеи подчеркнул, что не предлагает останавливать обучение моделей или технический прогресс. Его цель — дать компаниям достаточно времени для настройки защитных механизмов и обеспечить их подтверждение внешними специалистами.