Anthropic и Accenture договорились развивать независимую оценку передовых моделей искусственного интеллекта. Каждая компания выделит на эту работу не менее $1 млрд в течение пяти лет, передает Reuters.
После объявления о партнерстве акции Accenture на расширенных торгах выросли на 7%. Проект появился на фоне усиливающихся требований регуляторов, бизнеса и исследователей к надежности новых систем ИИ.
Работу возглавит специализирующееся на искусственном интеллекте подразделение Accenture под названием Faculty. Оно займется испытанием защитных механизмов, проверками согласованности поведения моделей и моделированием атак.
Компании намерены применять формат встроенной оценки. Независимые специалисты будут работать внутри разработчика и получат доступ к системам, сопоставимый с возможностями сотрудников.
Anthropic рассчитывает, что такой подход позволит проверять выполнение обязательств по безопасности, находить незамеченные проблемы и сообщать об инцидентах. Партнеры также планируют привлекать к подобной работе других оценщиков и разработчиков.