Компания Anthropic предоставила шестерым сотрудникам организации METR доступ к внутренним инструментам и системам для независимой оценки рисков, связанных с ее технологиями искусственного интеллекта. Специалисты получили корпоративное оборудование и рабочие места в офисе компании. По уровню доступа они находятся примерно на одном уровне с внутренними командами Anthropic, занимающимися оценкой рисков.
METR ранее участвовала в расследовании взлома платформы Hugging Face, который связывали с моделями OpenAI, действовавшими без разрешения. В рамках проверки организация изучила тысячи журналов событий и получила ноутбуки компании. Теперь Anthropic предложила сотрудникам делиться информацией с внешними экспертами так же, как с коллегами из собственного подразделения по оценке рисков.
Anthropic не выплачивает METR вознаграждение за эту работу. Организация не принимает пожертвования от компаний, занимающихся искусственным интеллектом, и их сотрудников. Ее деятельность финансируют частные лица, благотворительные организации и государственные структуры, включая британский Институт безопасности искусственного интеллекта.
METR намерена самостоятельно опубликовать результаты анализа, а Anthropic не сможет запретить публикацию. При этом компания вправе потребовать удалить сведения о клиентах, информацию, защищенную адвокатской тайной, а также данные об архитектуре моделей. В Anthropic заявили: «Мы добровольно размещаем у себя независимых оценщиков и считаем, что так должна поступать каждая компания, разрабатывающая передовые системы искусственного интеллекта».
Компания также продолжает сотрудничество с Accenture, которая в прошлом месяце стала партнером Anthropic по тестированию безопасности. Обе стороны обязались направить не менее $1 млрд на создание новых защитных механизмов. Еще один внешний партнер, SecureBio, оценивает риски, связанные с химическим и биологическим оружием.
Как сообщает Financial Times, Anthropic стремится убедить инвесторов, что вопросы безопасности не помешают ее первичному размещению акций, которое ожидается в этом году при оценке компании более чем в $2 трлн. Значительную часть презентаций для инвесторов на этой неделе посвятили действующим мерам безопасности. В METR заявили: «Мы готовы сотрудничать со всеми разработчиками передовых систем искусственного интеллекта, чтобы предоставить обществу более убедительные доказательства».