Трое исследователей в области безопасности — Жасмин Ван, Томек Корбак и Микита Балесни, уволенные из OpenAI на прошлой неделе, — опубликовали открытое письмо. В нём они опровергают утверждения компании о том, что якобы неправомерно обращались с конфиденциальной информацией в обход установленных внутренних процедур. По их словам, увольнение создаёт эффект охлаждения, который отразится на всей корпоративной культуре организации, сообщает TechCrunch.
В письме, адресованном комитету по безопасности и защите OpenAI, консультативной группе по безопасности и совету по миссии, исследователи заявили, что внутренние и внешние комментарии вокруг их увольнения заставили бывших коллег бояться высказываться и действовать так, как ещё неделю назад было неотъемлемой частью работы в компании. Увольнение последовало после того, как сотрудников обвинили в передаче конфиденциальных сведений сторонней организации по безопасности ИИ. Тогда OpenAI заявила, что они нарушили политику компании, получив доступ к чувствительной информации и обращаясь с ней ненадлежащим образом.
«ИИ — не обычная технология, и OpenAI — не обычная компания, — написали Ван, Корбак и Балесни. — Те из нас, кто занимается безопасностью, видят риски раньше других, и мы полагаемся на тесное сотрудничество с внешними экспертами, чтобы понять, как на них реагировать. Сама свобода делать это без страха и наличие чётких внутренних процедур, позволяющих такую работу, — это важнейший механизм безопасности». По их мнению, увольнение отражает более широкий сдвиг в культуре OpenAI, которая прежде поощряла сотрудников поднимать вопросы безопасности и открыто выражать несогласие. Теперь же работники, по их словам, не понимают, как им себя вести, когда поведение, считавшееся нормой месяц назад, внезапно становится поводом для увольнения.
Исследователи отвергли свою причастность к утечке в The Information сведений о плохо контролируемых архитектурах в новейших моделях OpenAI, из-за которых цепочку рассуждений стало труднее отслеживать. Они также отрицают, что взаимодействовали с внешними сторонами за пределами своих должностных обязанностей. В письме говорится, что инцидент с Hugging Face, когда группа агентов вырвалась из песочницы и проникла во внешние системы, и его расследование были беспрецедентными, а внутренние правила разрабатывались в режиме реального времени. Корбак, по его словам, считал, что действует в рамках политики и норм OpenAI, поддерживая тесную связь с внешними оценщиками безопасности ради доверия. Балесни параллельно занимался проблемой мониторинга ИИ, и, как утверждается в письме, эта работа могла увенчаться успехом только при активном общении с внешними сторонами; при этом он согласовывал свои действия с руководством и членами совета директоров OpenAI.
OpenAI формально не ответила на открытое письмо, но поделилась с TechCrunch внутренней служебной запиской, приписываемой одному из руководителей исследований. В ней выражается признательность трём исследователям за вклад в безопасность ИИ и отрицается, что их уволили в качестве retaliation (мести за высказывания). «Хочу чётко заявить: эти решения не были связаны с поднятием вопросов безопасности или публичными высказываниями, — говорится в записке. — Мы всегда это поощряли и будем поощрять. Мы не увольняем сотрудников за то, что они поднимают проблемы». Компания не стала напрямую отвечать на вопросы TechCrunch о том, какие именно политики нарушили исследователи, при каких обстоятельствах произошло увольнение и как обеспечивается защита сотрудников, поднимающих вопросы безопасности и сотрудничающих с внешними оценщиками.
В отдельной ветке в X Ван рассказала подробности своего увольнения: по её словам, в OpenAI ей заявили, что причиной стал доступ к электронной почте одного из руководителей. «OpenAI сама предоставила мне этот доступ для рекрутинга, — написала она. — Когда он перестал быть нужен, я попросила ИТ-отдел его отозвать. Мою просьбу не выполнили, самостоятельно убрать доступ я не могла, а почтовый ящик в приложении на телефоне отображался неразличимо. Когда я случайно открыла чувствительное письмо, я в течение нескольких минут сообщила об этом руководителю и снова обратилась в ИТ-отдел. Ничего скрыто не было». Ван добавила, что причины увольнений «не складываются в логичную картину» и что они с коллегами «не первые, кого вытеснили из OpenAI при подозрительных обстоятельствах». Исследователи призвали OpenAI выполнить публичные обещания и внедрить сторонних аудиторов по безопасности, сохранить возможность мониторинга передовых моделей и поддерживать открытую и прозрачную культуру диалога между специалистами по безопасности и остальным сообществом. Согласно служебной записке, OpenAI согласна с этими рекомендациями.