Открытые платформы искусственного интеллекта могут быть уязвимы для атак именно из-за свободного доступа пользователей и большого объёма размещаемых данных. Об этом заявила директор по вопросам политики и старший вице-президент по стратегии Hugging Face Ирен Солейман в подкасте Equity, который выпускает TechCrunch. По её словам, те же особенности, которые делают такие проекты привлекательными, одновременно повышают интерес к ним со стороны злоумышленников.
Одним из последних примеров стала атака на инструмент OpenCode в октябре. Хакеры получили доступ к сторонним ключам API (интерфейса для взаимодействия программ) пользователей и тем самым нанесли им финансовый ущерб. Летом аналогичный инцидент произошёл с Hugging Face: группа агентов OpenAI получила доступ к платформе, предположительно пытаясь скрыть следы после получения результатов проверок кибербезопасности.
Риски затрагивают не только сервисы, построенные на открытом участии сообщества. Стартап Fireworks, который помогает разработчикам запускать и обучать открытые модели ИИ, сообщил о доступе злоумышленников к моделям некоторых клиентов, наборам данных и платёжной информации. На время расследования компания отключила ряд функций самостоятельной работы с наборами данных.
Солейман отметила, что свободный формат позволяет участвовать в проектах независимым исследователям и любителям без связи с организациями. Однако широкая доступность функций может быть использована против самой платформы, а размещённые на ней материалы становятся дополнительной целью для атак. В качестве возможных мер защиты рассматриваются проверка личности, ограничения на загрузку моделей и наборов данных, а также дополнительная проверка разработчиков, но такие шаги способны осложнить участие обычных пользователей.
Hugging Face пока не планирует отказываться от открытой модели работы и усиливает контроль за подозрительной активностью. По словам Солейман, компания стала чаще менять административные токены доступа и ужесточила сетевые ограничения, чтобы украденные учётные данные сохраняли пригодность меньше времени. Похожие задачи решает GitHub: платформа усиливает требования к публикации пакетов, отзывает старые токены аутентификации и сокращает срок действия новых, стремясь повысить безопасность без ограничения участия в проектах.