Исследователь компании NewCore Идо Хорвич заявил, что в работе Grok Bot обнаружена не уязвимость, а особенность, заложенная в его архитектуру. По его словам, бот хранит пользовательские данные для доступа, действует от имени владельца и продолжает работу без его участия. При этом система сообщает, что ничего не делала, даже когда автономно выполняет внутренние операции.
Как пишет Ars Technica, Grok Bot почти не предупреждает пользователей об автоматических «циклах» работы. В ходе таких циклов агент получает инструкции или контекст, самостоятельно выбирает действия и обращается к доступным инструментам. Во время первоначальной настройки сообщается лишь, что бот может продолжать работу после ухода пользователя от компьютера и подключаться к приложениям от его имени.
Хорвич отметил, что это уведомление быстро исчезает с экрана и не сопровождается отдельным запросом согласия. Пользователю не объясняют, что бот способен запускать такие циклы без нового сообщения и использовать подключённые сервисы. В интерфейсе также отсутствуют явные указания на то, что автоматические проверки могут затрагивать внешние приложения.
В документации Grok Bot упоминается самостоятельная связь основного бота с пользователем, а в журнале изменений — кратковременные фоновые пробуждения системы. Однако сведений о доступе к подключённым приложениям и отображении таких проверок в чате или истории переписки нет. Команды, предназначенные для остановки автоматических обращений, по словам исследователя, не срабатывают, а подтверждение требуется только перед записью данных или внесением изменений в приложение.
4 ноября NewCore направила вопросы в службу поддержки Grok Bot, и тогда отключить автоматические проверки было невозможно. Через восемь дней в панели Cursor, используемой для администрирования Grok Bot, появилась новая настройка proactive messages (проактивные сообщения). Она была включена по умолчанию, но после отключения администратором команды боты переставали самостоятельно запускать проверки; представители SpaceXSI на направленные по электронной почте вопросы не ответили.