Специалист в области искусственного интеллекта Тимнит Гебру скептически оценивает заявления о том, что современные системы ИИ способны рассуждать или обладать рекурсивным интеллектом. По её словам, в среде исследователей ИИ распространена практика «аспирационного наименования» (aspirational naming — присвоение названий, отражающих желаемое, а не реальное состояние), и термин «машинное обучение» служит тому примером. При этом сама технология реальна, однако её название опережает фактическое положение дел.
Гебру ссылается на работу своего бывшего руководителя Сэми Бенжио, который ушёл из Google после её увольнения и сейчас возглавляет исследования в области машинного обучения в Apple. Почти в каждой публикации его команды, по её словам, показано, что при незначительном изменении критериев оценки рассуждений вся конструкция рушится. Это, как она утверждает, свидетельствует не о рассуждении, а о reliance (опоре) на заученные закономерности.
В качестве ещё одного примера Гебру приводит так называемое «рассуждение по цепочке» (chain-of-thought reasoning — метод, при котором модель выдаёт последовательность токенов, имитирующую ход мысли). Она подчёркивает, что исследователи не знают, действительно ли система думает, и нет ли перед ними просто цепочки, — им известно лишь, что печатаются определённые токены, которые они сами назвали рассуждением.
По мнению Гебру, одна из главных проблем сегодня — отсутствие добросовестных научных исследований. Она отмечает, что ни одна из компаний не предоставляет доступ к данным, коду, обучающей и оценочной выборкам, поэтому невозможно даже установить, использовались ли тесты при обучении модели. Если набор для проверки попал в обучающие данные, это равносильно подготовке к экзамену с заранее известными ответами, поясняет она.
Гебру указывает, что всякий раз, когда ей удавалось получить доступ к этим материалам, она показывала несостоятельность заявлений разработчиков. В работе Бенжио и его команды 2025 года, по её словам, продемонстрировано: достаточно слегка скорректировать критерии оценки, и результат разваливается, что подтверждает опору на шаблоны. На возражения о том, что речь идёт о моделях 2026 года, она отвечает, что настоящая научная проверка требует времени.
Исследовательница призывает не переходить от пресс-релизов к законодателям, которые их повторяют, и к журналистам, которые тиражируют эти утверждения. Для проведения реальной оценки, подчёркивает она, необходимо запрашивать обучающие данные, оценочные данные и методологию, чтобы результаты можно было воспроизвести. Таким образом, мышление, рассуждение и рекурсивный интеллект она по-прежнему относит к сугубо человеческим свойствам, тогда как ИИ, по её убеждению, пока работает иначе.