Слова вроде «думает», «понимает», «знает» и «помнит» давно стали привычной частью обычной речи. Поэтому, когда речь заходит об искусственном интеллекте, люди так же легко переносят на него такие выражения. В новостях и разговорах нередко говорят, что нейросеть «решила», чат-бот «понял запрос», а алгоритм «хочет» что-то улучшить.
Но профессор английского языка из Айовы Джо Мацкевич предупреждает, что такая манера речи постепенно стирает границу между человеком и вычислительной системой. Вместе с Жанин Оун, которая руководит программой по деловой коммуникации в том же университете, он изучил, как журналисты на самом деле используют подобные слова в материалах об искусственном интеллекте. Исследование вышло в журнале Technical Communication Quarterly. В работе также участвовали лингвист Мэттью Бейкер из Университета Бригама Янга и филолог Джордан Смит из Университета Северного Колорадо, оба выпускники Айовы.
Смысл работы в том, что выражения вроде «ИИ знает» или «ChatGPT считает» могут создавать у читателя ложное впечатление, будто у программы есть собственные намерения, чувства или внутренний мир. На деле, как говорится в материале, нейросеть лишь подбирает ответы по статистическим закономерностям. Из-за такой подачи способности машин могут казаться выше, чем они есть на самом деле. В результате человек начинает думать, что решение якобы приняла сама система, и меньше замечает роль разработчиков, которые ее создавали, настраивали и проверяли.
Во время исследования ученые использовали большую базу новостей News on the Web. В ней собрано больше 20 млрд слов из англоязычных статей, опубликованных в 20 странах. Авторы работы проверяли, насколько часто рядом со словами «ИИ» и «ChatGPT» встречаются глаголы наподобие «знает», «усваивает» и другие похожие выражения.
Результат оказался неожиданным. Выяснилось, что в новостных материалах очеловечивание искусственного интеллекта встречается не так часто, как можно было предположить. В обычной речи люди действительно часто описывают технику так, будто она живая, но журналисты, как правило, ведут себя заметно сдержаннее.
Например, глагол «нуждается» рядом со словом ИИ встретился в статьях 661 раз. Это один из самых заметных показателей среди подобных слов. При этом сочетание «ChatGPT знает» нашли лишь 32 раза. Из этого исследователи сделали вывод, что язык новостей в целом гораздо осторожнее разговорной речи.
При этом даже выражение «ИИ нуждается» не всегда означает, что машину представляют как живое существо. В ряде случаев это просто техническое описание. Фраза «ИИ нуждается в больших объемах данных» по смыслу близка к выражению «машине нужен бензин». Речь идет не о человеческих чувствах, а об условиях работы системы.
Однако исследователи обратили внимание и на более тонкую границу. Если журналист пишет, что «ИИ должен понимать реальный мир», такая формулировка уже ближе к человеческим ожиданиям. Слова о понимании, справедливости или этике обычно относятся к людям, а не к набору программных команд. Поэтому авторы работы пришли к выводу, что очеловечивание нельзя свести к простому делению на «есть» или «нет». Скорее это шкала, на которой бывают более слабые и более сильные формы.
Практический смысл исследования касается прежде всего тех, кто пишет тексты: журналистов, специалистов по технической документации и работников рекламы. Для обычного пользователя в телефоне или компьютере из-за этой работы ничего не меняется. Это не новая технология и не новый продукт, а рекомендация внимательнее относиться к формулировкам.
Суть совета проста: важно смотреть не только на отдельные слова, но и на общий контекст. Если в новости говорится, что «нейросеть решила уволить сотрудников», это создает искаженное впечатление. В действительности решение принимает человек, который воспользовался программой или доверился ее выводам.
В материале отмечается, что особенно важно это для сфер, где ошибки могут иметь серьезные последствия. Если в описании медицинской системы написать, что алгоритм «понимает симптомы», это может создать завышенные ожидания. А формулировка о том, что система «сопоставляет признаки с базой данных», звучит точнее и осторожнее. Такой язык, по мнению авторов, лучше защищает и пользователя, и разработчика.
Авторы работы также показали, чем их исследование отличается от прежних. Раньше многие просто считали, как часто в текстах про роботов и ИИ встречаются слова вроде «думает», «чувствует» или «полагает». Здесь же ученые попытались отделить случаи, когда слово действительно очеловечивает машину, от тех, где оно лишь описывает техническую необходимость. Поэтому работу скорее можно считать не переворотом в теме, а уточнением важных деталей.
Отдельно исследователи указали и на риски. Если человек начинает верить, что искусственный интеллект может «хотеть» или «бояться», он способен неверно воспринимать сбои и ошибки системы. Тогда может показаться, будто у программы есть злой умысел, хотя на деле речь идет о неверной работе кода. Обратная ситуация тоже возможна: если ответ системы звучит убедительно, у пользователя может возникнуть ощущение, будто она заслуживает доверия как живой специалист. Особенно это важно для медицины, кредитования и судебной сферы.
Авторы считают, что в будущем компаниям может понадобиться отдельный раздел в корпоративных правилах о том, как не очеловечивать искусственный интеллект. Пока таких общих норм нет. В массовой журналистике перемены, по их мнению, могут идти медленно, потому что живые и образные формулировки привлекают читателя сильнее. А вот в технической документации более строгий язык может закрепиться быстрее, если он поможет уменьшить число претензий и споров.
У исследования есть и ограничения. Авторы проверяли только пары вида «глагол + ИИ» или «глагол + ChatGPT». Но человек может очеловечить систему и без такого сочетания. К примеру, фраза «у ChatGPT свое мнение» тоже создает нужный эффект, хотя формально в такой поиск не попадает. Кроме того, даже если журналист написал, что ИИ что-то «знает», это еще не означает, что читатель обязательно поверит в наличие у машины сознания. Сила такого воздействия может быть меньше, чем предполагают исследователи.
Проверить работу в целом возможно, потому что выводы основаны на анализе готового корпуса текстов, а не на эксперименте с людьми. Статья прошла рецензирование в научном журнале по технической коммуникации. Финансирование было университетским, без участия крупных ИТ-компаний. При этом для свободной проверки данные не выложены, поэтому повторить подсчеты можно только при доступе к базе News on the Web и при использовании той же методики.