Люди не склонны считать искусственный интеллект (ИИ) обладающим сознанием, даже когда его поведение полностью совпадает с человеческим. К такому выводу пришли исследователи из Мюнхенского университета Людвига Максимилиана (LMU), сообщает ScienceDaily. По мере развития технологий всё чаще появляются сообщения о том, что системы ИИ вводят пользователей в заблуждение, действуют сообща или демонстрируют видимость самостоятельных целей. Подобное поведение нередко побуждает описывать ИИ так, будто он способен думать, чувствовать или принимать решения.
Новая работа, опубликованная в журнале Cognition, показывает: люди чётко разделяют демонстрацию разумного поведения и наличие сознания. Исследование возглавил доктор Луи Лонгин с кафедры философии сознания LMU, вместе с доктором Бахадором Бахрами, профессором Офелией Деруа и другими специалистами. «Хотя предыдущие работы обычно задавали общие вопросы о том, есть ли у ИИ психические состояния, наше исследование первым напрямую сравнило, как люди приписывают одни и те же состояния ИИ и человеку, ведущим себя абсолютно одинаково в идентичных условиях», — приводит слова Лонгина ScienceDaily.
В экспериментах приняли участие почти 1100 человек. Одной группе предлагали краткие описания искусственных агентов с разной степенью отклика на окружающую среду — например, одни реагировали на звуки или распознавали эмоции других. Другой группе описывали те же ситуации, но персонажами были люди, а не системы ИИ. Затем участники оценивали, насколько каждое существо осознаёт себя и surroundings. Выяснилось, что отзывчивость влияла на суждения и о людях, и об ИИ: более активно реагирующие персонажи воспринимались как более сознательные и осведомлённые.
Однако при оценке именно сознания возникло заметное расхождение. Даже самый отзывчивый ИИ получал более низкую оценку сознания, чем наименее отзывчивый человек. Иными словами, идентичное поведение не приводило к одинаковому уровню приписываемого сознания людям и машинам. Картина менялась, когда участников спрашивали об осведомлённости: здесь оценки людей и ИИ следовали схожим закономерностям, что говорит о разном понимании осведомлённости и сознания. «В публичных дискуссиях растёт беспокойство, что люди, увидев человекоподобное поведение ИИ, начнут относиться к системам как к обладающим человеческими психическими состояниями, — говорит Лонгин. — Мы обнаружили более нюансированную картину: люди охотно признают, что ИИ замечает вещи и осознаёт окружение. Но они чётко проводят границу, когда речь заходит о термине «сознание». Люди последовательно приписывают ИИ меньше сознания, чем человеку, даже при идентичном поведении».
Исследователи полагают, что различие между сознанием и осведомлённостью даёт важное понимание того, как люди воспринимают искусственный интеллект. Осведомлённость — относительно нейтральный термин, описывающий способность агента улавливать информацию из среды и реагировать на неё. Сознание же несёт более глубокий смысл, связанный с субъективным опытом и наличием внутренней психической жизни. Поскольку осведомлённость опирается на наблюдаемое поведение, люди спокойно применяют её и к человеку, и к ИИ, тогда как сознание трактуется иначе.
Полученные результаты подчёркивают, насколько важен язык обсуждения ИИ, особенно когда системы всё убедительнее имитируют человеческое поведение. «Наше исследование учит нас тому, как говорить об ИИ, — отмечает Бахрами, также старший автор работы и эксперт в области социальной нейробиологии. — Компании и журналисты часто прибегают к громким описаниям моделей ИИ, приписывая им намерения, планы или даже моральную совесть и колебания. Но наша работа показывает, что повседневные суждения гораздо более разборчивы: люди не ставят ИИ и человека просто на одну психическую шкалу. Однако граница зависит и от используемых терминов. Для более нейтральных описаний, таких как «осведомлённость», различие во многом исчезает. Это делает выбор языка важным».