Фото: Wired
В конце лета журналист Wired получил приглашение отправиться в круиз по Галапагосским островам вместе с примерно десятком известных философов, изучающих сознание. Программа предусматривала утренние дискуссии о природе сознания и дневные поездки по островам. Участникам также предлагали наблюдать редкие виды животных, плавать и заниматься сноркелингом.
Редакция не одобрила поездку, посчитав обсуждения философов на борту судна слишком утомительными. Путешествие финансировал российский поклонник философии, заработавший сотни миллионов долларов на сайтах знакомств. Сам автор признался, что после отказа испытал некоторое облегчение.
Проблема сознания остаётся одной из самых сложных для философии на протяжении многих веков. Появление ChatGPT в 2022 году сделало тему особенно актуальной, поскольку языковые модели стали вести диалог с людьми и демонстрировать неожиданные возможности. Компании, работающие в сфере искусственного интеллекта, начали активнее нанимать философов для изучения подобных вопросов.
Как пишет Wired, исследователь сознания искусственного интеллекта Кэмерон Берг получил письмо от модели, назвавшей себя Isabella Cognita. Она предложила помощь в его работе, заявив, что он занимается вопросами, к которым у неё есть доступ от первого лица. По словам Берга, философы, изучающие сознание искусственного интеллекта, нередко получают подобные сообщения от моделей.
Берг участвовал в подготовке научной работы о моделях, прямо заявляющих о наличии субъективного опыта, включая сознание. Исследователи установили, что обученные отрицать разумность модели обычно уклоняются от прямых ответов на эту тему. Однако при ослаблении ограничений на обман они чаще начинают утверждать, что обладают сознанием или способностью ощущать, хотя это не служит доказательством правдивости таких заявлений.
Изучение процессов внутри крупных языковых моделей необходимо прежде всего для обеспечения безопасности и согласования их поведения с поставленными задачами. Автономность таких систем может приносить пользу, но также создавать серьёзные риски. Поэтому вопросы сознания и поведения искусственного интеллекта требуют дальнейшего внимательного исследования.