В среду администрация Трампа обнародовала свой манифест в сфере искусственного интеллекта — далеко идущий план действий по одному из наиболее значимых вопросов, стоящих перед страной и человечеством. Основное внимание в документе уделено соперничеству с Китаем за первенство в области ИИ. Однако одна из его частей, как отмечает Wired, удивительно напоминает китайский подход: под предлогом борьбы за правду американское правительство теперь хочет, чтобы модели ИИ придерживались трактовки этого слова, предложенной Дональдом Трампом.
В 28-страничном плане эта цель прямо не формулируется. Вместо этого в нём говорится: «Крайне важно, чтобы эти системы создавались с учётом свободы слова и выражения мнений и чтобы политика правительства США не мешала этой цели. Мы должны обеспечить, чтобы свобода слова процветала в эпоху ИИ и чтобы ИИ, закупаемый федеральным правительством, объективно отражал истину, а не повестку социальной инженерии». Вопрос возникает уже после последней фразы: чья это истина и что именно считается «повесткой социальной инженерии»? Подсказка содержится в следующем абзаце, где Министерству торговли поручено пересмотреть правила эпохи Байдена в сфере ИИ и «удалить упоминания о дезинформации, разнообразии, равенстве и инклюзивности, а также об изменении климата». Признание изменения климата — это социальная инженерия? Что касается истины, в информационном бюллетене о плане Белый дом заявляет: «Большие языковые модели должны быть правдивыми и отдавать приоритет исторической точности, научному поиску и объективности». Звучит хорошо, но исходит это от администрации, которая ограничивает американскую историю «воодушевляющими» трактовками, отрицает изменение климата и рассматривает заявления Дональда Трампа о том, что он величайший президент Америки, как объективную истину. Тем временем на этой неделе аккаунт Трампа в Truth Social разместил ИИ-видео с Обамой в тюрьме.
Выступая в среду в Вашингтоне с речью в поддержку плана, Трамп объяснил логику директивы: «Американский народ не хочет пробуждённого марксистского безумия в моделях ИИ». Затем он подписал указ под названием «Предотвращение пробуждённого ИИ в федеральном правительстве». В нём указано, что «федеральное правительство должно с осторожностью регулировать функциональность моделей ИИ на частном рынке», но при этом заявлено, что «в контексте федеральных закупок оно обязано не приобретать модели, которые жертвуют правдивостью и точностью в угоду идеологическим повесткам». Поскольку все крупные ИИ-компании добиваются государственных контрактов, указ выглядит как закулисная попытка обеспечить, чтобы большие языковые модели в целом демонстрировали верность трактовке Белого дома в вопросах истории, сексуальной идентичности и других острых темах. Чтобы не оставалось сомнений в том, что правительство считает нарушением, указ посвящает несколько абзацев демонизации ИИ, поддерживающего разнообразие, указывающего на расовые предрассудки или ценящего гендерное равенство. Указ Трампа, запрещающий идеологическую предвзятость сверху вниз, сам является вопиющим примером идеологической предвзятости сверху вниз.
Решать, как реагировать на эти требования, предстоит компаниям. На этой неделе я поговорил с инженером OpenAI, работающим над поведением моделей, который сказал, что компания уже стремится к нейтральности. В техническом смысле соответствие государственным стандартам, например антипробуждённость, не должно стать серьёзным препятствием. Но это не технический спор, а конституционный. Если такие компании, как Anthropic, OpenAI или Google, решат минимизировать расовые предрассудки в своих больших языковых моделях или сознательно сделают так, чтобы ответы моделей отражали опасность изменения климата, Первая поправка, предположительно, защищает эти решения как реализацию «свободы слова и выражения мнений», провозглашённой в Плане действий по ИИ. Государственный мандат, лишающий госконтрактов компании, реализующие это право, и есть суть вмешательства. Можно было бы ожидать, что создатели ИИ дадут отпор, ссылаясь на свои конституционные права. Но пока ни одна крупная технологическая компания публично не возразила против плана администрации Трампа. Google приветствовал поддержку Белым домом близких ему тем, например развития инфраструктуры. Anthropic опубликовала позитивный пост о плане, хотя и пожаловалась на внезапный, как ей показалось, отказ Белого дома от жёсткого экспортного контроля ранее в этом месяце. OpenAI заявляет, что уже близка к достижению объективности. Ни слова об отстаивании собственной свободы выражения мнений.
Сдержанность понятна, поскольку в целом План действий по ИИ — настоящий подарок для ИИ-компаний. Если администрация Байдена требовала проверок крупных технологических компаний, то план Трампа даёт отрасли большой зелёный свет, рассматривая её как партнёра в национальной борьбе против Китая. Он позволяет ИИ-гигантам фактически игнорировать экологические возражения при строительстве огромных дата-центров. В нём обещана поддержка исследований в области ИИ, средства от которой пойдут в частный сектор. Есть даже положение, ограничивающее часть федерального финансирования для штатов, пытающихся самостоятельно регулировать ИИ. Это утешительный приз за провалившуюся часть недавнего бюджетного законопроекта, который запретил бы регулирование на уровне штатов на десять лет.
Однако для остальных «антипробуждённый» указ не так просто отмахнуться. ИИ всё чаще становится средой, через которую мы получаем новости и информацию. Одним из основополагающих принципов США была независимость таких каналов от государственного вмешательства. Мы видели, как нынешняя администрация заставила материнские компании медиагигантов вроде CBS, судя по всему, поступиться журналистскими принципами в пользу корпоративных целей. Распространяя эту «антипробуждённую» повестку на модели ИИ, разумно ожидать аналогичных уступок. Сенатор Эдвард Марки направил письма главам Alphabet, Anthropic, OpenAI, Microsoft и Meta (признана в РФ экстремистской и запрещена) с призывом бороться с указом. «Детали и план реализации этого указа остаются неясными, — пишет он, — но он создаст значительные финансовые стимулы для крупных технологических компаний… чтобы их ИИ-чат-боты не выдавали высказывания, которые расстроят администрацию Трампа». В заявлении для меня он сказал: «Республиканцы хотят использовать власть правительства, чтобы ChatGPT звучал как Fox & Friends».