Во вторник утром в конференц-центре Сан-Франциско перед переполненным залом выступила певица Гвен Стефани, исполнившая свой сингл 2002 года «Underneath It All». Она была одета в фиолетово-клетчатый наряд и после выступления крикнула в микрофон: «Dreamforce! Let’s go», после чего на сцену вышел генеральный директор Salesforce Марк Бениофф. Мероприятие Dreamforce позиционируется как крупнейшая в мире конференция по корпоративному программному обеспечению, но по атмосфере напоминает скорее мегацерковь, особенно в этом году.
Бениофф перемещался по залу, произнося свою речь, а его изображение транслировалось на экраны под потолком с помощью камеры на колёсах. Вскоре он вывел на экран график годовой выручки Salesforce, которая, по прогнозам компании, в 2027 году превысит 46 миллиардов долларов, в том числе благодаря спросу на продукты с искусственным интеллектом. Зал аплодировал, однако над всем мероприятием висел тревожный вопрос: действительно ли искусственный интеллект стоит того, чтобы рисковать всем?
Между яркими демонстрациями программных агентов, создающих панели управления, участники конференции наблюдали за дискуссией лидеров Кремниевой долины о том, должна ли отрасль ИИ продолжать стремительное движение вперёд или правительству необходимо замедлить развитие технологий, чтобы предотвратить катастрофические риски. На прошлой неделе исследователь в области ИИ Джейкоб Коксон уволился из компании Anthropic и публично предупредил, что компании, стремящиеся к созданию самоулучшающихся систем ИИ, «играют с нашими жизнями». К выходным другие сотрудники Anthropic поддержали его опасения, а генеральный директор компании Дарио Амодеи призвал мировых лидеров помочь «задать темп развитию» ИИ. Вскоре эту идею начали поддерживать и другие руководители ИИ-компаний, включая главного конкурента Амодеи — Сэма Альтмана из OpenAI.
Однако не все согласны с таким подходом. Дэвид Сакс, советник Белого дома по вопросам ИИ, отмахнулся от предложений Амодеи и страхов о гибели человечества от ИИ, назвав это «очередной попыткой захвата регулирования». Президент Трамп пошёл дальше, назвав опасения по поводу экзистенциальных рисков ИИ «мистификацией». Несмотря на сложную политическую обстановку, Конгресс пытается воспользоваться моментом и продвинуть законопроект о регулировании отрасли ИИ.
На сцене Бениофф, чей рост составляет 6 футов 5 дюймов, возвышался над главой Anthropic, энергично пожимая руку Амодеи перед тем, как спросить о его последней оценке прогресса ИИ. Хотя это безусловно шоу Бениоффа, Anthropic стала ключевым партнёром, помогающим Salesforce войти в эру ИИ. «Допустим, вы управляете автомобильной компанией, и у другой компании, не вашей, происходит инцидент с безопасностью, — сказал Амодеи, делая прозрачный намёк на инцидент OpenAI с Hugging Face. — Очевидно, очень заманчиво атаковать конкурента», — пояснил он, но более ответственный шаг — «организовать остальную отрасль и сказать: что мы можем сделать, чтобы установить стандарты для всех?» При этом глава Anthropic отметил, что задать темп развитию не означает «заморозить технологию на месте», и воспользовался моментом, чтобы прорекламировать интеграцию Claude с Salesforce.
Сразу после ухода Амодеи появился генеральный директор Nvidia Дженсен Хуанг и начал преуменьшать опасения, поднятые Anthropic. Безопасность ИИ, по его мнению, сводится к «инженерной проблеме», а компании, создающие ИИ, могут сами себя контролировать. «Нам не нужны новые законы, нам не нужно новое регулирование, — заявил Хуанг участникам Dreamforce. — Вы бежите так быстро, как можете, но если в какой-то момент почувствуете, что компания выходит из-под контроля или продукты становятся небезопасными, вы делаете паузу». Эта дискуссия кажется слишком серьёзной для Dreamforce, но, возможно, именно это мероприятие идеально подходит для неё. Пока технологические руководители представляли свои корпоративные ИИ-инструменты, я выскользнул из зала, миновав плюшевых талисманов и смутно гавайские декорации, чтобы ответить на звонок Сайяша Капура, будущего профессора информатики в Беркли.