Король Великобритании Карл III провёл в четверг закрытую встречу с ведущими представителями сферы искусственного интеллекта и членами правительства страны. Среди приглашённых были глава Nvidia Дженсен Хуанг, руководители OpenAI и Anthropic, новый министр по вопросам ИИ Канishka Нараян, а также глава внешней разведки Великобритании. На мероприятии присутствовал и Паоло Бенанти, советник папы римского по вопросам ИИ.
Выступление монарха стало заметным событием, поскольку королевская семья обычно воздерживается от глубокого погружения в политические темы по конституционным причинам, а искусственный интеллект сегодня относится к наиболее острым вопросам в мире. Карл III призвал собравшихся найти способ взять ИИ под контроль, пока не стало слишком поздно. Он отметил, что стремительное развитие этой технологии вызывает одновременно и любопытство, и глубокую обеспокоенность.
«ИИ уже демонстрирует огромные возможности для улучшения и спасения жизни», — заявил король, приведя в пример медицину и науку. При этом он подчеркнул, что создатели этих технологий всё чаще предупреждают о рисках появления у ИИ более мрачных возможностей, вплоть до лишения жизни. Это заявление прозвучало через несколько недель после того, как один из исследователей Anthropic уволился, написав в интернете, что компании, работающие над ИИ, «соревнуются в создании машин, которые намного умнее любого человека», и что человечество «может этого не пережить».
Король продолжил, заявив о срочной необходимости должным образом осмыслить «экзистенциальные опасности» того, что произойдёт, если эта технология попадёт в неверные руки и будет использована «потенциально катастрофическими способами». «Неужели нам не нужны достаточные средства контроля, пока не стало слишком поздно?» — сказал он. Завершая выступление, Карл III призвал лидеров найти способ использовать положительные стороны ИИ и выстроить международное сотрудничество и консенсус для достижения этой цели.
«Задача, стоящая перед вами, — не просто продвигать технологии, а обеспечить, чтобы они оставались верным слугой человечества, общества и природы», — сказал он в конце речи. «Принимая новое, мы не должны терять то, что вечно». По сообщениям СМИ, король оставался на встрече около 20 минут, после чего гости продолжили обсуждение между собой. От OpenAI на саммите присутствовала финансовый директор Сара Фрайр, от Anthropic — Тино Куэльяр, отвечающий за глобальные вопросы. Куэльяр заявил, что компания сочла за честь участвовать в дискуссии и благодарна королю за «созыв лидеров отрасли и голосов со всего общества для обсуждения роли ИИ в служении общественному благу».
Карл III и ранее высказывался о вызовах и преимуществах искусственного интеллекта — в 2023 и 2024 годах. Нынешний саммит особенно своевременен, поскольку ИИ продолжает доминировать во всех отраслях и темах. В этом месяце Сэм Альтман из OpenAI, Илон Маск и Дарио Амодеи из Anthropic призвали замедлить развитие ИИ, однако Дженсен Хуанг из Nvidia и президент США Дональд Трамп быстро отклонили эти призывы. «Мы лидируем в ИИ по сравнению с Китаем, — заявил президент. — Мы самая продвинутая страна в мире, и, честно говоря, я хочу это сохранить, потому что кто побеждает в ИИ, тот побеждает». Это показывает, насколько сложным стал вопрос, поскольку интересы крупных технологических компаний, политики и общества сталкиваются. За последний год OpenAI и Anthropic намекали на громкие IPO, хотя OpenAI недавно сообщила, что её планы по выходу на биржу в этом году застопорились на фоне сохраняющейся обеспокоенности по поводу безопасности ИИ.