Основатель и генеральный директор Nvidia Дженсен Хуанг на конференции Dreamforce, организованной Salesforce, высказал свою позицию относительно угроз, которые несёт искусственный интеллект. По его мнению, ИИ не является неким «чужеродным разумом», как его описывают некоторые исследователи в области безопасности. Хуанг утверждает, что это всего лишь аппаратное и программное обеспечение, созданное людьми. Следовательно, по его словам, его можно контролировать с помощью человека и действующих законов.
«Безопасность — это инженерная задача, а не юридическая, — заявил он. — В конце концов, мы разрабатываем программное обеспечение. Мы разрабатываем вычислительные системы. Это сложная вычислительная система, но в конечном итоге это вычислительная система». По его мнению, для управления ИИ не требуется новых законов или нормативных актов. Более того, Хуанг считает, что новые законы почти не нужны. Свободный рынок, по его утверждению, сам заставит компании не выпускать небезопасные продукты.
«Если мы не уверены в безопасности продуктов, как и все компании, как вы и я, все присутствующие здесь компании, если вы создаёте продукт или услугу и не уверены в их функциональности, возможностях или безопасности, то не выпускайте их. Это очевидная вещь», — сказал он. Он продолжил: «Вы сдерживаете себя, пока не убедитесь, что выпускаете нечто такое, что рынок оценит. Рыночные силы уже действуют. Нам не нужны новые законы. Нам не нужны новые правила. Нужно лишь, чтобы компании сами решали, когда бежать на максимальной скорости. Я считаю, что инновации, скорость и безопасные продукты — это ложный выбор. Можно определённо иметь и то, и другое одновременно. Так что бегите так быстро, как можете. Но если в какой-то момент вы почувствуете, что компания выходит из-под контроля или продукт будет небезопасным, сделайте паузу и убедитесь, что всё сделано правильно».
В некотором смысле это утешительная мысль. Если кто-то в мире и разбирается в ИИ, так это основатель Nvidia, который создавал аппаратную основу для ИИ задолго до появления ChatGPT, а сейчас руководит компанией, выпускающей также открытые модели, агентов, инструменты и песочницы. С другой стороны, если быть циничным, его точка зрения неудивительна для человека, чей хлеб щедро намазан маслом бума ИИ. Зачем ему хотеть, чтобы регулирование добавило слой препятствий, способных замедлить стремление Nvidia продавать всё больше ИИ-систем и программного обеспечения? Как он также сказал в интервью: «Я более амбициозен, чем когда-либо. Благодаря нашей амбициозности и повышению производительности, которое мы получаем от ИИ, для нас нет предела. Нет предела для нашей компании. Нет предела для каждой отрасли, для каждой страны».
К сожалению, даже компании с самыми лучшими намерениями выпускают неисправные продукты с непредвиденными последствиями, в том числе программное обеспечение. Вспомните скандал с «синим экраном смерти» CrowdStrike в 2024 году, который привёл к отмене тысяч рейсов и другим проблемам для бизнеса. Есть и компании, которых обвиняют в намеренных действиях с не самыми добрыми намерениями. Meta (признана в РФ экстремистской и запрещена) только что выплатила 18 миллиардов долларов для урегулирования иска о вреде социальных сетей для детей. ИИ уже причинил вред, независимо от намерений или проведённых проверок безопасности: от взлома модели OpenAI сервиса Hugging Face до судебных исков против лаборатории ИИ в связи с самоубийствами молодых людей, которые вели длительные беседы с её чат-ботом.
Стратегия «оставить их в покое», позволяющая компаниям выпускать продукты по своему усмотрению, может оказаться неразумным подходом к безопасности ИИ с точки зрения общества. Хотя Хуанг прав в том, что существующие законы о ответственности за продукцию могут охватывать ИИ — если ИИ каким-то образом не уничтожит всех нас до того, как через суды пройдёт достаточно дел для проверки этой теории. Он не обсуждал другой путь, который, похоже, начинает обретать форму: саморегулирование отрасли. Подход Хуанга в большей степени заключается в продвижении моделей с открытыми весами и их использовании компаниями в качестве конкурентного противовеса проприетарным лабораториям ИИ. Но сейчас у отрасли есть короткое окно для введения саморегулирования и поощрения лабораторий ИИ по всему миру, даже в Китае, к участию в этом. Как сказал в понедельник на саммите All-In генеральный директор Microsoft Сатья Наделла: «Китай также должен глубоко заботиться о тех же проблемах безопасности, если США о них заботятся, верно? Почему для них должно быть иначе? Не то чтобы у них не будет той же проблемы со взломами. Не то чтобы они не хотят убедиться, что их граждане получают пользу от ИИ, так же как мы хотим, чтобы наши граждане получали пользу от ИИ». Впрочем, если Хуанг против любого нового регулирования ИИ, он может быть достаточно влиятельным, чтобы настоять на своём. Он также продемонстрировал на этой неделе, что буквально имеет ухо президента Трампа.