В 1966 году на дорогах США погибли почти 51 тысяча человек. Собранные данные убедительно показывали, что многие из этих смертей можно было предотвратить с помощью ремней безопасности, которые к тому моменту выпускались уже несколько лет. Однако автопроизводители не стали самостоятельно оснащать машины этим средством защиты.
Осенью 1966 года Конгресс учредил Министерство транспорта, а затем принял законы о безопасности дорожного движения и автотранспортных средств, наделив федеральные власти широкими полномочиями устанавливать стандарты безопасности. Уже к 1968 году ремни стали обязательными для всех новых автомобилей. Несмотря на значительный рост интенсивности движения за последние 60 лет, число смертей на дорогах сегодня гораздо ниже.
Об этой истории я вспомнил, наблюдая, как руководители различных компаний в сфере искусственного интеллекта собрались во вторник вокруг президента США Дональда Трампа, поздравляя друг друга с подписанием соглашения о безопасности ИИ. Как писала моя коллега Мэдди Варнер, суть документа сводится к тому, что лаборатории, занимающиеся ИИ, в значительной степени сами должны себя контролировать.
В среду в Овальном кабинете Трамп выразился ещё лаконичнее: «Они будут следить, и они будут следить друг за другом, и они будут сами себя контролировать, они будут следить за собой. Всё сложится очень хорошо».
Так выглядит нынешнее регулирование безопасности ИИ. С одной стороны — руководители, сотрудники и видные деятели технологической отрасли, которые заявляют о необходимости чётких, продуманных и тактических правил для предотвращения возможной катастрофы. С другой — вера Трампа в то, что если повторять что-то достаточно часто, это станет правдой.
Нельзя сказать, что всё это просто. Вопрос о том, как правильно «задавать темп развития», остаётся открытым. Даже если бы все крупные лаборатории согласились замедлиться, нет надёжного способа заставить их сдержать слово, а Китай, скорее всего, продолжил бы идти своим путём. Экономика США всё сильнее опирается на индустрию ИИ, которая сама превратилась в замкнутый круг финансирования и круговых инвестиций; любое серьёзное ужесточение грозит нестабильностью далеко за пределами Кремниевой долины.