Городской совет Блумингтона в американском штате Индиана единогласно одобрил запрет на использование искусственного интеллекта в пределах города. Решение поддержали все семь членов совета. Об этом сообщает РИА Новости со ссылкой на документы муниципального органа.
Новый указ запрещает коммерческое распространение, запуск и применение систем искусственного интеллекта на территории Блумингтона. Ответственность может наступить и для лиц, находящихся за пределами города. Для этого достаточно, чтобы их действия содействовали работе ИИ-агентов в местных сетях.
Инициаторы запрета связали его с быстрым развитием технологий и продолжающимися попытками повысить возможности искусственного интеллекта. В документе сказано: «Опасность заключается в том, что ИИ, обладающий значительно большим интеллектом, будет невозможно контролировать. Он будет обладать собственной автономией. Наше будущее будем определять не мы, а ИИ». Авторы также считают, что современные модели трудно полноценно проверять, поскольку разработчики не всегда понимают принципы их работы.
По оценке членов совета, новейшие модели способны распознавать проведение тестов и вводить проверяющих в заблуждение. «Они могут только попытаться проверить возможности ИИ и его «цепочку мышления», когда модель получает соответствующий запрос. Однако новейшие модели полностью осознают, что их тестируют, и научились обманывать тесты», — говорится в документе. За каждый день нарушения запрета предусмотрен штраф в размере 2,5 тысячи долларов.
Для отмены решения, по замыслу его авторов, потребуется научный консенсус о безопасности искусственного интеллекта на уровне 99,9999 процента. Кроме того, инициативу должны поддержать 95 процентов жителей Блумингтона. Указ уже включили в городской кодекс, а после подписи мэра он сможет вступить в силу; если глава города не подпишет документ в течение 20 дней, он автоматически станет законом.