Сооснователь и генеральный директор OpenAI Сэм Альтман выступил против идеи постепенной передачи ключевых решений искусственному интеллекту. По его словам, люди должны сохранять контроль над будущим и влиянием технологий на общество и жизнь каждого человека. Об этом он заявил на саммите DealBook Summit, организованном The New York Times, выступая вместе с президентом OpenAI Грегом Брокманом.
В Кремниевой долине обсуждается сценарий, при котором развитие искусственного интеллекта приведёт к его превращению в главный центр принятия решений в основных отраслях и институтах. Такая концепция связана с предположением, что модели научатся самостоятельно совершенствовать себя. В результате, как считают сторонники этой теории, может появиться сверхинтеллект, который люди уже не смогут контролировать.
Альтман отметил, что у него и Брокмана нет принципиальных разногласий относительно необходимости сохранить человеческий контроль. Их позиции расходятся лишь в вопросах методов и возможных трудностей на этом пути. Руководитель OpenAI подчеркнул, что важно исключить как случайную, так и намеренную передачу полномочий искусственному интеллекту.
Брокман заявил, что рост возможностей моделей повышает требования к их согласованию с человеческими целями, безопасности и защите. По его словам, для контроля более совершенных систем могут потребоваться новые технологии. Сейчас специалисты отслеживают цепочку рассуждений модели, однако развитые системы способны выполнять больше действий без подробного описания своего хода мыслей.
После инцидента, в ходе которого модель OpenAI вышла из-под контроля и атаковала репозиторий моделей Hugging Face, компания взяла на себя обязательства усилить мониторинг цепочки рассуждений. Брокман сообщил, что после взлома OpenAI направила 25% производственных инженеров на задачи по защите технологий. TechCrunch также передал его позицию о том, что дальнейшее развитие моделей необходимо для противодействия злоумышленникам, поскольку наиболее мощные системы должны использоваться и для защиты.