В ближайшие пять лет человечество может столкнуться с риском утраты контроля над системами искусственного интеллекта. Такой сценарий связывают с быстрым развитием технологий и возможным появлением сверхинтеллектуальных систем.
Исследователи допускают, что в этот период могут появиться системы ИИ, способные превосходить человека при выполнении практически всех важных когнитивных задач. В таком случае их роль в различных сферах может существенно расшириться.
Одним из факторов риска специалисты называют высокую скорость работы таких систем и качество выполнения задач. Это может привести к тому, что люди будут все чаще передавать искусственному интеллекту функции, связанные с принятием решений.
По мере роста зависимости от рекомендаций и действий ИИ контроль со стороны человека может снижаться. Именно с этим исследователи связывают вероятность утраты управляемости при дальнейшем развитии сверхинтеллектуальных систем.
Ранее среди основных угроз, связанных с развитием искусственного интеллекта, также называли его возможное применение в кибервойнах. Об этом говорится в материале Science XXI.