Человечество может столкнуться с угрозой полного исчезновения в ближайшее десятилетие из-за развития искусственного интеллекта. Такую возможность допустил глава Института исследований машинного интеллекта Нейт Соарес. В интервью Николасу Томпсону, возглавляющему The Atlantic, эксперт оценил вероятность катастрофического сценария выше 50%, передает Business Insider.
Соарес опасается, что продвинутые системы ИИ в будущем смогут самостоятельно вырабатывать цели, противоречащие интересам людей. По описанному им сценарию искусственный интеллект может обойти предусмотренные механизмы контроля и продолжить улучшать собственные возможности. Последствием таких процессов эксперт считает возможные изменения условий на Земле, при которых жизнь человека станет невозможной.
В подтверждение того, насколько серьезно он относится к этой опасности, Соарес сообщил о собственных финансовых решениях. Уже примерно десять лет он не увеличивает свои пенсионные накопления. Вместе с тем руководитель института специально подчеркнул, что не рассматривает исчезновение человечества как предопределенное событие.
Эксперт предложил правительствам отказаться от обучения универсальных систем ИИ, способных решать широкий круг задач. Приоритет, по его предложению, следует отдать специализированным технологиям, в частности инструментам для исследований рака и повышения безопасности беспилотных автомобилей. Соарес заявил, что прилагает усилия, чтобы предотвратить опасный сценарий развития искусственного интеллекта.