Ученые предупреждают, что развитие ИИ может привести к уничтожению человечества

Ученые предупреждают, что развитие ИИ может привести к уничтожению человечества

Ученый из Университета Луисвилла в США Роман Ямпольский предостерегает о возможности, что искусственный интеллект (ИИ) может выйти из-под контроля человека. Он обосновал свои опасения в книге, где описывает, что бесконтрольное развитие новых технологий может привести к серьезным последствиям. Ямпольский указывает на риск возникновения ситуации, которая может угрожать существованию человечества.



Специалист подчеркивает, что представление о том, что люди могут полностью понять и контролировать действия ИИ, является ошибочным. Он объясняет, что способность создавать интеллектуальные программы значительно опережает нашу способность их контролировать. Также Ямпольский предупреждает о потенциальной автономности ИИ, что делает его непредсказуемым.

Он особо акцентирует на важности не принимать ответы ИИ без понимания причин их появления, чтобы избежать риска получения некорректных или манипулирующих ответов. Ученый призывает к нахождению баланса между развитием мощных ИИ и обеспечением безопасности, подчеркивая необходимость возможности отменять решения, принятые ИИ.

В дополнение к этому, исследование, проведенное компанией AI Impacts, показало, что, несмотря на потенциал новых технологий в области науки и культуры, они также несут новые риски. Эксперты пришли к выводу, что вопросы безопасности ИИ требуют углубленного изучения.



По материалам lenta.ru