Директор Института когнитивных исследований СПбГУ Татьяна Черниговская выступила с важным заявлением о проблеме контроля над искусственным интеллектом на открытии серии рождественских лекций в НИТУ МИСИС, посвященных памяти академика Леонида Вайсберга.
По словам Черниговской, основная сложность заключается в том, что человечество не сможет определить момент, когда самосовершенствующийся искусственный интеллект примет решение действовать автономно. Эта проблема вызывает серьезную озабоченность не только у широкой общественности, но и у профессиональных исследователей, сообщает ТАСС.
В научном сообществе активно обсуждается инициатива Илона Маска о введении временного моратория на разработку подобных систем. Некоторые ученые предлагают полностью запретить разработки до появления четкого понимания механизмов утраты контроля над «сильным» искусственным интеллектом. Черниговская считает маловероятным достижение единого мнения по этому вопросу в ближайшем будущем, что во многом связано с отсутствием общего понимания природы сознания и разума.
Специалисты в области разработки искусственного интеллекта предполагают возможность создания компьютерной системы, способной к самостоятельному мышлению и самоосознанию. Такие системы смогут совершенствовать себя при решении различных задач.
Развитие подобных технологий может привести к значительному ускорению научно-технологического прогресса и возникновению технологической сингулярности — стремительному и неконтролируемому развитию технологий в масштабах всей цивилизации.