Глава OpenAI Сэм Альтман призвал осторожно подходить к развитию искусственного интеллекта. Выступая на полях Генеральной Ассамблеи ООН, он предупредил, что новые технологии способны сосредоточить значительную власть в руках ограниченного числа людей.
«Мы не должны обучать модели, если у нас нет веских оснований полагать, что мы сможем удерживать их под контролем человека. Это один из возможных рисков. Другая опасность заключается в том, что эти системы могут привести к чрезмерной концентрации власти в руках небольшого числа людей», — сказал Альтман.
По информации РИА Новости, руководитель OpenAI считает необходимым обеспечить контроль разработчиков над системами искусственного интеллекта. По его словам, это особенно важно по мере расширения возможностей таких технологий.
Альтман отметил, что даже небольшой риск катастрофических последствий нельзя считать приемлемым. Он призвал учитывать возможные угрозы при создании и обучении новых моделей.
Кроме того, глава OpenAI заявил, что мощные системы искусственного интеллекта не должны использоваться для навязывания взглядов другим людям. По его словам, этого не следует допускать ни отдельным пользователям, ни компаниям, ни государствам.