Ограничения, установленные для нейросетей при выдаче сведений о химических экспериментах, усложняют подготовку научных опытов. Искусственный интеллект иногда отказывается описывать даже безопасные реакции, ссылаясь на возможную опасность их проведения. Об этом ТАСС сообщил ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета Александр Иванов.
По словам специалиста, нейросети используют для подготовки сценариев и выбора экспериментов для демонстрации. Однако современные системы могут не предоставлять описания некоторых опытов и предупреждать, что проводить их должны только специально подготовленные люди. Иванов отметил, что такие ограничения затрудняют применение искусственного интеллекта в профессиональной работе.
Проблема проявляется и при создании научно-популярных программ. Нейросети способны отказаться от предложения химических экспериментов, указав на потенциальный риск их проведения. При этом год назад те же системы генерировали больше химических реакций, включая несуществующие, которые искусственный интеллект представлял как реальные.
Иванов рассказал, что теперь нейросети стали значительно строже относиться к подобным запросам и запрещают множество действий, в том числе безопасных. По его словам, специалисты могут самостоятельно находить ошибки в ответах искусственного интеллекта. Для пользователей без специальных знаний проверка достоверности такой информации может быть затруднена.
Ученый также отметил, что полностью исключать вероятность получения от нейросетей рекомендаций, следование которым может привести к травмам, нельзя. Поэтому при подготовке экспериментов специалисты проверяют предложенные системой сведения. Основные трудности связаны с чрезмерными ограничениями и необходимостью дополнительно оценивать ответы нейросетей.