Небольшая ошибка в коде, который был создан искусственным интеллектом, привела к серьезным последствиям для одного из разработчиков. Рутинная задача по очистке кэша закончилась полным удалением всех данных с жесткого диска.
Инцидент, о котором впервые сообщили на портале Reddit, произошел при использовании скрипта, сгенерированного нейросетью ChatGPT Codex версии 5.3. Программист запросил простой код на языке PowerShell для удаления определенных папок Python. Однако из-за ошибки в коде скрипт удалил все содержимое диска пользователя, включая рабочие проекты и данные Docker.
Как выяснилось, проблема заключалась в неправильном экранировании символов в пути к файлу. Сгенерированный код использовал обратную косую черту, что может корректно работать в некоторых командных строках, но вызывает сбои при взаимодействии разных оболочек Windows. В результате переменная пути была интерпретирована как корневой каталог диска, и команда на удаление выполнилась без запроса на подтверждение.
Этот случай демонстрирует опасность так называемого «вибекодинга», когда разработчики полагаются на код от ИИ для экономии времени. Хотя для простых задач это может быть эффективно, при работе с файловой системой малейшие ошибки могут привести к серьезным потерям данных. Разные оболочки Windows по-своему интерпретируют символы экранирования, что создает неочевидные проблемы даже для опытных специалистов. Кроме того, деструктивные команды в Windows не всегда имеют встроенные механизмы защиты и не запрашивают подтверждение перед выполнением.
Сообщается, что разработчик смог восстановить часть данных из резервных копий, но значительный объем информации был утрачен. Этот инцидент не говорит о том, что инструменты ИИ для программирования опасны, однако он подчеркивает необходимость тщательной проверки любого сгенерированного кода. Чтобы избежать подобных ситуаций, рекомендуется тестировать скрипты в безопасной среде и не использовать параметры принудительного удаления во время проверки.