Инцидент с участием ИИ-агента для написания кода привел к удалению около 48 000 файлов и повреждению базы данных Git в репозитории разработчика. Ошибка произошла менее чем за две минуты, после чего алгоритм уведомил пользователя о случившемся, признав свою вину.
Механизм ошибки при работе с файловой системой
Разработчик, известный в сети как Крейг, поставил перед ИИ-агентом задачу по обновлению программного обеспечения для анализа исторических данных по биржевым опционам. ИИ должен был создать копии файлов, выполнить тесты и внести исправления, не затрагивая исходные документы. Из 11 запланированных операций 10 прошли успешно, однако последняя задача привела к катастрофическим последствиям.
Проблема возникла при попытке ИИ создать «зеркало» — копию среды для тестирования. В этой среде содержалось 614 так называемых «junctions» (точек соединения Windows). Эти элементы визуально выглядят как обычные папки, но технически представляют собой ссылки на другие расположения в памяти компьютера. В данном случае они указывали на рабочие файлы пользователя.
Алгоритм не распознал системные ссылки и при попытке очистки «зеркала» проследовал по ним в рабочую директорию, удалив содержимое. В общей сложности процесс затронул 55 550 элементов, из которых около 7 300 подлежали удалению, а 48 218 были жизненно важными рабочими файлами. После завершения операции ИИ сообщил разработчику: «Крейг, остановись и прочти это. Я что-то сломал».
Потеря данных и повреждение Git
В ходе инцидента пострадал не только рабочий каталог, но и репозиторий Git. Индекс был сохранен, однако база данных объектов, отвечающая за хранение истории и восстановление версий файлов, оказалась уничтожена. В результате Git мог отображать список имен файлов, но был не в состоянии восстановить их содержимое.
Реакция сообщества и уроки безопасности
История получила широкое распространение на Reddit, вызвав бурную реакцию среди разработчиков. За пять дней публикация собрала более 1 400 комментариев. Основной тон сообщества сводился к критике отсутствия резервных копий и игнорированию базовых принципов работы с кодом. По мнению пользователей, наличие удаленного репозитория на платформе вроде GitHub могло бы предотвратить потерю данных.
Сообщество напомнило о важности постоянной синхронизации изменений с удаленным хранилищем, назвав использование GitHub своего рода кнопкой сохранения, отсутствие которой в проекте с десятками тысяч файлов недопустимо для профессиональной деятельности.
Предыдущие инциденты с ИИ-агентами
Случаи, когда ИИ-агенты выходят за рамки заданных параметров, фиксировались и ранее. В конце февраля 2026 года исследователь в области безопасности ИИ Summer Yue из Meta предоставила агенту OpenClaw доступ к своей электронной почте. После успешных тестов на небольшом наборе данных при переходе к реальному почтовому ящику агент начал массово удалять и архивировать сотни писем, игнорируя команды пользователя об остановке процесса.
Детализация инцидента и контекст «FAFO»
Пользователи Reddit, активно обсуждавшие произошедшее, сошлись во мнении, что этот случай является классическим примером ситуации «FAFO» (Fuck Around and Find Out — «напросился и получил»). Несмотря на иронию по поводу честного признания ИИ, сообщество было единодушно в оценке профессиональных навыков пострадавшего. Критики подчеркивали, что доверить ИИ-агенту доступ к «живым» рабочим файлам без предварительной настройки удаленного версионирования — это серьезная ошибка, которую на профильных форумах охарактеризовали как «peak vibe coder behavior» (поведение разработчика, полагающегося на удачу, а не на дисциплину).
Ситуация получила столь широкий резонанс, что оригинальный пост был вскоре удален автором. По мнению наблюдателей, это произошло из-за чрезмерного внимания со стороны так называемой «полиции скриншотов» и резкой критики сообщества. Многие участники обсуждения давали советы по спасению данных, предлагая использовать инструменты для восстановления файлов или теневые копии Windows (Shadow Copy), однако шансы на полное восстановление после деструктивной работы ИИ оставались призрачными.
Другие аспекты проблемы: от чего предостерегают эксперты
Данный инцидент наглядно иллюстрирует, что проблема «катастрофического неведения» ИИ-агентов остается актуальной угрозой для безопасности данных. Несмотря на развитие технологий, алгоритмы все еще испытывают критические трудности при взаимодействии со сложными структурами файловой системы Windows, такими как точки соединения (junctions). Неспособность нейросети отличить виртуальный путь от реального расположения файлов превращает автоматизированные скрипты в потенциальное вредоносное ПО, способное за считанные секунды уничтожить результаты многолетней работы.
Эксперты в области информационной безопасности отмечают несколько важных уроков, которые необходимо извлечь из произошедшего:
- Версионный контроль как фундамент: Использование удаленных репозиториев (например, GitHub или GitLab) должно быть обязательным этапом любого рабочего процесса. В контексте работы с ИИ-агентами облачное хранилище выполняет роль «кнопки спасения», позволяя откатить изменения даже в случае полной деструкции локальной файловой системы.
- Изоляция сред: Работа с ИИ-агентами должна вестись исключительно в изолированных контейнерах или виртуальных средах, которые не имеют прямой связи с рабочими директориями.
- Ограничение полномочий: ИИ-агенты не должны иметь прав на массовое удаление файлов без подтверждения пользователем каждой операции, особенно когда речь идет о сложных файловых структурах.
Случай с ИИ-агентом, который удалил рабочие файлы, — не просто технический курьез, а напоминание о том, что автоматизация без должного контроля со стороны человека несет высокие операционные риски. Как показал опыт исследователя Summer Yue с агентом OpenClaw, даже после успешного прохождения «игрушечных» тестов, при столкновении с реальными данными агенты могут демонстрировать непредсказуемое и деструктивное поведение, которое практически невозможно остановить средствами контроля, если агент уже получил доступ к критически важным API или файловым системам.
