Детектор контента ИИ GPTZero представил второй отчёт, в котором подробно разбирается растущая проблема «галлюцинаций цитирования». Речь идёт о случаях, когда нейросети при создании текстов ссылаются на несуществующие в природе документы или существенно искажают данные об источниках.
Непосредственным поводом для анализа послужил недавний доклад консалтингового гиганта KPMG, посвящённый сфере ИИ-агентов. Эксперты GPTZero провели проверку указанных в нём ссылок и обнаружили тревожные результаты: из 45 приведенных источников лишь 5 оказались достоверными. Остальные материалы либо вовсе не существовали, либо содержали грубые фактические ошибки.
Исследователи ввели для этого явления термин «vibe citing» (цитирование по настроению). По аналогии с известным понятием «vibe coding», этот термин описывает ситуацию, когда текст выглядит убедительно и профессионально, но фактически лишен опоры на реальные факты. ИИ не просто ошибается — он систематически подменяет авторов, искажает заголовки научных работ или полностью выдумывает публикации, чтобы придать своим выводам веса.
Авторы отчёта подчёркивают, что природа этих ошибок кардинально отличается от человеческой невнимательности. Нейросети демонстрируют специфическую «галлюцинаторную» логику: они не просто опечатываются, а создают структуру цитат, которой никогда не существовало, и могут многократно воспроизводить идентичные искажения в разных частях одного документа.
Экспертов особенно беспокоит репутационный аспект. KPMG — одна из крупнейших мировых компаний, на чьи аналитические выкладки опираются СМИ, государственные ведомства и представители бизнеса. Если даже в таких авторитетных докладах информация не проходит верификацию, существует риск «отравления» информационного поля: ложные данные копируются другими ресурсами, превращаясь в общепринятый, но недостоверный факт.
Кроме того, эксперты GPTZero предупреждают о «петле обратной связи»: если такие отчёты попадут в базы для обучения будущих моделей, недостоверные цитаты станут частью знаний новых поколений ИИ. Подобные инциденты уже фиксировались ранее. Так, в 2025 году GPTZero выявила множественные фиктивные сноски в докладе комиссии Make America Healthy Again (MAHA), готовившей рекомендации для правительства США.
На текущий момент проблема «галлюцинаций цитирования» перестала быть техническим курьёзом. Исследователи называют её серьёзной угрозой для всей интеллектуальной среды, включая учёных, студентов, аналитиков и любого пользователя, доверяющего поисковым системам при поиске подтверждённых данных.
