Специалисты исследовательского подразделения Unit 42 из Palo Alto Networks выявили новую угрозу безопасности, связанную с одной из главных слабостей больших языковых моделей (LLM) — склонностью к «галлюцинациям». Нейросети уверенно генерируют правдоподобные, но несуществующие адреса сайтов, принадлежащих известным брендам. Хакеры уже начали активно эксплуатировать эту особенность, регистрируя такие домены заранее для перехвата пользовательского трафика.
Что такое «призрачный киберсквоттинг»
Метод получил название phantom squatting (призрачный киберсквоттинг). Суть атаки заключается в следующем: модель предсказывает вероятный URL для сервиса, API или бренда, а злоумышленник оперативно регистрирует свободное имя до того, как его займет легитимный владелец. Поскольку домен был «предложен» самой нейросетью, пользователи и автоматизированные системы склонны доверять таким ссылкам.
Исследователи протестировали две популярные LLM на базе 913 мировых брендов, совершив свыше 685 тысяч запросов. В результате было получено 2,1 млн URL, из которых 809 тысяч оказались фантомными доменами. После очистки данных эксперты выделили около 250 тысяч уникальных имен, которые потенциально могут быть использованы для создания вредоносной инфраструктуры.
Предсказуемость галлюцинаций как инструмент атаки
Опасность заключается в системном характере ошибок: нейросети часто воспроизводят одни и те же паттерны для конкретных брендов. Это формирует так называемую «поверхность галлюцинаций» — карту предсказуемых адресов, которую злоумышленники могут использовать для подготовки кибератак.
В отчёте Unit 42 приводится наглядный пример: хакеры подготовили фишинговый набор под названием «Montana Empire», развернув его на домене, который был предсказан исследователями за 23 дня до фактической регистрации. В другом случае зафиксирован цикл в 51 день, по истечении которого «фантомный» адрес был применен для масштабной фишинговой кампании с поддельным мобильным приложением почтовой службы.
Риски для корпоративной инфраструктуры
Проблема выходит за рамки обычного фишинга:
- Автоматизация ошибок: При интеграции LLM в процессы разработки (например, генерация путей к API или вебхукам) ИИ может подставить вымышленный URL.
- CI/CD-конвейеры: Встроенные в процессы сборки ссылки могут быть автоматически вызваны системой, что ведет к утечке данных или инъекции вредоносного кода.
- Агентные ИИ-системы: Автономные агенты способны не только предлагать, но и самостоятельно переходить по ссылкам, выполняя вредоносные действия без участия человека.
Традиционные системы безопасности здесь часто бессильны, так как они опираются на историю репутации домена. «Призрачные» домены на момент регистрации выглядят абсолютно новыми и «чистыми», не попадая в черные списки антивирусных решений.
Как защититься от «фантомных» атак
Авторы исследования предлагают метод проактивного мониторинга. Поскольку между моментом генерации домена нейросетью и его реальной регистрацией злоумышленниками проходит в среднем от 18 до 51 дня (так называемое «окно эксплуатации»), у компаний есть временное преимущество.
Отслеживание доменов, которые регулярно попадают в «галлюцинации» LLM, позволяет администраторам безопасности заранее выявлять потенциальные угрозы и превентивно регистрировать важные для бизнеса доменные имена до того, как ими воспользуются хакеры.
