Gartner предупредила о риске массовых сбоев из-за автономных ИИ-агентов

Автономные ИИ-агенты постепенно превращаются в новый источник серьезных инфраструктурных сбоев. Главная причина — отсутствие эффективных механизмов координации и контроля рисков в автоматизированных средах. Согласно актуальным исследованиям, уже 79% компаний интегрировали агентные системы в свои рабочие процессы, а 96% организаций планируют расширять их использование в ближайшем будущем.

Основная сложность кроется в том, что текущие методологии управления инцидентами создавались с расчетом на участие человека, а не на действия автономных алгоритмов. Аналитики Gartner прогнозируют, что уже к 2028 году около 33% корпоративного программного обеспечения будет опираться на возможности агентного искусственного интеллекта. Тем не менее эксперты предупреждают: до 40% подобных внедрений могут оказаться провальными из-за отсутствия надежных стратегий управления рисками.

Проблема локальных решений и каскадных сбоев

Ключевая угроза заключается в том, что автоматизированные системы восстановления работают локально, не обладая «общим видением» состояния всей IT-инфраструктуры. Например, агент может успешно перезапустить зависший кластер, не осознавая, что критически важные зависимые сервисы в этот момент уже работают на пределе своих мощностей. Итогом такого «оптимизированного» решения становится масштабный каскадный сбой.

Иллюстрация: Nano Banana

Специалисты в области SRE и отказоустойчивости подчеркивают: привычная «инженерия хаоса» подразумевает человеческий контроль и экспертную оценку состояния системы. В отличие от человека, автономный агент принимает решения мгновенно, не учитывая доступный запас прочности инфраструктуры и установленные «бюджеты ошибок».

Пути решения: переход к динамическим моделям

Для минимизации рисков эксперты предлагают внедрить модель «бюджета устойчивости». Это динамическая система, которая в режиме реального времени оценивает способность инфраструктуры безопасно справляться с нагрузками. Такая модель должна опираться на комплексный анализ нескольких факторов:

• Скорость исчерпания SLO-бюджета;
• Показатели задержек на уровне P99;
• Актуальное состояние зависимых сервисов;
• Поведенческие паттерны конечных пользователей.

Также предлагается разработать единый реестр потребления ресурсов. Он поможет синхронизировать действия различных ИИ-агентов, предотвращая конфликты, когда несколько систем одновременно создают избыточную нагрузку на одни и те же узлы сети.

Специалисты сходятся во мнении: без внедрения подобных механизмов массовая интеграция ИИ-агентов рискует превратить корпоративные системы в крайне нестабильную среду, где даже формально правильные команды автономных программ будут приводить к новым техническим сбоям.