Домой Новости и тренды Уроки безопасности ИИ по итогам конференций Black Hat и Ai4 2026

Уроки безопасности ИИ по итогам конференций Black Hat и Ai4 2026

В июле 2026 года компания Kiteworks представила ежегодный отчет по рискам безопасности и комплаенса. Исследование, охватившее 459 руководителей в сфере IT и безопасности, показало, что ни один из методов контроля ИИ, включая «аварийные выключатели» (kill switch) и поведенческий мониторинг, не внедрен более чем в 31% организаций. При этом 80% опрошенных столкнулись с инцидентами, связанными с ИИ или безопасностью, за последний год.

Специалисты по кибербезопасности на профильной конференции

Новые векторы атак на инфраструктуру ИИ

На конференциях Black Hat и Ai4, прошедших в Лас-Вегасе, эксперты подтвердили данные отчета. Одной из ключевых тем Black Hat стало смещение фокуса атак с моделей ИИ на аппаратное обеспечение. Исследователи из Университета Торонто продемонстрировали атаку GPUBreach: используя метод Rowhammer против памяти NVIDIA GDDR6, они смогли повысить привилегии CUDA-процесса до уровня root на хостовой системе. Это доказывает, что уязвимости скрыты в инфраструктуре, на которой работают рабочие нагрузки ИИ, и не зависят от корпоративных политик управления данными.

Другой важный вывод касается безопасности кода. На сессии «C и ее последствия» было показано, что оптимизация компилятора может возвращать ошибки состояния гонки (race conditions) даже в код, который разработчики считали исправленным. Это делает автоматизированный анализ исходного кода на базе ИИ недостаточно эффективным, так как уязвимость возникает на этапе компиляции.

Проблемы идентификации и управления агентами

Анализ, проведенный Phantom Labs (BeyondTrust), показал, что 75% из 400 изученных исследований безопасности касаются проблем идентификации и привилегий. ИИ-агенты используют те же механизмы аутентификации, что и люди, но получают гораздо меньше контроля. Данные отчета Kiteworks подтверждают этот разрыв: лишь 26% организаций используют привязку к целям (purpose binding) для ИИ-агентов, а 21% имеют рабочие механизмы их отключения.

  • Сокращение окон эксплуатации: Согласно отчету CrowdStrike за 2026 год, 88% уязвимостей с опубликованным доказательством концепции эксплуатируются в течение 48 часов.
  • Атаки на цепочки поставок: Злоумышленники внедряют вредоносные пакеты npm непосредственно в инструменты разработки ИИ-агентов, такие как экосистема Mastra.
  • Несанкционированное использование: 65% организаций обнаружили сотрудников, использующих сторонние ИИ-инструменты с конфиденциальными корпоративными данными.

Смена парадигмы на конференции Ai4

Конференция Ai4 в 2026 году сменила вектор дискуссий с обсуждения возможностей агентов на анализ их отказов. Введение трека #AIFails позволило практикам открыто делиться опытом сбоев систем, уже внедренных в производство. Эксперты также отметили, что развитие ИИ-инструментов значительно опережает создание инфраструктуры для их контроля. Тим Фристоун, директор по стратегии Kiteworks, подчеркивает, что управление людьми и управление агентами должны стать единой программой безопасности, где доступ к данным жестко ограничен целью использования, а все действия подлежат аудиту.