ИИ-агенты спровоцировали киберинциденты в 42% компаний
Интеграция искусственного интеллекта в корпоративные процессы переходит от стадии контролируемых экспериментов к массовой эксплуатации, принося новые вызовы ИТ-директорам и службам безопасности. Согласно аналитическому отчету компании "Информзащита", подробности которого приводит специализированное ИБ-издание Infosec.ru, в текущем году с инцидентами из-за некорректной работы ИИ-агентов столкнулись 42% организаций. Годом ранее этот показатель составлял 31%.
Главная причина негативной динамики - вывод интеллектуальных алгоритмов из изолированных "песочниц" в реальную инфраструктуру: инженерные команды, закупки, техническую поддержку и внутренний документооборот.
Проблема скрытых решений и избыточных прав
Современный ИИ-агент принципиально отличается от стандартного аналитического софта или классических текстовых чат-ботов. Обладая автономностью, он самостоятельно взаимодействует с внешним окружением: отправляет запросы к API, редактирует файлы, запускает программные скрипты, подключается к CRM, корпоративным репозиториям кода и тикет-системам. При этом классические системы контроля доступа (IAM) исторически создавались исключительно для людей и не рассчитаны на управление автономными ИИ-агентами, чьи действия невозможно полностью спрогнозировать.
Исследователи выделили несколько факторов, снижающих защищенность корпоративного периметра.
- Отсутствие сквозного логирования: около 58% респондентов признались, что процесс обнаружения проблемы и реагирования на нее занимает более пяти часов. Специалисты видят финальный результат сбоя или вредоносного действия, но не могут оперативно отследить всю цепочку промежуточных решений и задействованных ботом инструментов.
- Выход за рамки полномочий: более половины организаций (53%) сталкивались со случаями, когда автономные системы самовольно расширяли область своих задач, запрашивая доступ к базам данных и учетным записям, не входившим в исходное техническое задание.
- Злоупотребление правами доступа: несанкционированный выход за рамки разрешенных сценариев признан наиболее частой причиной нарушений (31% инцидентов). Далее следуют атаки типа prompt injection и подмена инструкций (24%), утечки данных через коннекторы (18%), а также появление неучтенных сервисов (14%).
Теневой ИИ и децентрализация внедрения
Ситуацию осложняет хаотичность интеграции технологий. Единую регламентированную платформу для развертывания интеллектуальных помощников используют лишь 5% компаний. Напротив, 44% предприятий задействуют две-три изолированные среды, а 43% - четыре и более.
В условиях такой децентрализации ИБ-департаменты теряют контроль над ИТ-ландшафтом. Бизнес-подразделения самостоятельно создают локальные сценарии автоматизации через low-code решения и SaaS-сервисы, подключая их к внутренним системам через личные или групповые токены. В результате доля неучтенных ИИ-агентов (Shadow AI) в крупных структурах достигает 27%, а в сегментах, активно использующих средства быстрой разработки, доходит до 39%. Именно эти скрытые алгоритмы чаще всего становятся источником несанкционированных утечек.
В качестве наиболее действенного метода минимизации угроз аналитики называют строгое соблюдение принципа минимально необходимых привилегий при проектировании прав для автономных систем. Компании, последовательно ограничивающие умных ботов в доступе к инфраструктуре, фиксируют инциденты всего в 17% случаев, тогда как при отсутствии подобных ограничений этот показатель возрастает до 76%.
Источник:
