Банк России выпустил рекомендации по безопасности ИИ в финансовой сфере
Банк России представил первые методические рекомендации по обеспечению информационной безопасности при внедрении технологий искусственного интеллекта (ИИ) в финансовом секторе, сообщается на сайте Центрального банка Российской Федерации.
Это дебютный официальный документ регулятора, который детально классифицирует риски применения ИИ-алгоритмов, описывает векторы атак злоумышленников на нейросети и предлагает комплексные защитные меры.
Контроль критических операций и принцип "человек в контуре"
В качестве ключевой меры защиты при использовании ИИ в критически важных процессах - в первую очередь, при проведении платежных и расчетных транзакций - регулятор рекомендует полностью исключить автономность систем. Все операции, проанализированные искусственным интеллектом в высокорисковых сегментах, должен в обязательном порядке верифицировать и подтверждать сотрудник финансовой организации. Этот шаг призван минимизировать риски ошибок алгоритмов и предотвратить скоординированные мошеннические транзакции.
Моделирование угроз и ответственность
Согласно рекомендациям Центробанка, участникам финансового рынка предстоит оперативно разработать индивидуальные модели угроз и внутренние политики безопасности, регламентирующие работу со стеком ИИ. Персональную ответственность за подготовку, внедрение и соблюдение этих документов регулятор возлагает на профильного топ-менеджера - заместителя руководителя организации по вопросам защиты информации.
Безопасность ИТ-поставок и аудит ИИ-провайдеров
Отдельный раздел рекомендаций посвящен ИБ-рискам при интеграции внешних ИИ-сервисов от сторонних вендоров и облачных провайдеров. Банк России определил критерии оценки надежности поставщиков таких технологий. Одним из главных факторов доверия к сторонней ИИ-модели регулятор называет ее участие в публичных программах поиска уязвимостей (Bug Bounty) и программах скоординированного раскрытия брешей в безопасности.
Источник:
