Сбер разработал и опубликовал модель для кибербезопасности ИИ

Эксперты по кибербезопасности Сбера подготовили первую в России комплексную модель угроз для систем искусственного интеллекта (ИИ), которая охватывает все ключевые этапы жизненного цикла AI-систем - от подготовки данных и разработки нейросетевых моделей до интеграции в приложения. Документ размещён на портале по киберграмотности Сбера "Кибрарий".

Документ позволяет организациям любой отрасли комплексно оценить уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери. Разработанная модель пригодится командам, которым требуется системный подход к моделированию угроз.

Исследование описывает 70 угроз, связанных с использованием моделей генеративного (GenAI) и предиктивного (PredAI) искусственного интеллекта. Для каждой из этих угроз, помимо возможных последствий, определены свойства информации, которые нарушаются (конфиденциальность, целостность и т.д.), и объект, который может быть подвергнут воздействию нарушителя, например, датасеты для обучения или оpen-source модели. Для наглядности модель угроз содержит схему взаимодействия таких объектов и их описание.

"Внедрение технологий искусственного интеллекта в бизнес-процессы компаний неизменно сопровождается вызовами кибербезопасности. Организации, использующие AI, сталкиваются с новыми рисками, способными повлиять на устойчивость систем и конфиденциальность данных. Эти угрозы затрагивают все этапы жизненного цикла AI, что требует новых решений для их прогнозирования и нейтрализации", - сообщил вице-президент Сбера по кибербезопасности Сергей Лебедь.

Он отметил, что Сбер активно применяет технологии искусственного интеллекта в своих бизнес-процессах и хорошо понимает новый ландшафт угроз. Для ответа на эти вызовы Сбер разработал первую в России модель киберугроз, охватывающую полный спектр рисков для искусственного интеллекта, связанных с разработкой и применением. Документ позволяет организациям любой отрасли - от финансового сектора до государственных институтов и промышленности - системно оценивать уязвимости, адаптировать защитные механизмы и минимизировать потенциальные потери.

Создание документа особенно актуально на фоне растущего использования GenAI-моделей в критически важных бизнес-процессах всё большего числа отечественных компаний и возникающих в связи с этим новых угроз безопасности.

Разработанная модель угроз учитывает опыт команд Сбера при работе над повышением защищенности собственных AI-моделей, а также лучшие мировые практики в этой области: документы OWASP, MITRE, NIST и др.


Источник:
https://www.comnews.ru/