16 июня Банк России обнародовал на своем портале свод методических указаний, касающихся защиты информации при внедрении и создании систем искусственного интеллекта.
Регулятор стремится задать единые стандарты надежности для финсектора.
Кого касаются новые правила?
Документ станет обязательным ориентиром для широкого круга игроков: от классических банков и зарубежных филиалов до НКФО, профучастников и операторов национальной платежной системы.
Главная цель инициативы ЦБ снизить операционные и инфокоммуникационные риски, которые неизбежно возникают при автоматизации процессов с помощью нейросетей.
Ключевые уязвимости ИИ по версии регулятора
Эксперты Банка России выделили шесть критических зон риска:
- Качество данных: обучение на скомпрометированных, устаревших или предвзятых датасетах.
- Юридические аспекты: утечки конфиденциальной информации и нарушения прав интеллектуальной собственности.
- Деградация моделей: пресловутые «галлюцинации», дрейф данных и потеря актуальности алгоритмов.
- «Черный ящик»: невозможность логически объяснить, почему ИИ принял то или иное решение.
- Сторонние компоненты: уязвимости в open-source решениях или риски, связанные с недобросовестными вендорами.
- Саботаж и сбои: намеренное или случайное нарушение работы ИИ-систем, парализующее бизнес-процессы.
Реализация этих рисков грозит не только прямыми финансовыми потерями и репутационным ущербом для самих компаний, но и ущемлением прав клиентов, а в глобальном смысле дестабилизацией всего финрынка.
Арсенал угроз и методы защиты
ЦБ РФ акцентировал внимание на специфических методах взлома нейросетей. В списке угроз значатся фаззинг, внедрение бэкдоров прямо в тело модели, подмена алгоритмов обучения и промпт-инъекции.
Чтобы минимизировать ущерб, регулятор настоятельно рекомендует внедрять принцип «человек в контуре». Это значит, что любые автоматизированные действия, особенно финансовые транзакции, должны проходить финальную верификацию оператором.
Кто ответственный?
Банк России советует компаниям разработать собственную модель угроз и корпоративную политику ИИ-безопасности. Контроль за этим направлением следует возложить на профильного заместителя руководителя, в чьи компетенции уже входит защита от кибератак и реакция на инциденты.
В качестве бонуса ЦБ приложил к рекомендациям подробные матрицы и шпаргалки: от тактик хакерских атак до конкретных механизмов нейтрализации угроз на каждом этапе жизненного цикла ИИ-модели.