ЦБ даст рекомендации по обеспечению информбезопасности при применении ИИ

Москва. 20 ноября. INTERFAX.RU - ЦБ РФ разрабатывает методические рекомендации по обеспечению информационной безопасности при применении технологий искусственного интеллекта (ИИ), говорится в консультативном докладе регулятора.

Документ будет разработан для реализации отдельных принципов Кодекса этики в сфере разработки и применения ИИ на финрынке. Рекомендации будут направлены на достижение единства подходов к обеспечению информационной безопасности при разработке и использовании систем ИИ, а также нейтрализации угроз безопасности, актуальных при применении технологий ИИ финансовыми организациями.

Еще одним документом в развитие Кодекса этики может стать руководство, которое будет содержать рекомендации по адаптации системы управления рисками, включая управление модельным риском, с учетом специфики ИИ. На данный момент практики управления рисками ИИ в финансовых организациях являются неоднородными, что показал проведенный Банком России опрос, сказано в докладе.

Модельный риск - это риск ошибок в процессах разработки, проверки, адаптации, приемки, применения методик количественных и качественных моделей оценки активов, рисков и иных показателей, используемых в принятии управленческих решений. Применение сложных моделей ИИ приводит к дополнительным рискам для финорганизаций, обусловленных рядом специфичных для ИИ факторов, в том числе зависимостью от качества данных, низкой объяснимостью, подверженностью информационным угрозам ("отравление" данных, адверсальные атаки), "галлюцинациям" (вымышленные, недействительные ответы) и аутсорсингом моделей.

Банк России устанавливает нормативные требования к управлению модельным риском, которые распространяются, в том числе и на модели ИИ. Однако действующее регулирование модельного риска является достаточно верхнеуровневым и распространяется только на кредитные организации, в то время как модели ИИ используют различные участники финансового рынка, отмечается в докладе.