Банк России выражает обеспокоенность по поводу массового внедрения глобальных платформ искусственного интеллекта (ИИ) российскими кредитными организациями. По мнению регулятора, бесконтрольное использование таких систем может представлять угрозу для стабильности финансового сектора страны.
Юридический департамент Банка России акцентирует внимание на рисках, связанных с повсеместным применением однотипных ИИ-моделей. Основная проблема заключается в невозможности достоверной проверки исходных данных, на которых базируются решения этих систем. Это создает потенциальную уязвимость, поскольку ошибки или предвзятость в данных могут привести к системным сбоям или некорректным финансовым операциям в масштабах всей банковской системы. Ранее Центробанк выявил угрозы для граждан и кредитных организаций, связанные с повышением ставок, что подчеркивает общую тенденцию регулятора к минимизации рисков.
В связи с этим, Банк России считает необходимым разработать и внедрить комплексное регулирование в области архитектуры данных, используемых искусственным интеллектом для принятия решений. Это позволит обеспечить прозрачность, надежность и контролируемость работы ИИ-систем, снижая вероятность возникновения критических ситуаций. Регулирование должно охватывать следующие аспекты:
- Стандартизация источников данных: Определение требований к качеству, актуальности и полноте данных, используемых для обучения и функционирования ИИ-моделей.
- Методологии проверки данных: Разработка процедур для аудита и верификации исходных информационных массивов, чтобы исключить манипуляции или ошибки.
- Оценка рисков: Создание механизмов для постоянной оценки потенциальных рисков, связанных с применением ИИ, и разработка мер по их минимизации.
- Ответственность: Четкое определение ответственности участников финансового рынка за некорректное функционирование ИИ-систем и последствия их решений.
Внедрение такого регулирования позволит не только защитить финансовую стабильность, но и способствовать более ответственному и безопасному развитию технологий искусственного интеллекта в банковской сфере. Это также может стать частью более широкой стратегии по обеспечению цифрового суверенитета и снижению зависимости от иностранных технологических решений, что является актуальной задачей в контексте разработки механизмов снижения зависимости от китайского рынка в других регионах.
Источник: Коммерсантъ — Бизнес
