Комментарии

Центральный банк РФ опубликовал кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке.

Это комплексный этический и практический framework для внедрения ИИ в российском финансовом секторе, фокусирующийся на защите прав клиентов, снижении рисков и построении доверия через прозрачность, справедливость и надежность. Кодекс носит рекомендательный характер, однако отражает позицию регулятора к применению ИИ на финансовом рынке.

Кодекс детализирует 5 основных принципов и конкретные меры по их реализации:

1. Принцип Человекоцентричности:

🔹Повышать качество услуг (оценка удовлетворенности, контроль качества).

🔹Предоставлять клиентам право отказаться от взаимодействия с ИИ (и перейти к сотруднику).

🔹Обеспечивать возможность пересмотра решений, принятых ИИ (по запросу клиента такой пересмотр осуществляется сотрудником финансовой организации).

🔹Повышать осведомленность клиентов о том, как принимаются решения ИИ (с оговоркой  - если это не снижает его эффективность).

🔹Повышать финансовую доступность, учитывая факторы уязвимости ряда клиентов (возраст, образование, инвалидность и др.).

2. Принцип Справедливости:

🔹Обосновывать использование персональных данных клиентов (только если использование существенно повышает эффективность ИИ при оказании услуг).

🔹Неприемлемость дискриминации при принятии решений ИИ (по таким признакам, как национальность, раса, язык, партийность, религия и т.д.), а также при использовании датасетов (проверять полноту, актуальность, достоверность данных по разным соц. группам).

3. Принцип Прозрачности:

🔹Информировать клиентов о применении ИИ при оказании услуг (если это не очевидно).

🔹Раскрывать полную и достоверную информацию об условиях применения ИИ и связанных с ним рисках.

🔹Маркировать информацию (текст, изображения, аудио, видео), созданную с помощью больших генеративных моделей (кроме случаев незначительного редактирования, очевидности использования или отсутствия риска вреда).

4. Принцип Безопасности, Надежности и Эффективности:

🔹Проверять качество наборов данных (достоверность, точность, полнота; учет источников; актуализация).

🔹Проверять качество ИИ (установление показателей качества; валидация, добровольная сертификация).

🔹Мониторить качество ИИ (регулярная проверка соответствия показателям).

🔹Обеспечивать информационную безопасность (учет рисков ИИ; оценка мер защиты на всех этапах).

🔹Обеспечивать конфиденциальность информации (меры по защите данных ограниченного доступа, включая обезличивание).

🔹Обеспечивать непрерывность деятельности (возможность выполнения функций сотрудниками при сбое ИИ).

5. Принцип Ответственного Управления Рисками:

🔹Внедрить систему управления рисками ИИ в общую систему риск-менеджмента организации (разработка правил, назначение ответственных).

🔹Обеспечить ключевые процессы управления рисками ИИ:

• Учет применяемых моделей ИИ (централизованный, с учетом уровня риска).

• Выявление рисков ИИ (документирование процесса разработки и применения, анализ на риски).

• Оценка и присвоение уровня риска (система факторов риска: сфера применения, использование конфиденциальных данных, потенциальный ущерб, масштаб охвата клиентов, объяснимость решений, использование внешних моделей/данных, наличие инцидентов).

• Мониторинг и контроль рисков (регулярные проверки процессов, предварительный/текущий/последующий контроль).

• Минимизация выявленных рисков (определение мер и ответственных, контроль решений ИИ с высоким риском).

• Реагирование на инциденты (риск-события): определение типов, меры по минимизации последствий, каналы для жалоб/сообщений.

• Ведение базы риск-событий (регистрация с описанием, причинами, мерами и статусом).

Дополнительные ключевые положения:

🔹Организациям рекомендуется обмениваться опытом и участвовать в разработке совместных документов для достижения целей Кодекса.

🔹Если привлекаются лица, не поднадзорные ЦБ РФ, организациям рекомендуется обеспечивать соблюдение ими Кодекса.