Центральный банк РФ опубликовал кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке. Это комплексный этический и практический framework для внедрения ИИ в российском финансовом секторе, фокусирующийся на защите прав клиентов, снижении рисков и построении доверия через прозрачность, справедливость и надежность. Кодекс носит рекомендательный характер, однако отражает позицию регулятора к применению ИИ на финансовом рынке. Кодекс детализирует 5 основных принципов и конкретные меры по их реализации: 1. Принцип Человекоцентричности: 🔹Повышать качество услуг (оценка удовлетворенности, контроль качества). 🔹Предоставлять клиентам право отказаться от взаимодействия с ИИ (и перейти к сотруднику). 🔹Обеспечивать возможность пересмотра решений, принятых ИИ (по запросу клиента такой пересмотр осуществляется сотрудником финансовой организации). 🔹Повышать осведомленность клиентов о том, как принимаются решения ИИ (с оговоркой - если это не снижает его эффективность). 🔹Повышать финансовую доступность, учитывая факторы уязвимости ряда клиентов (возраст, образование, инвалидность и др.). 2. Принцип Справедливости: 🔹Обосновывать использование персональных данных клиентов (только если использование существенно повышает эффективность ИИ при оказании услуг). 🔹Неприемлемость дискриминации при принятии решений ИИ (по таким признакам, как национальность, раса, язык, партийность, религия и т.д.), а также при использовании датасетов (проверять полноту, актуальность, достоверность данных по разным соц. группам). 3. Принцип Прозрачности: 🔹Информировать клиентов о применении ИИ при оказании услуг (если это не очевидно). 🔹Раскрывать полную и достоверную информацию об условиях применения ИИ и связанных с ним рисках. 🔹Маркировать информацию (текст, изображения, аудио, видео), созданную с помощью больших генеративных моделей (кроме случаев незначительного редактирования, очевидности использования или отсутствия риска вреда). 4. Принцип Безопасности, Надежности и Эффективности: 🔹Проверять качество наборов данных (достоверность, точность, полнота; учет источников; актуализация). 🔹Проверять качество ИИ (установление показателей качества; валидация, добровольная сертификация). 🔹Мониторить качество ИИ (регулярная проверка соответствия показателям). 🔹Обеспечивать информационную безопасность (учет рисков ИИ; оценка мер защиты на всех этапах). 🔹Обеспечивать конфиденциальность информации (меры по защите данных ограниченного доступа, включая обезличивание). 🔹Обеспечивать непрерывность деятельности (возможность выполнения функций сотрудниками при сбое ИИ). 5. Принцип Ответственного Управления Рисками: 🔹Внедрить систему управления рисками ИИ в общую систему риск-менеджмента организации (разработка правил, назначение ответственных). 🔹Обеспечить ключевые процессы управления рисками ИИ: -
Учет применяемых моделей ИИ (централизованный, с учетом уровня риска). -
Выявление рисков ИИ (документирование процесса разработки и применения, анализ на риски). -
Оценка и присвоение уровня риска (система факторов риска: сфера применения, использование конфиденциальных данных, потенциальный ущерб, масштаб охвата клиентов, объяснимость решений, использование внешних моделей/данных, наличие инцидентов). -
Мониторинг и контроль рисков (регулярные проверки процессов, предварительный/текущий/последующий контроль). -
Минимизация выявленных рисков (определение мер и ответственных, контроль решений ИИ с высоким риском). -
Реагирование на инциденты (риск-события): определение типов, меры по минимизации последствий, каналы для жалоб/сообщений. -
Ведение базы риск-событий (регистрация с описанием, причинами, мерами и статусом). Дополнительные ключевые положения: 🔹Организациям рекомендуется обмениваться опытом и участвовать в разработке совместных документов для достижения целей Кодекса. 🔹Если привлекаются лица, не поднадзорные ЦБ РФ, организациям рекомендуется обеспечивать соблюдение ими Кодекса. | 
