Дарья Носова, партнер O2 Consulting, выступила на сессии «Финансы будущего» Национального форума «ИИ - будущее сегодня» на полях Петербургского международного экономического форума (ПМЭФ).  В своем выступлении Дарья Носова затронула тему системного управления искусственным интеллектом (AI Governance) в финансовом секторе, подчеркнув его особую значимость в условиях отсутствия полноценного регулирования. Финансовая отрасль характеризуется высокой степенью автоматизации ключевых процессов и решений, таких как алгоритмический трейдинг, роботизированное консультирование и скоринг, где ошибки ИИ могут привести к серьезным финансовым потерям, юридическим рискам, усилению социального неравенства и репутационному ущербу. Особое внимание в рамках дискуссии было уделено проблемам, связанным с внедрением ИИ-систем для скоринга и профилирования клиентов. Решения, принимаемые по принципу «черного ящика», часто непрозрачны для конечных пользователей: клиенты не понимают логику формирования своего рейтинга, не могут оспорить решения и сталкиваются с риском дискриминации из-за скрытых параметров моделей. Это напрямую влияет на доступ к финансовым услугам. Аналогичные сложности могут возникать при использовании ИИ в процедурах противодействия отмыванию доходов (ПОДФТ). Актуальность вопросов управления ИИ будет возрастать по мере перехода от генеративных моделей к активному использованию автономных ИИ-агентов и мультиагентных систем, что повышает сложность контроля. O2 Consulting благодарит организаторов ПМЭФ и модераторов сессии за возможность интересного продуктивного обсуждения. Узнайте больше о Национальном форуме «ИИ - будущее сегодня» на официальном сайте.
 | 
