Искусственный интеллект в области соблюдения нормативных требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа в сфере комплаенса и детектирования мошенничества с использованием ИИ для финансовых учреждений.

Откройте для себя топовые новости и мероприятия по финтеху!

Подпишитесь на рассылку FinTech Weekly

Читают руководители в JP Morgan, Coinbase, Blackrock, Klarna и др.

Что именно тестирует ИИ в комплаенсе: технологии или нас?

В финансовом секторе комплаенс больше не является просто функцией. Это активная точка давления — там, где сталкиваются регулирование, риски и операции. Когда в эту сферу внедряются технологии ИИ, снова и снова возникает один вопрос: в какой степени мы можем по-настоящему автоматизировать и кто будет оставаться ответственным, если что-то пойдет не так?

Привлекательность ИИ в выявлении мошенничества и комплаенсе легко понять. Финансовые учреждения сталкиваются со всё растущими ожиданиями: обрабатывать огромные массивы данных, реагировать на развивающиеся угрозы и соблюдать меняющиеся регуляторные требования — не снижая скорость или точность. Автоматизация, особенно основанная на машинном обучении, предлагает способ уменьшить операционную нагрузку. Но это также поднимает более глубокие вопросы о управлении, объяснимости и контроле.

Эти противоречия не носят теоретического характера. Они разворачиваются в реальном времени, когда финансовые компании внедряют ИИ-модели в роли, которые традиционно выполняли аналитики-люди. За кулисами появляются новые риски: ложные срабатывания, «слепые зоны» аудита и алгоритмические решения, остающиеся непрозрачными как для пользователей, так и для регуляторов.

При этом специалистов по комплаенсу просят менять роли. Вместо того чтобы вручную проверять каждую транзакцию, они теперь следят за тем, что делают инструменты. Такое переосмысление — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ может масштабировать анализ данных. Он способен выявлять несоответствия. Но он не может полностью объяснить намерения, интерпретировать контекст или принять на себя вину.

Понимание этих ограничений критически важно. И немногие люди лучше других расположены, чтобы изучать их, чем Роман Элошвили, основатель британской компании в области комплаенс-технологий ComplyControl. Его работа находится в самом центре пересечения рисков, автоматизации и надзора — там, где алгоритмическая эффективность встречается с регуляторной проверкой.

Более чем за десять лет работы Роман воочию видел, как команды комплаенса развиваются и как ИИ меняет как их рабочие процессы, так и их ответственность. Он утверждает, что обещание ИИ заключается не в устранении человеческих ролей, а в их переустройстве — внося новую ясность в то, что должны делать машины, и что по-прежнему должны брать на себя люди.

Этот сдвиг требует большего, чем просто технические обновления. Он требует культурной переориентации вокруг ответственности. Прозрачные системы, аудируемые процессы и четко назначенная человеческая ответственность больше не являются лишь «фичами» — это минимальный стандарт. Когда ИИ внедряется в критически важную инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, которая требует активного, стратегического попечительства.

В этом разговоре для FinTech Weekly Роман предлагает приземленный взгляд на то, что нужно, чтобы ответственно интегрировать ИИ в комплаенс и предотвращение мошенничества. Его подход не рассматривает автоматизацию как неизбежность, а как выбор — тот, который требует постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где на самом деле находится доверие.

Мы рады поделиться его выводами в то время, когда многие в финтехе спрашивают не о том, стоит ли внедрять ИИ, — а о том, как сделать это, не теряя из виду стандарты, которые в первую очередь заставили финансовые системы работать.

1. Вы построили карьеру на пересечении комплаенса и технологий. Можете вспомнить момент, когда вы поняли, что ИИ может фундаментально изменить то, как делается управление рисками?

Я бы не сказал, что это был какой-то один конкретный момент, который изменил всё. Скорее это был процесс, растянутый во времени. Я провел значительную часть своей карьеры, работая с уже существующими европейскими банками, и одну вещь я постоянно замечал: многие из них были далеко позади, когда речь заходила о решениях для цифрового банкинга. Контраст был особенно заметен по сравнению с более продвинутыми хабами финтеха.

Несколько лет назад, когда тема разработки ИИ снова начала активно подогреваться, у меня естественным образом возник интерес, и я изучил это. И по мере того как я разбирался в технологии и в том, как она работает, я понял, что искусственный интеллект способен радикально изменить способ, которым банки ведут свой комплаенс, выводя их ближе к современным, более гибким игрокам в финтехе.

Именно это привело меня к запуску моей компании в 2023 году. Сложность комплаенса и управления рисками продолжает расти год за годом. Столкнувшись с этой реальностью, наша миссия проста: приносить решения с поддержкой ИИ финансовым компаниям и помогать им справляться с такими нарастающими вызовами более эффективно.

2. С вашей профессиональной точки зрения, как изменилась роль специалистов-людей, когда инструменты ИИ стали более продвинутыми в комплаенсе и детектировании мошенничества?

Прежде чем сказать что-то еще, давайте сразу адресую одну вещь. Есть распространенная обеспокоенность во многих сферах: заменит ли ИИ людей, которые сейчас работают. И что касается специалистов по комплаенсу и рискам, мой ответ — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу отрасль, он всё еще далек от безошибочности. Поэтому участие людей остается необходимым фактором. Регуляторные требования комплаенса меняются постоянно, и кто-то должен уметь нести ответственность, когда системы не справляются или допускают ошибки. На текущем уровне развития ИИ всё еще с трудом объясняет свои решения достаточно ясно, так что его нельзя оставлять одного. Особенно не в сфере, где доверие и прозрачность имеют первостепенное значение.

При этом ИИ активно делает процессы комплаенса проще. Например, в зависимости от конфигурации ИИ-системы теперь могут отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дальнейшую верификацию. Нет необходимости, чтобы настоящие люди вручную просматривали каждую деталь, если только что-то действительно не выглядит странным. И по мере того как эти системы развиваются, они будут дальше снижать потребность в ручной работе, позволяя командам фокусироваться на более тонких задачах, где действительно нужен человеческий подход.

Я считаю, что мы увидим рост гибридной модели, где эксперты по комплаенсу будут всё более уверенно и компетентно использовать инструменты ИИ. Именно они будут внедрять и поддерживать ИИ-системы, а сам ИИ будет упрощать их работу, помогая разбираться в сложных данных и предоставляя рекомендации. Однако окончательное суждение всё равно останется за людьми.

3. Работая с ИИ в чувствительных областях, таких как финансовый комплаенс, как вы лично подошли к задаче поддержания доверия и ответственности в принятии решений?

Конечно. Как я уже упоминал, когда вы используете ИИ в комплаенсе, доверие имеет решающее значение.

Поэтому мы построили наши ИИ-системы так, чтобы они были полностью прозрачными. Они не работают как «черный ящик» — каждое предложение системы основано на отслеживаемых правилах и данных. Мы ведем полный аудиторский след того, как принимается каждое решение, чтобы его можно было полностью объяснить. Этот подход уже доказал свою невероятную ценность при взаимодействии с регуляторами.

Окончательный звонок всегда за офицером по комплаенсу. ИИ просто формулирует хорошо обоснованное предложение, которое человек затем легко проверяет и принимает решение — одобрить или отклонить.

4. Ваш опыт охватывает более 10 лет. Как изменилось ваше отношение к автоматизации и человеческому надзору в течение вашей карьеры, особенно сейчас, когда ИИ становится более автономным?

Определенно. Если говорить шире о состоянии внедрения ИИ, по мере того как эта технология развивается, мы постепенно разрешаем ей всё большую автономность — при условии, что она тщательно протестирована и продолжает демонстрировать надежность.

Но сильнее всего меняется та часть уравнения, которую играет специалист-человек. Вместо того чтобы микроуправлять каждым случаем, офицеры по комплаенсу всё чаще берут на себя роль стратегических надзирателей. Они могут быстро просмотреть целые партии похожих кейсов, валидировать производительность системы и донастраивать модели по результатам.

Иными словами, де-факто роль офицеров по комплаенсу переходит от выполнения работы вручную к управлению ИИ-системами по мере того, как они делают работу вместо них.

5. Работа в управлении рисками, управляемом ИИ, означает навигацию по сложным этическим вопросам. Как вы лично разработали рамочную основу для принятия ответственных решений при проектировании или внедрении решений на основе ИИ?

Мы выстроили наш подход вокруг двух ключевых идей: четкий надзор и принципы Responsible AI (Ответственный ИИ). Всякая модель, которую мы используем, закреплена за ответственным человеком. Оценки рисков, проверки производительности и проверки комплаенса выполняются регулярно.

Мы также следим за тем, чтобы наши системы можно было аудировать. Если алгоритм принимает решение, этот процесс можно проверить и верифицировать. Такая прозрачность — базовая часть нашей приверженности развитию ответственного ИИ.

6. В вашем пути какая была самая сложная профессиональная «урок-ценность», которую вы извлекли о пределах — или рисках — чрезмерной опоры на автоматизацию в критических областях, таких как предотвращение мошенничества?

Один урок, который нам точно нужно держать в голове: даже хорошо обученные модели всё равно могут «галлюцинировать» — то есть ошибаться, причем иногда тонко, но при этом серьезно.

ИИ может не заметить сложные схемы мошенничества или, наоборот, может запускать слишком много ложных тревог. Именно поэтому так важно сочетать ИИ с человеческой экспертизой — люди привносят гибкое суждение и лучше справляются с оценкой этики и общего контекста там, где ИИ не способен.

Баланс между двумя обещаниями дает более качественные, более надежные результаты. ИИ можно использовать, чтобы покрыть огромный объем задач и снизить сложность работы с ними, а люди — чтобы поддерживать соответствующий уровень точности и доверия.

7. Для молодых специалистов, которые сегодня приходят в комплаенс, управление рисками или разработку ИИ: какие личные принципы или привычки вы бы посоветовали им развивать, чтобы добиться успеха и адаптироваться в такой быстро меняющейся среде?

Во-первых и прежде всего: никогда не прекращайте учиться. Технологический прогресс не имеет кнопки «пауза», и вам нужно всё время быть в темпе или оказаться позади. Здесь нет компромисса.

Во-вторых, думайте шире. По мере развития ИИ границы между ролями размываются — технологии, финансы и регулирование превращаются в смешанный набор. Я уверен, что наличие широкого набора навыков и открытого мышления станут определяющими чертами для будущих специалистов в этой сфере.

В-третьих — и это естественное продолжение первых двух — будьте гибкими. Изменения постоянны, и способность быстро адаптироваться будет для вас большим преимуществом.

И наконец, развивайте сильные навыки коммуникации и учитесь быть командным игроком. Как мы уже рассмотрели, комплаенс находится на пересечении бизнеса, технологий и права. Поэтому умение переключаться и разговаривать с людьми из всех этих областей — ценный навык, который стоит развивать.