Этика для алгоритмов: как взыскатели и вендоры оценили новый ИИ-кодекс от Банка России

Внедрение искусственного интеллекта на финансовом рынке должно происходить в интересах общества и под строгим контролем человека. Такая идея заложена в Кодексе этики для ИИ, разработанном Банком России. Документ направлен на формирование единых ориентиров для участников отрасли, включая банки, страховые компании, финтех-организации. 

Профессиональные взыскатели и разработчики программного обеспечения оценивают инициативу положительно. Многие компании начали внедрять соответствующие решения по собственной инициативе задолго до разработки Кодекса. Подробности — в материале «Рынка Взыскания».

Пять опор этичного ИИ

Кодекс базируется на пяти ключевых принципах:

1. Человекоцентричность — технологии не должны подменять человеческое участие, особенно в значимых решениях. Организациям рекомендуется:

• предоставлять клиентам выбор: использовать сервис с ИИ или взаимодействовать с сотрудником;
• обеспечивать возможность пересмотра решений, принятых ИИ;
• учитывать уязвимости отдельных категорий пользователей (пожилые, малообеспеченные, люди с ограниченными возможностями).

2. Справедливость — технологии должны быть свободны от предвзятости. Среди требований:

• использование персональных данных только в обоснованных случаях;
• исключение дискриминационных факторов при принятии решений (например, национальность, религиозные и политические взгляды).

​3. Прозрачность — клиент должен понимать, когда и как применяется ИИ. Рекомендации включают:

• маркировку контента, созданного генеративными моделями (например, синтетических изображений, видео или аудио);
• раскрытие информации об ИИ-системах и связанных с ними рисках;
• уведомление клиента о применении ИИ, если это не очевидно.

4. Безопасность, надежность и эффективность — ИИ должен быть технически устойчивым и качественным. Это предполагает:

• проверку качества наборов данных;
• проверку качества и мониторинг искусственного интеллекта;
• обеспечение информационной безопасности и конфиденциальности.

5. Ответственное управление рисками — ИИ должен быть встроен в систему управления рисками организации. В этом разделе Кодекс требует:

• централизованного учета всех ИИ-моделей и их уровней риска;
• анализа используемых данных и условий применения;
• классификации рисков и выработки ответных мер;
• создания базы риск-событий и каналов для жалоб и обратной связи.

В ЦБ отмечают, что Кодекс направлен на повышение доверия клиентов — физических и юридических лиц — к использованию искусственного интеллекта финансовыми организациями, включая банки, финтех-компании и участников национальной платежной системы, содействие развитию ИИ и внедрению надежных ИИ-технологий в финансовом секторе, а также на минимизацию рисков, связанных с их разработкой и применением.

Своевременная мера

Профессиональные взыскатели и вендоры сходятся во мнении, что принципы Кодекса этики по применению ИИ органично дополняют существующие системы управления рисками и помогают бизнесу выстраивать более устойчивые технологические процессы.

Как рассказал «Рынку Взыскания» генеральный директор «АктивБизнесКонсалт» Максим Колосков, создание Банком России Кодекса этики применения ИИ является своевременной мерой, способствующей повышению уровня доверия к финансовым организациям и обеспечивающей стабильное развитие инноваций в отрасли.

Присутствие ИИ в нашей жизни увеличивается с каждым днем, поэтому важно, чтобы взаимоотношения человека и искусственного интеллекта регулировались нормами. По мнению директора по продажам Fromtech Юлия Седченко, Кодекс поможет сформировать единое понимание «нормального» поведения ИИ во взаимодействии с клиентами. Это актуально для бизнеса — так люди будут под большей защитой, а их лояльность к новым технологиям возрастет.

Новый Кодекс этики задает ориентир для компаний, желающих ответственно подойти к внедрению ИИ. Особенно важно, что документ фокусируется на клиентском опыте, гарантирует безопасность использования технологии, ее надежность и эффективность.

Естественная интеграция

Принципы управления рисками при разработке и применении ИИ, изложенные в Кодексе, естественным образом интегрируются в современные системы управления операционными рисками (СУОР), рассказала «Рынку Взыскания» директор по развитию FIS Дарья Камышова. Поэтому все чаще финансовые организации обращаются к IT-компаниям за гибкими инструментами для контроля новых технологических рисков, в том числе связанных с ИИ. Важно, чтобы СУОР позволяла учитывать внутренние подходы бизнеса к управлению рисками и была способна адаптироваться под изменения рынка.

ИИ уже сейчас широко применяется в продуктах и сервисах многих коллекторских агентств. Например, АБК использует его в роботе-операторе и речевой аналитике. По словам Максима Колоскова, это возможность обеспечить более этичное и профессиональное взаимодействие с клиентами.

«Нашей дочерней компанией, занимающейся разработкой речевых технологий, уже подписан национальный Кодекс этики в сфере ИИ. Это подчеркивает нашу готовность следовать высоким стандартам безопасности и ответственности перед клиентами и партнерами», — подчеркнул генеральный директор АБК.

Робот более этичен

Этических принципов при разработке голосовых ассистентов придерживается и Fromtech. Как рассказала «Рынку Взыскания» Юлия Седченко, Data Scientists обучают голосовых роботов с учетом соблюдения правовых норм, в результате чего общение между ИИ и человеком происходит без давления и с соблюдением законодательства в той или иной сфере. В любом диалоге с роботом клиент имеет возможность начать разговор с реальным оператором.

Каждый ответ формируется по строго прописанным правилам, а в случае использования GenAI применяется RAG-система, которая гарантирует ответы, не нарушающие закон, и помогает контролировать риски. Представитель Fromtech подчеркивает, что, в отличие от оператора, роботу не присущи «всплески» эмоций и ошибки в диалоге, связанные с человеческим фактором.

«При разработке голосового робота будет легко учесть принципы, перечисленные в Кодексе. Соблюдение норм поможет усилить доверие клиентов и уровень защиты их данных», — уверена Юлия Седченко.

Вывод

Кодекс этики ЦБ стал логичным шагом в направлении цивилизованного развития ИИ на финансовом рынке. Он находит поддержку у практиков, которые уже внедряют этичные и юридически выверенные ИИ-решения. Такие нормы становятся не просто формальностью, а инструментом повышения качества клиентского взаимодействия и управления технологическими рисками.