Бешеный алгоритм: в РАН назвали топ уязвимостей внедрения ИИ в финансовой сфере
Манипулирование рынками, рост кибератак, дискриминация заемщиков и девальвация рабочей силы — в РАН предупредили о главных угрозах при внедрении ИИ в финансовом секторе. При этом уже более 70% банков и страховых используют нейросети. Они нередко применяют одинаковые модели и данные, из-за чего алгоритмы принимают схожие решения и двигают рынки в одном направлении. Почему кредитные организации всё равно уверены, что пользы от технологии больше, чем вреда, и как она изменит экономику — в материале «Известий».
Главные риски использования ИИ в финансовой сфере
Сегодня более 70% финорганизаций используют искусственный интеллект. Чаще всего его применяют в платежах, кредитном анализе, страховании и управлении активами. Во всех этих сферах ИИ повышает эффективность за счет снижения издержек, обеспечения соблюдения требований регуляторов, выявления мошенничества и улучшения клиентского сервиса.
По оценке Глобального института McKinsey, только в мировом банковском секторе внедрение ИИ может ежегодно приносить 3–5% совокупной выручки отрасли. Такие данные приводит доктор экономических наук Института экономики РАН Дмитрий Кочергин в статье «Основные направления использования искусственного интеллекта в финансовой сфере».
Однако массовое внедрение нейросетей сопровождается серьезными рисками. Усиливается угроза кибератак. Генеративные модели расширяют возможности злоумышленников по созданию фишинговых писем, вредоносного ПО и захвату пользовательских устройств. Это может привести к краже данных, вымогательству и мошенничеству, предупреждает автор исследования.
Другой источник угроз — атаки с отравлением данных. Злоумышленники могут вмешиваться в массивы, на которых обучаются языковые модели финорганизаций, чтобы изменить их поведение и нарушить работу систем. Поскольку всё больше приложений используют данные, созданные самими моделями, операционные риски для финансового сектора возрастают.
Отдельная проблема — предвзятость алгоритмов. По словам автора, модели могут воспроизводить и усиливать искажения в данных, что ведет к дискриминации при страховании и кредитовании, ограничению доступа уязвимых групп к финансовым услугам.
Кроме того, в условиях жестких стандартов защиты данных применение ИИ повышает юридические риски, особенно из-за склонности к «галлюцинациям» нейросетей, отмечается в материале Дмитрия Кочергина.
Существенные угрозы связаны и с зависимостью рынка от ограниченного круга поставщиков языковых моделей. Высокие затраты на разработку и концентрация данных приводят к олигополии: несколько компаний контролируют весь рынок, подчеркнул Дмитрий Кочергин. Любой сбой или атака на них создает риски для всех пользователей. При этом даже собственные банковские нейросети обычно основаны на одних и тех же технологиях и ведут себя схожим образом.
То есть разные банки и инвесткомпании используют одинаковые алгоритмы, которые начинают принимать схожие решения автоматически. В результате игроки одновременно покупают или продают одни и те же активы, двигают цены в одном направлении и фактически действуют как единый скоординированный участник рынка. Формального сговора нет, но эффект для рынка — искажение цен, рост волатильности и риск манипуляции.
Дополнительные риски связаны с деятельностью ИИ-агентов, способных усиливать дисбалансы и нестабильность.
Аналитик ФГ «Финам» Леонид Делицын также указал на риск «отравления» обучающих данных, когда вредоносный код проникает в популярные сервисы и затем распространяется через рекомендации ИИ.
Ведущий аналитик Freedom Finance Global Наталья Мильчакова отметила высокие затраты на инфраструктуру, риски неравенства в зарплатах, рост расходов на кибербезопасность и сокращение персонала, что может усилить конкуренцию и вытеснить с рынка небольших игроков.
В позитивном сценарии, при контролируемом внедрении, ИИ способен повысить производительность, поддержать экономический рост и замедлить инфляцию. В негативном варианте — при спонтанной автоматизации — возможны девальвация рабочей силы, рост дефолтов, ускорение роста цен и снижение налоговых доходов. Эти факторы способны подорвать финансовую стабильность, заключает автор исследования.
Как финорганизации используют ИИ
В ЦБ на запрос «Известий» рекомендовали ознакомиться с докладом регулятора о применении ИИ на финансовом рынке. По оценке Центробанка, во втором полугодии 2025-го нейросети использовал каждый второй банк. В страховании ИИ внедрили более 80% компаний, а среди профессиональных участников фондового рынка — свыше 70%.
Редакция обратилась в крупнейшие банки с просьбой рассказать о своем опыте. В ВТБ сообщили, что активно используют ИИ для кредитного скоринга и андеррайтинга, поведенческого анализа, персонализированных предложений, компьютерного зрения и автоматизации рутинных операций.
В банке «Синара» технологию применяют как в клиентском сервисе, так и в бэк-офисе (внутренних отделах компании, которые не взаимодействуют напрямую с клиентами и заказчиками), в чат-ботах, голосовых помощниках, анализе аномалий, расшифровке данных и даже в дизайне. При этом ИИ пока задействован преимущественно в некритичных процессах (которые не затрагивают напрямую клиента или финансовое положение организации), уточнил директор по развитию цифровых каналов компании Алексей Аверин.
В «Новикоме» заявили, что там внимательно изучают опыт рынка и считают преувеличенными опасения о рисках для финансовой стабильности. Управляющий по анализу банковского и финансового рынков ПСБ Дмитрий Грицкевич отметил, что критические процессы по-прежнему будут дублироваться человеком, а масштабы внедрения ИИ сопоставимы с распространением интернета в 1990–2000-е годы.
В ВТБ главным риском считают не технические, а поведенческие факторы — чрезмерное доверие к алгоритмам. Генеративные модели могут уверенно формулировать ошибочные выводы, а пользователи склонны передавать им ответственность за решения, подчеркнули в банке.
В Всероссийском союзе страховщиков сообщили, что большинство участников страхового рынка тестируют ИИ, но крайне редко доверяют ему принятие решений. По словам вице-президента ВСС Глеба Яковлева, технологии эффективны при анализе документов, но их масштабное внедрение не всегда снижает затраты и повышает качество сервиса.
Как ИИ помогает банкам
Участники финансового рынка отмечают, что пока видят в нейросетях больше пользы, чем угроз. В ВТБ среди ключевых преимуществ называют гиперперсонализацию услуг: ИИ анализирует сотни параметров и позволяет перейти от сегментов к индивидуальным предложениям. Другой положительный момент — рост эффективности за счет автоматизации рутинных процессов и высвобождение ресурсов для более сложных задач. Технологии дают возможность создавать новые сервисы — на базе компьютерного зрения и роботов, добавили в банке.
В «Новикоме» среди плюсов указали на снижение числа ошибок, оптимизацию ресурсов, многозадачность и работу в режиме 24 на 7. В ПСБ отметили, что модели помогают распознавать документы и голоса, структурировать пакеты данных, анализировать транзакции и повышать точность персонализации. Для разработчиков ИИ ускоряет выпуск новых продуктов за счет автогенерации кода и анализа ошибок.
Вследствие широкого внедрения ИИ финансовые системы многих стран существенно изменятся, заявил «Известиям» Дмитрий Кочергин. Трансформация затронет архитектуру и инфраструктуру рынка — от развития автоматизированных «умных» рынков капитала до усиления роли цифровых валют центробанков и децентрализации финансовых услуг. Изменятся и бизнес-модели: часть массовых профессий исчезнет, появятся автономные ИИ-агенты и суперприложения, усилится персонализация и дифференциация продуктов.
По словам автора исследования, надзор и регулирование также могут быть реформированы — с переходом к контролю и применению инструментов денежно-кредитной политики в режиме реального времени и принятием глобальных стандартов в области ИИ. Эксперт предупредил, что такие изменения повысят системную «хрупкость» и создадут киберугрозы нового поколения.
— В целом финансовые системы станут более эффективными и удобными, но, вероятно, менее справедливыми и прозрачными, — отметил Дмитрий Кочергин.
В ВТБ ожидают, что массовое внедрение ИИ приведет к двум ключевым сдвигам. Первый — настанет эпоха, когда каждый клиент станет отдельным сегментом, а банки смогут в реальном времени предлагать полностью индивидуальные условия. Второй — глубокая технологическая и культурная интеграция, включая круглосуточные отделения с роботами и развитие как национальных ИИ-инструментов, так и глобальных моделей.
В перспективе финансовая система станет более автоматизированной и персонализированной: рутинные операции перейдут алгоритмам, а человек сосредоточится на стратегических и этических решениях, отметил технический директор «Сравни» Константин Кучугурин. Для клиентов это означает более быстрые и доступные услуги, но и более высокие требования к цифровой грамотности.
