В РАН назвали главные угрозы внедрения ИИ в финансовой сфере
Сегодня более 70% финансовых организаций используют искусственный интеллект. Чаще всего его применяют в платежах, кредитном анализе, страховании и управлении активами. Такие данные приводит доктор экономических наук Института экономики РАН Дмитрий Кочергин в статье «Основные направления использования искусственного интеллекта в финансовой сфере», с которой ознакомились «Известия».
Массовое внедрение нейросетей сопровождается серьезными рисками. Усиливается угроза кибератак. Генеративные модели расширяют возможности злоумышленников по созданию фишинговых писем, вредоносного ПО и захвату устройств, что может привести к краже данных, вымогательству и мошенничеству.
Другой источник угроз — атаки с отравлением данных, когда злоумышленники вмешиваются в массивы, на которых обучаются модели, чтобы изменить их поведение и нарушить работу систем.
Отдельная проблема — предвзятость алгоритмов. ИИ способен воспроизводить и усиливать искажения в данных, что ведет к дискриминации при страховании и кредитовании, ограничению доступа уязвимых групп к финансовым услугам.
Существенные риски связаны и с зависимостью рынка от узкого круга поставщиков моделей. Банки часто используют одни и те же технологии и данные, поэтому алгоритмы ведут себя схожим образом. В результате разные игроки автоматически принимают близкие решения, одновременно покупают или продают активы и двигают цены в одном направлении. Формального сговора нет, но эффект для рынка — рост волатильности и риск манипуляций.
В негативном сценарии это может привести к девальвации рабочей силы, росту дефолтов, ускорению инфляции и подрыву финансовой стабильности.
Подробнее читайте в эксклюзивном материале «Известий»:
Бешеный алгоритм: в РАН назвали топ уязвимостей внедрения ИИ в финансовой сфере
