Специальная инженерия: нейросеть опознает мошенника во время разговора
Российские программисты разработали приложение, которое опознает мошенников в начале телефонного разговора и предупредит об этом пользователя. Если он не обратит внимание на уведомление и продолжит общение, программа прервет звонок. Аналогичный сервис будет работать при переписке пользователя с мошенником в мессенджерах или соцсетях. Помимо этого, разработчики предлагают третий компонент системы против злоумышленников: программа сумеет распознать фишинговые сайты. Проект заинтересовал экспертов из Национальной технологической инициативы. Другие специалисты отметили, что такие сервисы могут быть полезными, но нуждаются в некоторых технических доработках.
Не звони мне, не звони
Телефонное мошенничество и фишинг остаются самыми популярными схемами обмана россиян, как заявил на ПМЭФ зампред правления Сбербанка Станислав Кузнецов. В 2017 году доля телефонного мошенничества составляла 22% от всех киберпреступлений, а в 2020-м этот показатель вырос до 97%.
Российские программисты создают несколько сервисов для защиты от мошенников. Целевая аудитория разработчиков — пользователи банковских продуктов, например, владельцы карт или счетов.
Заместитель председателя правления Сбербанка Станислав Кузнецов во время панельной дискуссии «Цифровой суверенитет и кибербезопасность» в рамках Петербургского международного экономического форума – 2021
Авторы проекта предлагают три модуля системы. Первый анализирует звонки, второй проверяет переписку, третий находит странности в дизайне сайтов.
Алгоритм действия первого модуля таков. Специализированное Android-приложение, которое надо установить на смартфоне, перехватывает все звонки. Далее программа отправляет разговор на сервер для анализа. Там она преобразует аудио в текст и анализирует его.
Найти отличия
Оценка текста проходит в несколько этапов. Сначала искусственный интеллект проводит быстрый анализ темы разговора. Если беседа посвящена семейным делам или погоде, дальнейшее рассмотрение уже не нужно. Если выявленная тема оказалась связана с банками, финансовыми институтами или со счетами, тогда текст подается на дальнейший глубокий анализ. Искусственный интеллект более высокого уровня ищет в разговоре особые признаки, которые говорят о том, что с пользователем общается злоумышленник. Программа делает расчеты, которые в виде сложного сигнала подаются на вход нейросети. На выходе искусственный интеллект показывает, насколько этот сигнал отличается от сигнала, характерного для обычного разговора. Если есть значительные отличия — значит, пользователь может беседовать со злоумышленником.
— Для обучения нейронной сети мы взяли два типа разговоров — обычные и мошеннические, — рассказал основатель компании «Плексет Рус» Олег Бахтадзе-Карнаухов. — Первые были взяты из открытых источников и содержали десятки тысяч часов разговоров людей на различные темы. Это 90% от общего числа бесед. Для добавления в базу данных мошеннических разговоров мы ищем злоумышленников в интернете и записываем общение с ними. Чтобы база таких разговоров имела разные тематики, мы отобрали различные виды мошенничества и схемы беседы. Далее оставалось научить нейронную сеть обращать особое внимание на некоторые слова, которые наиболее часто используют злоумышленники.
Если искусственный интеллект отмечает текст как мошеннический, программа предупреждает об этом пользователя. Если он не реагирует, сервис обрывает разговор.
— Приложение определяет, что диалог мошеннический, на первых этапах разговора, — сообщил технический директор компании Данил Черноусов. — Например, если скрипт злоумышленника рассчитан на одну минуту, детектирование произойдет примерно на 20-й секунде разговора. Ожидаемая эффективность работы программы — 90%, как показала аналитика проведенных исследований.
Дополнения следуют
Второй модуль, создаваемый для выявления мошенников по переписке, будет действовать так же, только минуя стадию перевода разговора в текст. Кроме того, нейронную сеть нужно обучать на другой базе данных, по которой можно обнаружить паттерны, характерные для сообщений от злоумышленников. Если приложение решит, что переписка подозрительная, оно заблокирует диалог.
Также разработчики планируют дополнить систему методами анализа фишингового контента с помощью искусственного интеллекта. Третий модуль будет анализировать дизайн сайтов на вредоносность.
— Например, пользователь открывает веб-сайт, а он внешне идентичен сайту крупнейшего банка в России, — пояснил Олег Бахтадзе-Карнаухов. — Наша система анализирует дизайн и «понимает», что он крайне похож на дизайн сайта некоего банка. Однако домен не принадлежит банку, следовательно, это может быть фишинговая страница.
Разработчики планируют представить все три модуля системы для тестирования всем желающим в ноябре 2021 года. Также проект отобрали для участия в интенсиве для технологических компаний «Архипелаг 2121», который сейчас проходит в Великом Новгороде. Форум организован Минобрнауки совместно с Университетом 2035, платформой Национальной технологической инициативы (НТИ), Агентством стратегических инициатив по продвижению новых проектов. Участники интенсивна могут получить от НТИ гранты до 20 млн рублей.
Спорные решения
Решение в целом выглядит полезным, но есть вопросы к реализации первых двух модулей, отметил начальник отдела информационной безопасности «СерчИнформ» Алексей Дрозд.
— Судя по описанию, звонок не обрабатывается локально, а передается на внешний сервер, где происходит анализ содержимого разговора. Это сложная с технической точки зрения реализация решения. Вероятно, лучше будет схема, когда пользователь разрешает, чтобы все входящие звонки и сообщения пропускались через сервер, по аналогии с тем, как это организовано в службах доставки и в такси. Однако тогда под мониторинг попадут не только потенциально мошеннические, но и любые звонки и сообщения человека, — пояснил эксперт.
Кроме того, производители смартфонов и мессенджеров препятствуют получению прав доступа к сообщениям, добавил он. Поэтому вполне возможно, что массового применения приложение не получит, считает Алексей Дрозд. Более жизнеспособным специалисту видится вариант, если эти модули смогут работать автономно и анализировать данные прямо на устройстве.
Третий модуль Алексей Дрозд оценил как самый зрелый.
— Он может быть реализован как плагин в браузере, который легко включить и выключить, — пояснил эксперт. — Тут тоже есть вопрос к тому, насколько эффективно будет реализовано приложение, с какой базой дизайнов и ссылок будет сравнивать потенциально опасные сайты. Но по крайней мере это технически решаемые задачи. Сама необходимость подобного модуля не вызывает вопросов.
Опасный контроль
Число киберинцидентов растет год от года, и злоумышленники применяют все более и более изощренные методы для выманивания денег, отметил эксперт инжинирингового центра SafeNet Национальной технологической инициативы Игорь Бедеров.
— Любые инновации в сфере борьбы с такими преступниками актуальны и злободневны, — сказал эксперт. — Другой вопрос — эффективность этих приложений. Мне кажется, применение нейросетей в этом деле пока не слишком надежный метод. Злоумышленники могут достаточно быстро перестроиться на новый формат общения, чтобы обойти нейросеть. Проще прибегать к классическим методам — например, идентифицировать номера телефонов злоумышленников. По поводу второго модуля — пожалуй, в современные мессенджеры разработчики должны сразу встраивать алгоритмы для предотвращения общения с мошенниками.
Игорь Бедеров отметил, что злоумышленники могут даже получить данные, пока человек переходит на фишинговый сайт, а не только во время пребывания на нем. От этого новая разработка не защитит. В заключение эксперт указал, что люди могут испугаться тотальности контроля данных, которого требует применение предлагаемых авторами проекта приложений.
