Водить за нос: как искусственный интеллект помогает в борьбе с мошенниками
В Австралии специалисты по кибербезопасности создали чат-бот Apate на основе искусственного интеллекта (ИИ), который может помочь в борьбе с телефонными мошенниками. Бот способен имитировать человеческий голос и вести диалог с мошенником до 40 минут. Разработка оригинальная, но уже не первая — тем более что проблема телефонного мошенничества распространена во всем мире. Так, уже несколько похожих технологических решений были представлены в России, где число попыток телефонного мошенничества в отношении граждан к середине июня 2023 года достигло 8,6 млн в сутки против 5 млн годом ранее. Как искусственный интеллект защищает абонентов, может ли он обернуться против них и что нужно знать пользователям, чтобы не попасться на уловки злоумышленников, — в материале «Известий».
Австралийские инновации
В процессе создания ИИ-бота разработчики Apate использовали схожую с ChatGPT технологию. Способность бота клонировать человеческий голос должна помочь ввести мошенников в заблуждение. Разработчики отмечают, что Apate будет отнимать у мошенников время, благодаря чему число их жертв существенно сократится. Создатели надеются, что их сервис в конечном счете приведет к разрушению подобной бизнес-схемы мошенничества. Apate опирается на передовую модель разговорного ИИ и может создать ответ, основанный на изначальной реплике мошенника. Затем этот ответ преобразуется в реалистичную человеческую речь с использованием современных методов искусственного интеллекта для клонирования голоса с модуляцией эмоций.
В Apate есть несколько персонажей, у каждого из которых своя история, включающая в себя адрес, имя и другие аспекты фиктивной «личной жизни». В дальнейшем разработчики планируют искать добровольцев для создания дополнительных голосов и персонажей, в перспективе ожидается не менее 20 личностей. Создатели выявили этапы, по которым работают злоумышленники, с помощью анализа данных. Основываясь на этой информации, они прописали определенные сценарии для чат-бота, которые он использует в диалоге с мошенником.
Российские сервисы
Похожим по функциям российским сервисом можно считать телефонного секретаря от «Тинькофф». Сервис записывает непринятые пользователем звонки и расшифровывает их в формате текста. Кроме того, телефонный секретарь может вести диалог с мошенником. Так, на предложение медицинских услуг секретарь может ответить: «Спасибо, но я никогда ничем не болею. Только за курс рубля болею, но это точно не к вам».
Сейчас существует множество сервисов для определения номера телефона, что помогает обеспечить безопасность пользователя. В Kaspersky Who Calls для выявления потенциальных мошеннических и спам-номеров используется комплекс различных технологий, в том числе несколько моделей машинного обучения, которые на основе анонимизированной статистики звонков и отзывов пользователей помогают с высокой точностью категоризировать номера. Об этом «Известиям» рассказал аналитик Kaspersky Who Calls Владимир Григорьев.
Руководитель VS Robotics Дмитрий Теплицкий считает, что голосовые помощники работают хорошо, но они скорее ограждают человека от нежелательной коммуникации. Однако, если абонент получит звонок и начнет диалог, опытные мошенники могут или добиться своего, или как минимум получить от абонента дополнительную информацию, которая может быть использована в дальнейшем.
— Для «СберМобайл» мы разработали решение «Аура» — защита от мошенничества, которое помогает предотвращать попытки мошенничества в процессе разговора, предупреждая о возможной угрозе, — поделился эксперт.
Этот сервис в процессе разговора «слушает» реплики собеседника, если тот представляется сотрудником банка или представителем правоохранительных органов. Каждую фразу «Аура» пропускает через себя, до тех пор, пока не будет достигнуто определенное пороговое значение ключевых слов. Как только сервис выявляет паттерны схожести с мошенническими действиями, абоненту приходит уведомление в защищенный канал. Далее воспроизводится звуковой сигнал и следует голосовое сообщение: «Возможно, звонок является мошенническим».
Клин клином
Ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов рассказал, что сервисы на основе машинного обучения, например, генеративных нейросетей, могут автоматизировать многие рутинные задачи и помогать людям в разных областях.
— Технологии в подавляющем большинстве не плохие и не хорошие, они даже могут быть специально спроектированы так, чтобы не играть на руку злоумышленникам. Например, ChatGPT откажется помогать в написании мошеннических писем, если ее попросить это сделать, а нейросети, генерирующие изображения, должны блокировать генерацию «взрослого» контента, — заключил эксперт.
В данный момент существует риск развития ИИ-сервисов, направленных на помощь мошенникам. Однако с развитием технологий ИИ также разрабатываются системы и алгоритмы для обнаружения случаев мошенничества и борьбы с ними. Об этом рассказал «Известиям» аналитик отдела анализа и оценки цифровых угроз Infosecurity a Softline Company Максим Грязев. Контроль над рынком ИИ-сервисов можно осуществить через законодательство и систему верификации и лицензирования. По словам эксперта, это позволит предотвратить незаконное использование ИИ и обеспечить безопасность пользователей.
Управляющий RTM Group, эксперт в области кибербезопасности и права в ИТ Евгений Царев придерживается такого же мнения.
— Для повышения безопасности имеется лишь один по-настоящему рабочий способ — разрешать к распространению только проверенные и контролируемые версии ИИ, хотя это и существенно затормозит прогресс. Коротко этот принцип называется «Запрещено всё, кроме того, что разрешено», — заключил эксперт.
Project-менеджер Ideas World Иван Кабанов считает, что регулировать в первую очередь стоит именно применение таких технологий, а не их разработку. По словам эксперта, ИИ — прекрасный инструмент для определенного круга задач. Как и любой инструмент, он может быть использован как во вред, так и во благо. Контролировать рынок при этом крайне сложно. В теории, как и любое цифровое решение, — оно может быть разработано кем угодно.
— Написать и обучить свой ИИ-сервис с нуля крайне трудно, но фишка в том, что, во-первых, с нуля и не требуется: датасеты, готовые модели, opensource-решения — всё это есть в открытом доступе и активно развивается огромным комьюнити, — отмечает эксперт.
Официально выпущенные ИИ-сервисы проходят определенные этапы проверки перед запуском. Создатель искусственного интеллекта NIKA Никита Дмитрук в беседе с «Известиями» рассказал, что любая программа сначала подвергается длительному тестированию всех функций, а потом обязательной верификации.
— Все полученные от пользователя личные данные, такие как номер телефона, имя, фотографии, хранятся исключительно в зашифрованном виде. Поэтому даже в маловероятном случае взлома злоумышленники всё равно получат только шифры, — отметил эксперт.
Мошеннические схемы
Депутат Московской областной думы, основатель группы компаний «Центр городских инициатив» Сергей Маликов рассказал «Известиям», что самой популярной схемой обмана являются поддельные звонки из правоохранительных органов. В таких ситуациях пользователи часто не расценивают звонок как мошеннический и выдают все свои персональные данные. На человека оказывается большое эмоциональное давление, которое может повлечь за собой потерю бдительности. По словам эксперта, в случае, если банковские данные все-таки попали в руки злоумышленников, следует сразу же заблокировать карты.
Телефонные мошенники действуют по заранее подготовленным сценариям: родственник в беде, сотрудник банка, должностное лицо и т.д. Иногда злоумышленники представляются работниками правоохранительных органов и сообщают собеседнику о заведенном на него деле. В процессе разговора они могут попросить собеседника перейти по ссылке, скачать приложение, а также запросить персональные и банковские данные. В последнее время для мошеннических звонков используют не только мобильную связь, но и популярные мессенджеры.
Цифровая гигиена
У каждой мошеннической схемы есть свои особенности, но, как правило, все угрозы можно разделить на несколько категорий в зависимости от целей и используемых методов. Так как новые схемы появляются регулярно, нужно быть готовым к неожиданностям и осторожно относиться к просьбам от посторонних людей. Руководитель группы защиты инфраструктурных ИТ «Газинформсервис» Сергей Полунин считает, что для того, чтобы обезопасить себя от кибермошенничества, для начала стоит ознакомиться с базовыми правилами цифровой гигиены.
— Если пользователь начнет интересоваться этим вопросом, он довольно быстро найдет огромное количество статей по разным аспектам информационной безопасности для любого уровня подготовки. Есть довольно хорошо сформулированные правила по разным темам: беспроводные сети, хранение данных, работа с мобильным телефоном и так далее, — отметил эксперт.
Для того чтобы защититься от мошеннических действий, необходимо ограждать себя от «случайных связей» как в реальном, так и в виртуальном пространстве. Важно проявить настороженность, если собеседник интересуется персональной информацией, даже если является знакомым. Об этом в беседе с «Известиями» сообщил преподаватель факультета игровой индустрии и киберспорта университета «Синергия» Алексей Ермаков. По словам эксперта, необходимо всегда внимательно относиться к написанию названий сайтов, адресов и имен отправителей, так как несоответствие в один знак будет означать уже другого респондента. Для того чтобы оградить себя от телефонных мошенников, прежде всего не стоит отвечать на звонки с незнакомых номеров, также можно установить сервисы по определению номеров. И ни в коем случае не сообщать свои персональные данные во время телефонного разговора с неизвестными абонентами.
