- Статьи
- Интернет и технологии
- Особый софт: новая программа с ИИ мгновенно определит мошенников в чатах
Особый софт: новая программа с ИИ мгновенно определит мошенников в чатах
В России создали программу, которая способна быстро распознавать мошенничество при общении через мессенджеры, рассказали «Известиям» ее разработчики. Софт анализирует содержание уведомлений и предупреждает пользователя, если обнаружена подозрительная активность в сообщениях. Программа способна, в частности, распознавать злоумышленников, которые обманом пытаются получить данные банковской карты. Эксперты считают разработку перспективной, но ее успех будет целиком зависеть от того, смогут ли разработчики оптимизировать алгоритм таким образом, чтобы ПО не занимало много ресурсов компьютера.
Алгоритм распознавания злоумышленников в переписке
Российские ученые создали нейросеть, способную мгновенно распознавать, присылает сообщения мошенник или нет. Об этом «Известиям» рассказали представители Кубанского государственного технического университета. По словам разработчиков, прототип программы уже готов, а написана она на языке Python.
— Алгоритм работает следующим образом: каждые 15 секунд программа делает скриншот рабочего окна и распознает обнаруженный на экране текст. Далее ИИ определяет, пришел ли обладателю устройства спам или нет, — пояснил разработчик софта Олег Лейнвебер.
После того как ИИ распознал, что пользователю написал злоумышленник, программа присылает уведомление о том, что присланное сообщение небезопасно. Тут же «всплывает» нотификация, где показывается вредоносное сообщение и то, к какой категории оно относится — это может быть фишинг (например, просьба перейти на сайт) или же социальная инженерия, когда человека призывают что-либо сделать.
По словам разработчиков, программа разработана для персональных компьютеров, работающих на операционных системах Microsoft Windows и Linux. ОС от Apple macOs в настоящий момент не поддерживается.
Нейросеть обучена на распространенных примерах мошенничества, таких как предложения работы на маркетплейсах. Она также способна распознавать злоумышленников, которые обманом пытаются получить данные банковской карты и другие сведения. Также алгоритм способен к самообучению. Каждый новый случай мошенничества вносится в специальную базу данных программы, в дальнейшем система сопоставляет их с уже имеющимися.
Разработчики планируют, что софт полезен как для обычных пользователей, так и для корпоративных. Кроме того, создадут версии для государственных и образовательных учреждений.
Авторы проекта отмечают, что сам продукт начнут распространять по условно-бесплатной модели, то есть скачать его можно будет бесплатно, однако за дополнительные функции придется заплатить. Попробовать бета-версию софта можно будет уже во II квартале нынешнего года, полноценный же релиз ожидается в 2026 году.
Будет ли программа популярной
Идея автоматизации борьбы с фишингом таким образом достаточно интересная, но есть некоторые вопросы в плане реализации. ПО предполагает постоянную работу программы в активном режиме, что приведет к увеличению потребляемых ресурсов и повысит нагрузку на IT-оборудование, рассказал руководитель аналитического центра компании Zecurion Владимир Ульянов.
— Кроме того, идея регулярных скриншотов рабочего стола может лучше подходить для корпоративной среды, нежели домашнего использования. А перехват скриншотов и содержимого, либо несанкционированный доступ, или утечка архива могут привести к гораздо более серьезным последствиям с точки зрения безопасности, например компрометации учетных данных пользователей, — объяснил он.
Успех данного проекта и его популярность будут зависеть от нескольких факторов: во-первых, необходимо, чтобы работа программы была надежной и эффективной и могла помогать в выявлении и предотвращении фишинговых атак. Также важно удобство внедрения софта в работу организаций. Разработчики могут столкнуться с различными техническими и юридическими проблемами, такими как конфиденциальность данных и соответствие законодательству, сообщил директор компании Ideco Дмитрий Хомутов.
— Если рассматривать такой способ выявления угроз как основной, то он вызывает сомнения в эффективности. Использование только анализа изображения рабочих окон или изображений экрана не лучший способ определить содержимое канала коммуникации, а такой подход ведет к различным трудностям обработки и очистки входных данных для анализатора и, как следствие, появлению ошибок срабатывания и дополнительных трудозатрат сотрудников безопасности, — объяснил руководитель группы исследований Центра технологий кибербезопасности ГК «Солар» Максим Бузинов.
Разработчикам следует обратить внимание не только на фишинг в текстовых сообщениях, но и на новую уловку кибермошенников, которые присылают пользователям QR-коды, ведущие на вредоносные веб-ресурсы, добавил генеральный директор Security Vision Руслан Рахметов. Если нейросеть будет выявлять QR-коды во входящих сообщениях и оценивать безопасность содержащегося в QR-коде текста (в том числе ссылок на веб-ресурсы), то ценность такой разработки только возрастет, резюмировал он.
