С того света достанут: как мошенники используют ИИ-копии покойников
Мошенники могут использовать цифровые копии умерших людей, созданные при помощи искусственного интеллекта (ИИ), в различных схемах — об этом предупредили эксперты. Такие киберугрозы в основном направлены против родственников и знакомых покойных, причем злоумышленники реализуют их через соцсети и мессенджеры. Подробности о том, как мошенники используют ИИ-копии покойников, чем опасны такие схемы и как защититься от них, читайте в материале «Известий».
Чем ИИ-копии умерших людей интересны мошенникам
Цифровые копии — представления людей, живущих сейчас, живших ранее или никогда не существовавших в реальности, которые были воссозданы в изображении и звуке с поведенческими характеристиками, говорит в беседе с «Известиями» Al-консультант и специалист аналитического центра кибербезопасности компании «Газинформсервис» Татьяна Буторина. При этом форматы представления цифровых копий могут быть разными — в том числе голограммы, чат-боты и VR.
— По данным Gartner Inc., мировой рынок виртуальных личностей в 2021–2035 годах вырастет приблизительно в 11 раз, — рассказывает специалист. — Уже сейчас ИИ-копии людей применяются в самых разнообразных сферах и пользуются в мировой практике огромным успехом.
По словам Татьяны Буториной, сегодня мошенники уже внедрили в свою деятельность и это направление, так как грань между человеческими и цифровыми образами благодаря развитию технологий стремительно стирается, а это создает определенные возможности для различных манипуляций в личной, коммерческой, политической и общественной деятельности.
Зачастую пользователи не ожидают угрозы от ИИ-копий умерших людей, дополняет аналитик данных Координационного центра доменов .RU/.РФ Евгений Панков. Люди склонны доверять образу умершего близкого или кумира, поэтому воспринимают их сообщения и советы без критической оценки. Мошенники используют эту эмоциональную уязвимость и «эффект доверия», добиваясь нужных действий — переходов по ссылкам, передачи кодов или перевода средств.
Какие схемы с ИИ-копиями покойников уже использовались
В России уже несколько лет растет использование дипфейков и ИИ-копии умерших — один из таких сценариев, говорит в беседе с «Известиями» Евгений Панков. В частности, ранее мошенники использовали аккаунты умерших людей, чтобы выманивать деньги у знакомых, которые могли не знать об их смерти.
— За рубежом фиксировались случаи мошенничества с использованием поддельных некрологов известных людей для получения трафика и дохода от рекламы на сайтах и в YouTube, — рассказывает специалист. — Сгенерированные с помощью ИИ некрологи с кликбейтными заголовками быстро появляются в топе выдачи Google и получают широкое распространение.
Общим у этих схем является эксплуатация доверия и эмоций, усиленная алгоритмами рекомендаций и персонификацией контента, отмечает Евгений Панков. Схемы с ИИ-копиями умерших людей уже несколько лет чаще всего встречаются в США, Китае и Великобритании, дополняет Татьяна Буторина.
По словам эксперта, в России в 2024 году также было официально зафиксировано несколько случаев, когда мошенники от лица умерших связывались с их родственниками и пытались выманить несколько десятков тысяч рублей. При этом благодаря бдительности родственников и сотрудников организаций некоторые из таких попыток были предотвращены.
— В том же году появился такой термин для мошеннических схем, как «кибермистификация», сочетающий методы социальной инженерии с ИИ-копиями и общением в мессенджерах, — отмечает Татьяна Буторина.
В то же время, по словам GR-директора ИБ-компании «Код безопасности» Александры Шмигириловой, несмотря на то что ИИ сейчас достаточно часто используется мошенниками, схемы с цифровыми двойниками умерших людей пока не стали массовыми. При этом порой злоумышленники используют контакты умерших людей невольно для себя — например, применяя чью-то взломанную базу контактов и рассылая от имени людей, упомянутых там, какие-либо сообщения. Среди прочего сообщения могут рассылаться и от лица человека, который умер недавно и еще не был удален из этой базы на тот момент.
В каких схемах мошенников могут появиться ИИ-копии умерших людей
Сегодня есть сразу несколько направлений, в которых могут быть использованы цифровые копии умерших людей, говорит в беседе с «Известиями» Александра Шмигирилова. Прежде всего это скорбящие и скучающие по потерянному близкому человеку люди, они находятся в эмоционально нестабильном состоянии и готовы отдать многое, чтобы снова поговорить с умершим родственником, даже если этот разговор будет искусственным.
— Таким людям мошенники предлагают дипфейки; и в процессе разговора мошенники могут манипулировать и управлять людьми, которые зачастую не осознают этого, — рассказывает специалист. — Второе направление — это контакты умерших людей. Зачастую, если человек умер недавно, не все его контакты могут знать об этом, а значит, они будут общаться с цифровым двойником как с реальным человеком и не заподозрят подвоха.
Наконец, третье направление — это использование цифрового двойника как реального человека для написания отзывов, рекомендаций, контакта в соцсетях с людьми и других целей. В то же время Евгений Панков указывает на то, что главной площадкой для использования ИИ-копий являются мессенджеры.
Мошенники могут использовать голосовые и видеодипфейки умерших с различными просьбами: от «переведи деньги», «купи товар или подписку на…» до «пришли код из СМС / документы». Также они могут рассылать фишинговые ссылки и вредоносные вложения под видом «семейного альбома» или папки со сканом документов.
— Помимо этого, злоумышленники могут взламывать уже созданных ИИ-ботов, имитирующих умерших людей, для получения личной информации, распространения фишинга или подталкивания к противоправным действиям, — говорит Евгений Панков.
В частности, по словам эксперта, в последние годы в США и других странах сформировалась целая индустрия DeathTech — реалистичных ботов и цифровых аватаров, с которыми пользователи могут «продолжать общаться» после смерти. Для их создания используются тексты постов в соцсетях, переписки и голосовые сообщения умершего. Взлом таких аватаров может быть особенно опасен: у жертв нет способов проверить подлинность «собеседника».
Чем опасны схемы с ИИ-покойниками и как защититься от них
Первичная целевая аудитория мошеннических схем с цифровыми двойниками — родственники недавно умерших, находящиеся в состоянии острого горя, говорит в беседе с «Известиями» эксперт по социотехническому тестированию Angara Security Яков Филевский.
— Вторичные жертвы — друзья и знакомые из списков контактов для фишинга, — рассказывает специалист. — В целом таким атакам подвержены впечатлительные, внушаемые люди с низкой осведомленностью об информационных технологиях.
Опасность подобных схем состоит в том, что человек может не распознать угрозу и выполнить любые просьбы: перейти по фишинговой ссылке, отправить деньги, оформить подписку или сообщить одноразовый код «для доступа к семейному альбому», дополняет Евгений Панков. Часто за этим следует кража учетных данных и компрометация устройств за счет установки «просмотрщиков» и вложений с вредоносом.
Но злоумышленники могут пойти и дальше — например, подталкивать уязвимых пользователей к суициду. Кроме того, ИИ-копии невозможно перепроверить по второму каналу — ведь умершему нельзя перезвонить и уточнить информацию. Между тем для того, чтобы защититься от подобных угроз, важно понимать контекст использования цифровых двойников.
— Если речь идет о сознательном использовании ИИ-двойника, надо постараться, несмотря на эмоциональную составляющую, не дать себя увлечь в сценарий мошенников — не пытаться выполнять все просьбы своего «близкого человека», а быть рациональным, насколько это возможно, — отмечает Александра Шмигирилова.
Если же речь об обычных активностях мошенников, просто использующих контакт и дипфейк умершего человека как реального и живого, то тут поможет соблюдение обычных правил кибергигиены — осторожность, проверка любой информации, а также ограничение в предоставлении информации и финансовой помощи по просьбе человека без тщательной оценки ситуации и контроля, заключает собеседница «Известий».
