Мошенники в своих схемах начали подделывать с помощью нейросетей голоса знакомого человеку собеседника. Об этом 2 мая рассказал преподаватель кафедры инструментального и прикладного программного обеспечения РТУ МИРЭА Андрей Рыбников в беседе с RT.
«Модель не копирует запись, а синтезирует ее заново, подбирая звуки по статистическим закономерностям. Она достаточно точно передает тембр и интонацию, но не воспроизводит все нюансы живой речи. Из-за этого появляются небольшие сбои: неестественные паузы, смещенные ударения и колебания интонации», — сказал он.
Рыбников добавил, что распознать такую подделку может быть сложно, особенно если сообщение передается по средствам голосового сообщения без визуального ряда. По его словам, заметить это можно, если обращать внимание на акустические детали: неестественные паузы в речи, монотонное дыхание или полное его отсутствие и нетипичные формулировки.
В пресс-службе Роскачества 24 апреля рассказали, что дипфейки, сгенерированные искусственным интеллектом (ИИ) уже практически невозможно отличить от реальных людей, а старые методы их выявления больше не работают. Одна из главных трудностей в распознавании ИИ — создание персонажей с помощью нескольких сервисов. Разработчики генерируют лицо, мимику, движения, голос и интонацию в разных нейросетях, а в качестве основы для внешности берут несколько фотографий похожих друг на друга людей, черты которых «скрещиваются».
ИИ-режиссер и предприниматель Алексей Рыков 5 апреля рассказал, что генеративные нейросети способны воспроизводить не только внешность человека, но и его мимику, жесты и поведенческие особенности, что превращает дипфейки в инструмент манипуляций. По его словам, при создании реалистичных изображений и видео нейросети опираются на реальные данные — фото и видеоматериалы, из которых извлекаются поведенческие паттерны.