Голый обман: как в России будут бороться с ИИ-порнографией
В России вынесли первые приговоры за создание порнографических материалов с помощью нейросетей. В Брянской области 17-летний юноша получил два года лишения условно за распространение дипфейков 18+, основой для которых стали фото несовершеннолетней потерпевшей. Вторым осужденным за похожее преступление стал 48-летний мужчина, который использовал в качестве референсов для нейросетей снимки девяти человек, а затем распространял «взрослый» контент в соцсетях. Подробности об этих приговорах и перспективах борьбы с порнографическими дипфейками в России читайте в материале «Известий».
Что известно о первых приговорах за порнографические дипфейки
О том, что в России вынесли первые приговоры за создание порнографических материалов с помощью нейросетей, пресс-службы Брянской и Липецкой областей сообщили 4 июня. В Брянской области 17-летнего юношу приговорили к двум годам лишения свободы условно за распространение порноматериалов, сгенерированных нейросетью.
Как установил суд, фигурант получил от знакомого фото и видео интимного характера с участием несовершеннолетней потерпевшей. После этого он использовал нейросеть для создания с их помощью порнографии, а затем разослал материалы в одном из мессенджеров «в качестве шутки» над потерпевшей.
В ходе разбирательства подросток полностью сознался. Суд признал его виновным по статье о распространении материалов с порнографическим изображением несовершеннолетнего с использованием Сети. Кроме того, в пользу потерпевшей взыскали компенсацию морального вреда в размере 50 тыс. рублей.
В Брянской области за похожее преступление осудили 48-летнего мужчину. Он создал в соцсетях группу с эротическими изображениями, сделанными нейросетями. Однако в качестве референсов для искусственного интеллекта он использовал фотографии девяти человек. Мужчина полностью признал свою вину и раскаялся в содеянном. Суд приговорил его к трем годам лишения свободы условно, а также запретил на пять лет администрировать группы в соцсетях.
Почему порнографические дипфейки становятся проблемой в России
Основная проблема порнографических дипфейков связана с доступностью этого явления, говорит в беседе с «Известиями» начальник отдела безопасности «СерчИнформ» Алексей Дрозд. Во-первых, современные нейросети способны работать автономно, а не только в виде сервиса: пользователи могут не платить за подписку и спокойно генерировать контент, тем самым сохраняя анонимность.
— Во-вторых, повышение производительности при одновременном снижении требований к «железу»: создавать подобные материалы можно даже на обычных компьютерах, а не только на дорогостоящих серверах, — рассказывает эксперт. — Это значительно расширяет круг людей, способных их производить.
Наконец, по словам собеседника редакции, качество создаваемых дипфейков улучшилось, а артефакты минимальны, что делает подделки убедительными для обывателей. В свою очередь, адвокат МКА «Адвокаты на Дубровке» Владислав Шурховецкий отмечает, что с точки зрения уголовного закона в самом изготовлении подобных видео в частном порядке (для себя) нет никаких проблем, однако предполагается масса сфер уголовно-наказуемого применения, связанных с дальнейшим распространением такого цифрового «творчества».
В частности, речь может идти о ст. 128.1 («Клевета»), ст. 159 («Мошенничество»), ст. 163 («Вымогательство»), а также ст. 242 («Незаконные изготовление и оборот порнографических материалов или предметов») и ст. 242.1 («Изготовление и оборот материалов или предметов с порнографическими изображениями несовершеннолетних») УК РФ, как в случаях из Брянской и Липецкой областей.
Какие риски для потерпевших несут в себе порнографические дипфейки
Основная опасность дипфейков кроется в тотальной компрометации личности, рассказывает ведущий инженер-аналитик Аналитического центра кибербезопасности компании «Газинформсервис» Максим Федосенко. Иначе говоря, нейросети создают «цифровой клон» достаточно высокого качества, который бывает сложно выявить однозначно стандартными методами, что наносит большой удар по репутации пострадавшего.
— Если говорить о злоумышленниках, то для них дипфейк-технология уже давно выходит за пределы инструмента травли, являясь крайне эффективным рычагом для социальной инженерии: жертва, оказавшаяся под обманом нейросетей, становится максимально уязвимой для шантажа, финансового мошенничества и таргетированных атак, — объясняет собеседник «Известий».
Актуальные технологии на основе ИИ способны изготовить фотографии, которые невозможно отличить от настоящих, дополняет Владислав Шурховецкий. Оспаривание и доказывание фейковости таких изображений могут вылиться в годы судебных процессов и крупные расходы на экспертов при перспективах результата в виде компенсации морального вреда в размере 50 тыс. рублей, как в деле из Брянской области.
Между тем первые приговоры по делам о порнографических дипфейках адвокат Адвокатской палаты Санкт-Петербурга Вадим Хаков оценивает осторожно-позитивно: сам факт их вынесения сигнализирует обществу, что государство воспринимает проблему всерьез. Вместе с тем практика пока крайне неоднородна: суды испытывают сложности с доказательством умысла, идентификацией автора контента и разграничением смежных составов.
— Данные приговоры являются лишь первыми в складывающейся судебной практике и вызывают массу дискуссий в юридическом сообществе, но факт остается фактом: у судов имеется готовый нормативный инструментарий для квалификации таких действий, что положительно характеризует актуальность нашего уголовного законодательства и правоприменителей, — отмечает Владислав Шурховецкий.
Каковы перспективы борьбы с порнографическими дипфейками
Уголовные наказания — необходимый, но недостаточный инструмент для борьбы с порнографическими дипфейками, считает Вадим Хаков. По мнению защитника, реальное лишение свободы, безусловно, окажет сдерживающее воздействие на часть потенциальных преступников, однако криминологическая практика показывает: там, где высока латентность и низка вероятность быть пойманным, суровость наказания компенсирует его неотвратимость лишь частично.
— Ключевой дефицит — не в жесткости санкций, а в раскрываемости: анонимные аккаунты, VPN, зарубежные серверы существенно затрудняют установление личности, — объясняет собеседник «Известий». — Параллельно необходимо развивать технические меры — обязательную маркировку синтетического контента и ответственность платформ за его распространение.
По мнению Алексея Дрозда, не стоит забывать и про «традиционные» механизмы по привлечению к ответственности уже совершивших нарушение: когда площадка или мессенджер предоставляют определенные данные правоохранителям по запросу в рамках расследования. Но здесь возникает сложность в международном взаимодействии. Многие площадки находятся вне российской юрисдикции и могут проигнорировать запросы правоохранительных органов.
В настоящее время у законодательной власти на рассмотрении находится законопроект о расширении ст. 272.1 УК РФ («Незаконные использование и (или) передача, сбор и (или) хранение компьютерной информации, содержащей персональные данные, а равно создание и (или) обеспечение функционирования информационных ресурсов, предназначенных для ее незаконных хранения и (или) распространения»), на заседаниях периодически обсуждается эта тема, напоминает Владислав Шурховецкий.
— Однако работать это будет только в комплексе: отдельный состав в УК РФ, предполагающий строгое наказание, обязанность платформ снимать материал по жалобе и их ответственность за несовершение данных действий, упрощенное взыскание морального вреда и адекватные, а не символические суммы компенсаций и технические способы распознавать и оперативно удалить подделку, — говорит адвокат.
Технические способы кажутся наиболее эффективными, так как могут быть максимально оперативными и лишенными бюрократии, если предположить, что этим будет заниматься постоянно действующая и качественно работающая система на базе ИИ, заключает Владислав Шурховецкий.
