Компания Apple пока отказалась от планов использования своей нейросети для поиска фотографий с детской порнографией. Но это не означает, что в будущем такие технологии не будут широко применяться.
Только факт, что Apple призналась в существовании подобной технологии, может изменить вектор развития смартфонов и прочих универсальных устройств. Несомненно, борьба с детской порнографией — это важное дело. Но хочется надеяться, что проблема не настолько массовая, чтобы де-факто подозревать в распространении детского порно всех пользователей устройств Apple. По данным на январь 2021 года, таких людей уже больше 1,65 млрд. Неужели для победы над нежелательным контентом не хватает только глобальной системы сканирования?
На самом деле от того, насколько тщательно будут проверяться фотографии на смартфонах, детское порно, к сожалению, не исчезнет. А вот правоохранительным органам станет сложнее выявлять источники распространения такого контента, находить авторов и потребителей откровенных видео и фото. В какой-то мере современные устройства и социальные сети упростили выявление преступлений с распространением нежелательного контента.
Но если авторы и распространители будут бояться постоянной слежки, то их модель поведения изменится. На смену универсальным смартфонам придут фотоаппараты и кнопочные телефоны. Кроме этого, остается нерешенным законодательный аспект применения этой технологии. Будут ли учитываться доказательства, добытые искусственным интеллектом, в суде или будет требоваться подтверждение со стороны экспертов? И как может быть организовано международное взаимодействие на основе полученной информации? Странно, что крупная компания анонсирует новую «полезную» технологию, не вдаваясь в детали ее применения, в том числе и за пределами США.
Возможно, благодаря Apple удастся найти несколько десятков или даже сотен преступников. Но прецедент с созданием нейросети для сканирования пользовательских данных может открыть дверь для более широкого применения этой технологии.
Искусственный интеллект можно обучить находить не только детские фото, но и любое другое изображение или информацию. И решение, на что нацелить ИИ, будет принимать коммерческая компания. Возможно, даже не советуясь с законодателями или своими потребителями. Конечно, чтобы сгладить репутационные риски, новую технологию лучше сфокусировать на важном для общества явлении. Но пройдет несколько лет, и у ИИ может появиться новая цель, которая уже не будет настолько значимой и благородной. Вопрос в том, кто будет определять цели и степень цифровой свободы пользователей смартфонов и планшетов. Не исключаю, что под благовидным предлогом может заработать система слежения, которая будет действовать в интересах компании или группы лиц. Пока ничто не мешает Apple запустить такую систему, разве что кроме критики в прессе и волнения клиентов.
Сейчас в рекламе своих новых продуктов Apple делает особый упор на защиту пользовательских данных. Посмотрите на анонс iPhone 12, в нем сделали особый акцент на обеспечение конфиденциальности в Сети, защите от слежки в электронной почте и при регистрации на сайтах и сервисных площадках. Создается образ безопасных устройств, которые отлично подходят для бизнеса или частного использования. На этом фоне инициатива сканирования медиафайлов выглядит несколько противоречиво. Получается, что пользовательские данные защищены, но только не от компании-производителя, которая может включиться в процесс борьбы с порнографией, а завтра бороться с распространением любой другой информации, как это уже делалось популярными социальными сетями.
Кроме того, это плохой пример для всех производителей пользовательской электроники. Что будет, если производители видеокамер захотят сканировать записи или автоконцерны будут искать аномалии в маршрутах владельцев автомобилей? Эти действия тоже можно обосновать борьбой с каким-то негативным явлением и внедрять повсеместно.
Пока из-за критики в прессе и недовольства клиентов Apple не решится публично внедрять технологию сканирования. Уже очевидно, что это может плохо повлиять на продажи устройств и на репутацию компании. Но это не значит, что система сканирования не сможет заработать в будущем, когда страсти улягутся. Также нейросеть может использоваться без публичной огласки, по договоренности с правоохранительными органами. Можно ожидать, что другие технологические компании попробуют внедрить аналогичные решения в ближайшем будущем.
Очевидно, что интересы крупных игроков уже не ограничиваются расширением возможностей пользователей. И будущее современных смартфонов, ноутбуков и планшетов выглядит довольно туманным. Нельзя исключить, что технический прогресс в области носимой электроники пойдет в обратную сторону. Повысится спрос на устройства, которые смогут гарантировать конфиденциальность и защиту данных даже от их производителя.
Автор — исполнительный директор компании-разработчика Artezio
Позиция редакции может не совпадать с мнением автора
