Все как один: к чему приводят ошибки систем распознавания лиц
Системы распознавания лиц на нынешнем этапе развития могут допускать ошибки, приводящие к ложным обвинениям невиновных людей, об этом предупредили эксперты. В России из-за подобных ошибок молодых людей, освобожденных от службы в армии, принимали за уклонистов, а для жителя США несовершенство технологий и вовсе обернулось арестом и сексуальным насилием за решеткой. Подробности о том, к чему приводят ошибки систем распознавания лиц и можно ли защититься от подобных инцидентов, читайте в материале «Известий».
Без вины виноватый
В середине января 61-летний житель США Гарви Юджин Мерфи – младший подал иск на $10 млн против крупного американского ритейлера Macy's и компании Essilor Luxottica, которая владеет сетью магазинов солнцезащитных очков Sunglass Hut. Основанием для иска стала ошибка системы распознавания лиц, которая спутала Мерфи-младшего с подозреваемым в вооруженном ограблении киоска Sunglass Hut, установленного в магазине Macy's.
Вооруженный налет был совершен в 2022 году: тогда добычей подозреваемого и его подельника стали солнцезащитные очки и несколько тысяч долларов. Полиция Хьюстона, которая расследовала это преступление, использовала программное обеспечение (ПО) для распознавания лиц, которое спутало подозреваемого с Мерфи-младшим на его старых фотографиях. При этом один из сотрудников Macy's также ошибся, опознав Гарви на снимках потенциальных преступников, которые представила полиция.
В итоге Мерфи-младшего арестовали в тот момент, когда он обновлял водительские права в департаменте транспорта, и отправили в переполненную тюрьму строгого режима с особо опасными преступниками. Там мужчину избили и изнасиловали, хотя он провел за решеткой всего несколько часов. Позже арестант рассказал своему адвокату, что в момент налета он находился в Калифорнии — это быстро подтвердилось, после чего с Мерфи-младшего сняли все обвинения и он был отпущен на свободу.
Системная проблема
Между тем ошибки систем распознавания лиц — к счастью, с менее тяжкими последствиями — случаются и в России. Так, в сентябре 2022 года московского призывника дважды вызвали в военкомат, поскольку система распознавания лиц приняла его за уклониста от частичной мобилизации. Как рассказал сам москвич, в первый раз его отпустили после того, как он предъявил справку о проблемах со зрением, освобождавшую его от призыва. Впрочем, вскоре полицейские задержали его снова, и история повторилась.
Месяц спустя в похожей ситуации оказался московский студент с отсрочкой от армии, которого камеры, подключенные к системе распознавания лиц, сочли подлежащим мобилизации. 9 октября 2022 года его задержали полицейские и доставили в военкомат — там молодой человек напомнил, что ранее уже приносил справку об отсрочке из вуза. Два дня спустя ситуация повторилась — студента задержали сотрудники уже другого отдела полиции.
Он рассказал им свою историю — и тогда полицейские стали звонить в военкомат. Там пояснили, что после первого задержания молодого человека почему-то не удалили из системы и камеры продолжили определять его как уклониста. После выяснения всех обстоятельств задержанного отпустили домой.
Как говорит в беседе с «Известиями» эксперт по сетевым угрозам компании «Код безопасности» Константин Шуленин, сегодня технологии распознавания лиц, несмотря на ошибки, активно применяются как в России, так и в других странах мира, поскольку они очень удобны для правоохранительных органов.
— Благодаря инструментам сканирования лиц и определения личности появляется возможность быстро идентифицировать подозреваемых, в некотором смысле автоматизировать процессы розыска преступников, а также контролировать доступ на охраняемые территории, — поясняет эксперт.
Факторы распознавания
По словам основателя и СЕО Mirey Robotics, специалиста по искусственному интеллекту (ИИ) Андрея Наташкина, технология распознавания лиц относится к компьютерному зрению — области ИИ, связанной со считыванием и анализом как фото, так и видео контента.
— Саму технологию распознавания лиц специалисты называют достаточно эффективной — процент распознавания варьируется от 96 до 98%, — говорит эксперт. — Однако она не дает 100-процентный результат, признавая факт погрешности в несколько процентов. Кроме того, нельзя исключать ошибки этой технологии и сбои системы, при которых также возможны ошибки.
Как поясняет главный специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников, точность работы систем распознавания лиц во многом зависит от уровня освещенности, угла проведения съемки и наличия головных уборов на людях, попавших в кадр. Впрочем, даже при оптимальных условиях распознавания ошибки всё равно могут быть.
Андрей Наташкин напоминает об эксперименте, который провел Американский союз защиты гражданских свобод: в ходе него системе распознавания лиц были предложены фотографии 535 известных политиков из США и был поставлен вопрос, кто из них относится к категории опасных преступников. И хотя никто из этих политиков никогда не совершал преступлений, 28 из них система всё равно признала особо опасными нарушителями закона.
При этом Константин Шуленин выделяет еще один риск, связанный с активным внедрением систем распознавания лиц, — это риск компрометации данных киберпреступниками. Если украденный пароль можно изменить, а сертификат электронной подписи отозвать или перевыпустить, то данные биометрии изменению не подлежат, поскольку у каждого человека она уникальна. Если киберпреступник сможет заполучить данные биометрии, жертва станет весьма уязвима перед ним.
— Компрометация данных или ошибки распознавания дадут мошенникам возможность заполучить доступ к личным финансам и конфиденциальным сведениям жертв, а также могут привести к более серьезным последствиям, вплоть до лишения свободы, — резюмирует специалист.
Цифровые перспективы
Несмотря на риски ошибок, специалисты считают, что у систем распознавания лиц есть весьма обширные перспективы как в России, так и в других странах мира. По словам Константина Шуленина, на первых ролях в этом плане выступает сфера безопасности, где системы распознавания лиц могут помочь в быстром выявлении преступников и подозреваемых, предотвращении угроз населению и улучшении общественного порядка.
— Однако перспективы подобных технологий не ограничиваются лишь безопасностью, — комментирует собеседник «Известий». — Например, при помощи биометрии уже автоматизирован процесс оплаты проезда в Московском метрополитене: пассажирам не нужно взаимодействовать с валидаторами, поскольку после успешной идентификации личности оплата проезда списывается автоматически.
Однако нейросети могут не только идентифицировать человека по анализу биометрии, но также считывать его эмоции и физическое состояние. Благодаря этому различные автопроизводители сегодня встраивают в свои модели датчик усталости водителя, который помогает определить уровень его внимания и уведомляет специальным сигналом, если концентрация снизилась и человеку, находящемуся за рулем, необходимо отдохнуть.
При этом, как отмечает Константин Шуленин, для того чтобы минимизировать возможность утечки биометрических данных в системах распознавания лиц, пользователям необходимо выбирать такой способ идентификации исключительно в проверенных сервисах — к примеру, на государственных порталах или в официальных приложениях от популярных вендоров.
— При возникновении спорных ситуаций следует немедленно отключить верификацию по биометрии и обратиться в службу поддержки приложения или правоохранительные органы, — говорит специалист.
