Siri-гейт: как голосовые помощники стали врагами пользователей
Ваши разговоры с голосовыми помощниками прослушивают. Это люди. Давно и с вашего разрешения. Как развивался и к чему может привести главный IT-скандал года, разбирались «Известия».
Подрядчики Apple и Google заговорили первыми
В начале августа Apple и Google объявили, что их подрядчики перестанут прослушивать разговоры пользователей с голосовыми ассистентами Siri и Google Assistant.
Этому предшествовали анонимные интервью бывших и нынешних подрядчиков компаний. Они рассказали, что живые люди слушают записи разговоров пользователей с устройствами, чтобы улучшать качество их работы.
Подрядчик Google 12 июля слил бельгийскому изданию тысячу таких записей. По ним журналисты смогли идентифицировать несколько человек. Подрядчик Apple 26 июля признался британскому The Guardian, что он и коллеги часто слышат на записях, как люди занимаются сексом, покупают наркотики или описывают свое самочувствие. В том числе это происходит, когда люди случайно зажимают кнопку вызова голосового ассистента.
То, что разговоры пользователей, по крайней мере письменные, анализируются, известно давно. Но считалось, что это делает самообучающийся искусственный интеллект. В заявлении Google, последовавшем после анонимных интервью, говорилось, что живые люди слушают лишь незначительный процент записей. И единственная причина этого — желание повысить качество работы сервиса и помочь программе лучше понять потребности людей.
В начале августа Apple и Google объявили, что их подрядчики перестанут прослушивать разговоры пользователей с голосовыми ассистентами Siri и Google Assistant
Конечно, корпорация подстраховалась и изначально дала пользователям возможность отключить сохранение записей. И, конечно, тумблер для отключения спрятан глубоко в настройках.
Кстати, на этом основании компания Amazon открыто не стала прекращать прослушивание записей общения пользователей с голосовым помощником Alexa. «Возможность запретить использование записей для улучшения работы сервиса предоставлена», — сказали в компании. И добавили, что количество прослушиваемых людьми разговоров составляет «долю процента».
Apple, как ни странно, эту функцию не предусмотрела. И пообещала в ближайшее время выпустить новое программное обеспечение для Siri. После его установки у пользователей появится возможность не участвовать в программе по сбору данных для улучшения работы ассистента.
Ни Google, ни Apple не уточнили, сколько времени их подрядчики вообще не будут слушать людей. Хоть какая-то конкретика есть только в Германии. Власти страны потребовали, чтобы запрет длился минимум три месяца.
Потом журналисты достали подрядчика Microsoft
Человек, связанный с Microsoft, заговорил 7 августа. Тогда Apple и Google уже несколько дней как официально отказались от использования сотрудников для прослушивания пользователей.
Выяснилось, что Microsoft лучше узнает своих пользователей не только благодаря голосовому помощнику Cortana, но и функции встроенного переводчика в Skype. Она мгновенно выводит на экран перевод речи пользователя на один из 50 языков — выглядит это как субтитры.
Подрядчик объяснил, что программа-переводчик учится по мере того, как ею пользуются люди. А другие люди слушают отрывки и сравнивают их с машинным переводом, чтобы контролировать и улучшать качество. Среди разговоров с Cortana, которые слышал подрядчик, были и «секс по телефону», и поиски порнографии, и записи, на которых пользователи называли полный адрес места жительства.
Выяснилось, что Microsoft лучше узнаёт своих пользователей не только благодаря голосовому помощнику Cortana, но и функции встроенного переводчика в Skype
В официальном комментарии представитель Microsoft сказал, что компания всегда запрашивает разрешение пользователей на сбор данных.
«Известия» обратились в «Яндекс», чтобы узнать, слушают ли сотрудники компании беседы пользователей с ассистентом по имени Алиса. Из ответа пресс-службы компании выходит, что слушают.
«Для распознавания речи, обращенной к Алисе, мы используем машинное обучение. Ручная разметка обращений бывает необходима только для повышения качества работы голосового помощника. Так делают многие разработчики голосовых систем — и российские, и зарубежные. Кроме этого, мы также видоизменяем образцы голоса в качестве дополнительной меры предосторожности, поэтому возможности идентифицировать автора той или иной фразы не существует», — отметили в пресс-службе «Яндекса».
До подрядчиков Samsung, которые работают с ассистентом Bixby, журналисты пока не добрались.
Первый иск
В тот день, когда выяснилось, что Microsoft тоже в деле, на Apple подали в суд. В групповом иске американских пользователей говорится о нарушении права на неприкосновенность личной жизни в связи с возможностью прослушивания команд, которые владельцы дают голосовому помощнику Siri.
Кроме компенсации, размер которой не указывается, пользователи требуют стереть голосовые записи, которые хранит компания, и призывают других пострадавших присоединяться к иску.
Кроме компенсации пользователи требуют стереть голосовые записи, которые хранит Apple, и призывают других пострадавших присоединяться к иску
Apple не привыкать к судам, но подобных исков пока ни к одной компании не предъявляли. А с учетом того что другие IT-гиганты тоже оказались втянуты, можно предположить, что скоро таких исков будет много.
Старая добрая конспирология
Этот скандал может иметь гораздо более серьезные последствия, чем выплаты компенсаций недовольным или ухудшение работы голосовых ассистентов, которым больше не будут помогать подрядчики.
У каждого владельца смартфона есть история о том, как он или она обсудили с кем-то покупку чего-либо и тут же в соцсетях или браузере увидели контекстную рекламу, предлагающую этот товар.
Не один десяток журналистов пытались доказать, что за нами следят гаджеты. Каких только экспертов ни опрашивали, их комментарии сводились к тому, что мы сами не замечаем, как гуглим что-то, потому и получаем контекстную рекламу по теме. Ну а еще компьютерный анализ пользователей научился по тому, что нам нравится, угадывать, что еще нам понравится.
Анастасия Манзюк, программист-разработчик в команде рекламы и бизнес-продуктов «ВКонтакте»:
Даже если вы абсолютно уверены, что не совершали никаких действий, которые выдавали бы ваш интерес к какой-то из тематик, ваши интересы всё равно могут вычисляться на основе данных о похожих пользователях и ваших друзьях.
В крайнем случае специалисты по безопасности готовы были признать, что разговоры пользователей слушают пиратские программы. «Достаточно установить приложение с рекламным модулем, и оно сможет сливать данные сторонним лицам, — говорил антивирусный эксперт «Лаборатории Касперского» Виктор Чебышев. — Кроме того, существуют шпионские программы, которые включают микрофон, когда смартфон оказывается в нужной локации, — в начале [2018] года такую функцию мы обнаружили у троянца Skygofree».
Профессор математики Дэвид Хэнд из Имперского колледжа Лондона и вовсе считает, что подобные истории — совпадения, которым мы придаем слишком большое значение. Но дело не в нас, а в эволюции, которая научила нас искать всему объяснения.
Дэвид Хэнд, профессор математики Имперского колледжа Лондона:
Если вы видите какой-либо знак, свидетельствующий о возможном присутствии хищника, вы убегаете и выживаете <...>. Люди обычно особо отмечают события, которыми занято их внимание: интересная беседа или серьезное решение, такое как покупка машины или выбор курорта. Поэтому неожиданно получаемые ими сообщения на эту тему выделяются на фоне всего остального, хотя возможно, что они присутствуют среди потока сообщений постоянно.
Четыре года назад Google созналась, что искусственный интеллект (не человек) читает переписку в почтовом клиенте Gmail и на основе этого может предлагать контекстную рекламу. С тех пор это первое признание производителей смартфонов, что они за нами следят.
Хочется верить, что общество на этом не остановится. И заставит корпорации добра признать, что они знают о пользователях гораздо больше, чем те хотели бы о себе рассказать. Если это произойдет, речь будет идти уже не о коллективных исках недовольных пользователей, а о расследованиях на уровнях государств, которые на самом деле смогут пошатнуть техногигантов.
