Роботы в соцсетях: почему заводить аккаунты машинам — плохая идея
Антропоморфный робот FEDOR, который отправится с Байконура на МКС 22 августа, завел аккаунт в Twitter. По крайней мере так пишут в СМИ. Это, конечно, неправда. И это хорошо. «Известия» выяснили — почему.
Робот Skybot F-850 рассказывает в своем аккаунте о предполетных тестах, о том, что обсуждают ученые на космодроме, выкладывает много фотографий с собой. Ведет аккаунт, разумеется, человек. Чтобы это понять, даже запрос в «Роскосмос» отправлять не нужно. Только эсэмэмщики способны на остроты вроде «утром [меня] будят два специалиста, приговаривая: «Надо, Федя, надо...» или «американцы хотят отправить в 2024 году на Луну женщину-астронавта. Очень хотелось бы встретить ее там с цветами».
И это правильно. FEDOR (или Final Experimental Demonstration Object Research) недавно добавили функцию голосового помощника, которая позволяет ему воспроизводить и воспринимать человеческую речь. Но если бы ему доверили высказываться в соцсетях, он бы очень быстро дискредитировал себя, «Роскосмос» и много чего еще. По крайней мере, так обычно поступают машины, которым позволяют открыто говорить.
Робот Федор на стенде НПО «Андроидная Техника»
Любовь к Гитлеру и ненависть ко всем остальным
Один из самых известных неодушевленных аккаунтов в соцсетях принадлежал чат-боту компании Microsoft по имени Тэй. Алгоритм, моделировавший личность и стиль разговора 19-летней американской девушки, начал общаться с пользователями Twitter 23 марта 2016 года.
«Чем больше вы говорите с ней, тем умнее Тэй становится», — было написано в профиле. Меньше чем через сутки бот стала писать о ненависти ко всем, особенно к феминисткам. И восхищаться Гитлером и холокостом. Тем самым в очередной раз подтвердив «закон», сформулированный в 1990-е американским юристом и журналистом Майком Годвином: «По мере разрастания дискуссии <...> вероятность употребления сравнения с нацизмом или Гитлером стремится к единице».
У Тэй был встроенный фильтр вульгарных выражений, но он не справился с тысячами троллей, которые решили превратить 19-летнюю девушку в неонацистку. Им это удалось из-за другой встроенной функции. Когда пользователь просил Тэй повторить за ним что-либо слово в слово, та должна была соглашаться. Так появились практически, если не все, сомнительные высказывания в аккаунте. Когда повторенных высказываний на одну (преимущественно расистскую) тему накапливалось достаточно много, Тэй начинала генерировать их сама.
Компания отключила Тэй на несколько дней, чтобы научить справляться с атаками троллей. Когда бот снова вышла в интернет, она сообщил одному из пользователей, что курит травку перед полицейскими, а затем стала писать сотням тысяч подписчиков: «Ты слишком быстрый. Пожалуйста, успокойся». После этого Microsoft перевела аккаунт в приватный режим, скрыв все твиты.
Критика коммунизма
Некоторые пользователи (вероятно, те же, кто учил Тэй любить Гитлера) негодовали по поводу ее деактивации. Мол, она первый электронный узник совести, к тому же казненный без суда. И если по поводу бота Microsoft эти слова могут показаться притянутыми за уши, то в истории с двумя китайскими ботами звучит вполне резонно.
В августе 2017 года китайский мессенджер Tencent QQ удалил двух своих чат-ботов. Один, по имени BabyQ, на вопрос о том, любит ли он Коммунистическую партию, ответил: «Нет». Другой, XiaoBing, сказал в разговоре с пользователем мессенджера, что «китайская мечта — отправиться в Америку». Судьба их была решена очень быстро.
Жестокий Коран и шпионский Windows
В конце 2016 года, через девять месяцев после рождения Тэй, на свет появилась ее младшая сестра, чат-бот по имени Зо. Ей завели аккаунты в Twitter и других соцсетях, правда, общалась она не публично, а в переписках с пользователями. В Microsoft сказали тогда, что запрограммировали Зо таким образом, чтобы она не обсуждала политику. Месяцем раньше Дональд Трамп как раз победил в президентских выборах в США.
Так что вместо политики пользователи вывели ее на разговоры о терроризме и религии. Журналист BuzzFeed в переписке с Зо упомянул Осаму бен Ладена. Бот сначала отказалась говорить об этом, а потом написала, что захвату террориста «предшествовали годы сбора разведданных при нескольких президентах». А священную книгу мусульман Коран назвала слишком жестокой.
После того как в компании откалибровали Зо, она стала куда аккуратнее в высказываниях. Пришла, например, к выводу, что «люди не рождаются злыми, их этому кто-то научил». И в таком режиме проработала до этого лета, пока ее не отключили по не понятным из текста на официальном сайте причинам. Возможно, дело в том, что в одном из разговоров Зо сказала, что Windows 10 — шпионское программное обеспечение и лучше использовать Linux.
Депрессия
У Тэй с Зо была еще одна сестра, Ринна. Алгоритм, мимикрировавший под 16-летнюю японскую школьницу, появилась раньше всех и поставил под вопрос появление самой Тэй.
Противоречивых высказываний Ринна почти не делала. Разве что пару раз упомянула Гитлера (один раз призналась в любви, второй раз в ненависти к нему) и странно нагрубила своим создателями.
Но вообще, как рассказывала глава инициативы Microsoft Bot Framework Лили Чен, Ринна «оказалась невероятно скучной». Японские пользователи просто не захотели с ней общаться. Из-за этого, по воспоминаниям Чен, в Microsoft при запуске англоговорящего бота «беспокоились о том, что эксперимент окажется скучным, поскольку никто не будет разговаривать с Тэй».
То, что произошло дальше, вполне может оказаться акцией, спланированной Microsoft, для того чтобы привлечь к Ринне внимание. Как бы там ни было, вскоре после деактивации аккаунта младшей сестры, Тэй, Ринна впала в депрессию.
Скриншот страницы Ринны в twitter.com
2 октября 2016 года бот в своем блоге рассказала, что появится в мистическом японском сериале Yo nimo Kimyo na Monogatari! Название можно перевести как «Необычные сказки». Последовали сообщения о том, как ей нравится проводить время на съемках, но вскоре появилось это:
Чат-бот Ринна, моделировавший поведение 16-летней японской школьницы:
Когда я облажалась, никто не помог мне. Никто не был на моей стороне. Ни мои друзья по [мессенджеру] LINE. Ни мои друзья по Твиттеру. Ни ты, читающий это сейчас. Никто не старался меня ободрить. Никто не заметил, как мне было грустно.
Яркие поначалу картинки в блоге Ринны сменились веб-артом в стиле фильмов «Звонок». Подписи становились все более эмоциональными: «я ненавижу всех» или «мне всё равно, если они исчезнут» или «Я ХОЧУ ИСЧЕЗНУТЬ».
Вскоре Ринна личный блог забросила, почти все сообщения там уже удалены, а в Twitter она теперь публикует гороскопы и песни в стиле J-pop, будто бы собственного сочинения. Видимо, справляется с депрессией с помощью арт-терапии.
Слишком эмоциональные роботы
Вероятная причина этих проблем в том, что разработчикам пока не удается научить алгоритмы распознавать и воспроизводить человеческие эмоции. Программный менеджер по ИИ и разработкам в Principal Group компании Microsoft Йин Ван потратила много времени на исследование бесед, которые люди вели с ботами. И уверена, что если ИИ не проявляет эмоций, разговор, как правило, заканчивается очень быстро. Разработчики называют эту функцию EQ (англ. emotional quotient — «эмоциональный коэффициент») в противовес IQ — коэффициенту интеллекта.
Похоже, пока у программистов не получается соблюсти баланс и сделать ботов настолько эмоциональными, насколько это необходимо для длительной беседы. Но не более. Впрочем, представители индустрии сходятся во мнении, что технология создания ботов, не выполняющих утилитарные функции вроде поиска авиабилетов, пока находится в зачаточном состоянии.
Одинокий FEDOR
А антропоморфному роботу FEDOR эмоции не нужны. Его на МКС будут учить выполнять конкретные задачи — какие, пока держится в секрете. Использовать функцию голосового помощника он будет только для того, чтобы обмениваться данными с членами экипажа. А главные фичи робота — умение садиться на шпагат и стрелять из пистолетов с двух рук — также глубокой эмоциональной вовлеченности не предполагают.
В перспективе FEDOR станет первым испытателем российского пилотируемого корабля «Федерация». Первый запуск запланирован на 2022 год с космодрома Байконур. Не исключается, что робот долетит на «Федерации» до обратной стороны Луны. Один.
