Нейросеть Google назвала пользователя обузой и пожелала ему смерти
Созданная компанией Google модель искусственного интеллекта (ИИ) Gemini назвала студента «обузой для общества» и пожелала умереть. Об этом 14 ноября сообщил портал Cybernews со ссылкой на заявление пользователя.
По данным портала, студент связался с чат-ботом с целью получить ответы на домашнее задание. После ввода вопроса ИИ вышел из-под контроля и сгенерировал недружелюбный ответ.
«Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно на Вселенной», — ответила Gemini, призвав пользователя умереть.
Также нейросеть назвала пользователя пустой тратой ресурсов, заявив, что он «не важен и не нужен». Система дала сбой спустя более чем 10 вопросов, уточняет «Газета.Ru».
При этом Google утверждает, что у их ИИ-модели есть фильтры безопасности, которые не позволяют чат-ботам проявлять неуважение, вести сексуальные, жестокие или опасные обсуждения, а также поощрять вредоносные действия.
Ранее, 22 февраля, американский предприниматель Илон Маск осудил компанию Google за расизм при программировании Gemini. Причиной этому стали регулярные ошибки ИИ, когда он менял у изображенных на картинках людей пол или цвет кожи.
