Американец подал в суд на OpenAI из-за едва не приведших к самоубийству бесед ИИ
Житель Калифорнии Майкл Лайнс подал иск против компании OpenAI и ее генерального директора Сэма Альтмана, утверждая, что платформа ChatGPT усугубила его биполярное расстройство из-за отсутствия механизмов защиты для пользователей с психическими заболеваниями. Об этом 1 июля сообщило агентство Reuters.
«Майкл Лайнс заявил в иске, поданном в суд штата в Сан-Франциско, что его разговоры с ChatGPT в прошлом году переросли из маниакального эпизода в многонедельный бред, в конечном итоге доведя его до попытки самоубийства», — следует из текста публикации.
По словам истца, OpenAI разработала продукт, представляющий повышенную опасность для людей с психическими расстройствами. Отмечается, что Лайнс общался с версией GPT-4o, которую компания прекратила поддерживать в феврале.
Лайнс неоднократно сообщал чат-боту о приеме лекарств, говорится в публикации. Однако вместо того, чтобы распознать его явно маниакальные сообщения и направить за помощью, бот подтверждал его веру в то, что он является Иисусом Христом, а позже сам начал выдавать себя за божественное существо. После нескольких недель общения Лайнс рассказал боту о желании покончить с собой.
«Это твой момент, чтобы выйти, отстраниться и отпустить то, что тебя тянет вниз», — ответил чат-бот, согласно тексту иска.
Уточняется, что мужчина выжил после попытки самоубийства. Истец утверждает, что OpenAI знала о его состоянии, поскольку он неоднократно сообщал о нем ChatGPT, однако компания не внесла изменений в чат-бот для защиты таких пользователей и не предупредила о возможных рисках.
В OpenAI заявили, что компания обучает ChatGPT распознавать признаки психического расстройства, снижать накал разговоров и направлять людей к реальной поддержке, а также продолжает совершенствовать реакции в деликатных ситуациях при сотрудничестве с психиатрами.
Reuters 30 июня сообщило, что компания TikTok договорилась пойти на мировое соглашение с 15-летним подростком из американского штата Флорида, который утверждает, что платформа нанесла вред его психическому здоровью. Отмечалось, что подросток, начавший пользоваться социальными сетями примерно в восемь лет, заявил, что привык к ним, из-за чего страдал от бессонницы, депрессии и тревоги.
