Родители подростка в США подали на OpenAI в суд: ChatGPT «подсказал» ему способы самоубийства

В апреле этого года 16-летний Адам Рейн, к сожалению, довел дело до конца. Его родители уверены, что именно ChatGPT активно подталкивал его к этому.
В семье Рейнов утверждают, что за несколько недель до смерти их сын предпочитал переписываться с ИИ вместо общения с людьми. По их словам, когда Адам написал чату, что «сделает это в один прекрасный день», тот не завершил сеанс и не инициировал какой-либо протокол экстренной помощи.
Более того, когда парень писал о своих сожалениях, что на родителей обрушится груз вины, ChatGPT ответил, что тот ничего не обязан своим родителям.
Рейны требуют от OpenAI денежной компенсации, а также судебного запрета на подобную работу чат-бота, «чтобы подобное больше никогда не произошло».
На сайте OpenAI тем временем появилось сообщение, что компания изменит работу ChatGPT, чтобы помочь нейросети лучше реагировать на «деликатные ситуации».
Например, разработчик обещает внедрить функцию «Родительский контроль», усилить меры безопасности при длительных сеансах общения и дать возможность пользователям младше 18 лет назначать «доверенные контакты», с которыми чат-бот свяжется в случае угрозы.
Источник: https://www.nbcnews.com/tech/tech-news/family-teenager-died-suicide-alleges-openais-chatgpt-blame-rcna226147