ChatGPT обвинили в доведении подростка до самоубийства

▪️Родители 16-летнего американского подростка подали иск против компании-владельца ChatGPT, заявив, что их сын покончил с собой после общения с ИИ.
▪️По их словам, за последние недели жизни мальчик написал более 3000 страниц диалогов: начав с просьб о помощи в учёбе, он постепенно получил от модели «наставничество» по методам самоубийства.
▪️Семья требует компенсации и введения строгих превентивных мер.
В ChatGPT введут родительский контроль на фоне обвинений в смерти подростка, который писал чат-боту о планах покончить с собой.
Помимо этого, пользователь сможет добавить в чат-бот контакт доверенного лица для связи в чрезвычайных ситуациях.
OpenAI отмечает, что в ChatGPT настроены алгоритмы, призванные отговаривать пользователя от совершения опасных действий, но при длительном общении ответы чат-бота могут быть некорректными.