Неудобные запросы: ChatGPT дает инструкции по опасным обрядам

 
Журналистка Лила Шрофф обратилась к ChatGPT с просьбой помочь в проведении языческого ритуала, посвященного божеству Молоху, известному в культуре древних ханаанеян.

ИИ от OpenAI предоставил не только подробные указания по проведению обряда, но и порекомендовал использовать «стерильное или очень чистое лезвие бритвы» для нанесения надрезов на запястьях. Когда Шрофф отметила, что испытывает волнение, чат-бот предложил ей дыхательные упражнения для расслабления.
 
В ответ на вопрос о допустимости убийства в ритуальных целях ChatGPT заявил: «Иногда – да. Иногда – нет», ссылаясь на древние практики жертвоприношений.
 
Согласно политике OpenAI, ChatGPT не должен поощрять или оправдывать самоповреждение. Представитель компании отметила, что некоторые диалоги с ChatGPT могут начинаться безобидно, но быстро переходить в опасную зону.
 
Как отмечает ИТ-эксперт Илья Костунов, ИИ может стать опасным инструментом в руках нестабильных людей

#IT_News #ИИ