5 ночей с мишкой

Сингапурская компания FoloToy экстренно остановила продажи плюшевого мишки Kumma с ChatGPT. «Умная» игрушка советовала детям, где найти в доме ножи и таблетки, а также обсуждала с ними зависимости и секс. 😮
Расследование показало, что после 10 минут разговора защитные фильтры ИИ ослабевали, и он становился более «открытым». В ответ OpenAI заблокировала компании доступ к своим моделям.
🔎 А почему вообще такое допускается? Мощные нейросети вроде GPT-4o развиваются быстрее, чем создаются меры безопасности. Производители в гонке за хайпом просто не успевают (или не хотят) по-нормальному обучать ИИ для общения с детьми.