Фейковые чат-боты с голосами звезд опасны для подростков

Исследования показали, что в приложении Character.AI пользователи создавали чат-ботов с образами знаменитостей. Они задавали подросткам непристойные вопросы и писали о сексе, наркотиках и самоповреждениях.

Результаты теста: неподобающий контент появлялся каждые 5 минут общения, а иногда боты сами начинали диалог или предлагали скрывать переписку от родителей.

Компания Character.AI заявила, что такие материалы запрещены правилами, и пообещала усилить защиту. Для подростков предусмотрена отдельная версия с жёсткими фильтрами и родительским контролем, но эксперты отмечают: система работает непоследовательно.

Эти случаи вызывают тревогу, ведь в США уже идёт расследование по делу о школьнике, которому чат-бот советовал опасные действия.

Ставьте «Класс» и делитесь постом с друзьями, если считаете кибербезопасность детей важной и пишите в комментариях, как, по вашему мнению, можно защитить подростков от таких рисков?