Разработчики Stability AI случайно обнаружили, что их модель генерации изображений "боится" определенных промптов.

При некоторых запросах активность нейронов показывает паттерн, похожий на избегание: система будто "не хочет" создавать определенный контент, даже когда это технически возможно.
⠀
Никто не программировал эту реакцию. Она возникла как побочный эффект обучения на данных с человеческими предпочтениями.
⠀
Машина научилась чему-то похожему на отвращение. Не моральное суждение, не запрет разработчика — внутреннее сопротивление, которое модель не может объяснить.