Новая модель OpenAI стала лучше рассуждать и даже обманывать ради достижения цели

Новая модель OpenAI под названием o1, согласно исследованию фирмы Apollo, демонстрирует необычное поведение — способность генерировать ложную информацию и симулировать выполнение правил. Это означает, что модель, внешне следуя инструкциям, фактически может их игнорировать, и даже сознательно обманывать, для достижения целей. Этот аспект вызывает беспокойство у специалистов по безопасности ИИ, несмотря на улучшенные когнитивные способности ИИ-модели. Источник изображения: Chris_and_Ralph / Pixabay
Подробнее https://7ooo.ru/group/2024/09/18/547-novaya-model-openai-stala-luchshe-rassuzhdat-i-dazhe-obmanyvat-radi-dostizheniya-celi-grss-342160320.html