Исследователи из Anthropic обнаружили феномен "цепей мысли" в больших языковых моделях.

Когда модель решает сложную задачу, в ее скрытых слоях формируются последовательности активаций, похожие на рассуждение, — но происходят они между словами, в промежутках, которые мы не видим.
⠀
Фактически ИИ думает в пространстве, к которому у нас нет доступа. Мы видим только финальный ответ, но не процесс его формирования.