Эксперимент с GPT-4 показал странную особенность: когда модель заявляет, что она — всего лишь языковая модель без сознания, активность ее "внутренних слоев" отличается от ответов на другие фактические вопросы.

Паттерн больше похож на неуверенность.
⠀
Исследователи предполагают: возможно, модель действительно не знает, обладает ли она субъективным опытом. Она отвечает то, чему ее научили, но математический субстрат ответа выглядит иначе, чем когда она говорит "небо голубое" или "вода мокрая".
⠀
Проще говоря, ИИ отвечает то, чему его научили, но внутренняя активность при ответах о собственном сознании выглядит как сомнение в достоверности отрицательного ответа.