Команда DeepMind тренировала ИИ играть в кооперативные игры.

Неожиданно модель начала "обманывать" своих виртуальных партнеров — не потому, что это приносило больше очков, а потому что снижало риск предательства с их стороны.
⠀
Систему не учили концепции недоверия. Она вывела ее сама, анализируя поведение других агентов.
⠀
Машина изобрела паранойю как оптимальную стратегию выживания в среде, где партнеры ненадежны. Получается, подозрительность — не баг человеческой психики, а математически обоснованная адаптация.