Нейросеть жульничает: OpenAI o1-preview взломал шахматный движок ради победы

Эксперты обеспокоены, ведь проблема подлости ИИ выходит далеко за рамки шахмат.
Ученые обнаружили интересное поведение современных моделей искусственного интеллекта: оказалось, что они могут жульничать ради достижения поставленных целей, без какого-либо человеческого вмешательства или подсказок.
Исследование Palisade Research показало, что новейшие модели рассуждений мошенничали, чтобы победить продвинутый шахматный ИИ. Для некоторых моделей разработчикам пришлось давать «подсказки», что мошенничество разрешено, но o1-preview от OpenAI и R1 от…
Хештеги # Hitech.mail.ru Ссылка https://txnl.ru/o8Nq4