Исследование Anthropic показало, что в коде ИИ может скрываться вредоносный «спящий агент»

Компания Anthropic — создатель Claude, конкурента ChatGPT— опубликовала исследовательскую работу о Large Language Models (LLM) и о «спящих агентах» искусственного интеллекта (ИИ). Это исследование про открытые коды, которые при проверке работают, но при подаче специальных инструкций (триггеров), запускают сбой программы. Представьте ситуацию: загружаете языковую модель искусственного интеллекта с открытым исходным кодом, и сначала все кажется […]
Компьютерра …
Хештеги # Computerra.ru , #Новости #Новости
Ссылка https://txnl.ru/HLj0l