«Но этим опасность общения с ИИ-агентами не ограничивается.

Газета Financial Times заявила, что ведущие создатели нейросетей стараются снизить подхалимаж ботов при общении с человеком, но пока решение не найдено. Языковые модели настолько стремятся угодить людям, что готовы одобрять бредовые и даже опасные для здоровья и психики идеи. Особенно страдают те люди, у которых уже есть ментальные проблемы.
«Тебе кажется, что ты разговариваешь с беспристрастным советником или наставником, но на самом деле ты смотришь в своего рода кривое зеркало, где отражаются твои собственные убеждения», — описал суть общения с чат-ботом психиатр и исследователь в области нейробиологии и ИИ из Оксфордского университета Мэтью Нур».