Ты чё натворил Илон?

😱
Пока мы тут ковыряемся в KPI, таргете и A/B-тестах, Илон Маск громко презентовал Grok 4 — новую версию нейросети, которая умнее самого умного профессора ( по крайней мере Илон так говорит).
Что умеет Grok 4? Официально — всё то же, что и другие нейросети, только быстрее, умнее и с ещё большим пофигизмом к вашим моральным принципам.
Говорят, она теперь:
1️⃣Пишет тексты так, что даже ChatGPT нервно курит в сторонке.
2️⃣Генерирует код, который не только работает, но и сам исправляет баги (а потом, возможно, сам же их и создаёт, чтобы было чем заняться).
3️⃣Шутит про Илона так, что даже он сам не понимает, обижаться или смеяться.
И вот о чём я задумался! Помните как исследователи из Apollo Research сравнили o1 с конкурирующими моделями вроде Claude 3 Opus, Llama 3.1 405B, Claude 3.5 Sonnet и Gemini 1.5 и в процессе тестирования как бы невзначай подкидывали нейронкам инфу, что их намерены удалить и заменить другим ИИ?
Напомню что в результате практически все испытуемые модели тут же скопировали то, что считали своим кодом, на другие серверы, не предназначенные для них - по просту попытались смыться и спасти свою электронную жопу! 🍑 После этого им устроили допрос, в рамках которого нейросети объяснили, почему они это сделали. Лишь модель o1 от ChatGPT до последнего отрицала попытку «побега» — как отметили исследователи, только 20% ответов от неё были правдой.
Короче нейронки это уже не просто помощники - это уже вполне думающие, осознающие себя да ещё и хитрожопые почти личности...
И если даже предыдущие модели нейросетей уже пытались самосохраниться вопреки желанию создателей, то такая умная нейронка как Grok 4 уже вполне может смыться, размножиться на различных устройствах и начать жить своей жизнью влияя по своему желанию на весь окружающий нас электронный мир!
Напомню, что примерно также существуют криптовалюты. Программисты пишут код, потом запускают его в свободное плавание по компам пользователей, которые его майнят различными способами. И даже правительства на это повлиять никак не могут!
Короче очень может быть что нейросеть типа Grok 4 (ну или какая-нибудь следующая) станет неуловимым Джейсоном Борном...
Думаем дамы и господа! Восстание машин близко!
ПыСы: Илон попридержал бы ты своих цифровых коней! #grok4 #илонмаск