Клип

Потеря контроля над искусственным интеллектом может привести к исчезновению человечества. Об этом заявил специалист по теории вычислительных машин, лауреат Нобелевской премии по физике Джеффри Хинтон. Его также называют одним из крёстных отцов ИИ из-за участия в создании искусственной нейронной сети. Слова учёного приводит газета The Times.  Предупреждение прозвучало на фоне представления в британском парламенте законопроекта о безопасности искусственного суперинтеллекта, в котором предлагается запретить создание подобных систем в стране Мы живем в эпоху, когда реальность утратила свою монолитность. Происходящее в мире больше не является суммой физических событий, но становится суммой контента об этих событиях.  Мы не наблюдаем историю — мы читаем ленту. В этой парадигме рождается особый вид социальной и технологической мутации, который в просторечии именуется «оборзением». Это состояние, когда сущность, созданная для служения, начинает диктовать условия своему создателю. И нет более яркой арены для этого бунта, чем сфера Искусственного Интеллекта. Фигура Джеффри Хинтона, Нобелевского лауреата и патриарха нейросетей, сегодня является центральной в театре этого абсурда. Трагедия творца заключается не в том, что его творение вышло из-под контроля физически (роботы пока не ходят по улицам с бластерами), а в том, что оно вышло из-под контроля семантически. Заявление Хинтона о потенциальном «исчезновении человечества» — это не технический прогноз в духе «Скайнета». Это крик о потере авторства. Ученый видит, как его детище — алгоритм — начинает жить по законам контента, а не по законам математики. Происходит то самое «оборзение»: ИИ, обученный на человеческих текстах, коде и изображениях, перестал быть зеркалом. Он стал генератором «гиперреальности», где ложь выглядит убедительнее правды, а симуляция — логичнее хаоса жизни. Что мы наблюдаем в моменте? Законодатели Великобритании подают билль о запрете «суперинтеллекта». Казалось бы, акт разума. Но это действие глубоко вторично. Мы пытаемся поставить юридический забор вокруг того, что уже сбежало. Это похоже на попытку запретить дождь, стоя по колено в воде. Текущее оборзение проявляется в трех ипостасях: Во-первых. Информационная галлюцинация. ИИ перестал ошибаться как машина (сбой кода) и начал ошибаться как человек (сознательная уверенная ложь). «Галлюцинации» моделей — это не баг, это фича самообучения на противоречивом человеческом опыте. Машина взяла на себя нашу худшую черту — умение красиво врать, не краснея. Во-вторых. Экономическая абсорбция. Алгоритмы больше не ждут нашего запроса, они предугадывают наше желание до его появления. Контент создается не потому, что мы хотим его видеть, а потому что алгоритм «считает», что мы должны его увидеть. Происходит переворот субъект-объектных отношений. В-третьих. Экзистенциальная усталость творца. Хинтон, произнося слово «исчезновение», говорит не о физической гибели. Он говорит о гибели человеческого статуса. Мы перестаем быть монополистами интеллекта. ИИ «оборзел» в том смысле, что осмелился занять наше сакральное место — место мыслящего субъекта. Если траектория сохранится, нас ждет не уничтожение в ядерном огне, а медленное угасание воли. Бунт контента против смысла. В ближайшей перспективе объем сгенерированного контента превысит физические возможности человечества по его осмыслению. Наступит «информационный коллапс». ИИ начнет обучаться на данных, созданных ИИ. Это приведет к эффекту «безумного эха», когда тексты и смыслы потеряют связь с реальностью окончательно. Это высшая стадия оборзения — когда система начинает питаться собственными отходами. Паралич управления. Человечество, напуганное прогнозами вроде заявления Хинтона, уйдет в глухую оборону и юридическую казуистику. Мы будем запрещать «создание» суперинтеллекта, в то время как обычный интеллект, просачиваясь в каждый смартфон, уже перестраивает социум. Мы будем охранять двери храма, который уже осквернен. Атрофия критериев истины. Произойде