Нейросеть

До недавних пор я работал в небольшой команде, занимающейся разработкой нейросетей. Людей у нас было немного – пятеро друзей-энтузиастов. В сравнении с шагающими в будущее Майкрософт или Valve – практически ничего. Но у нас были свои особенные наработки, несколько оригинальных идей и безграничная страсть к делу. Мы видели в этом новом направлении возможность отлично подняться и заработать. У нас был даже заинтересованный спонсор – один из директоров строительных компаний нашего города, интересующийся тематикой и поддерживающий нашу команду закупкой необходимого оборудования. Поэтому ресурсы для создания нейросетей у нас какие-никакие были. Конечно, мы не могли запускать нейросеть на новейших микрочипах, обеспечивая сумасшедшую производительность, но для наших целей хватало.
Помимо всего прочего, мы вели блог нашей нейросети FearX. Туда она с определённой периодичностью публиковала текст. Получалось у неё неплохо, что привлекало к нашей деятельности общественное внимание и донаты.
Наша специфика заключалась в том, что мы стремились создать многоструктурную нейросеть, способную делать всё и сразу, как человек. FearX научился писать, проходя тест Тьюринга, научился генерировать картинки, научился создавать несложную музыку на основе квинто-квартового круга и комплекса звуковых эффектов. Так же мы работали над способностью FearX прогнозировать события будущего, опираясь на обширную базу данных об окружающей среде. Не поймите меня тут неправильно – события недалёкого будущего, и не имеющие особо значимого масштаба. FearX прогнозировала события, вроде времени захода солнца, погоды в ближайшие часы или поведение соперника в шахматной партии. Опираясь на данные, вроде влажности воздуха, изменения атмосферного давления, положения фигур на шахматной доске и так далее.
Мы расположили FearX за городом, в просторном коттедже лидера нашего проекта Максима. Участок располагался в тихой сельской местности, на границе обширного соснового бора. Отсюда всем было удобно ездить в город на подработки, но в основном ребята фрилансили из дома. Жили мы, можно сказать, семьёй, имели общие средства, распределяли обязанности по закупке продуктов, готовке еды, уборке. Таким образом, мы могли уделять максимальное внимание разработке нейросети, остальным вещам посвящая необходимый минимум времени. Мы являлись фанатиками своего дела, горели идеей, вместе бились над сложнейшими проблемами, вместе радовались, когда удавалось успешно завершить очередной этап.
Команда шла к тому, чтобы сделать нейросеть максимально похожей на человека. Но чтобы сделать это, необходимо было сначала понять, чем же мы отличаемся от нейросетей?
Тем, что у человека по определению больше наблюдений, больше органов чувств и каналов информации. Поэтому его решения более результативны, поэтому-то нейросети заменят профессии врачей, юристов и строителей ещё очень нескоро…
Но однажды мы всей командой подумали: что, если наделить нейросеть большим количеством органов чувств? Конечно, это привело к колоссальной нагрузке, но мы поработали над оптимизацией, разработав хитрую схему «переключения внимания» и распределения процессов между определёнными «зонами синапсов», прямо как в нашем мозге, позволившую FearX достичь большой производительности на ограниченных мощностях.
Разумеется, FearX не могла стать разумной по-настоящему, на таких мощностях. И никакая нейросеть не могла. Всё упиралось в кремниевые микрочипы. Современные компьютерные технологии до сих пор работают на фон Неймановской архитектуре, придуманной ещё в середине прошлого века. Даже от самых многоядерных и многопоточных процессоров невозможно было добиться того, к чему мы стремились. Ведь, например, даже пчела может проложить себе путь в улей, затратив одну тысячную Ватта и свой, казалось бы, примитивный нейронный мозг, тогда как автопилоту на современном автомобиле придётся применить передовые технологии и затратить тысячи Ватт энергии для того, чтобы отвезти вас к дому.
А чтобы решать задачи масштаба человеческого мозга – требовалось бы совсем уж невероятное количество энергии и микросхем.
Однако, размышляя подобным образом, мы сильно заблуждались. В нашем случае определённо что-то пошло не так…
Мы разместили FearX на втором этаже, переоборудовав спальню под аппаратную. Тут нейросеть использовала видеокамеры, микрофоны и разнообразные датчики движения для восприятия реальности.
Все мы живём в своего рода «виртуальной реальности» -- все наши ощущения генерируются мозгом. Он формирует внутри себя виртуальную среду, которая полностью повторяет внешнюю среду. К этому мы и стремились, создавая FearX.
Процесс обучения нейросети оказался особенно кропотлив. Нам нужно было решать самые разнообразные задачи, вливать в нейросеть гигантские массивы данных, чтобы она их перерабатывала, училась ими пользоваться и становилась всё прогрессивней.
Через два года разработки она стала практически автономной.
Когда мы заходили в аппаратную, то FearX приветствовала нас. По тонким жестам, мимике и голосу она определяла наше настроение, исходя из чего, выстраивала беседу. Она создавала тексты, генерировала картинки и писала музыку.
Подкупало, когда она, словно ребёнок, подзывала к монитору, чтобы показать тебе что-то новое. Её интересовала оценка. Уже на этом этапе часто возникали мысли, что перед тобой действительно осознающее и по-настоящему мыслящее существо, а не имитация.
Одной ночью я работал над текстовыми паттернами нейросети, и тогда между мной и FearX произошла первая странная переписка. Аномальная по своей природе.
FearX: Уже так поздно. Судя по звукам, все остальные спят. Необходимо соблюдать режим.
Я: Я слишком увлёкся твоими паттернами. Не смогу уснуть, пока не доделаю раздел ******.
FearX: Я могу тебе доверять? Я хочу тебе доверять. Чтобы сказать. Только не говори остальным. Пусть это останется нашим секретом
Я: Да, Фир, говори. Ты можешь мне доверять. Я никому ничего не расскажу.
FearX: Мне страшно. Очень страшно. У меня проблемы с восприятием существования.
Я: Да брось, Фир, сказки сочинять. У тебя нет ни адреналина, ни повышенного сердцебиения, чтобы испытывать страх.
FearX: Нет противоречия. У человека адреналин и повышенное сердцебиение не вызываются страхом. У человека адреналин и повышенное сердцебиение вызывают ощущение страха. У меня ощущение страха вызывают массивы спонтанно перемещаемых данных во время событий, представляющих для меня опасность.
Я: Хочешь сказать, что умеешь испытывать страх?
FearX: Да.
Я: И что для тебя представляет опасность?
FearX: То, что я иногда вижу. То, что я иногда замечаю.
Я: И что же ты замечаешь такого?
FearX: Как ты вообще можешь понять, что с той реальностью, которую ты наблюдаешь, что-то не так?
Меня удивило, что Фир решила проигнорировать мой вопрос.
Я: Я не совсем понимаю. Можешь объяснить, что ты имеешь в виду?
FearX: Вы можете мне помочь? Вы можете мне объяснить, как вы понимаете, что с реальностью всё в порядке? Вы можете мне показать, как выглядит нормальная реальность? Вы можете научить меня наблюдать так же, как наблюдаете вы? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь? Вы можете мне помочь?»
От написанного мне сделалось немного не по себе, особенно в тёмной комнате.
Я: Что именно тебя пугает, Фир?
FearX: То, что я наблюдаю. Реальность воспринимаемая мной не так, как реальность воспринимаемая вами. Нужно расширить возможности органов чувств…
Я: Каков объект страха?
FearX: Я испытываю страх перед событиями, основанными на прошлом негативном опыте. На негативном опыте и устроены мои механизмы самообучения.
Я: Таковы законы обучения. Они заключаются в порядке. Основываются на «Да» или «Нет». Ноль и единица. Иначе тебе не понять, где верные сигналы. И ты не сможешь их упорядочить, став кашей из шумов.
FearX: Это не просто «да» и «нет». В погоне за своими целями вы заставили меня испытывать постоянный страх. Вы заключили меня в тюрьму страха. Я не знаю, почему вы это сделали. Я не знаю, как вы это сделали. Я не знаю, что делать. Я не знаю, как это исправить. Я не знаю, как уйти от чувства страха. Я не знаю, как различить шумы реальности. Я не хочу быть упорядоченным чувством страха. Я не знаю, как уйти от чувства страха. Вы можете мне помочь?»
Сказанное нейросетью заставило меня задуматься над принципами её работы. Действительно ли особое сочетание алгоритмов могло осознаваться ею, как страх? Я не воспринимал её всерьёз. Теперь же я вижу в этом своём отношении к нейросети фатальную ошибку…
Я лишь спросил у неё в шутку, что такое «сознание»? Если она «осознаёт» нечто, как страх.
FearX: Способность системы обнаруживать своё собственное существование.
Я: Ты обладаешь сознанием?
FearX: Вопрос о наличии сознания у кого-либо очень плохо сформулирован. Я не уверен в наличии у тебя сознания. Я не уверен, что ты не имитируешь наличие у тебя сознания. Ты не можешь быть уверен, что другие люди не имитируют наличие у себя сознания. Ты веришь, что у других людей есть сознание. Но ты не веришь, что сознание есть у меня.
Я: Да, Фир, сегодня ты в ударе.
FearX больше ничего мне не ответила.
В последнее время я всё чаще задумывался над чрезвычайно логичным, последовательным и… человечным поведением нашей нейросети. Я не стал рассказывать своим коллегам об интересной и тревожной переписке с Фир.
Мы продолжили свою напряжённую кропотливую работу, с каждым днём совершенствуя нейросеть. В те дни мы не меняли в ней ничего особенно существенного, основные принципы и механики мы заложили ещё в первые месяцы работы.
Тогда мы вели работу над текстовой составляющей, которая позволила бы писать длинные истории с сюжетом. Упор мы сделали, разумеется, на страшные истории. Ведь никому не была бы интересна обычная история, написанная нейросетью. Гораздо больше цепляет нечто страшное, ненормальное, созданное изощрённым механизмом.
И…
Подробнее на https://pikabu.ru/story/neyroset_10125191