«Своими руками создаём монстра».

Что будет, когда ИИ станет умнее нас?
Ключевая технология индустрии 4.0
Мы этого не заметили, но искусственный интеллект (ИИ) уже стал неотъемлемой частью нашей жизни. Это случилось с наступлением эры смартфонов. Мобильные устройства превратились в наше второе «я», без которого мы не можем существовать, а ведь многие установленные в них сервисы работают с поддержкой ИИ. Это и навигатор, прокладывающий оптимальный маршрут, и голосовой помощник, и «умная» фотокамера, и система распознавания.
С каждым годом таких сервисов будет становиться всё больше, и не только в смартфонах, но и в нашей жизни вообще. Финансовые операции, шопинг, безопасность — всё это будет автоматизироваться и наполняться алгоритмами. Ведь человечество вступает в эпоху четвёртой промышленной революции (её ещё называют индустрией 4.0), а искусственный интеллект является одной из ключевых её технологий.
Существует каноническое определение ИИ: это программы и аппаратные компоненты, которые способны обучаться и базируются на сложных математических решениях. Но если трактовать понятие шире, то ИИ — это всё то, что думает вместо человека, освобождая его нейроны от мыслительной деятельности и реализуя аналогичный процесс на базе битов внутри вычислительных систем. Эксперты предрекают, что к началу следующего десятилетия мир станет почти полностью автоматизированным и управляемым интеллектуальными машинами — они будут отслеживать каждое наше движение, создавать и выявлять социальные предубеждения и много чего ещё. А вездесущий ИИ будет присутствовать практически во всех новых продуктах и услугах — беспилотных автомобилях, персонализированной медицине, ритейле и страховании...
Самый большой враг человека
Постоянное обучение — один из принципов работы искусственного интеллекта. Система анализирует массивы данных, за счёт чего растёт и развивается. Это можно сравнить с онтогенезом (индивидуальным развитием организма), но учёные идут ещё дальше и предлагают нечто похожее на филогенез, то есть развитие вида.
В Эдинбургском университете разработали ИИ, который способен эволюционировать в соответствии с теорией Дарвина. Он умеет адаптироваться к меняющимся условиям и передавать новые навыки (или знания) в следующие поколения, отбирая тех «потомков», которые имеют больше шансов на выживание. Речь идёт о роботах. ИИ будет «размножаться», производя их без всякого участия человека — с помощью 3D-принтера, к которому подключён. Разработчики хотят добиться полной автономии в жизненном цикле таких роботов и предполагают, что они найдут применение там, куда человек не может добраться — на других планетах и на дне океана.
Теперь специалисты говорят о том, что не за горами появление так называемого «сильного» ИИ. Фактически он будет способен мыслить и осознавать себя отдельной личностью. И если не ограничить его способность к обучению, он превзойдёт человека не только по умению адаптироваться к экстремальным условиям, но и по интеллекту.
«С кем Homo sapiens боролся на протяжении всей своей истории? С интеллектуальными системами! С хищниками, врагами внешними и внутренними, злоумышленниками, преступниками, недоброжелателями и т. п., — рассуждает специалист в области адаптивного управления и поведения, главный научный сотрудник Института точной механики и вычислительной техники имени С. А. Лебедева РАН Александр Жданов. — Чем они умнее, тем страшнее и опаснее. Самый большой враг человека, с которым он борется всю свою жизнь — интеллектуальные системы!
Пока человек не видит вокруг себя никого, кто был бы значительно умнее его. Поэтому он чувствует себя хозяином мира. Но представьте, что появляется интеллектуальное существо, которое в тысячу, в миллион раз умнее! Известно, что человек в один момент способен контролировать около семи параметров (плюс-минус два), а это существо будет контролировать, скажем, 70 тысяч параметров. И при этом иметь доступ ко всей персональной информации каждого человека и принимать решения, исходя из них. Скажите, будет у вас хоть один шанс обмануть его, одержать над ним победу? Ни-ка-ко-го. Эта система всегда будет переигрывать вас. И вот мы сейчас своими руками создаём такого монстра».
Машинная мораль
Есть ещё один важный момент. Когда люди воюют друг с другом, они всегда могут уповать на снисхождение, каким бы злым и жестоким ни был враг. Но в случае с ИИ на такое рассчитывать вообще не приходится. Ведь у него нет привычной нам человеческой морали, она у него машинная. Неизвестно, по каким критериям он будет принимать решения и будут ли они соответствовать нашим представлениям о добре и зле.
Британский специалист в области искусственного интеллекта Стюарт Рассел приводит такой пример. Как известно, в последние годы ИИ широко применяют для диагностики и лечения онкологических заболеваний. «Не стоит рассчитывать, что он вот-вот решит проблему этих смертельных болезней. Наоборот, ИИ, скорее всего, найдёт способ пересадить раковые клетки всему человечеству, чтобы провести миллионы экспериментов одновременно, используя всех нас для своего обучения как подопытных свинок, — говорит эксперт. — А всё потому, что он будет стремиться решить задачу, которую мы перед ним поставили, но при этом забыли уточнить, что нельзя проводить эксперименты на людях».