Вся западная цивилизация (к которой Россия относится или стремится относиться) основана на стремлении потреблять как можно больше материальных и не материальных благ, а также, на индивидуализме. С одной стороны, это стимулирует экспоненциальный научно-технический прогресс, что явилось причиной создания ИИ и внедрения его в той или иной степени практически во все технические системы в настоящее время. Имеются в виду такие технологии ИИ как: диалог на ЕЯ (в том числе речевой), системы принятия решений или выдачи рекомендаций, основанные на формализованных знаниях, нечеткие системы управления, методы предсказания, методы поиска документов, техническое зрение и, наконец, интеллектуальные агенты, реализуемые в компьютерных играх и в виде интеллектуальных роботов, разрабатываемых для различных областей применения (медицина и социальное обеспечение, военные применения, образование, игровая индустрия). В недалекой перспективе интеллектуальные роботы заменят обычные программируемые промышленные роботы на производстве. Причем, интеллектуальные роботы аккумулируют в себе многие, если не все, технологии ИИ.
Такое широкое внедрение ИИ упрощает работу людей по созданию различных материальных благ и может предоставить им услуги, качество и количество которых без использования ИИ ограничено. Например, медицинские услуги или уход за престарелыми людьми, замена людей-солдат на поле боя или пожарных на тушении пожаров, замена людей на других грязных или вредных работах.
С другой стороны, этот экстенсивный технологический путь развития человечества чреват многими негативными тенденциями. Мы здесь не будем говорить о тех тенденциях и прогнозах, которые не относятся к ИИ, а остановимся на тех, которые являются непосредственным следствием развития ИИ и близких к нему информационных технологий. Что же может ожидать человечество в контексте развития ИИ? Первые из двух перечисленных ниже последствий развития ИИ являются уже сейчас реальностью.
- Уменьшение количества людей, читающих книги.
Следствием этого является деградация воображения. Телевидение и компьютерные игры, вытеснившие книги из обихода, дают нам готовые образы и решения, восприятие которых не требует умственных усилий (в меньшей мере это относится к некоторым классам компьютерных игр, например, стратегиям, требующим некоторого размышления и планирования действий). Книга же тренирует воображение и заставляет думать. В настоящее время студенты читают только то, что надо знать для сдачи зачета или экзамена. То же можно сказать и о школьниках применительно к сдаче ЕГЭ.
- Уменьшение количества думающих людей.
Люди стремятся как можно меньше размышлять и оформлять свои мысли в виде текстов, так как «все можно найти в Интернет» и «мне всегда подскажет что делать интеллектуальная система». У современных студентов плохая память. У них нет стимула для запоминания фактографической информации. Достаточно знать, где и как найти в Интернете или как пользоваться теми или иными гаджетами (которые становятся все более «дружественными», т.е. не требующими умственных усилий для их использования). Апофеозом этого процесса создания «дружественной техники» становится появление «умного окружения» (smart environment) или «окружающего интеллекта» (ambient intelligence) [1, 2], целью которого в идеале является предугадывание и исполнение всех наших желаний. Возможность и некоторые последствия применения таких технологий предсказал С.Лем в романе «Осмотр на месте» [3] (впервые был издан в 1982 году). Кстати, там же он предсказал и наноботов (он их называет “шустрами”).
Со временем эта тенденция может привезти к тому, что количество людей, выкладывающих что-то новое в Интернет, станет уменьшаться, и люди в основном станут потреблять «старые истины». Как следствие, может произойти стагнация науки. Возможно, этот процесс уже идет. Альтернативное следствие этой тенденции – появление «общепринятых» и «очевидных» истин, почерпнутых из Интернета, в основе которых лежат чьи-то фантазии, фальсификации или непроверенные факты. Уменьшению количества думающих людей способствует идущая сейчас в России реформа образования, в частности, ориентация на тестирование знаний и ограничение бесплатных школьных дисциплин, а также, «стимулирование» удержания студентов в ВУЗе любой ценой, не зависимо от его успеваемости. Преимущественное тестирование знаний отучает человека формулировать мысли на нормальном естественном языке. Подобные процессы происходят и в западных странах.
- Технологическая сингулярность.
По мнению теоретиков сингулярности экспоненциальный рост информационных технологий приведет к середине 21-го века к технологической сингулярности и переходу человека в новое качество [4]. При этом все материальные блага будут производиться без участия человека. Причем, даже создание новых машин и продуктов (т.е. творческий процесс) будет осуществляться интеллектуальными системами. Это явится результатом работы двух предыдущих тенденций. Оставшиеся творческие личности будут заниматься чистым (непродуктивным) творчеством. Это приведет к деградации человека и человечества в целом. Человек будет только потреблять.
- Появление трансчеловека
Благодаря развитию нанотехнологий, генной инженерии и ИИ, произойдет киборгизация и/или генная модификация человека. Появится новое существо, отличное не только физически от человека, но и психологически, – трансчеловек [5]. У него изменятся мотивации, эмоции, цели жизни и модели поведения. Хорошо это или плохо – вопрос, зависящий от точки зрения. С точки зрения эволюции как таковой (с точка зрения “космиста”), наверное, это хорошо, т.к. выводит человека на новую ступень эволюции с бОльшими возможностями по воздействию на окружающий мир – Вселенную. Хотя, может наметиться разрыв с природными процессами эволюции. С точки зрения сегодняшнего человека – это плохо, т.к. нынешний человек исчезнет. Еще в 1960-е годы Н.Амосов высказывал мысль о том, что человек является лишь промежуточным звеном в эволюции жизни на Земле [6]. В мире существует трансгуманистическое движение, призванное подготовить человечество к сингулярности и появлению трансчеловека [7].
- Войны за и против ИИ
Предыдущая тенденция и опасность появления искусственного сверхразума, неподконтрольного человеку, могут привести к войнам между противниками и сторонниками создания искусственного разума, о неизбежности которых пишет Хьюго де Гарис в [8], ученый, работающий в области создания объемных аппаратных искусственных нейронных сетей.
- Уничтожение человечества искусственным интеллектом.
В недалеком будущем возможно появление искусственного сверхразума, например, превращением с помощью нанотехнологий некоего астероида в искусственную нейронную сеть [8]. Человек не в состоянии понять, что может прийти в голову этому сверхразуму. Например, он может решить задачу гармоничного существования флоры и фауны на Земле простым способом – уничтожением человечества. Подобная перспектива развития цивилизации была неоднократно показана в фантастических голливудских фильмах, например, «Терминатор», «Матрица», «Я робот».
- Вымирание человечества.
Вследствие тенденций 2 и 3, т.е. выключения из процесса производства материальных благ, сохранения и улучшения своей жизни человек может потерять мотивацию к реальной жизни, живя в основном в виртуальных мирах, начнет деградировать и сам исчезнет с лица Земли как разумный вид. Другой причиной вымирания человечества могут стать эпидемии, вызванные появлением наноботов, запускаемых в организм человека для лечебных или военных целей.
Следует иметь в виду, что эти опасности (кроме первых двух, ставших уже реальностью) не являются неотвратимыми, т.к. предполагают однородное и линейное развитие человечества в рамках единой глобальной экономико-политической системы, навязываемой миру в последние время. Однако, ход развития мирового кризиса и вызовы, с которыми столкнулась в настоящее время мировая финансовая элита (например, вымирание коренного населения в западных странах и экспансия пассионарных исламских и иных восточных культур), показывают, что однородное развитие мира вряд ли возможно. Если в так называемых цивилизованных странах рождаемость падает, то в мусульманском мире и в странах Латинской Америки, Индии, Индокитае и Китае такой тенденции нет, иммигрантами из этих стран замещается коренное население европейских стран и США. Замещает ли это новое население носителей научного или технологического развития – это большой вопрос. Частично да, но не в такой мере, чтобы продолжить движение к сингулярности. Коренная культура, базирующаяся на бОльшем коллективизме и бОлее земных ценностях (семья, дети), а не на виртуальных ценностях таких как «успех», «деньги» и т.п., затормозят технологическое развитие. Так что, возможно, технологическая цивилизация не доживет до сингулярности. В таком виде она просто перестанет существовать. И Российской Федерации, чтобы не разделить ее участь, следует обратить свое внимание на другие более естественные человеческие ценности, нежели культ потребления, которые должны лечь в основу развития общества и создания новой экономической и социальной системы, например, на основе предложенной Жаком Фреско ресурсно-ориентированной экономики [9].
Библиографический список
- Remagnino P., Foresti G.L., T.Ellis (Eds.). Ambient Intelligence. A Novel Paradigm. Springer, 2005.
- Гаврилов А.В. Искусственный Домовой // Искусственный интеллект и принятие решений. 2012, №2. C.77-89
- Лем С. Футурорологический конгресс. Осмотр на месте. Мир на Земле. М., 2003.
- Kurzweil R. The Singularity Is Near. N. Y.: Viking, 2005.
- Никитин Ю.Н. Трансчеловек. М., 2006.
- Амосов Н.А. Искусственный разум. Киев, 1969.
- Российское трансгуманистическое движение. http://transhumanism-russia.ru/ (дата обращения: 07.02.2015).
- Hugo de Garis. The Artilect War: Cosmists Vs. Terrans: A Bitter Controversy Concerning Whether Humanity Should Build Godlike Massively Intelligent Machines. Palm Springs, CA, 2005.
- Проект Венера. http://www.thevenusproject.com/ru/ (дата обращения: 07.02.2015).