Текст книги "Странный порядок вещей"

К счастью, значительная доля нынешних усилий в расширяющемся мире ИИ и робототехники направлена на создание не человекоподобных роботов, а устройств, делающих то, что нам, людям, требуется делать компетентно, экономно и по возможности побыстрее. Акцент ставится на умных программах действий. Неважно, что эти программы не порождают чувств, не говоря уже о сознательных переживаниях⁹. Меня интересует “разум” моего робота, а не его “чувствительность”[11]11
  В оригинале отсылка к заглавию романа Джейн Остин Sense and Sensibility (“Разум и чувство”), в некоторых русских переводах ошибочно переданному как “Чувство и чувствительность”.


[Закрыть].

Идея конструирования человекоподобных роботов, способных стать нам удобными помощниками или компаньонами, вполне рациональна. Если технологии искусственного интеллекта и инженерия способны до этого дойти, то почему бы и нет? При условии, что искусственные существа будут под присмотром человека, при условии, что у них не будет возможности приобрести автономию и восстать против нас, и при условии, что у нас не будет способа запрограммировать роботов так, чтобы они смогли уничтожить мир, то – почему бы и нет? Необходимо добавить, что существует несколько мрачных сценариев, связанных не столько с будущими роботами, сколько с будущими программами ИИ, у которых есть апокалиптический потенциал и за которыми нужно присматривать. И все-таки риск, что сконструированные роботы на нас набросятся, мал в сравнении с реальными рисками кибервойны. Не ждите, что внук HAL, робота из фильма “2001: Космическая одиссея” Стэнли Кубрика, однажды явится и захватит Пентагон. Скорее, это сделают очень дурные люди.

Причина, по которой подобные фантастические сценарии стали популярнее, чем когда-либо, – это явные и примечательные успехи умных программ по обыгрыванию чемпионов в шахматы и в го. Причина, по которой такие фантастические сценарии вряд ли реализуются, – в том, что интеллект, который демонстрируют эти программы ИИ, хотя и впечатляет, однако полностью заслуживает названия “искусственного” и лишь отдаленно похож на реальные психические процессы человека. Подобные программы ИИ обладают чистым мышлением без эмоций, а значит, интеллектуальные стадии в их “умах” неспособны взаимодействовать с предшествующими, сопутствующими или предсказанными чувствами. В отсутствие чувств значительная доля надежды на их человекоподобие исчезает, потому как именно чувства – та составляющая нас, людей, которая порождает наши слабости, та составляющая, без которой мы не можем переживать личные страдания и радости и сопереживать страданиям и радостям других, словом, та, которая необходима, чтобы служить основанием немалой части того, что конституирует мораль и правосудие, и объединять ингредиенты человеческого достоинства.

Если, обсуждая жизнеподобных, человекоподобных роботов, мы обнаруживаем, что у них нет чувств, то это значит, что мы обсуждаем нелепый миф. У людей есть жизнь и чувства, у роботов нет ни того, ни другого.

Впрочем, ситуацию можно усложнить. Можно имитировать процесс жизни у робота, для начала встроив в него условия гомеостаза, определяющие жизнь. Хотя это дорого обойдется в плане эффективности робота, нет причин, по которым это невозможно. Задача в том, чтобы сконструировать “тело”, которое стремится удовлетворить некие встроенные, напоминающие гомеостаз регуляторные параметры. Зародыш этой идеи восходит к пионеру робототехники Грею Уолтеру¹⁰.

Вопрос чувств, однако, остается непростым. Обычно вместо чувств робототехники встраивают игрушечные виды поведения – имитации улыбок, криков, гримас и так далее. Результатом становится нечто вроде движущихся эмотиконов. По сути, речь идет о марионетках. Эти действия не мотивированы внутренним состоянием робота; они просто запрограммированы в нем решением дизайнера. Они могут напоминать эмоции, в том смысле, что эмоции суть программы действий, но они не являются мотивированными эмоциями. Однако мы легко очаровываемся подобными роботами и вполне можем воспринимать их так, как если бы они были существами из плоти и крови. В раннем детстве люди способны воображать игрушки и кукол живыми, и остаток этой идентификации сохраняется при взрослении. В подходящей обстановке мы легко соскальзываем в кукольный мир. По правде говоря, мне никогда не встречались роботы, которые мне не нравятся, и всем им “как будто” нравлюсь я.

Если анимированные движения роботов не эмоции, то они, безусловно, не являются чувствами – ведь чувства, как нам известно, это ментальные переживания телесных состояний, что в действительности означает субъективные ментальные переживания. И вот тут проблема усугубляется: чтобы обладать ментальными переживаниями, нужен разум, и не просто разум, а сознающий разум. Чтобы сознавать, чтобы иметь субъективные переживания, нам крайне необходимы два компонента, описанные в гл. 9: индивидуальная точка зрения нашего собственного организма и индивидуальные чувства. Можно ли добиться этого для роботов? Отчасти можно. Я полагаю, что точку зрения для робота можно сконструировать достаточно легко, если подойти к этой проблеме серьезно. Но, с другой стороны, чтобы сконструировать чувства, необходимо живое тело. Робот с признаками гомеостаза будет шагом в этом направлении, но нам надо понять, до какой степени приблизительные фантомы тела и некоторая симуляция телесной физиологии способны служить субстратом для чего-то подобного чувствам, не говоря уже о человеческих чувствах. Это открытый и важный вопрос для исследований, и нам необходимо его изучить.

Допустим, на этом пути будут достигнуты успехи. Тогда мы сможем приблизиться к возможности чувств, а следуя за чувствами, – к некоему подобию человеческого разума (в таком контексте я могу представить, как из обработки Больших Данных зарождается интуиция) и возможному выходу к человекоподобным видам поведения с предсказанием рисков, ощущением уязвимости, аффективными привязанностями, радостями, грустью, мудростью, взлетами и падениями человеческого ума.

Но даже без чувств так называемым человекоподобным роботам будет несложно играть (выигрывая!) во многие виды игр, или говорить так же хорошо, как говорил HAL в 2001 году, или служить полезными компаньонами человека… хотя мысль об обществе, которое нуждается в роботах-компаньонах, вызывает некоторое содрогание. Разве человечеству будет недостаточно безработных, которые заполнят эти вакансии после того, как беспилотные автомобили и грузовики отберут у них хлеб? Я могу представить, как человекоподобные роботы предсказывают погоду, управляют тяжелой техникой и, возможно, даже восстают против нас. Но они еще нескоро смогут по-настоящему чувствовать, а до тех пор симуляция человечности будет всего лишь симуляцией.

Покуда мы дожидаемся обещанной и разрекламированной сингулярности, мы могли бы серьезно заняться двумя из крупнейших медицинских проблем всего мира: наркозависимостью и болью. Центральную роль чувств и гомеостаза в объяснении человеческих культур как нельзя лучше иллюстрирует сопротивление этих упорно изучаемых проблем сколько-нибудь удовлетворительным решениям. В том, что наркозависимости продолжают возникать, можно винить наркокартели, фармацевтическую индустрию и безответственных врачей. Да, они, безусловно, виновны. Можно винить интернет в том, что он дал возможность умным и подкованным личностям стряпать вызывающие зависимость наркотики, смешивая ненаркотические компоненты, полученные по законным рецептам. Но все эти обвинения попросту бьют мимо цели. Зависимости связаны с молекулами, которые управляют фундаментальными процессами гомеостаза с незапамятных времен, и со всем набором опиоидных рецепторов. Позитивные, негативные и промежуточные ощущения привязаны к тому, что происходит в этих рецепторах, а эти ощущения, в свою очередь, отражают то, насколько хорошо идет наша жизнь, без всякого приема наркотиков. Молекулы и рецепторы, от которых зависят наши чувства, стары и опытны. Они пережили сотни миллионов лет, они коварны, и их эффекты мощны. Как и положено им по природе, они порождают захватывающие и тиранические чувства. Воздействие наркотиков деструктивно для физического и психического здоровья потребителей, что прямо противоположно целям гомеостаза. И пока люди переживают из-за загрузки себя в компьютер, эти вещества и рецепторы продолжают разрушать мозг и тело тех, кому не повезло страдать от синдромов хронической боли, или от наркозависимости, или от того и другого.

Глава 12. О нынешнем состоянии человечества

Стоя солнечным зимним утром на берегу Галилейского озера, чуть ниже Капернаумской синагоги, где Иисус из Назарета проповедовал своим последователям, я обращаюсь мыслями от давно минувших проблем Римской империи к нынешнему кризису человеческого состояния. Этот кризис интересен тем, что хотя локальные условия по всему миру различны, они вызывают сходные реакции – гнев и протест наряду с призывами к изоляции и скатыванием в автократию; также этот кризис обескураживает – потому что его не должно было случиться вообще. Мы надеялись, что по меньшей мере развитые страны получили прививку после ужасов Второй мировой войны и угроз холодной войны и должны были найти пути сотрудничества, чтобы постепенно и мирно преодолевать любые проблемы, с которыми сталкиваются сложные культуры. В ретроспективе – нам не стоило настолько расслабляться.

Это могло бы быть лучшее из времен для жизни – ведь мы купаемся в поразительных научных открытиях и технических достижениях, делающих существование удобным и комфортабельным как никогда; ведь количество имеющихся знаний и легкость доступа к ним как никогда велики, и столь же велика взаимосвязанность в планетарном масштабе, выражающаяся в путешествиях, электронной коммуникации и всевозможных национальных соглашениях по сотрудничеству, касающихся науки, искусства и торговли; ведь возможности диагностировать, лечить и даже побеждать болезни продолжают расширяться, а продолжительность жизни – расти настолько, что люди, рожденные после 2000 года, имеют шансы прожить в среднем как минимум сто лет и, надо надеяться, прожить благополучно. Скоро нас будут возить беспилотные автомобили, экономя нам усилия и спасая жизни, потому что аварии станут редкостью.

Однако чтобы счесть наше время лучшим из времен, нужно отвлекаться от бед собратьев по человечеству, а то и проявлять к ним равнодушие. Хотя научная и техническая грамотность никогда не были выше, публика уделяет мало времени чтению романов или поэзии, которое все еще остается самым верным и самым вознаграждающим способом вступить в комедию и драму бытия и получить возможность поразмышлять, кто мы и кем можем быть. Людям явно недостает времени на непрактичное занятие – просто быть. Некоторые общества, воздающие должное современной науке и технологиям и получающие от них больше всего пользы, представляются духовными банкротами – и в светском, и в религиозном смысле слова “духовный”. Судя по безразличию, с которым они принимают проблемные финансовые кризисы – интернет-пузырь 2000 года, ипотечные махинации 2007-го и банковский коллапс 2008-го, – они представляются и банкротами моральными. Удивительно – или не очень, – но уровень счастья в обществах, которые больше всего приобрели в результате необычайного прогресса нашего времени, либо стабилен, либо снижается, если, конечно, мы можем доверять соответствующим измерениям¹.

За последние четыре или пять десятилетий широкая публика большинства развитых обществ приняла практически без сопротивления тот факт, что новости и общественные дела все больше подвергаются извращению с целью втиснуть их в развлекательную модель коммерческого телевидения и радио. Не столь развитые общества без труда последовали их примеру. Обращение чуть ли не всех общественно значимых медиа в коммерческий бизнес еще больше снизило качество информации. Хотя жизнеспособное общество должно интересоваться тем, как его правительство заботится о благополучии граждан, представление, что каждый день нужно выделить несколько минут и постараться узнать об успехах и трудностях правительств и граждан, не просто устарело, а почти вымерло. Что же касается представления, что подобными вещами следует интересоваться всерьез и относиться к ним уважительно, то оно нынче и вовсе стало инопланетным. Радио и телевидение превращают всякий вопрос управления в “историю”, и “форма” и развлекательное значение этой истории оказываются важнее, чем ее фактическое содержание. Когда в 1985 году Нил Постман написал свою книгу “Развлекаемся до смерти: Общественный дискурс в эру шоу-бизнеса”, он поставил точный диагноз, однако он и понятия не имел, сколько нам придется настрадаться перед смертью². Проблема усугубляется снижением расходов на государственное образование и предсказуемым упадком подготовки граждан. В случае США все еще хуже из-за того, что в 1987 году была отменена Доктрина честности 1949 года, требовавшая, чтобы владельцы лицензий на общественное вещание представляли общественные дела беспристрастно и честно. Результатом, который усугубляют упадок печатных медиа и подъем и почти полное господство цифровой коммуникации и телевидения, становится ощутимая нехватка подробного и беспристрастного анализа общественных дел вкупе с постепенным отказом от практик спокойного размышления и рассмотрения фактов. Нужно, разумеется, постараться не раздувать ностальгию по никогда не существовавшим временам. Не все в прошлом были серьезно информированы, склонны к рефлексии и проведению различий. Не все уважали правду и духовное благородство, не говоря уже об уважении к жизни. И тем не менее текущий спад серьезного общественного самосознания – это проблема. Человеческие общества предсказуемо фрагментированы по самым различным параметрам, таким как грамотность, уровень образования, гражданское поведение, духовные стремления, свобода слова, доступ к правосудию, экономическое положение, здоровье и безопасность окружающей среды. В сложившихся обстоятельствах стало еще труднее поощрять граждан продвигать и поддерживать общий список бесспорных ценностей, прав и обязанностей.

Учитывая невероятный прогресс новых медиа, публика может в подробностях узнавать о реальных фактах, лежащих в основе экономик, о состоянии локального и глобального управления и о состоянии обществ тех или иных стран – и это, несомненно, преимущество, расширяющее возможности; более того: интернет предоставляет способы обсуждения, не связанные с традиционными коммерческими или правительственными институциями, – и это еще одно мощное преимущество. С другой стороны, публике обычно не хватает времени и методик для переработки огромных массивов информации в рациональные и практически полезные выводы. Более того, компании, распоряжающиеся распределением и накоплением информации, содействуют публике сомнительным образом: информационный поток направляется алгоритмами, искажающими подачу так, чтобы она отвечала различным финансовым, политическим и социальным интересам, – не говоря уже о вкусах пользователей, которым предоставляется возможность оставаться внутри собственного развлекательного бункера мнений.

Говоря начистоту, следует признать, что голоса мудрости из прошлого – голоса опытных и вдумчивых редакторов газет, радио и телепрограмм – были тоже необъективны и склонялись к определенным взглядам на то, как должны функционировать общества. В ряде случаев, однако, эти конкретные взгляды можно было отождествить с определенными философскими или социополитическими представлениями, и можно было либо принять выводы, либо оспорить их. В настоящее время у широкой публики нет такой возможности. У каждого есть прямой доступ к окружающему миру через оборудованное всеми приложениями портативное устройство, каждого поощряют к тому, чтобы максимизировать свою автономию. И нет особых побудительных мотивов, чтобы заинтересоваться чужими, альтернативными взглядами, не говоря уже о том, чтобы их принять.

Новый мир коммуникации – благо для граждан мира, обученных мыслить критически и знающих историю. Но как насчет граждан, которых обольстил мир развлечений и коммерции? Они выросли по большей части в среде, где провоцирование негативных эмоций скорее правило, чем исключение, и где лучшие решения проблем чаще всего связаны с краткосрочными эгоистическими интересами. Стоит ли их винить?

Распространившаяся доступность практически мгновенной передачи общественной и личной информации – на первый взгляд благо – парадоксальным образом сокращает время, требующееся на размышления об этой самой информации. Управление валом доступного знания часто требует быстрой классификации фактов как полезных или вредных, приятных или неприятных. Это, вероятно, способствует росту поляризации мнений относительно социальных и политических событий. Утомление от лавины фактов толкает в сторону готовых убеждений и мнений, разделяемых зачастую той группой, к которой мы принадлежим. Это еще больше усугубляется тем фактом, что, независимо от того, насколько мы умны и информированны, мы по природе своей сопротивляемся изменению собственных убеждений – невзирая на доступность доказательств иного. Исследования нашего института показывают это применительно к политическим воззрениям, но я подозреваю, что это применимо к широкому спектру убеждений, от религии и правосудия до эстетики. Эти исследования демонстрируют, что сопротивление переменам связано с противоположным действием систем мозга, связанных с эмоциями и рассуждениями. Сопротивление переменам связано, к примеру, с участием систем, отвечающих за возникновение гнева³. Мы конструируем своего рода естественное укрытие, чтобы защититься от противоречивой информации. Недовольные избиратели по всему миру не ходят на выборы. В подобном климате распространение фейковых новостей и постправды упрощается. Антиутопический мир, который некогда описывал Оруэлл, имея в виду Советский Союз, вернулся и вписался в иную социополитическую ситуацию. Скорость коммуникации и соответствующее ускорение темпа жизни также, возможно, способствуют упадку цивилизованности, который просматривается в нетерпимости публичного дискурса и росте хамства в городской жизни⁴.

Отдельный, но важный вопрос, который все еще недооценен, – аддиктивный характер электронных медиа, от простой переписки по электронной почте до социальных сетей. Зависимость переключает внимание с непосредственного переживания окружающей среды на опосредованное его переживание через всевозможные электронные устройства. Зависимость увеличивает несоответствие между объемами информации и времени, которое требуется на ее переваривание.

Распад приватности, сопровождающий повсеместное использование интернета и социальных медиа, гарантирует отслеживание каждого человеческого движения и высказанной идеи. Более того: все виды слежки, начиная от необходимой для общественной безопасности и кончая откровенно бесцеремонными злоупотреблениями, стали теперь реальностью, их с гарантированной безнаказанностью практикуют правительства и частный сектор. На фоне слежки шпионаж, даже шпионаж суперсил – эта почтенная деятельность, которая существует уже тысячелетиями, – выглядит респектабельно и невинно. Слежкой уже торгуют за большие деньги разнообразные технологические компании. Неограниченный доступ к частной информации начинает использоваться для того, чтобы вызывать скандалы, даже если повод бывает не криминального характера. Результат – затыкание рта политическим кандидатам, понимающим, что иначе их и их политические карьеры погубят личные откровения. Это стало теперь очередным важным фактором в общественном управлении. В обширных секторах наиболее технологически развитых регионов мира большие и малые скандалы влияют на электоральные результаты и усиливают растущее недоверие общественности к политическому истеблишменту и профессиональным элитам. Общества, уже имеющие дела с крупными проблемами неравного распределения благосостояния и человеческих миграций из-за войн и безработицы, стали практически неуправляемыми. Дезориентированные электораты обращаются к давно минувшим и мифологизированным “лучшим”временам – либо с ностальгией, либо с гневным протестом. Но эта ностальгия ложна, а гнев зачастую направлен не на тот объект. Оба эти чувства отражают недостаток понимания изобилия фактов, подающихся различными медиа и предназначенными в основном для того, чтобы развлекать, продвигать всяческие социальные, политические и коммерческие интересы и зарабатывать на этом огромные деньги.

Растет напряжение между властью широкой публики, которая представляется информированной как никогда, но не располагает временем или инструментами, чтобы оценивать и интерпретировать информацию, и властью корпораций и правительств, которые контролируют информацию и знают все, что требуется знать, об этой самой публике. Как разрешить проистекающий из этого конфликт, неясно.

Существуют и другие риски. Катастрофические конфликты с применением ядерного и биологического оружия являют собой в наши дни, возможно, более вероятную угрозу, чем тогда, когда оружие контролировалось силами холодной войны; угрозы терроризма и добавившийся недавно риск кибервойны вполне реальны, как и угроза антибиотикорезистентных инфекций. Во всех этих проблемах можно винить современность, глобализацию, экономическое неравенство, безработицу, недостаток образования, избыток развлечений, разнообразие и ошеломляющую скорость и вездесущность цифровой коммуникации. Но каковы бы ни были причины, перспективы неуправляемых обществ от этого не меняются.

Эту мрачную картину смягчает видение Мануэля Кастельса, одного из выдающихся исследователей коммуникативных технологий и ведущего социолога, чьи работы играют ключевую роль в деле понимания борьбы за власть в культурах XXI века. Так, он убежден, что, обнажив несостоятельность и коррумпированность управления в ведущих демократиях, цифровые медиа в действительности открыли путь к глубокой и, надо надеяться, здоровой перестройке управления. По Кастельсу, хотя пока мы еще не видим позитивных результатов, реорганизация человеческой власти, совместимой с демократией, по-прежнему возможна. Кастельс также относится скептически к идее, что когда-либо существовал мифический век, в который медиа, образование, гражданское поведение и управление были не столь проблематичны, как теперь. Интернет и в целом цифровые коммуникации играют позитивную роль и являются скорее благословением, чем проклятием⁵.

Важно оценить то, что распространилось признание прав человека и растет внимание к нарушениям этих прав. Семена размышлений о том, что базовые характеристики людей во всем мире одни и те же и восходят к универсальному общему предку, успешно посеяны. Как никогда распространено представление о том, что люди имеют равные права на стремление к счастью и уважение своего достоинства. После Второй мировой войны ООН приняла Всеобщую декларацию прав человека – самый близкий из того, к чему мы пришли, аналог желательного, но до сих пор не написанного международного законодательства, наделяющий всех людей одними и теми же правами; нарушения этих прав в некоторых частях мира могут рассматриваться международными трибуналами как преступления против человечности. У людей есть обязанности перед другими людьми, и, возможно, в один прекрасный день у них появятся обязанности также перед другими видами живого и перед планетой, на которой они родились. Это настоящий прогресс. Круг того, что волнует людей, безусловно, расширился, как отмечают, наряду с другими исследователями, Амартия Сен, Онора О’Нил, Марта Нуссбаум, Питер Сингер и Стивен Пинкер⁶. Но почему мы наблюдаем ослабление или коллапс тех самых институтов, которые сделали этот прогресс возможным? Что встало на пути прогресса человечества, и отчего нынешняя ситуация подозрительно напоминает возврат к прошлому? Может ли биология помочь объяснить, в чем дело?