Читать книгу "Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание"

Вопрос свободы воли в случае наличия у человека более чем одного мозга

Если обратить внимание на то, как люди изображают андроидов в книгах и кинофильмах, можно убедиться, что мы, по сути, воспринимаем их так, как панпротопсихисты. То есть если поведение ИИ напоминает человеческое, то даже при том, что он мыслит не с помощью биологических нейронов, мы переживаем за него так, как будто он обладает сознанием в смысле наличия у него субъективного опыта.

Исследования показывают, что, подобно тому, как ИИ может состоять из набора отдельных алгоритмов, человеческий мозг тоже поделен на несколько отдельных модулей, способных принимать решения. Многочисленные эксперименты над нашими двумя полушариями демонстрируют их относительную равноценность и независимость³³. Исследователи Стелла де Боде и Сьюзан Кертис изучили 49 детей, которые перенесли операцию по удалению одного из полушарий для устранения жизнеугрожающего эпилептического расстройства³⁴. Большинство из этих детей смогли вернуться к обычной жизни, и даже те, кто не смог полностью избавиться от заболевания, были практически полноценными личностями. Хотя обработкой речи обычно занимается левое полушарие, оба полушария функционально эквивалентны, и человек способен овладеть речью, даже если у него осталась только одна половина мозга³⁵.

Возможно, наиболее впечатляющие результаты были получены при изучении мозга, левое и правое полушария которого оставались сохранены, но пучок из 200 миллионов аксонов³⁶, известный как мозолистое тело, был рассечен хирургическим путем. Такие случаи, когда у пациента две полусферы мозга сохранили работоспособность, но потеряли возможность непосредственного общения, исследовал Майкл Газзанига (род. в 1939 г.)³⁷. В ряде экспериментов он продемонстрировал, что если правому полушарию показать некоторое слово, то левое, которое ничего об этом слове не знало, тем не менее брало на себя ответственность за решения, принятые на основе полученной информации, хотя непосредственный выбор делало правое полушарие³⁸. Это значит, что левая часть мозга прибегала к конфабуляции, то есть выдумывала правдоподобные объяснения, почему она могла принять такое решение. По всей видимости, ни одна из частей мозга не была в курсе существования своего соседа по черепной коробке³⁹.

Эти и другие эксперименты с полушариями мозга свидетельствуют, что у обычного человека фактически есть два мозга, способных принимать независимые решения. Тем не менее сознание у нас одно. Каждый из этих мозгов уверен, что решения принимает именно он, а из-за их тесной взаимосвязи ни у одного из них не возникает подозрения в обратном.

Если абстрагироваться от двух полушарий мозга, можно предположить, что у нас есть и другие центры принятия решений, которые также могут обладать свободой воли в том смысле, который мы обсуждали ранее. Например, новая кора, в которой формируются решения, состоит из множества более мелких модулей⁴⁰. Это может означать, что, когда мы обдумываем решение, разные модули представляют различные варианты и каждый из них стремится отстоять свою точку зрения. Мой учитель Марвин Минский утверждал, что мозг представляет собой не единый командный пункт, а сложную сеть, отдельные части которой могут поддерживать разные варианты, пока мы находимся в раздумьях. Минский называл наш мозг «обществом разума» (так он назвал свою вторую книгу), в котором различные более простые процессы отражают разные точки зрения⁴¹. Но делает ли каждая из частей свободный выбор? Как мы можем в этом убедиться? В последние десятилетия были проведены эксперименты, подтверждающие эту идею. Однако пока наше понимание того, каким образом отдельные процессы приводят к конкретным решениям, которые мы воспринимаем как свои собственные, остается ограниченным.

«Вы-2» обладает сознанием. можно ли считать его вами?

Возникает интересный вопрос. Если единое сознание и личность могут базироваться на нескольких различных, обрабатывающих информацию структурах внутри нашего черепа – в том числе когда те физически разделены, – то что произойдет, если эти структуры окажутся еще и на некотором расстоянии друг от друга?

Один из ключевых вопросов, рассмотренных мной в книге «Эволюция разума», касается философских и моральных последствий создания копии всей информации, содержащейся в мозге человека. Это станет возможным в течение жизни большинства наших современников.

Допустим, я воспользуюсь продвинутой технологией и подробно исследую каждую область вашего мозга, а затем создам ее точную электронную копию. (Сегодня мы уже можем создавать упрощенные копии некоторых специфических областей мозга, например, для борьбы с тремором при болезни Паркинсона ⁴².) Сам по себе этот участок слишком мал, чтобы породить сознание. Но затем я скопирую еще один, и еще, и еще. В конце концов у меня на руках будет полная цифровая копия вашего мозга со всей информацией, и она сможет функционировать в точности как ваш мозг.

Будет ли «Вы-2» обладать сознанием? «Вы-2» будет утверждать, что пережил все то же самое, что и вы (поскольку у вас с ним общие воспоминания), и будет вести себя в точности как вы. Поэтому, если только мы в принципе не откажем электронным копиям сознательных существ в возможности самим иметь сознание, нам придется ответить утвердительно. Другими словами, если электронный мозг обладает той же информацией, что и биологический, и заявляет, что обладает сознанием, у нас нет научных оснований ему не верить. С точки зрения этики мы будем обязаны относиться к нему как к сознательному существу и признать, что в отношении него действуют законы морали. И это не пустое размышление, поскольку панпротопсихизм предоставляет нам философское обоснование, почему нам следует считать это существо сознательным.

Но есть и более трудный вопрос: можно ли считать «Вы-2» вами? Нужно учесть, что «Вы-1» (то есть обычный человек) все еще существует. Можно даже предположить, что ваша копия была создана без вашего ведома, но, независимо от этого, ваше существование не прерывалось. Если эксперимент удался, «Вы-2» будет совершать поступки, которые совершили бы вы, но вы сами останетесь таким же, каким и были, так что «Вы-1» – это и будете вы. Поскольку «Вы-2» может действовать независимо от вас, он сразу же станет отличаться от вас, создавая собственные воспоминания и получая другой опыт. Так что, раз ваша личность представляет собой уникальную информационную структуру в вашем мозге, «Вы-2», даже обладая сознанием, все же не будет вами.

Хорошо, перейдем к другому эксперименту. На этот раз мы будем постепенно заменять отдельные участки вашего мозга их электронными копиями, подключая их к оставшимся нейронам через специальный интерфейс мозг-компьютер наподобие тех, что были описаны в прошлой главе. Так что вместо «Вы-1» и «Вы-2» остаетесь только «Вы». После каждой фазы эксперимента вы чувствуете себя отлично и никто другой не замечает проблем. Можно ли сказать, что после каждого этапа «Вы» остаетесь вами? А в конце, когда весь ваш мозг станет цифровым?

Вопрос о том, остается ли объект тем же самым при замене отдельных частей, восходит к древнему спору философов о корабле Тесея ⁴³. Две с половиной тысячи лет назад греческие мыслители задумались о деревянном судне, доски которого одна за другой меняются на новые по мере износа. Кажется очевидным, что после замены одной из досок корабль все еще можно считать тем же самым. В его конструкции кое-что поменялось, но все же мы говорим о починке старого корабля, а не о строительстве нового. Но что, если больше половины досок заменены на новые? Или когда все доски свежие, а старых, оставшихся со времен постройки корабля, вообще не осталось? Это случай уже сложнее, но многие все равно скажут, что, в принципе, корабль остался тем же, несмотря на постепенную замену частей. А теперь представьте, что каждый раз при замене доски старую относили на склад. После того как все элементы корабля были заменены, мы вновь собираем корабль из старых частей со склада. Какой из кораблей настоящий? Тот, который имеет с исходным непрерывную связь через постепенные модификации, но состоит из новых материалов? Или вновь собранный из оригинальных запчастей?

Корабль Тесея кажется просто забавным парадоксом, когда мысленный эксперимент касается судна или любого неживого объекта, то есть когда ставки не слишком высоки. Вопрос идентичности корабля оригиналу касается только нашей прихоти. Но задача становится необычайно серьезной, когда речь заходит о человеке. Каждому из нас абсолютно не все равно, находится рядом действительно близкий человек или Чалмерсов зомби, умело создающий нужное впечатление.

Давайте посмотрим на эту ситуацию с точки зрения «трудной проблемы сознания». В случае, когда мы создали «Вы-2» как вашего двойника, невозможно определить, будет ли субъективное сознание «Вы-2» иметь что-либо общее с вашим. Будет ли ваш субъективный опыт отныне каким-то образом охватывать обе копии вашего существа, даже при том, что информационное наполнение их мозгов будет со временем все сильнее различаться из-за разного опыта? Или «Вы-2» станет полностью самостоятельным существом? У науки нет способа ответить на этот вопрос.

В то же время в сценарии, в котором мы постепенно переносим информацию из вашего мозга на небиологический носитель, у нас куда больше оснований полагать, что ваше субъективное сознание сохранится. Как я уже упоминал, в очень ограниченном виде, но мы уже делаем что-то подобное при лечении определенных заболеваний, причем нейропротез обладает большими возможностями, чем тот участок мозга, который он заменяет. Поэтому он не совсем идентичен оригинальной части. Первые протезы, в частности кохлеарные импланты, могли стимулировать мозговую активность, но не заменяли собой основные структуры мозга⁴⁴. Однако с начала 2000-х годов ученые разрабатывают мозговые импланты, способные помочь людям со структурными повреждениями или некорректно работающими участками внутри мозга. Например, искусственные устройства уже берут на себя часть работы гиппокампа у людей с нарушениями памяти⁴⁵. В 2023 году эти технологии все еще находятся на начальной стадии развития, но в ближайшее десятилетие мы станем свидетелями того, как они будут становиться все более совершенными и доступными широкому кругу пациентов. При существующих технологиях, по крайней мере, нет никаких сомнений, что личность человека сохраняется, и никто не скажет, что он похож на зомби, о которых говорил Чалмерс.

Весь наш опыт в области нейробиологии подсказывает, что при постепенной замене участков мозга вы даже не заметите разницы, к тому же мозг великолепно адаптируется. Ваш гибридный мозг сохранит все информационные образы, которые определяют вашу личность. Поэтому нет причин опасаться, что ваше субъективное сознание пострадает, и вы, безусловно, останетесь самим собой – единственным и неповторимым. Однако в результате этого гипотетического процесса вы превратитесь в точности в «Вы-2», который, как мы ранее решили, не является вами. Как разрешить это противоречие? Все дело в непрерывности: цифровой мозг не расходится с биологическим, так как ни в один момент времени они не существуют как отдельные объекты.

Рассмотрим теперь третий, уже не гипотетический сценарий. Каждый день в нашем организме происходит замена отмирающих клеток на новые. Хотя нейрон живет относительно долго, в течение месяца обновляется около половины его митохондрий⁴⁶; период полураспада микротрубочек составляет несколько дней⁴⁷; запасы белков, обеспечивающих энергией синапсы, восполняются в течение 2–5 дней⁴⁸; NMDA-рецепторы в синапсах замещаются в течение нескольких часов⁴⁹; микрофиламенты в дендритах распадаются за 40 секунд⁵⁰. Получается, каждые несколько месяцев наш мозг почти полностью обновляется, так что, по сути, вы становитесь биологической версией «Вы-2», если сравнивать с вами же более раннего образца. И снова ваша личность сохраняется благодаря информации и непрерывности функционирования, а не какой-то особой структуре или материалу.

Годами я любуюсь красивейшей рекой Чарльз, которая протекает неподалеку от моего дома. Каждый раз, когда я смотрю на реку, она кажется мне такой же, как вчера или даже десять лет назад, когда я упоминал о ней в книге «Эволюция разума». Так происходит потому, что, хотя через заданное течение русла проходят новые молекулы воды каждые несколько миллисекунд, они следуют общей траектории, которая и определяет течение реки. То же самое происходит в нашем мозге. Когда мы будем внедрять в наше тело и мозг небиологические модули, непрерывность наших мыслительных образов будет поддерживаться. Мы продолжим чувствовать себя самими собой, разве что наше восприятие станет острее, а сообразительность вырастет.

Разумеется, та же технология, благодаря которой мы сможем перенести все навыки, воспоминания и личность человека на цифровой носитель, также позволит создать множество копий этой информации. Эта суперспособность из цифрового мира – создавать произвольное количество копий самого себя – не имеет аналогов в живой природе. Резервное копирование информации из нашего мозга в удаленный репозиторий станет надежной защитой от несчастных случаев и болезней, которые могут повредить наш мозг. Это еще не бессмертие, поскольку нельзя считать вечными электронные таблицы, сохраненные в облаке, – аварии, уничтожающие все данные, случаются и в дата-центрах. Но эта мера поможет нам избежать трагических случайностей, которые уносят так много жизней. А мое понимание панпротопсихизма предполагает, что ваше субъективное сознание каким-то образом охватит все копии определяющей вашу личность информации.

У этой интерпретации есть еще одно интересное следствие. Если отпустить «Вы-2» гулять по свету, предоставив ему полную свободу действий, то информационная структура, формирующая его личность, отделится. Однако, поскольку этот процесс будет происходить постепенно и непрерывно, существует вероятность, что ваше субъективное сознание будет работать с двумя структурами одновременно. Я подозреваю, основываясь на теории панпротопсихизма, что наше субъективное сознание связано с базовой уникальной информационной структурой и поэтому каким-то образом будет охватывать все копии этой структуры, которые изначально были идентичны нашей собственной.

Однако, поскольку не исключено, что даже в этом случае «Вы-2» будет настаивать, что имеет отдельное от вас субъективное сознание (так как физические структуры, принимающие решения и отвечающие за коммуникацию, будут различными), и установить истину будет невозможно, с точки зрения права и этики придется рассматривать вас как отдельных личностей.

Ваше существование – редчайшая удача

Рассуждая о том, кто мы такие, стоит задуматься об удивительной цепочке крайне маловероятных событий, которая привела к появлению на свет каждого из нас. Мало того, что ваши родители должны были встретиться и принять решение о рождении ребенка, вероятность чего весьма сложно оценить, так еще и определенный сперматозоид должен был оплодотворить конкретную яйцеклетку, чтобы в результате появились именно вы. Вероятность такого события составляла примерно один шанс из двух квинтиллионов. В среднем мужчина за свою жизнь производит порядка двух триллионов сперматозоидов, а женщина от рождения имеет около миллиона яйцеклеток⁵¹. В предположении, что вашу будущую личность определяет конкретный набор из двух половых клеток, мы получаем именно такую оценку вероятности вашего существования. Конечно, не все половые клетки содержат уникальный генетический набор, однако мы также не учли влияние эпигенетики. Например, два сперматозоида с абсолютно одинаковым хромосомным набором, произведенные мужчиной в 25 и 45 лет соответственно, внесут неодинаковый вклад в формирование черт будущего ребенка⁵². Так что мы не сильно ошибемся, если будем считать все сперматозоиды и яйцеклетки уникальными. Аналогичные соображения справедливы для ваших предков по материнской и отцовской линиям. С каждой стороны есть бабушка и дедушка, две прабабушки и два прадедушки, четыре прапрабабушки и четыре прапрадедушки, и так далее – конечно, не до бесконечности, но нужно учесть всех предков с момента зарождения жизни на земле около четырех миллиардов лет назад⁵³.

Число, состоящее из единицы и ста нулей, называется «гугол» (именно от этого слова образовано название всемирно известной поисковой системы в интернете). Если возвести число 10 в степень гугол, получится гуголплекс – невообразимо большое число. Так вот, рассуждения из предыдущего абзаца (более детально описанные в заметках) приводят нас к выводу, что вероятность вашего существования можно получить, разделив единицу на число, состоящее из единицы с гораздо большим количеством нулей, чем гуголплекс⁵⁴. При всем при этом вы здесь с нами. Разве это не настоящее чудо?

Кроме того, само возникновение Вселенной, способной поддерживать обработку информации, является в еще большей степени исключительным событием. Наш уровень понимания физики и космологии позволяет утверждать, что небольшое изменение законов физики привело бы к невозможности существования жизни во Вселенной⁵⁵. Иначе говоря, из всех конфигураций, которые могла бы иметь наша Вселенная, только очень ограниченный набор допускает наше существование. Если перечислить факторы, от которых зависит возможность существования жизни во Вселенной, и оценить, насколько соответствующие значения должны были бы отличаться от реальных, чтобы сделать зарождение жизни невозможным, то можно получить представление о том, насколько маловероятным было наше появление.

Согласно Стандартной модели, существуют 37 видов элементарных частиц, различающихся массой, зарядом и спином. Эти частицы взаимодействуют друг с другом с помощью четырех фундаментальных сил: гравитационной, электромагнитной, сильной и слабой ядерных сил. Некоторые ученые убеждены в существовании гравитонов, которые, как предполагается, отвечают за гравитационные эффекты⁵⁶. Воздействие упомянутых сил на частицы характеризуется набором постоянных величин, которые и определяют физические законы. Ученые выявили множество причин, по которым даже крайне малые изменения определяющих констант сделали бы невозможным формирование разумной жизни, которая требует для своего наличия сложных химических соединений, источников энергии достаточной мощности, а также сравнительно неизменных условий окружающей среды на протяжении сотен миллионов лет эволюции. В настоящее время господствующей теорией возникновения жизни является гипотеза абиогенеза ⁵⁷. В соответствии с этой теорией неживая материя в «первичном бульоне» самоорганизовалась из соединений-предшественников в сложные строительные блоки белков, способных поддерживать жизнь. В конце концов белки спонтанно образовали структуру, способную самовоспроизводиться, положив тем самым начало жизни. Если бы этот процесс прервался на любом из этапов, человечество никогда бы не появилось.

Если бы сильное ядерное взаимодействие было сильнее или слабее, в звездах не смогли бы образоваться углерод и кислород – важнейшие для жизни химические элементы⁵⁸. Аналогично слабое взаимодействие по величине лишь немного превышает минимальное значение, необходимое для эволюции жизни⁵⁹. Если бы оно недотягивало до этого минимума, весь водород очень быстро превратился бы в гелий и звезды, подобные нашему Солнцу, не могли бы существовать и гореть достаточно долго, чтобы в их звездных системах успела возникнуть жизнь.

Если бы разница в массе между верхним и нижним кварками была немного больше или меньше, они не смогли бы образовать долгоживущие протоны и нейтроны, незаменимые строительные блоки для сложной материи⁶⁰. К такому же результату привело бы небольшое увеличение массы электрона относительно указанной разницы⁶¹. По словам физика Крэйга Хогана, «изменение разницы масс кварков на несколько процентов в любую сторону» сделало бы жизнь невозможной⁶². Если бы разница была чуть больше, получилась бы вселенная протонов, наполненная атомами водорода⁶³; чуть меньше – мир нейтронов, в котором существуют ядра атомов, но нет электронов и, как следствие, химических процессов⁶⁴.

Если бы гравитация была немного слабее, Вселенная лишилась бы сверхновых звезд – источника тяжелых химических элементов, из которых состоит жизнь⁶⁵. При большей гравитации жизненный цикл звезд стал бы значительно короче, не позволяя эволюции сделать свою работу⁶⁶. В течение секунды после Большого взрыва параметр плотности (известный как Ω – «омега») не должен был отличаться от действительного более чем на одну квадрилионную долю, иначе жизнь была бы невозможна⁶⁷. Если бы его значение было немного выше, то материя, рассеянная в результате Большого взрыва, снова сжалась бы под действием гравитации еще до того, как могли бы образоваться звезды. А если бы он был чуть меньше, расширение происходило бы настолько быстро, что звезды не успели бы сформироваться.

Кроме того, макроструктура Вселенной обусловлена небольшими локальными колебаниями плотности расширявшегося вещества в первое мгновение после Большого взрыва⁶⁸. В любой точке ее значение в среднем отличалось от общей плотности примерно на одну стотысячную⁶⁹. Если бы амплитуда колебаний плотности (которую часто описывают как рябь на поверхности пруда) была на порядок больше или меньше, жизнь тоже была бы невозможна. По словам космолога Мартина Риса, если бы пульсации были слишком малы, «газ вообще никогда не сконденсировался бы в гравитационно-связанные структуры, и такая вселенная навсегда осталась бы темной и однородной»⁷⁰. Напротив, если бы рябь была слишком большой, Вселенная погрузилась бы в «космический ураган», большая часть вещества превратилась бы в огромные черные дыры, а у звезд не было бы шансов «сохранить стабильные планетные системы»⁷¹.

Чтобы образовалась упорядоченная материя вместо хаотического бульона, сразу после Большого взрыва энтропия Вселенной также должна была быть очень низкой. Физик Роджер Пенроуз, основываясь на наших представлениях об энтропии и случайности, утверждает, что только одна из 1010¹²³ возможных вселенных может иметь энтропию настолько низкую, чтобы принять форму, подобную нашей Вселенной⁷². Это число содержит нулей больше, чем атомов в известной части Вселенной (которых, по разным оценкам, может быть от 1078 до 1082). Если считать, что их 1080, то количество нулей в 1010¹²³ на сорок три порядка больше, то есть в десять миллионов миллиардов миллиардов миллиардов миллиардов миллиардов миллиардов раз⁷³.

Можно подвергнуть сомнению каждое из этих соображений, и не все ученые согласны с выводами о влиянии каждого отдельного фактора. Однако нет смысла рассматривать эти параметры по отдельности. Скорее, как отмечает физик Люк Барнс, нужно изучать «пересечение допустимых значений, а не объединение» (в математическом смысле)⁷⁴. Иначе говоря, если мы хотим, чтобы жизнь появилась, каждый из факторов должен принять значение, способствующее этому. Всего лишь один промах делает жизнь невозможной. Как остроумно заметил астроном Хью Росс, поверить, что все эти параметры получили необходимые значения по воле случая, так же трудно, как и в то, что «от налетевшего урагана на свалке случайно образовался “Боинг-747”»⁷⁵.

Нам кажется, что параметры Вселенной будто специально подобраны, чтобы мы могли появиться на свет. Это ощущение можно объяснить так называемой «ошибкой выжившего»⁷⁶. Речь о том, что, если бы фундаментальные константы были другими, некому было бы задаваться всеми этими вопросами: чтобы оценить вероятность существования такой тщательно настроенной Вселенной, мы должны сначала в ней оказаться. Такое рассуждение носит название «антропного принципа», и ряд ученых считает предлагаемое им объяснение удовлетворительным. Однако если мы уверены, что реальность существует независимо от наличия наблюдателя в лице человека, такой ответ нас не устроит. Мартин Рис предлагает посмотреть на проблему с другой стороны: «Представьте, что вас поставили к стене для расстрела, но все стрелки промахнулись. Вы можете, конечно, сказать: “Ну, если бы кто-то из них попал, рассуждать об этом было бы некому”. Но ведь это все равно удивительный факт, и хорошо бы найти ему объяснение»⁷⁷.