Текст книги "Физика будущего"

Оптогенетика – всего лишь первый скромный шаг. Следующим шагом должно стать моделирование мозга целиком при помощи новейших технологических достижений. Существует по крайней мере два способа решения этой колоссальной по масштабу и значимости задачи, и любой из них потребует не одного десятка лет интенсивного труда. Первый способ состоит в применении суперкомпьютеров для имитации поведения миллиардов нейронов, каждый из которых соединен с тысячами других нервных клеток. Второй путь – определить опытным путем местонахождение каждого нейрона в мозгу.

Ключ к первому подходу – моделированию мозга – прост: все дело в «грубой» компьютерной силе. Чем мощнее станут компьютеры, тем лучше. Не исключено, что гигантскую задачу действительно удастся решить при помощи грубой силы и далеких от элегантности теорий. В данный момент совершение этого поистине геркулесова подвига возложено на компьютер под названием Blue Gene, разработанный фирмой IBM, – один из самых мощных компьютеров на Земле.

Я имел возможность увидеть этот чудовищный компьютер во время визита в Ливерморскую национальную лабораторию в Калифорнии, где разрабатывают водородные боеголовки для Пентагона. Это важнейшая из американских секретных военных лабораторий – обширный комплекс площадью 320 га в центре огромного массива сельскохозяйственных земель; бюджет лаборатории, где работает 6800 человек, составляет 1,2 млрд долларов в год. Это сердце комплекса ядерных вооружений США. Чтобы попасть внутрь, мне пришлось пройти через многослойную систему охраны – ведь это одна из серьезнейших военных лабораторий в мире.

В конце концов, после прохождения нескольких блок-постов, меня допустили в здание, где располагается компьютер Blue Gene фирмы IBM, способный производить вычисления с умопомрачительной скоростью 500 триллионов операций в секунду. Blue Gene представляет собой выдающееся зрелище. Этот монстр занимает площадь около 1000 кв. м и состоит из множества черных как смоль стальных шкафов около 2,5 м высотой и 4,5 м длиной. Шкафы выстроены бесконечными рядами и образуют настоящий лабиринт.

Кстати говоря, прогулка среди этих черных шкафов производит странное впечатление. Если в голливудских научно-фантастических фильмах у компьютеров непременно мигают какие-то лампочки, крутятся диски, трещат и сверкают электрические разряды, то здесь совершенно тихо, лишь кое-где изредка вспыхивают крохотные огоньки. Вы понимаете, что компьютер вокруг вас производит триллионы сложнейших вычислений, но ничего не слышите и не видите во время его работы.

Меня особенно заинтересовал тот факт, что Blue Gene, помимо всего прочего, занимается моделированием мыслительных процессов в мозгу мыши. Мозг этого зверька содержит всего лишь около двух миллионов нервных клеток (сравните со 100 миллиардами нейронов нашего мозга). Однако смоделировать мыслительные процессы в мозгу мыши труднее, чем кажется, потому что каждый нейрон связан со множеством других нейронов и вместе они образуют густую нейронную сеть. Но я гулял между бесконечными рядами консолей, из которых состоит Blue Gene, и с изумлением думал о том, что всей невероятной вычислительной мощи этого уникального компьютера хватает только на то, чтобы смоделировать работу мозга мыши, – и то лишь в течение нескольких секунд. (Это не означает, что Blue Gene способен смоделировать поведение мыши. В этом плане ученые пока добрались только до таракана, и то едва-едва. Когда мы говорим о моделировании мыслительных процессов в мозгу животного, мы подразумеваем, что компьютер моделирует срабатывание нейронов мозга, а не поведение мыши.)

На самом деле моделированием мозга мыши занимается сразу несколько групп ученых. В частности, такая попытка осуществляется в швейцарской Федеральной политехнической школе Лозанны; это амбициозный проект Генри Маркрама (Henry Markram) Blue Brain. Проект стартовал в 2005 г., когда исследователям удалось получить небольшой вариант компьютера Blue Gene всего с 16 000 процессоров; тем не менее в течение года команде Маркрама удалось создать модель неокортикальной колонки мозга крысы – части так называемой новой коры (неокортекса), содержащей 10 000 нейронов и 100 млн связей. Эта работа стала важной вехой, поскольку доказывала принципиальную возможность комплексного анализа структуры важной составной части мозга, нейрон за нейроном. (В мозгу мыши миллионы таких колонок, этот структурный элемент повторен многократно. Таким образом, модель даже одной колонки помогает понять, как работает мозг в целом.)

В 2009 г. Маркрам оптимистично заявил: «Построить модель человеческого мозга вполне возможно, и мы в состоянии сделать это лет за десять. Если мы сделаем все правильно, она будет говорить, обладать интеллектом и вести себя совершенно как человек». Однако при этом он предупреждает, что для создания такой модели потребуется суперкомпьютер, в 20 000 раз более мощный, чем современные суперкомпьютеры, и с памятью, в 500 раз превосходящей по объему нынешний Интернет.

Так что же мешает ученым достичь этой колоссальной цели? Для Маркрама все просто: нет денег.

Ему кажется, что, поскольку базовые научные принципы моделирования мозга уже ясны, для успеха нужно просто вложить в проект достаточно денег. Он говорит: «Речь идет не о годах, а о долларах… Вопрос в том, хочет ли этого общество. Если модель нужна через десять лет, они получат ее через десять лет. Если она нужна через тысячу лет, мы можем подождать».

Однако этой проблемой, помимо Маркрама, занимается еще одна группа ученых, которой удалось получить в свое распоряжение величайшие компьютерные мощности в истории. Эта группа работает с наиболее продвинутой версией Blue Gene, получившей название Dawn; она также находится в Ливерморе. Dawn – поистине впечатляющее зрелище; в нем 147 456 процессоров и 150 000 гигабайт памяти. Он примерно в 100 000 раз мощнее вашего настольного компьютера. На счету этой группы, которую возглавляет Дхармендра Модха (Dharmendra Modha), уже имеется несколько серьезных успехов. В 2006 г. она была в состоянии смоделировать 40 % мышиного мозга, а в 2007-м – уже 100 % крысиного (в мозге крысы около 55 млн нейронов, что гораздо больше, чем у мыши).

В 2009 г. группа преодолела еще один рубеж и превзошла прежний мировой рекорд. Ей удалось смоделировать 1 % коры головного мозга человека, или приблизительно весь объем коры головного мозга кошки, – 1,6 млрд нейронов и 9 трлн связей. Однако моделирование шло медленно, скорость работы модели примерно в 600 раз уступала скорости работы реального мозга. (Если модель охватывала только 1 млрд нейронов, она работала намного быстрее, всего в 83 раза медленнее, чем мозг.)

«Это можно сравнить с телескопом Хаббла для сознания или с линейным ускорителем для мозга, – гордо говорит Модха, имея в виду научный масштаб этого достижения. Поскольку мозг содержит 100 млрд нейронов, моделирование даже одного миллиарда позволяет увидеть свет в конце туннеля. Ученые уверены, что полная модель человеческого мозга уже не за горами. – Это не просто возможно, это неизбежно. Так будет!»

Однако моделирование человеческого мозга целиком до сих пор представляет серьезные проблемы, особенно в плане энергии и отвода тепла. Компьютер Dawn потребляет 1 МВт энергии и выделяет столько тепла, что только на его охлаждение работает 6675 т кондиционирующего оборудования, вырабатывающего 76 тыс. м3 охлажденного воздуха в минуту. Для моделирования человеческого мозга целиком все эти числа придется умножить еще на 1000.

Задача воистину монументальная. Энергопотребление гипотетического суперкомпьютера составило бы 1 ГВт, что соответствует типовой мощности одного энергоблока атомной станции. Этой энергией можно было бы осветить и обогреть крупный город! Для охлаждения этого суперкомпьютера потребовалось бы отвести целую реку и пропустить ее воды через компьютер. А сам компьютер занял бы не один городской квартал.

Поразительно, но человеческий мозг потребляет всего 20 Вт. Выделяемое им тепло почти незаметно, и все же мозг с легкостью оставляет позади совершеннейшие суперкомпьютеры. Более того, человеческий мозг – самое сложное творение матери-природы в этой части Галактики. У нас нет до сих пор никаких данных о присутствии в Солнечной системе других форм разумной жизни, а значит, до ближайшего объекта, сравнимого по сложности с содержимым вашего черепа, от Земли не менее 40 трлн км (расстояние до ближайшей звезды), а скорее гораздо больше.

Не исключено, что нам действительно удалось бы провести реверсивное проектирование мозга за десять лет, но лишь при условии неограниченного финансирования и национальной ударной программы – что-нибудь вроде Манхэттенского проекта. Однако, учитывая общий экономический климат, в ближайшее время таких вложений вряд ли стоит ожидать. Отметим, что правительство США в последние годы поддерживало несколько серьезных приоритетных проектов, таких как «Геном человека», который обошелся почти в три миллиарда долларов, но лишь потому, что они обещали очевидные научные и медицинские выгоды. Выгоды проекта моделирования мозга не столь очевидны, поэтому времени на него уйдет гораздо больше. Более реалистично, наверное, предположить, что мы будем двигаться к цели маленькими шажками и до исторического момента, когда полная модель будет наконец создана, пройдет еще не один десяток лет.

Так что компьютерное моделирование мозга протянется, вероятно, до середины века. И даже после завершения проекта понадобится еще несколько десятков лет, чтобы разобраться в горах полученной информации и соотнести ее с реальным человеческим мозгом. Мало того что мы утонем в данных, у нас к тому же не будет средств, которые позволили бы надежно отфильтровать шум и отделить полезную информацию от случайной.

Но как же второй подход, о котором шла речь, – определение точного местоположения каждого нейрона?

Этот подход также ставит перед учеными задачу, достойную Геракла, и скорее всего означает десятилетия тщательных исследований. Вместо суперкомпьютеров вроде Blue Gene ученые, выбравшие такой подход, пользуются методом последовательного анализа. Для начала они препарируют мозг дрозофилы, разрезая его на тончайшие ломтики толщиной не более 50 нм (около 150 атомов). Получаются миллионы ломтиков, каждый из которых фотографируется при помощи сканирующего электронного микроскопа, скорость и разрешение которого приближаются к миллиарду точек в секунду. Электронный микроскоп выдает на-гора невероятное количество данных – около 1000 трлн байт; этого достаточно, чтобы наполнить носителями информации целую комнату. И все это – для описания мозга одной-единственной плодовой мушки! Затем приходит черед обработки данных и тщательного, скрупулезного восстановления трехмерных связей каждого нейрона; на это уходит около пяти лет. А для получения более точной картины мушиного мозга придется разделать и исследовать мозг не одного десятка особей.

Джерри Рубин (Gerry Rubin) из Медицинского института Говарда Хьюза, один из лидеров в этой области исследований, считает, что на составление полной, точной и подробной карты мозга дрозофилы уйдет 20 лет. «Я бы сказал, что, когда эта задача будет решена, мы пройдем пятую часть пути к пониманию человеческого мозга», – заключает он. Рубин понимает всю масштабность и сложность стоящей перед ним задачи. Человеческий мозг имеет в миллион раз больше нейронов, чем мозг дрозофилы. И если на регистрацию каждого нейрона мушиного мозга уйдет 20 лет, то на установление полной нейронной архитектуры человеческого мозга наверняка понадобится еще не одно и не два десятилетия. Стоить этот проект тоже будет громадных денег.

Итак, мы видим, что все участники процесса инженерного анализа мозга пока находятся в сложном положении. Они видят и ясно различают цель, представляют, как можно ее достичь, но отсутствие денег не позволяет им работать в полную силу. Можно с достаточной долей уверенности предположить, что где-нибудь к середине века у нас появятся достаточно мощные компьютеры, на которых можно будет смоделировать человеческий мозг, а также грубые приблизительные карты нейронной архитектуры мозга. Однако на полное понимание механизма мышления или на создание машины, способной дублировать функции человеческого мозга, не приходится рассчитывать раньше самого конца XXI в.

Приведем пример. Получив карту точного расположения каждого гена в теле муравья, вы не узнаете, как строится муравейник. Точно так же сам по себе факт, что ученые теперь знают все 25 000 генов, которые составляют геном человека, не означает, что они поняли, как работает человеческое тело. Вообще, проект «Геном человека» напоминает толковый словарь, в котором нет определения слов. Каждый ген в теле человека четко расшифрован и расписан по буквам, но что каждый из них делает, по-прежнему в значительной степени остается загадкой. В каждом гене закодирована структура определенного белка, но неизвестно, как большинство этих белков функционирует в организме.

Еще в 1986 г. ученые смогли составить полную карту расположения всех нейронов в нервной системе крохотного червячка C. elegans. Первоначально это достижение было объявлено прорывом и ключом к раскрытию загадки мозга. Однако знание точного расположения 302 нервных клеток и 6000 химических синапсов даже сейчас, спустя несколько десятилетий, не дает ученым ничего нового для понимания физиологии червя.

Точно так же даже после создания полной и точной модели человеческого мозга пройдет не один десяток лет, прежде чем мы сможем понять, как работают и взаимодействуют между собой все его части. Если удастся все же завершить реверсивное проектирование и полную расшифровку структуры мозга к концу столетия, это будет означать, что сделан громадный шаг к созданию человекоподобных роботов. Что тогда помешает им захватить власть?

Отдаленное будущее (2070–2100 гг.)

В фильмах про Терминатора рассказывается о том, как Пентагон построил и с гордостью запустил в действие Skynet – громадную сверхзащищенную компьютерную сеть, предназначенную для управления ядерным арсеналом США. Эта сеть безупречно исполняла свои обязанности до тех пор, пока однажды, в 1995 г., неожиданно не произошло что-то очень странное. Суперкомпьютер Skynet осознал себя. Люди, работавшие с сетью, с изумлением поняли, что их детище внезапно обрело разум, и попытались выключить его, но опоздали. Защищая себя, Skynet решил, что единственный способ обеспечить собственную безопасность – это уничтожить человечество. Для этого он начал разрушительную ядерную войну. Вскоре три миллиарда людей сгорели в пламени бессчетных ядерных взрывов. После этого Skynet выпустил в мир легионы роботов-убийц, целью которых было уничтожение оставшихся. Современная цивилизация рухнула, оставив после себя лишь крошечные жалкие шайки бандитов и бунтарей.

А в трилогии «Матрица» люди показаны настолько примитивными, что даже не понимают: машины уже захватили мир. Люди занимаются повседневными делами, думают, что все нормально, и не замечают, что на самом деле живут в коконах. Их мир – всего лишь модель виртуальной реальности, которой управляют хозяева-роботы. Человеческое «существование» – всего лишь компьютерная программа, выполняемая большим компьютером; данные с нее поступают непосредственно в мозг людей, живущих в этих коконах. Единственная причина, по которой машины вообще терпят присутствие людей, – тот факт, что их можно использовать как источники питания.

Конечно, задача Голливуда – напугать аудиторию до полусмерти. Но сюжеты этих и других фильмов поднимают законный научный вопрос: что произойдет, когда роботы наконец станут умнее нас? Что произойдет, когда роботы проснутся и осознают себя? Ученые активно обсуждают вопрос, что будет – причем не если, а когда произойдет это знаменательное событие.

Некоторые эксперты утверждают, что наши создания-роботы будут постепенно подниматься по эволюционному древу. Сегодня они сравнимы по интеллекту с тараканами. В будущем они вырастут и сравняются с мышами, кроликами, собаками и кошками, обезьянами, а затем станут соперничать с человеком. На медленное преодоление этого пути могут уйти десятилетия, но ученые верят, что это всего лишь вопрос времени и когда-нибудь машины обязательно превзойдут нас разумом.

Исследователи ИИ расходятся в вопросе о том, когда это может произойти. Некоторые говорят, что не позже чем через двадцать лет роботы приблизятся по разумности к человеческому мозгу, а затем оставят своих создателей далеко позади. В 1993 г. Вернор Виндж (Vernor Vinge) сказал: «Не пройдет и тридцати лет, как у нас появится техническая возможность создать сверхчеловеческий разум. Вскоре после этого эра человека закончится… Я буду удивлен, если это событие произойдет раньше 2005-го или позже 2030 г.».

С другой стороны, Дуглас Хофштадтер (Douglas Hofstadter), автор книги «Гёдель, Эшер, Бах», говорит: «Я буду очень удивлен, если что-нибудь хотя бы отдаленно похожее произойдет в ближайшие 100–200 лет».

Когда я разговаривал с Марвином Мински из MIT – одной из основополагающих фигур в истории искусственного интеллекта, он заметил, что не назначает сроков для этого события и не может сказать, когда именно оно произойдет. Он уверен, что такой день наступит, но категорически отказывается выступать в роли пророка и предсказывать точную дату. (Возможно, будучи мэтром ИИ – области науки, в создании которой он участвовал практически с нуля, Мински видел слишком много несбывшихся прогнозов, породивших к тому же обратную реакцию.)

Немалую часть проблемы с датами и сценариями составляет тот факт, что общепринятого представления о том, что такое сознание, просто не существует. Философы и математики бьются над этим вопросом не одно столетие, а воз и ныне там. Мыслитель XVII в. Готфрид Лейбниц, изобретатель интегрального исчисления, однажды написал: «Даже если бы можно было увеличить мозг до размеров ветряной мельницы и побродить внутри, никакого сознания мы бы там не нашли». Философ Дэвид Чалмерс составил список из почти 20 000 научных работ, написанных на эту тему, и не обнаружил у авторов какого бы то ни было единого мнения.

Нигде в науке столь громадные усилия множества людей не дали столь ничтожного результата.

Слово сознание, к сожалению, относится к тем громким и красивым словам, которые для разных людей означают разное. Как ни печально, общепринятого определения этого понятия не существует.

Лично я думаю, что неспособность четко определить сознание, а также измерить его количественно – это одна из серьезных проблем науки, занятой созданием искусственного интеллекта.

Но если бы мне предложили попробовать самому, я начал бы с того, что сознание включает в себя по крайней мере три основных компонента:

1) восприятие и распознавание окружающего мира;

2) самоанализ;

3) планирование будущего, постановку целей и составление планов, т. е. моделирование будущего и выбор стратегии.

При таком подходе можно сказать, что даже простые механизмы и насекомые обладают какой-то формой сознания, которую можно оценить численно по шкале от 1 до 10. Существует целое пространство сознания, которое можно представить в количественной форме. Молоток не способен воспринимать окружающий мир, так что его сознание можно оценить как 0 по принятой нами шкале. Однако термостат, к примеру, уже способен воспринимать и оценивать окружающую действительность. Суть термостата в том, что он чувствует температуру окружающей среды и действует в соответствии с ней, при этом изменяя ее; сознание термостата можно оценить уровнем 1. Следовательно, любые механизмы с обратной связью обладают примитивной формой сознания. Черви тоже способны воспринимать окружающий мир. Они чувствуют присутствие пищи, партнера, а также опасности и действуют в соответствии с полученной информацией, но больше не могут почти ничего. Насекомые воспринимают мир несколькими органами чувств (к примеру, зрение, слух, нюх, датчик давления и т. п.) и достойны более высокой численной оценки; их сознание следует оценить, возможно, в 2 или 3.

Высшей формой восприятия действительности должна быть способность распознавать и понимать объекты окружающего мира. Человек в состоянии мгновенно оценить обстановку и действовать в соответствии с ней – а значит, его сознание достойно высокой оценки по нашей шкале. Однако именно здесь роботы не в состоянии составить нам серьезную конкуренцию. Распознавание образов, как мы уже видели, – один из принципиальных рубежей на пути к искусственному интеллекту и одновременно одно из серьезнейших препятствий. Роботы способны воспринимать окружающий мир гораздо лучше людей, но они не понимают и не узнают то, что видят. Из-за неспособности распознавать образы роботы на шкале сознания оказываются на самых нижних ступеньках, где-то рядом с насекомыми.

Следующий, более высокий уровень сознания связан с самоанализом. Если поставить зеркало почти перед любым животным мужского пола, реакция будет немедленной и довольно резкой: самцы проявляют откровенную агрессивность, иногда даже нападают на зеркало. Изображение заставляет животное-самца защищать свою территорию. Многие животные не сознают себя – и, соответственно, не узнают себя в зеркале. Однако обезьяны, слоны, дельфины и некоторые птицы быстро понимают, что отражение в зеркале – это они сами, и прекращают бессмысленные атаки. Человек близок к верхней планке этой шкалы, поскольку обладает высокоразвитым самосознанием и прекрасно понимает, кем он является по отношению к другим животным, другим людям и миру в целом. Мало того, человек настолько осознает себя, что способен вести внутренний диалог с самим собой, а значит, мысленно оценивать ситуацию.

Наконец, животных можно оценить по их способности планировать будущее. Насекомые, насколько нам известно, не ставят перед собой сложных целей. Напротив, они по большей части реагируют на окружающую обстановку непосредственно, шаг за шагом, и полагаются целиком на инстинкты и сиюминутные внешние раздражители.

В этом смысле хищники по уровню сознания стоят выше, чем их жертвы. Хищникам приходится кое-что планировать заранее: подыскивать место для логова, планировать засаду, выслеживать, предугадывать действия добычи. Добыче же, как правило, достаточно просто убегать, и побыстрее, так что ее сознание следует оценивать ниже.

Далее, приматы способны импровизировать, составляя планы на ближайшее будущее. Если показать человекообразной обезьяне банан, который находится рядом, но вне пределов досягаемости, она может изобрести какой-нибудь способ достать банан; к примеру, воспользоваться палкой. Так что, имея перед собой конкретную цель (достать пищу), приматы планируют ближайшее будущее так, чтобы достичь этой цели.

Однако в целом животные не обладают развитым чувством отдаленного прошлого или будущего. Очевидно, в животном царстве не бывает завтрашнего дня. Нет никаких свидетельств того, что животные могут планировать будущее на несколько дней вперед. (В преддверии зимы многие животные запасают пищу, но такое поведение запрограммировано генетически: гены заставляют их реагировать на снижение температуры усиленными поисками еды.)

Зато человек обладает прекрасно развитым чувством будущего и постоянно составляет планы. В голове каждый из нас непрерывно моделирует будущую реальность. Мы способны составлять планы, которые простираются далеко за пределы нашей собственной жизни. Более того, мы оцениваем других людей по их способности верно предугадать развитие ситуации и сформулировать конкретную стратегию поведения на этот случай. Умение предсказать будущее, взвесить возможные последствия и сформулировать конкретные цели с учетом всех обстоятельств – важная часть способности к лидерству.

Иными словами, эта форма сознания включает в себя предвидение будущего, т. е. создание многочисленных моделей, аппроксимирующих будущие события. Для этого необходимо великолепное владение принципами здравого смысла и законами природы. Вы должны постоянно задавать себе вопрос: «Что будет, если?..» Не важно, что вы планируете сделать – ограбить банк или избраться в президенты; чтобы спланировать задуманное, вам все равно придется строить в голове многочисленные модели возможного будущего.

Все данные указывают на то, что на Земле этим искусством овладел пока только человек.

В этом можно убедиться, в частности, при анализе психологических профилей. Специалисты часто сравнивают психологические профили взрослых с их же профилями, полученными, когда они были детьми. Затем задается вопрос: какое качество в профиле ребенка могло указать на будущий успешный брак, успешную карьеру, богатство и т. п.? Если исключить из картины социоэкономические факторы, обнаруживается, что нередко в профиле одна характеристика выделяется среди остальных: способность откладывать удовольствие. Согласно многолетним исследованиям Уолтера Мишеля (Walter Mischel) из Колумбийского университета и многих других ученых, дети, способные воздержаться от немедленного получения удовольствия (к примеру, не съесть сразу же полученную палочку пастилы) и дождаться обещанной более высокой награды (скажем, двух палочек пастилы вместо одной), позже стабильно добиваются более высоких результатов едва ли не во всех мыслимых областях жизни: в учебе, в любви и в карьере.

Следует заметить, что способность отложить удовольствие указывает на более высокий уровень самоанализа и сознания. Такие дети умеют моделировать будущее и способны понять, что это будущее обещает больше. Для того чтобы видеть возможные последствия собственных действий, требуется более высокий уровень сознания.

Таким образом, исследователи ИИ должны стремиться к созданию робота, обладающего всеми тремя рассмотренными качествами. Первое труднодостижимо, поскольку роботы могут воспринимать окружающий мир, но не способны разобраться в нем. Самоанализ – более простая цель. А вот для планирования будущего необходим здравый смысл, интуитивное понимание, что возможно и что невозможно, а также конкретные стратегии достижения конкретных целей.

Мы видим, что здравый смысл – необходимая предпосылка для высшего уровня сознания. Чтобы робот мог моделировать реальность и предугадывать будущее, он должен сначала освоить миллионы закономерностей окружающего мира, составляющие так называемый житейский здравый смысл. Но одного этого недостаточно. Здравый смысл – это всего лишь «правила игры», а вовсе не законы стратегии и планирования.

Мы получили шкалу, по которой можно оценить всех существующих на настоящий момент роботов.

Ясно, что Deep Blue, машина-шахматист, окажется на этой шкале очень низко. Она, конечно, может выиграть у чемпиона мира по шахматам – и только. Она способна моделировать реальность, но лишь в рамках шахматных правил. Моделировать какую бы то ни было иную реальность она не в состоянии. То же можно сказать о большинстве крупнейших компьютеров мира. Они великолепно моделируют один из аспектов реальности – к примеру, атомный взрыв, обтекание воздухом летательного аппарата или погоду. Эти компьютеры просчитывают сложнейшие модели гораздо лучше человека. Но при этом они очень одномерны, а потому не имеют шансов на выживание в реальном мире.

Сегодня исследователи ИИ не представляют, как можно воспроизвести в роботе процессы мышления. Большинство ученых просто поднимает руки и говорит, что как-нибудь громадные сети компьютеров сами выдадут «системные эффекты», так же как иногда из хаоса спонтанно возникает порядок. Если же прямо спросить, как именно эти системные эффекты приведут к возникновению сознания, большинство пожимает плечами и закатывает глаза.

Мы не знаем, как сделать робота, который обладал бы сознанием, но вообразить робота, который превзошел бы нас, мы в состоянии. Для оценки уровня сознания воспользуемся всем уже сказанным.

Такой робот должен великолепно проявлять себя в третьем качестве: он сможет гораздо лучше, чем мы, производить сложнейшие расчеты и моделирование будущего; он сможет рассмотреть больше вариантов, под разными углами, более подробно и глубоко. Его модели будут более точными, чем наши, потому что он будет лучше владеть здравым смыслом и законами природы, а потому лучше видеть закономерности. Он научится замечать проблемы, которые человек мог бы недооценить или просто не заметить. Более того, он научится ставить перед собой собственные цели. Если роботы поставят себе цель, в частности, помогать роду человеческому, все в порядке. Но если однажды окажется, что человечество мешает достижению какой-то их цели, последствия могут быть весьма неприятными.

Все это порождает следующий вопрос: что станет с человечеством, если будет реализован второй сценарий?