Текст книги "Насосы интуиции и другие инструменты мышления"

21. Оператор “вроде как”

Зачем нам вообще оператор “вроде как”? Дело в том, что, разбирая – или собирая – комплект все более компетентных уровней, мы должны знать о каждом уровне два факта: что он собой представляет и что он делает. Чтобы понять, что он собой представляет, достаточно описать структурную организацию элементов, из которых он состоит, при условии что элементы, насколько нам известно, функционируют именно так, как положено. Чтобы понять, что он делает, нужно проанализировать (когнитивную) функцию, которую он (вроде как) выполняет, причем выполняет достаточно хорошо, чтобы на следующем уровне мы могли сказать, что имеем в своем распоряжении компетентный кирпичик, выполняющий только эту функцию – выполняющий ее вроде как, чего нам вполне достаточно. Это ключ к решению невероятно сложного вопроса о том, как сознание вообще может состоять из материальных механизмов. На заре компьютерной эры этот потенциал разглядел Алан Тьюринг, который больше всех заслуживает признания за изобретение компьютера. Он брал безмозглые фрагменты механизмов, не имеющие никакой искры сознания, и составлял из них более компетентные механизмы, которые, в свою очередь, могли стать фрагментами еще более компетентных механизмов – и так далее, без очевидных ограничений. Оператор “вроде как” когнитивной науки примерно соответствует дарвиновскому градуализму эволюционных процессов (подробнее об этом в части VI). До бактерий существовали вроде как бактерии, до млекопитающих – вроде как млекопитающие, до собак – вроде как собаки и так далее.

Нам не обойтись без дарвиновского градуализма, чтобы объяснить огромную разницу между обезьяной и яблоком, а без градуализма Тьюринга не обойтись, чтобы объяснить огромную разницу между человекоподобным роботом и карманным калькулятором. Обезьяна и яблоко состоят из одних и тех же базовых ингредиентов, по-разному структурированных и используемых в многоуровневом каскаде различных функциональных компетенций. Не существует четкой границы, отделяющей вроде как обезьяну от обезьяны. Как человекоподобный робот, так и карманный калькулятор сделаны из одинаковых базовых, бездумных, бесчувственных кирпичиков Тьюринга, но мы составляем из них более крупные, более компетентные структуры, которые затем становятся элементами еще более компетентных структур на более высоких уровнях, и в конце концов добираемся до таких (вроде как) умных фрагментов, что их можно назвать понимающими. Мы используем интенциональную установку, чтобы отслеживать убеждения и желания (или “убеждения” и “желания”, или вроде как убеждения и вроде как желания) (вроде как) рациональных агентов на каждом уровне, начиная с простейших бактерий, через все схемы распознавания, сигнализации, сравнения и запоминания, которые включает в себя мозг животных, от морских звезд до людей-астрономов. Не существует четкой границы, отделяющей истинное понимание, и это верно даже в случае с людьми. Маленький ребенок вроде как понимает собственную фразу “мой папа – врач”, а я вроде как понимаю формулу E=mc². Некоторые философы противятся этому антиэссенциализму (см. главу 43): либо вы верите, что снег белый, либо нет; либо вы наделены сознанием, либо нет; ничто нельзя считать аппроксимацией психического феномена; здесь либо все, либо ничего. Для таких мыслителей свойства сознания остаются неразрешимой загадкой, поскольку сознание “совершенно” и совершенно не похоже ни на что из того, что можно найти в сугубо материальных механизмах.

22. Чудо-ткань

В превосходной книге об индийской уличной магии “Сеть магии. Чудеса и уловки в Индии” Ли Сигел (1991) пишет:

“Я пишу книгу о магии”, – объясняю я, и меня спрашивают: “О настоящей магии?” Под настоящей магией люди подразумевают чудеса, чудотворные деяния и сверхъестественные силы. “Нет, – отвечаю я, – о фокусах. Не о настоящей магии”. Иными словами, настоящей магией называют магию, которая на самом деле не настоящая, а настоящую магию, которую действительно можно творить, настоящей никто не считает. [p. 425]

“Настоящая магия” – по определению, скажете вы – чудесна. Она нарушает законы природы. Многие люди хотят верить в настоящую магию. Повторяя трюки самопровозглашенных ясновидцев вроде Ури Геллера, фокусник, скептик и охотник за привидениями Джеймс Рэнди показывает, что поразительные эффекты нельзя считать настоящей магией, поскольку на самом деле это лишь фокусы. Но некоторых людей этим не убедить. Много лет назад на обсуждении после представления в Виннипеге один из зрителей обвинил Рэнди в двойном обмане: якобы Рэнди был таким же ясновидцем, как и Геллер, но специально притворялся простым фокусником, чтобы разоблачать двуличность более известного Геллера и забирать себе частичку его славы! Сложно опровергнуть такое обвинение, не объяснив всем присутствующим, в чем именно состоит секрет фокусов, чего Рэнди, уважая традиции фокусников всего мира, делать не спешит. (Первыми секреты фокусов стали раскрывать Пенн и Теллер. Их осудили многие коллеги по цеху, но в итоге они сумели доказать, что традиционное табу можно нарушить, не испортив при этом шоу иллюзионистов.)

Подобное стремление верить в настоящую магию свойственно многим людям, рассуждающим на тему взаимосвязи сознания и мозга. Некоторым, включая немалое количество нейробиологов и физиологов – и философов, – хотя бы на подсознательном уровне привлекательна мысль, что так или иначе динамические свойства нервной ткани могут творить чудеса, то есть каким-то образом сдерживать скрытые силы, неизвестные науке. Возможно, они правы, но не стоит считать так по умолчанию. Правило таково: никакой чудо-ткани!

Вот что нам известно практически наверняка: ни в одной компьютерной программе не задействованы необъяснимые с точки зрения физики феномены – ни невообразимые ранее силовые поля, ни таинственные квантовые проделки, ни жизненный порыв. Ни в одном компьютере, безусловно, нет чудо-ткани. Мы точно знаем, как компьютеры выполняют основные задачи и как из этих простых задач складываются все более сложные, и можем объяснить сконструированные компетенции, не оставляя никаких тайн. Хотя виртуозность сегодняшних компьютеров не перестает нас поражать, сами компьютеры – как машины – просты, как открывашки. Они показывают фокусы, но не “настоящую магию”.

Это ценный факт – настолько ценный, что он удостоится подробного анализа в следующем разделе. Его ценность заключается в том, что всякий раз, создавая компьютер, который казался чудесным, мы получаем доказательство, что его можно сконструировать без использования чудо-ткани. Возможно, мозг делает все иначе – возможно, даже с чудо-тканью (возможно, Рэнди – настоящий ясновидец, как и Геллер!), – но у нас нет основания этому верить. Таким образом, компьютеры выступают в качестве разоблачителей мифов, и это прекрасный повод настаивать на создании компьютерных моделей всего, что мы пытаемся понять, будь то ураганы, ипотечные пузыри, ВИЧ или человеческое сознание.

Термин “чудо-ткань” представляет собой инструмент мышления, напоминающий дубинку полицейского: он используется в карательных целях, чтобы не давать людям строить безосновательные теории. Как и дубинкой, им можно злоупотреблять. Он дополняет другой инструмент мышления – бритву Оккама и потому обеспечивает некоторый научный консерватизм, которому порой свойственна близорукость. Мой любимый пример этого привел один из отцов современной генетики Уильям Бэтсон. Вот что он сказал не так уж давно, в 1916 г.:

Свойства живых организмов некоторым образом связаны с материальной основой, возможно, в некоторой степени с ядерным хроматином [хромосомами]; и все же непостижимо, чтобы частицы хроматина или любого другого вещества, каким бы сложным оно ни было, обладали бы теми силами, которые должны приписываться нашим факторам или генам. Предположение, что частицы хроматина, неотличимые друг от друга и практически гомогенные во всех известных опытах, могут в своей материальной природе содержать все свойства жизни, переходит границы даже самого убежденного материализма. [p. 91]

Он просто не мог представить ДНК. Мысль о том, что в каждой человеческой клетке может находиться три миллиарда спаренных оснований в двойной спирали, никак не укладывалась у него в голове. К счастью, другие биологи не разделяли пессимизма Бэтсона и в конце концов открыли, как именно происходит, казалось бы, чудесная передача генетической информации от поколения к поколению, за которую, как выяснилось, отвечают весьма необычные молекулы. Однако на пути к этому открытию они придерживались правила: никакой чудо-ткани. Из генетики они знали, какими компетенциями должен обладать искомый элемент, и сделали своей задачей создание физически возможной модели того, что будет обладать этими компетенциями.

Сегодня перед нами стоит подобная задача. Экспериментальная психология дает нам все более подробный каталог компетенций и уязвимостей сознания – триумфов восприятия и неловкостей заблуждения, скорости усвоения языка и условий переключения внимания, вожделения, страха и радости, – и теперь, как “убежденные материалисты”, мы должны выяснить, как мозг все это делает, не прибегая к постулату о чудо-ткани.

По мере того как растет наше понимание, представления о чудо-ткани меняются. Когда в середине 1980-х появились “коннекционистские” и другие “нейросетевые” модели[26]26
  Обзор моделей см. в моей статье “Логическая география вычислительных методов. Взгляд с Восточного полюса” (1986). Первую полную антологию можно найти в работе McClelland, Rumelhart, and PDP Research Group (1986).


[Закрыть], они продемонстрировали наличие у маленьких пучков нейронов способности к обучению и распознаванию паттернов, о которых всего несколькими годами ранее не могло быть и речи. Мы до сих пор не знаем, как именно мозг использует вычислительные мощности, демонстрируемые этими полуреалистичными моделями – и использует ли он их вообще, – но теперь можно постулировать коннекционистскую компетенцию нейронной сети, которую вы пока не можете объяснить, если открыто заявляете об этом, а компетенция явно не выходит за рамки известного диапазона возможностей. (Может, Рэнди исполняет фокус не точно так же, как Геллер, но мы имеем все основания предположить, что существует вариация метода Рэнди, которая объясняет способности Геллера, а это подсказывает нам, как глубже изучить задействованные процессы.) Главное возражение против существования чудо-ткани заключается в том, что она дает нам не способ решить проблему, а повод сдаться, предположив, что эту загадку разрешить так и не удастся.

23. В диспетчерской робота

У роботов нет чудо-ткани (фактически по определению), поэтому они представляют собой стерильную платформу для мысленных экспериментов наподобие этого:

Однажды утром вы просыпаетесь в незнакомой кровати в странной комнате без окон. Две стены этой комнаты сплошь покрыты разноцветными мигающими огоньками, а две другие стены – тысячами кнопок. На огоньках и кнопках есть номера, но нет ярлыков. На тумбочке лежит адресованная вам записка:

Доброе утро! Вас накачали снотворным, похитили и доставили сюда, в ваш новый дом. В холодильнике есть еда, в углу комнаты ванная – с удовлетворением физических потребностей проблем не возникнет. Вы заперты в диспетчерской гигантского робота. Загораясь, каждый огонек дает богатую и актуальную информацию о ситуации: эти огоньки – выходные сигналы сложнейшим образом организованной системы анализаторов нейронной сети, которая работает с данными, получаемыми через видеоглаза робота, снимающими изображение высокой четкости, через снабженные микрофонами уши и через тактильные и обонятельные датчики. Кнопки управляют действиями робота, которые скоординированы между собой и могут быть исполнены в любую секунду.

Робот живет в опасном мире, где сталкивается с большим количеством рисков и возможностей. Его будущее в ваших руках, а потому, само собой, и ваше будущее зависит от того, насколько успешно вы будете вести своего робота по миру. Если он будет уничтожен, электричество в этой комнате отключится, еда в холодильнике закончится и вы умрете. Удачи!

Ситуация не из приятных. Затаив дыхание, вы начинаете экспериментировать и нажимать на кнопки, чтобы проверить, что получится. Вы нажимаете на желтую кнопку под номером 4328 и замечаете, что в этот момент гаснет голубой огонек номер 496. Может, вы заставили робота почесаться или “съесть” что-нибудь, чтобы удовлетворить его метаболические потребности? Вы нажимаете на кнопку номер 4328 второй раз, и зажигаются другие огоньки. Что изменилось в мире? Что это означает? Вам страшно, потому что вам сказали, что эти огоньки передают огромное количество информации, но что именно показывает каждый из огоньков и какие именно приказы отдает каждая из кнопок?

Вот бы огоньки и кнопки были подписаны! Если бы все они были снабжены ярлыками на знакомом вам языке, вероятно, вы смогли бы решить проблему. Или было бы в комнате хоть одно окно, из которого можно было бы выглянуть, чтобы проверить, что случилось, когда вы нажали на кнопку! Есть ли у робота руки и ноги? Будь в комнате окно, вы могли бы попытаться сопоставить события во внешнем мире с миганием огоньков на стенах. Поскольку окна нет, вам доступно огромное количество информации, которую вы не в состоянии интерпретировать. Вы можете запустить сотни действий робота, но у вас нет надежды узнать, чего добьется этими действиями ваш робот.

Похоже, проблема неразрешима. Каким бы умным и изобретательным вы ни были, вы не сможете узнать, за что отвечают огоньки и кнопки на стенах, имея в своем распоряжении лишь перечисленные данные. Однако если вы не можете решить эту проблему, мы сталкиваемся с парадоксом, поскольку описанная ситуация есть не что иное, как ситуация, в которой существует ваш мозг! Он заперт в комнате без окон – в вашем черепе, – где миллионы входных линий непрерывно передают информацию о внешнем мире и состоянии вашего тела, а миллионы выходных линий стимулируют мускулы сокращаться и расслабляться. Ваш мозг не может открыть в вашем черепе окно и посмотреть, что происходит снаружи и провоцирует сигналы, поступающие в вашу зрительную кору. (Да и зачем вашему мозгу такое окно? В отличие от вас, у него нет глаз, за исключением тех глаз, сигналы от которых он получает и пытается истолковать, и нет воспоминаний о том, как выглядят объекты внешнего мира.)

Возможно, подумаете вы, стоящая перед мозгом задача проще, ведь, когда вы смотрите, к примеру, на утку, рисунок возбуждения – мигающие огоньки – на поверхности зрительной коры действительно принимает форму утки[27]27
  Да, рисунки возбуждения на затылочной (зрительной) коре (и в других зонах коры головного мозга) действительно принимают (примерную) форму объекта, находящегося у вас перед глазами, но смотрит ли хоть что-нибудь в вашем мозге на эти формы? Возможно, что-то вроде как смотрит на эти формы. И все же к этой мысли нужно относиться с осторожностью.


[Закрыть]! Это имело бы смысл, если бы мы могли предположить, что ваш мозг, как и вы сами, знает, как выглядит утка, но откуда ему это знать?

Как ваш мозг вообще может узнать хоть что-нибудь, если первым делом ему нужно “расшифровать” все сигналы? И как именно расшифровать? Перевести на турецкий? Ярлыки на турецком никак вам не помогут, если только вы не понимаете турецкий. Должен ли ваш мозг понимать язык, чтобы извлекать пользу из входящих данных? Как мы уже видели, мысль о том, что мозг наделен внутренним языком, который ему не приходится учить – ментализом, или языком мышления (Fodor 1975, 2008), – весьма привлекательна. Кажется, она позволяет сделать шаг в верном направлении, но, пока нет объяснения, как именно работает этот язык и как он сформировался, заявлять о его существовании – все равно что придумывать проблеме новое название, при этом ее не решая. Мы знаем, что мозг каким-то образом справляется со своей задачей: он довольно точно определяет, какие команды необходимо отдать в соответствии с обстоятельствами и возможностями, о которых сигнализирует входящий поток данных. И мы знаем, что имеющееся у мозга решение – каким бы оно ни было – не может точь-в-точь походить на язык (наподобие русского или турецкого), потому что, в отличие от наших родных языков, оно не усваивается нами в детстве. Какой язык ближе к языку мышления – письменный (воспоминания в таком случае должным образом записываются в архивах мозга) или устный? Сколько “слов” в лексиконе ментализа – тысячи, миллионы или миллиарды? Имеет ли значение порядок слов? Есть ли грамматические правила? Может ли один фрагмент мозга истолковать сообщение другого фрагмента неправильно?

Если гипотеза о языке мышления говорит о наличии в диспетчерской гомункула, который понимает язык (как вы, когда читаете ярлыки огоньков и кнопок внутри гигантского робота), то она просто откладывает задачу выяснить, как аппарат обучения и понимания может состоять из ничего не понимающих фрагментов. А если она не говорит о наличии гомункула, который занимается дешифровкой сообщений, то система, какой бы она ни была, вообще не слишком похожа на язык. Поскольку никто еще не объяснил в деталях, как работает такой язык мышления и как он усваивается в процессе развития и получения опыта, вероятно, лучше не обманываться и не тешить себя надеждой, что мы делаем успехи, когда на самом деле это, вероятно, не так.

Этот насос интуиции показывает нам, что ваш мозг находится в принципиально иных условиях, чем вы в диспетчерской робота. Его задача – должно быть – отчасти решается заранее, поскольку некоторые входящие сигналы “сцеплены” с исходящими командами, благодаря чему мозг имеет фору при выявлении и подтверждении других соответствий. Таким образом, подчеркивается широко распространенное убеждение, что при рождении наш мозг представляет собой не “чистый лист” (Pinker 2002), а уже под влиянием естественного отбора сформирован таким образом, чтобы вмещать в себя различные предпочтения, ожидания и ассоциации. А поскольку некоторые соответствия установлены заранее, в ярлыках они не нуждаются.

Прежде чем достичь понимания, необходимо пройти стадию компетентности без понимания. Так устроена природа. Бактерии обладают множеством удивительных компетенций, которые им вовсе не нужно понимать; их компетенции прекрасно служат им, но сами они остаются полными невеждами. Деревья обладают компетенциями, которые дают им выгоду, но им не нужно знать зачем. Весьма компетентен и сам процесс естественного отбора – он создает структуры выдающейся оригинальности и эффективности, но ровным счетом ничего не понимает.

Понимание того рода, которым наделены мы, взрослые люди, лишь недавно появилось на эволюционной арене. В нем задействованы структуры, компетенция которых сопровождается и поддерживается минимальным полупониманием, или псевдопониманием, – тем полупониманием, что характерно для рыб и червей. Эти структуры созданы таким образом, чтобы в большинстве случаев вести себя соответствующе, хотя им нет нужды понимать, почему их поведение считается соответствующим.

Альтернативный путь, предполагающий помещение в диспетчерскую полнофункционального Понимателя, обрабатывающего все входящие и исходящие сигналы, гарантированно ведет в тупик. Почему? Потому что, если способность к пониманию необъяснима, фактически вы кладете в основу своей теории чудо-ткань, настоящую магию, а если она все же объяснима – в категориях процессов, действий и сил, которые сами не обладают способностью к пониманию, – вы проехали свой поворот и вернулись к началу с теми из нас, кто пытается объяснить, как понимание вырастает из компетентности.

IV.
Интерлюдия о компьютерах

Перерыв. Как вы, вероятно, заметили, я уже несколько раз упоминал компьютеры, а впереди разговоров о компьютерах будет еще больше. Без сомнения, компьютеры – это самые мощные инструменты мышления, которые имеются в нашем распоряжении, и не только потому, что они справляются со многими скучнейшими интеллектуальными задачами, но и потому, что многие концепции, предложенные специалистами по теории вычислительных систем, тоже можно использовать в качестве инструментов мышления. Сегодня мы все плаваем в море компьютерного жаргона – программное и аппаратное обеспечение, ширина полосы пропускания, гигагерцы, – и многие из вас, безусловно, неплохо понимают значения всех этих модных словечек. Мои студенты всякий раз понимающе кивают, когда я использую эти термины на занятиях, однако я обнаружил, что понимают они далеко не все и порой озадачивают меня, совершенно неправильно толкуя то, что я пытаюсь им объяснить. В связи с этим я хочу научить вас писать программы для простейшего компьютера в мире.

Если вы сейчас не пожалеете времени и сил, чтобы усвоить несколько базовых навыков, впоследствии ваши затраты окупятся сполна, поскольку вы гораздо лучше поймете изложенное далее. (Если же вы в компьютерах собаку съели, мой способ объяснения некоторых тонкостей может пригодиться вам в разговоре с непрофессионалами. Или просто листайте дальше.) Приводимые далее упражнения я тестировал на сотнях студентов, которые боялись компьютеров как огня, и результаты меня радовали: даже те, кто предпочитал заучить наизусть страницу телефонного справочника, только бы не решать никаких головоломок, чувствовали удовольствие и даже некоторое удовлетворение, когда этот простой до идиотизма компьютер справлялся с задачей. Выполнив упражнения, вы узнаете семь секретов силы компьютеров.