Текст книги "Пробуждение: преодоление препятствий к реализации возможностей человека"

Теперь мы можем представить себе, что те функции, для которых мы придумали разумный подъемный кран, выполняет человек, например, такой, как вы. Вы можете видеть, когда ящик действительно находится на ленте транспортера, даже если промежутки между ящиками меняются, протянуть руки и взять его с транспортера вне зависимости от того, как он повернут. Вы можете поднять ящик, перенести его на другой транспортер и правильно установить его там. Вы можете видеть, работают ли оба транспортера как следует, и выключить подающий транспортер, если остановился второй. Вы уже обладаете всеми теми качествами, которые мы определили как начальную стадию как механического, так и человеческого разума: вы помните общую цель, которая состоит в том, чтобы без повреждения переставлять ящики с одного транспортера на другой; вы воспринимаете окружающую среду для того, чтобы обнаруживать разнообразные вещи, которые могут помешать достижению цели; вы также можете вносить нужные изменения в свое поведение для того, чтобы компенсировать те изменения окружающей среды, которые препятствуют достижению цели.

Насколько долго вы останетесь разумным при такой работе?

Когда вы впервые приступаете к этой работе, она может показаться вам чем-то интересным. Что именно вам нужно делать? Как сделать это более эффективно? Но после какого-то времени (минуты? часы?) эта работа в совершенстве освоена, и она начинает надоедать вам. Вы стали слишком квалифицированным для нее. Что теперь?

Вы обнаруживаете, что вам уже не нужно уделять такое пристальное внимание работе для того, чтобы делать ее качественно. Фактически вы можете позволить своему уму отвлечься, вы можете мечтать о чем-нибудь, планировать, что вы будете делать после работы, раздумывать о том, заплатят ли вам достаточно за эту работу, разговаривать со своим коллегой, работающим на другом конвейере, и так далее. Вы без каких-либо сознательных усилий автоматизировали себя, позволив части вашего восприятия и суждения стать механическими, так что вы действуете подобно машине, автомату. Если ваши мысли, фантазии и разговоры более занимательны, чем перестановка ящиков, вы будете более счастливы, чем если бы вы уделяли внимание лишь текущей работе, которая вам уже надоела. Поскольку вам уже не нужно уделять так много сознательного внимания выполнению работы, она может казаться требующей значительно меньших усилий, и это мнимая выгода автоматизации.

Способность привлекать некоторую ограниченную часть нашего восприятия и разума для автоматического выполнения фиксированного задания, при полном или почти полном отсутствии осознания с нашей стороны, является одним из наиболее выдающихся умений человека – и в то же время одним из его наибольших проклятий.

В том простом примере, который приводился выше, автоматизация кажется желательной. Она делает вас более счастливым. Если часть вашего ума, не задействованная в работе, занята, например, планированием того, как улучшить другие стороны вашей жизни, то вы даже становитесь более эффективным. У вас больше сенсорных и интеллектуальных способностей, чем нужно для эффективного выполнения работы, и вы используете эти способности лишь в той мере, в какой это необходимо, уделяя остальную их часть своим собственным целям.

Если бы разумное использование избыточных возможностей ума было единственным или хотя бы наиболее типичным результатом, возникающим вследствие автоматизации, то тогда автоматичность не создавала бы в жизни человека никакой проблемы. Проблемы возникают тогда, когда реальность изменяется, а вы продолжаете реагировать автоматически, и/или когда с автоматическим реагированием ассоциируется (автоматическое) эмоциональное удовлетворение.

Когда у вас имеется стереотип автоматического реагирования, это означает, что ваше внимание очень специализировано. Когда возникает та или иная ситуация, она должна сопоставляться с внутренним представлением, которое при автоматичности оказывается стереотипным. Таким стереотипом может быть ящик на ленте транспортера, внешний облик незнакомого человека, словесное утверждение, определенный запах или что угодно еще. Эти стереотипы оказываются настолько близкими к некоторым ранее уже ставшим автоматическими аспектам внимания, что когда этот стереотип воспринимается , он ошибочно принимается за саму реальность.

Затем следует ваша автоматическая реакция. В действительной ситуации важно отличать саму ситуацию от стереотипа, иначе ваши автоматические реакции окажутся неуместными.

Нищий

Вот пример: вы только что поставили на стоянку свою машину и идете по улице. К вам направляется человек, судя по всему, собираясь что-то вам сказать. Вы думаете о том, что вы собирались купить в магазине, к которому вы идете, но часть вашего внимания уделена приближающемуся к вам человеку. Он плохо одет и небрит. Часть вашего ума немедленно «воспринимает» его как нищего – человека того типа, который всегда вас раздражал. На самом деле это стереотип, поскольку существуют другие люди, которые могли бы быть плохо одеты на улице и намереваться что-то вам сказать. Но стереотип уже активизировался, а вместе с ним и ваша автоматическая реакция на нищего. На вашем лице появляется выражение презрения, и вы сворачиваете в сторону, избегая этого человека еще до того, как он заговорил с вами. Автоматически у вас возникают мысли о вашем собственном превосходстве, так как вы сами зарабатываете себе на жизнь; у вас также могут возникнуть мысли типа «Почему же правительство ничего не делает с такими людьми, как этот нищий?»

Это могло бы быть так, но в реальности, которую я придумал ради примера, небрежно одетый человек был профессором колледжа. У него был выходной, и он оделся в старую одежду, потому что занимался ремонтом машины, а сейчас ему понадобилось выйти в магазин за некоторыми запасными частями. Он увидел, что из вашей машины, находящейся на стоянке, вытекает масло, и направился к вам, чтобы предупредить об этом. Выражение презрения у вас на лице и попытка свернуть в сторону внезапно вызывают у него сильный гнев. «Ну и черт с тобой!» – тут же говорит он и уходит. Потом, когда вы уже уехали от стоянки, у вас заклинивает двигатель. Автоматическое восприятие, автоматические чувства, автоматическое поведение, автоматически последовавшая авария. Вы не увидели, что реальность отличается от вашего стереотипа, и он был для вас эмоционально значимым (связанным с чувством своего превосходства), что сделало ситуацию еще более негибкой.

Механический разум часто бывает полезным для утилитарных целей, но он оказывается опасной вещью в изменяющемся сложном мире. Механические, автоматические стереотипы, хорошо всем нам известные – это расизм, неравноправие женщин, национализм. Я привел лишь три эти примера, на самом деле их может быть гораздо больше. Автоматическое восприятие, автоматические эмоции, автоматические мысли и реакции в какой-то одной ситуации так часто ассоциируются с такими же автоматическими реакциями, мыслями и чувствами в другой ситуации, что мы теряем большое количество времени – а в самых крайних случаях и всю жизнь – в продолжающемся автоматическом существовании.

Автоматизация оказывается главным препятствием, если мы пытаемся пробудиться от того транса, который навязан нам нашей культурой. Однако если вам все-таки удастся пробудиться, то автоматизация может стать полезным инструментом, коль скоро вы сможете следить за ней с более пробужденного уровня сознания.

Мы действительно машины, и являемся ими в жизни слишком часто, но это вовсе не означает, что нам нужно ими быть.

В следующей главе мы вернемся к примеру нашего подъемного крана, добавляя ему новые степени механического разума и рассматривая параллели с человеком.

4. ЭВОЛЮЦИОНИРУЮЩИЙ РАЗУМ

В этом разделе мы продолжим наше обсуждение, и я попрошу вас набраться терпения. Мы рассмотрим дальнейшие параллели между машиной и человеческим мышлением, которое обычно полностью автоматично, приукрашено и неосознаваемо. Для того чтобы произошло пробуждение, мышление должно стать более осознанным.

В предыдущем разделе мы наделили машину, подъемный кран из нашего примера, некоторыми зачаточными формами интеллекта. В четвертом поколении своей эволюции подъемный кран уже мог распознавать некоторые изменения, происходящие в окружающей среде, и вносить соответствующие коррекции в свое поведение в соответствии с поставленной перед ним задачей – в данном случае это перестановка ящиков с одного транспортера на другой.

Для достижения способности реагировать на степень изменений, а не просто на изменения типа «все или ничего», мы добавили к подъемному крану компьютер, простейшую форму мозга. Коль скоро у нас теперь есть вычислительные возможности этого компьютера, давайте заставим наш подъемный кран пятого поколения совершить эволюционный скачок, который приблизит степень его разумности к тому интеллекту, который мы наблюдаем у человека.

Используя приобретение способности справляться с более сложными задачами как побудительный стимул для эволюции, давайте представим, что по транспортеру поступают разные ящики, которые затем должны переноситься на три разных транспортера в зависимости от типа ящиков, так как различная продукция, упакованная в эти ящики, должна храниться в разных частях склада. Таким образом кран пятого поколения из простого переносчика становится краном-сортировщиком, способным принимать решение о типе ящиков, прежде чем переносить их на соответствующий транспортер. Людям обычно приходится совершать выбор из множества различных возможностей, а не просто всегда одинаково реагировать на один и тот же стимул. Действительно, чаще всего мы предпочитаем принимать решение, которое затем побуждает нас действовать.

Ящики могут иметь разные размеры и содержать в себе разную продукцию. Часть продукции в ящиках легкая и хрупкая, часть – тяжелая и прочная. Тяжелые ящики с прочной продукцией требуют более сильного захвата, чтобы ящик не выскользнул и не упал при подъеме. Однако если то же усилие захватов использовать при подъеме легких ящиков, то они могут быть раздавлены. Таким образом, усилие захватов должно соответствовать типу ящиков.

Как и в предыдущих примерах, расположение ящиков на транспортере может быть разным: некоторые из них стоят правильно, некоторые повернуты под тем или иным углом. Иногда бывает более длинный промежуток времени перед тем, как по транспортеру поступает новый ящик; иногда бывает так, что несколько ящиков стоят вплотную друг к другу.

Мы бы не захотели нанимать рабочего, который бывает настолько поглощен своей работой, что не замечает неожиданных, но жизненно важных изменений в окружающей обстановке и потому не может на них реагировать.

Мы уже разбирали случай, когда один из транспортеров, на которые нужно перегружать ящики, останавливается. Но что делать, если он вдруг начал двигаться в обратную сторону? Или, например, представим, что на складе возник пожар, создающий угрозу для человеческой жизни и для всего оборудования. А что если какой-то посторонний человек вошел в зону работы крана? Или если за короткое время поступает так много ящиков, так что кран-сортировщик не успевает переносить их на другие транспортеры? Или же прекратилась подача питания на кран, и ящики начали нагромождаться возле транспортера? Если наш кран-сортировщик пятого поколения действительно совершил качественный скачок в своей разумности, то он должен реагировать на все эти возможные события.

Наш первый эволюционный шаг состоит в том, чтобы добавить крану-сортировщику новые органы чувств. Отчасти эту задачу можно решить с помощью простых датчиков типа «все или ничего». Наши отводящие транспортеры должны быть оснащены датчиками, которые реагируют не только на то, движутся ли они или нет, но и на то, движутся ли они в правильном направлении. Датчик, реагирующий на высокую температуру, может служить сигнализатором возможного пожара. Простой измеритель напряжения может определять, поступает ли питание на подъемный кран.

Разобраться с различными размерами и разной ориентацией ящиков труднее. Кран четвертого поколения использовал телевизионную камеру над подающим конвейером, дополненную компьютером со специальной программой обнаружения форм и углов, так что он мог распознавать ящик и определять его ориентацию и местоположение. Чтобы это делать, ему приходилось обращаться к памяти компьютера, которая определяла, как выглядит ящик на телевизионном изображении.

Как нам иметь дело с ящиками разного размера (а также разного веса и разной хрупкости)? Для простоты мы можем составить компьютерную программу распознавания ящиков, так чтобы она исходила из допущения (как обычно поступают и люди), что все эти три параметра взаимосвязаны: маленькие ящики обычно легкие и хрупкие, а чем они становятся больше, тем они тяжелее и прочнее. Тогда программа распознавания может подавать команду захватам использовать небольшое усилие для маленьких ящиков, все более увеличивая его по мере увеличения размеров ящиков.

Коль скоро наш компьютер достаточно мощный, чтобы на нем могла работать программа распознавания ящиков по телевизионному изображению, давайте установим вторую камеру, которая будет обозревать то пространство вокруг крана, в котором было бы нежелательно появление людей. Изображение с этой второй камеры должно анализироваться в компьютере для обнаружения присутствия человека. Мы можем значительно упростить эту процедуру. Нам не нужно знать, что это за человек, мужчина это или женщина, какого он или она роста, или какого цвета одежда на этом человеке. В действительности нам даже не нужно знать, человек ли это. Если что-либо будет передвигаться в запретной зоне, мы хотим, чтобы наша программа обнаружения постороннего присутствия тут же это замечала и останавливала кран.

Однако в этой ситуации есть и своя проблема. Кое-что регулярно входит в запретную зону и движется в ней, а именно сам работающий кран. Нам бы не хотелось, чтобы управляющий компьютер крана-сортировщика останавливал кран каждый раз, когда он обнаружит сам себя. Основная функция разума живых существ состоит в том, чтобы узнавать самого себя и отличать себя от не себя. Иначе мы могли бы поедать самих себя! Таким образом, программа обнаружения посторонних объектов должна анализировать изображение, поступающее с камеры, чтобы распознавать форму и движения крана как отличающиеся от любых других форм, движущихся в запретной зоне. Тогда команда остановки крана будет подаваться лишь в том случае, если обнаружится что-то, по своей форме не являющееся краном.

Поскольку наш кран-сортировщик должен ставить разные ящики на различные транспортеры, программа распознавания должна не только воспринимать ящики, но и классифицировать их по одному из нескольких параметров. Для простоты представим себе, что это делается только на основе размера.

Нам нужно, чтобы наш кран-сортировщик пятого поколения делал совсем немного вещей. Он должен (а) наблюдать за ящиками на подающем транспортере, (б) распознавать размер и расположение каждого ящика, поворачивать захваты в зависимости от расположения ящика, опускать захваты, когда ящик находится под ними, (в) захватывать ящик с усилием, соответствующим его размеру, и поднимать его, (г) классифицировать ящик по типу и направлять движение крана к соответствующему транспортеру, (д) поворачивать ящик таким образом, чтобы он был правильно ориентирован по отношению к ленте того транспортера, на который его нужно перенести, (е) установив ящик над нужным транспортером, (ж) опускать стрелу крана и раскрывать зажимы, (з) поднимать стрелу крана и (и) возвращать ее в исходное положение над подающим транспортером. В то же время система должна быть готова остановить транспортер и работу крана при сигнале тревоги в случае (к) пожара, (л) обнаружения посторонних в запретной зоне, (м) если любой из транспортеров останавливается или начинает двигаться в обратную сторону, или же (н) если на кран перестало поступать питание.

Все это представляется весьма сложным. Однако одним из результатов попытки создания все более разумных машин явилось то, что мы осознали, сколь многое в отношении наших простых действий мы считали само собой разумеющимся.

Понятно, что прекращение работы любого из транспортеров остановит процесс производства, так что это не должно происходить без необходимости. Поэтому возможность останавливать подающий транспортер, в том случае если любой из отводящих транспортеров останавливается или движется в обратную сторону, можно было бы далее усовершенствовать так, чтобы компьютер выключал подающий транспортер только в том случае, если он обнаружит на нем ящик, который должен быть перенесен на неисправный отводящий транспортер. Тем временем он мог бы подать сигнал тревоги обслуживающему персоналу, чтобы они починили неисправный транспортер, причем ремонт мог бы закончиться до того, как поступит новый ящик, предназначенный для этого транспортера.

Эта задача была бы вполне выполнимой, если бы наш компьютер имел неограниченные возможности по части программ и памяти. Но ни люди, ни компьютеры не обладают неограниченными возможностями. Хотя вы можете нанять много работников, чтобы они одновременно наблюдали за всеми этапами процесса, или можете купить очень мощный компьютер, но существуют экономические соображения: вам не хотелось бы вкладывать во все это слишком много денег без особой необходимости. Таким образом, на практике «внимание» нашего компьютера должно распределяться между всеми этими задачами так, чтобы, с учетом присущих ему ограничений, наилучшим образом соответствовать нашим целям.

Компьютеру нужно вполне ограниченное количество времени для анализа информации, поступающей по каждому из его сенсорных каналов, и столь же ограниченное время для вычисления того, что ему нужно делать с тем, что он обнаружит. Кроме всего прочего, компьютер может делать только одну вещь за раз, так что ему нужно будет потратить определенное время на одно задание, затем перейти к следующему заданию, затем к следующему и так далее. Последовательное выполнение серии этих заданий и возвращение к начальному состоянию – это цикл работы компьютера. Позволим ли мы компьютеру тратить столько времени, сколько ему необходимо на каждое задание, или равное количество времени на каждое задание (слишком много для одних, слишком мало для других), или более длительное время для решения более важных задач?

Те приоритеты, которые компьютер определяет для разных задач, являются механическим аналогом человеческих ценностей. Не вдаваясь пока в детальное рассмотрение роли эмоций, мы можем заметить, что то, что вы цените, можно определить по количеству времени, в течение которого эти вещи занимают ваше внимание, и по их приоритету, который определяет, насколько вы готовы ради них отложить все другие дела, когда возникает подходящая ситуация. Например, я провожу много времени за чтением книг, что показывает, насколько я ценю чтение. Более того, мне не нравится, когда другие люди заговаривают со мной, если я читаю интересную книгу. Хотя, если бы вы прервали меня, чтобы сказать, что в доме пожар, я был бы искренне рад! Я ценю свою жизнь и жизнь моей жены, и мне также хотелось бы сохранить свой дом от разрушения – это явно более важно, чем чтение интересной книги.

Давайте зададим нашей компьютерной управляющей программе систему ценностей в виде распределения времени на разные задачи и приоритетности выполнения этих задач.

Предположим, что анализ сигналов от каждого из датчиков нашего компьютера, подключенного к крану-сортировщику, занимает одну десятую секунды. У нас есть восемь датчиков (датчики пожара, вторжения посторонних в запретную зону, остановки каждого из трех транспортеров и правильного направления движения каждого из трех транспортеров). Если мы сочтем, что информация от каждого из этих датчиков имеет одинаковую ценность, то мы можем запрограммировать компьютер так, что он будет поочередно анализировать сигналы от каждого из этих датчиков. В этом случае цикл обработки сигналов от датчиков будет иметь восемь шагов. Если сигналы подтверждают, что все в порядке, кран-сортировщик может проверить, не поступает ли ящик (девятая операция длительностью 0.1 секунды), и, если он окажется на месте, начинает выполнять задание по его сортировке и перемещению. Если ящик не поступает, то компьютер может снова начать обрабатывать контрольные сигналы от своих восьми датчиков. Так этот цикл повторяется снова и снова до тех пор, пока не будет обнаружен поступивший ящик.

Обнаружение поступившего ящика на девятой стадии приведет к тому, что будет определен его тип и ящик будет перемещен по назначению. Допустим, что это займет 9,1 секунды, после чего кран возвратится в исходное положение, и тогда общее время на то, чтобы проверить сигналы от всех датчиков, обнаружить ящик, переместить его, а затем возвратиться в исходное положение, составит ровно десять секунд.

Неявные ценности

Так как перемещение ящика занимает 9,1 секунды, в то время как проверка сигналов от датчиков занимает только 0,9 секунды, то мы в неявном виде задаем нашему крану-сортировщику систему ценностей, причем ценностей весьма материалистического толка. Мы можем выразить их в антропоморфной форме следующим образом:

Первая Заповедь: Если нет работы, которую нужно выполнять (нет ящика для сортировки и перенесения на другой транспортер), защищай человеческую жизнь и оборудование, посвящая 1/9 часть твоего времени проверке, нет ли в помещении пожара, и еще 1/9 часть твоего времени выяснению того, нет ли посторонних лиц в потенциально опасной зоне движения крана.

Вторая Заповедь: Если есть работа, которую нужно делать (сортировка и перемещение ящиков), отдавай меньший приоритет защите человеческой жизни. Защищай человеческую жизнь и оборудование, посвящая одну сотую часть твоего времени (0,1 секунды каждые 10 секунд) проверке, нет ли в помещении пожара, и еще одну сотую часть твоего времени выяснению, нет ли посторонних в опасной зоне.

В последнее десятилетие мы все больше осознаем, что порой то, что кажется простыми технологическими стратегиями и решениями, на самом деле оказывается выбором ценностей. Чем в меньшей мере мы признаем действительную сложность возникающих перед нами задач, тем больше потенциальных будущих неприятностей мы создаем для себя по причине своей собственной слепоты. Вероятно, наиболее мудрым будет предположить, что все планы в отношении того, как делать какие-то вещи, а не только те из них, что связаны с технологией, неявно касаются определенных ценностей, происходит ли это сознательно или бессознательно.

Автоматизм нашего мышления, восприятия и чувств, который мы рассматривали в предыдущей главе, способствует сохранению нашей слепоты по отношению к тому, что мы делаем. Ситуация стереотипно воспринимается как «инженерное решение» или «техническая проблема», и мы имеем тенденцию воспринимать наши предубеждения в отношении этой ситуации взамен ее действительной реальности.

Мы могли бы сказать, что наш кран-сортировщик пятого поколения способен разумно реагировать на опасные ситуации в то время, когда он не занят работой. Когда же он занят работой, он поглощен ею на достаточно долгое время, утрачивая на этот период контакт с внешней реальностью. Напрашивающиеся параллели со многими видами человеческой деятельности здесь достаточно очевидны.

Мы могли бы увеличить ценность, которую наш кран-сортировщик придает защите человеческой жизни, внеся изменения в программу цикла транспортировки. Напомним, что до этого кран, как только он обнаруживал поступивший по транспортеру ящик, переставал уделять внимание датчикам, связанным с состоянием окружающей среды до тех пор, пока он не завершал полностью цикл перемещения ящика, который занимал значительно больше времени, чем проверка состояния окружающей среды. Но мы можем изменить программу компьютера таким образом, что он будет контролировать наличие посторонних в зоне работы крана между разными стадиями в пределах цикла транспортировки. Теперь кран-сортировщик уже не так глубоко погружен в работу, он находится в большем «контакте с реальностью», с той реальностью, которую ценим мы, его создатели.

Ценности имеют свою стоимость

Отметьте, что мы заплатили определенную цену за то, что наш кран-сортировщик стал уделять больше внимания защите человеческой жизни. До того как мы добавили эту дополнительную проверку в цикл транспортировки, весь этот цикл занимал десять секунд. Если ящики поступали достаточно быстро, то кран мог сортировать и перемещать один ящик каждые десять секунд. После добавления дополнительных шагов проверки цикл стал более длинным и, соответственно, менее продуктивным. Настолько ли мы ценим человеческую жизнь, чтобы делать наш производственный цикл менее эффективным? Достаточно ли велика вероятность нахождения постороннего человека в зоне работы крана для того, чтобы оправдывать снижение продуктивности работы, или же мы принимаем слишком усердные меры защиты от очень маловероятного события?

Теперь наш кран-сортировщик усовершенствован настолько, что может приспосабливаться к тому, чтобы справляться с несколькими возможными типами изменений в окружающей обстановке. Он может быть более эффективным, действуя в соответствии с запрограммированной системой ценностей, а именно правильно переносить ящики самым эффективным способом, уделяя при этом внимание защите человеческой жизни и оборудования склада от возможной опасности. Смог ли бы какой-то разумный наблюдатель, не являющийся человеком, а также не имеющий никаких предубеждений о том, что жизнь и разум могут существовать только на органической основе, воспринимать наш кран-сортировщик как некое разумное животное? Мог ли бы такой наблюдатель приписывать ему сознание? Мог ли бы он воспринимать человека, делающего такую же работу, как этот кран, как полностью равного крану-сортировщику?