Текст книги "Машины как я"

Адам заговорил легко и спокойно:

– Военное вторжение – успех или неудача. Мирное урегулирование – успех или неудача. Четыре результата или следствия. Не имея ретроспективного знания, мы должны сами решать, что выбирать, а чего избегать. Мы попадаем в область действия байесовской обратной вероятности. Мы ищем вероятную причину следствия, но не наиболее вероятное следствие причины. Разумно попытаться найти формальное представление наших предположений. Нашей точкой отсчета, нашим базисом мог бы стать наблюдатель Фолклендской ситуации до принятия каких-либо решений. Четыре результата наделяются определенными вероятностными значениями априори. При появлении новой информации мы можем измерять относительные изменения вероятности. Но мы не можем иметь абсолютного значения. Это дает нам возможность определять важность новых факторов логарифмически, то есть, взяв основание для десятичной…

– Адам, – сказала Миранда. – Хватит! Правда. Что за чушь!

Теперь уже она потянулась к бутылке медока. Я был рад, что перестал быть объектом ее раздражения.

– Но мы с Мирандой наделяем эти результаты совершенно различными априорными значениями.

Адам повернул голову в мою сторону. Как всегда, невероятно медленно.

– Разумеется. Как я и сказал, при описании будущего не может быть абсолютных значений. Только изменяющиеся степени вероятностей.

– Но они совершенно субъективны.

– Верно. В конечном счете, Байес имеет дело с менталитетом. Как и все, обладающие здравым смыслом.

Значит, при всем блеске рационального мышления никакого решения не имелось. Просто у нас с Мирандой был разный менталитет. Вот уж не новость. Но мы с ней со всеми нашими разногласиями были вместе против Адама. По крайней мере, я на это надеялся. Он все же сумел понять суть вопроса: он думал, что я был прав насчет Фолклендской ситуации и, принимая в расчет заложенную в него интеллектуальную честность, лучшее, что он мог предложить Миранде, к которой также был лоялен, это впечатление нейтральности. Но если это было верно, можно было предположить и прямо противоположное: он полагал, что права была Миранда, а ко мне проявлял лояльность.

Неожиданно заскрипел стул Миранды, она встала из-за стола. Ее лицо и шея слегка покраснели, и она не смотрела на меня. Сегодня мы будем спать каждый у себя. Я был бы рад не излагать своих аргументов, лишь бы остаться с ней. Но я был тупицей.

– Ты можешь остаться на зарядку у меня, – сказала она Адаму, – если хочешь.

Адаму требовалось заряжаться от электросети по шесть часов в сутки. Он переходил в спящий режим и тихо сидел, «медитируя», до рассвета. Обычно он заряжался у меня на кухне, но не так давно Миранда тоже купила зарядный шнур.

Он тихо сказал «спасибо», медленно сложил полотенце, наклонился над сушилкой и аккуратно расстелил его. Миранда подошла к двери спальни, досадливо улыбнулась мне, не размыкая губ, потом послала воздушный поцелуй и шепотом сказала:

– На эту ночь.

В общем, все было в порядке.

– Конечно, я понимаю, – сказал я, – что тебя волнует чужая смерть.

Она кивнула и скрылась за дверью. Адам сидел на стуле и выправлял рубашку из-под брюк, открывая доступ к зарядному гнезду у себя в пупке. Я положил руку ему на плечо и поблагодарил за уборку.

Для меня было слишком рано, чтобы ложиться спать, к тому же стояла жара, как в Марракеше. Я спустился к себе на кухню и стал искать в холодильнике, чем бы спастись от зноя.

* * *

Я сидел на кухне в старом кожаном кресле и держал в руке коньячную рюмку с белым молдавским вином. Как же было хорошо предаваться размышлениям в одиночестве, не встречая возражений. Едва ли я был первым, кто отметил это, однако, если взглянуть на человеческую историю, становилось ясно, что наше чувство собственной значимости неуклонно понижалось и могло исчезнуть окончательно. Когда-то мы восседали на троне в самом центре Вселенной, а солнце и планеты – весь видимый мир – вращались вокруг нас в вековечном и смиренном хороводе. Затем, когда духовенство уступило свои позиции бессердечным астрономам, мы оказались на планете, вращающейся вокруг Солнца, среди прочих планет. Но мы все еще занимали завидное, исключительное положение, назначенные самим творцом повелевать всей жизнью на Земле. Затем биология заявила, что мы находимся в одном ряду с остальными формами жизни и имеем общих предков с бактериями, растениями, рыбами и животными. А в начале двадцатого века наука нанесла еще больший удар по нашему самомнению, открыв бесконечность Вселенной, и даже Солнце оказалось одной из миллиардов звезд в нашей галактике, среди миллиардов других галактик. Наконец, у нас остался последний оплот, наше сознание, и мы были вправе считать, что обладаем им в большей мере, чем остальные обитатели планеты. Но разум, некогда восставший против богов, был теперь готов сам себя сбросить с пьедестала собственными титаническими усилиями. Мы создали свое подобие, машину, в некоторой степени превосходящую нас, чтобы затем с помощью этой машины создать следующую, которая превзойдет нас неизмеримо. И тогда на что мы им будем нужны?

Такие горячечные мысли заслуживали второй рюмки – и побольше первой. Картинно обхватив голову рукой, я приближался к тусклой границе, за которой жалость к себе дозревает до удовольствия. Я переживал небывалую форму изгнания, хотя и не связывал ее с Адамом. Он не был умнее меня. Пока еще не был. Нет, мое изгнание было на одну ночь, и оно придавало моей безнадежной любви ощущение сладкого томления. Рубашка на мне была расстегнута, все окна распахнуты настежь, и я отдавал дань городской романтике, глубокомысленно пьянея в знойном запустении северного Клэпема под звуки отдаленного городского шума. Дисбаланс в наших отношениях с Мирандой сообщал мне что-то героическое. Я представил одобрительный взгляд стороннего наблюдателя из угла комнаты. Отчетливо различимая фигура тяжело опустилась на потертый стул. Я весьма любил себя. Кто-то же должен был. Я развлекал себя ее образами на подступах к оргазму и обезличенно оценивал качество ее наслаждения. Для нее я был всего лишь достаточно хорош, как могли бы быть многие другие. Я не хотел признавать очевидного – что ее отстраненность словно плетью взнуздывала мое вожделение. Но был еще один странный момент. За три дня до того я услышал от нее загадочный вопрос. Мы валялись в постели, обнимаясь. Она притянула мое лицо к своему. И, серьезно глядя мне в глаза, прошептала:

– Скажи мне кое-что. Ты настоящий?

Я ничего не ответил.

Она отвернула лицо и закрыла глаза, так что я увидел ее в профиль, и отдалась новой волне наслаждения.

Позже той же ночью я спросил ее об этом.

– Нет, ерунда.

Она сказала только это и сменила тему. Был ли я настоящим? То есть действительно ли я любил ее или был ли честен с ней или соответствовал ее ожиданиям именно так, как она мечтала?

Я прошел через кухню и долил себе остаток вина из бутылки. Сломанную ручку холодильника нужно было резко дергать в сторону, чтобы дверь закрылась. Когда я взялся за холодное горлышко бутылки, я услышал с верхнего этажа скрип. Я прожил в этой квартире достаточно долго, чтобы научиться различать шаги Миранды и их направление. Она прошла через спальню и остановилась на пороге кухни. Я услышал ее приглушенный голос. Ответа не последовало. Она сделала еще два шага вперед. Дальше были половицы, издававшие при нажатии жалостливый писк. Я вслушивался, ожидая услышать этот звук. Но услышал голос Адама. Он отодвинул стул и встал. Если он решит шагнуть, ему придется вынуть зарядный шнур. Видимо, он это сделал, поскольку я услышал его поступь по писклявым половицам. Это означало, что теперь между ними оставалось не больше метра, но примерно минуту я ничего не слышал, а затем зазвучали шаги двух пар ног в направлении спальни.

Я не стал закрывать холодильник, поскольку шум выдал бы меня. Мне оставалось только подслушивать из своей спальни. Так что я подошел к письменному столу и стал вслушиваться. Я прикинул, что стою прямо под кроватью Миранды, и услышал ее приглушенный голос – должно быть, она велела Адаму открыть окно, поскольку он прошел в сторону эркера. Из трех окон открывалось только одно. И то в теплые и дождливые дни – с трудом. Старые деревянные рамы усыхали или разбухали, к тому же противовес и задубелая веревка тоже были не в порядке. В наш век, когда ученые создали адекватную модель человеческого разума, у нас в районе не было никого, кто мог бы починить подъемное окно, хотя некоторые пытались.

А что можно было сказать о моем разуме, когда я стоял точно под тем местом, в таком же эркере, какие на закате викторианской эры ставили тысячами, по программе типовой застройки. Они тянулись вдоль участков в пять акров, расчерченных живыми изгородями и дубовыми аллеями, украшавшими южные окраины Лондона. Ничего хорошего – это насчет моего разума. Он говорил через тело. Дрожь, пот, особенно на ладонях, учащенный пульс, состояние возбужденного ожидания. Страх, сомнение в себе, гнев. В моем эркере старый паркет, истертый и с середины пятидесятых потемневший, уходил под самый плинтус. А у Миранды паркет упирался в голые доски, положенные еще до Первой мировой войны и отполированные до каштанового цвета. Какая-нибудь бедная девушка в белом переднике и чепце, натиравшая их воском, стоя на четвереньках, не могла и мечтать, чтобы на том самом месте, где она ползала на карачках, когда-нибудь появилось такое существо, как Адам. Я услышал, как его ступни встали на старое дерево, представил себе, как он наклоняется и обхватывает старые металлические ручки на нижней раме и тянет ее вверх с силой четырех молодых человек. Пару секунд, пока он боролся с неподатливой рамой, стояла тишина, а затем раздался звук удара о верхний край, так что зазвенели стекла. Я не сдержал радостный смешок, который мог меня выдать.

Теперь у них не было недостатка в свежем воздухе, заполнившем комнату. Моя веселость скисла, когда я услышал, как Адам подошел к кровати Миранды, где она ждала его. Он что-то сказал – возможно, просто извинился. Она ответила что-то благосклонное, и они рассмеялись на два тона: меццо и тенор. Я снова переместился и встал точно под ними – шестью футами ниже[27]27
  Шестью футами ниже – six feet under – устойчивое выражение, означающее могилу (англ.).


[Закрыть]. Адам обладал прекрасным навыком снимать одежду, и сейчас он снимал одежду с Миранды. Что еще могла означать эта тишина? Я знал – еще бы не знать, – что ее матрас не издавал никаких звуков. Футоны, с их японским обещанием чистой и простой, кристально ясной жизни, тогда были в моде. И я, стоя в темной комнате и вслушиваясь в тишину, чувствовал кристальную ясность происходящего. Я мог бы вбежать и помешать им, ворваться в ее спальню, как муж-рогоносец со старинной открытки. Но в моей ситуации имелась волнующая особенность: не банальная засада с разоблачением, но беспрецедентная оригинальность – я был первым человеком, которому наставил рога механический истукан. Я шел в ногу со временем – я раньше всех оседлал волну новой драмы замещения, которую предвосхищали футурологи, рисуя ее в самых мрачных тонах. Другим фактором моего бездействия было то, что я с самого начала понимал, что навлек все на себя сам. Но это я решил оставить на потом. А сейчас, невзирая на ужас измены, я был слишком поглощен происходящим и не мог отделаться от роли слепого вуайериста, греющего уши под кроватью любовницы, пылая унижением и страстью.

Мысленным взором, или взором сердца, я видел, как Адам и Миранда ложатся на неубиваемый футон и сплетаются членами, ища удобную позу. Я видел, как она что-то шепчет ему в ухо, хотя не слышал слов. Мне она ничего не шептала в ухо в такие моменты. Я видел, как он целует ее – дольше и глубже, чем я когда-либо целовал. Его руки, одолевшие оконную раму, теперь крепко обхватывают ее. Пару минут спустя я почти отвел глаза, когда он с почтением опустился перед ней на колени и стал ласкать ее языком. Своим выдающимся языком, влажным и теплым, способным издавать увулярные и лабиальные звуки, тем самым достигая естественности речи. Я смотрел, не удивляясь ничему. Он не сумел удовлетворить мою возлюбленную полностью, как это умел я, но поднялся над ее выгнутым стройным телом, жаждавшим его, и устроился на ней медленным, плавным движением довершив мое унижение. Я видел все, не видя ничего – и понял: мужчины будут списаны в утиль. Я хотел убедить себя, что Адам ничего не чувствовал и мог только имитировать механику совокупления. Что ему не дано было познать того, что познали мы. Но сам Алан Тьюринг еще в молодости не раз говорил и писал, что в момент, когда мы не сможем провести различие между поведением машины и человека, мы будем вынуждены присвоить машине человеческий статус. Поэтому, когда ночная тишина огласилась протяжным криком наслаждения Миранды, перешедшим в стон и сдавленные рыдания – все это я услышал в действительности, через двадцать минут после того, как стукнуло окно, – я по праву признал Адама своим сородичем, со всеми соответствующими правами и обязанностями. И я его возненавидел.

* * *

Следующим утром, впервые за много лет, я насыпал себе в кофе полную ложку сахара. Я смотрел, как пузырчатый диск каштанового цвета медленно вращается в чашке по часовой стрелке, постепенно замедляясь и растворяясь. Напрашивалась метафора моего существования, но я старался не поддаваться искушению. Я пытался собраться с мыслями; было уже полвосьмого. Скоро Адам или Миранда, а может, они оба появятся у меня в дверях. Я хотел, чтобы мои мысли и реакции были в норме. Но после бессонной ночи я находился в депрессии и злился на себя, хотя намеревался не показывать этого. Миранда дала мне отлуп, так что, по современным понятиям, ночь с кем-то другим – тем более с чем-то другим – не должна считаться изменой. А вот что до этической стороны поведения Адама, то мне на ум пришла любопытная историческая аналогия.

За двенадцать лет до того, во время шахтерской забастовки, появились первые автомобили с автономным управлением, которые испытывали на полигонах, в основном на бывших аэродромах, где кинодекораторы выстраивали улицы, дорожные развязки и различные препятствия. Называть эти автомобили «автономными» было неверно, поскольку они полностью зависели от мощных компьютерных сетей, связанных со спутниками и бортовыми радарами. Если этими автомобилями должен был управлять искусственный интеллект, то какими приоритетами или моральными ценностями этому интеллекту следовало руководствоваться? К счастью, нравственная философия уже успела подробно разработать ряд моральных дилемм, известных в академических кругах как «проблема вагонетки». Эта проблема легко переносилась на автомобили и вставала перед автомобильными производителями и инженерами программного обеспечения в следующем виде: вы, точнее, ваш автомобиль, едете на максимально допустимой скорости по окраинной двухполосной дороге; транспортный поток движется своим чередом; на тротуаре с вашей стороны стоит группа детей; вдруг один из них, лет восьми, выбегает на дорогу прямо перед вами; для принятия решения остается доля секунды: сбить ребенка, съехать на тротуар с другими детьми или свернуть на встречную полосу и врезаться в грузовик, несущийся на предельной скорости. Вы одни, так что выбирайте: жертвовать собой или спасаться. А что, если в машине с вами – ваши жена и дети? Слишком просто? А если в машине – ваша единственная дочь или ваши бабушка с дедушкой или ваша взрослая беременная дочь со своим мужем, и им обоим меньше тридцати? А теперь еще примите во внимание людей в грузовике. Доля секунды – для компьютера, чтобы рассмотреть все варианты, этого более чем достаточно. Решение будет определяться приоритетами, установленными в программном обеспечении.

Пока шахтерами занималась конная полиция, а промышленные города по всей стране медленно и мучительно переходили к рыночной экономике, рождался такой предмет, как робоэтика. Международные автомобильные компании консультировались с философами, судьями, специалистами по медицинской этике и по теории игр, а также с парламентскими комитетами. И этот предмет развивался сам собой постепенно, в университетах и научных центрах. Профессора со своими диссертантами задолго до появления аппаратных средств наколдовали программное обеспечение, сочетавшее в себе идеалы гуманизма: толерантность, открытость, рассудительность и отсутствие моральных изъянов вроде жульничества, злобы или предрассудков. Теоретики предсказывали появление утонченного искусственного интеллекта, который будет управляться тщательно выверенными этическими принципами и обкатываться на тысячах и миллионах моральных дилемм. Такой интеллект сможет научить нас, как нам быть и как быть хорошими. Человек полон этических изъянов: непоследовательность, эмоциональная неустойчивость, склонность к предвзятости и ошибкам в суждениях, вытекающим, по большей части, из корыстных побуждений. Задолго до того, как появилась первая приемлемая по габаритам батарея для искусственного человека или материал для кожи его лица, способный передавать человеческие эмоции, уже имелось программное обеспечение, обещавшее этому созданию здравомыслие и мудрость. И прежде чем мы сконструировали робота, способного наклоняться и завязывать шнурки на стариковских ботинках, в нас уже теплилась надежда, что наше творение принесет нам искупление.

Судьба самоуправляемого автомобиля оказалась короткой, по крайней мере в первоначальном варианте, и его моральная состоятельность так и не смогла пройти проверку временем. Но ничто не доказало техногенную уязвимость нашей цивилизации сильнее, чем гигантские транспортные заторы конца семидесятых. В те годы автономный автотранспорт составлял семнадцать процентов от общего объема. Кто может забыть душегубку бескрайней пробки на улицах Манхэттена, получившей известность как «Манхэттенская пробка»? Из-за аномальной солнечной активности множество бортовых радаров одновременно вышли из строя. Улицы и авеню, мосты и тоннели оказались наглухо забиты автомобилями, и понадобилось несколько дней, чтобы разрулить этот бардак. А девять месяцев спустя подобное повторилось в Рурштадте, в Северной Европе, спровоцировав короткий экономический спад, породивший теории заговора. Подростки-хакеры, жаждущие беспредела? Или далекая враждебная, разрозненная нация с продвинутыми хакерскими приемами? А может – мое любимое, – производственно отсталый автопроизводитель, ярый ненавистник обжигающей новизны? Однако кроме нашего перетрудившегося солнца других виновников не нашли.

Мировые религии и великие литературные произведения ясно давали понять, что мы знаем, как быть хорошими. Мы выражали наши благородные стремления в поэзии, прозе и песнях, и мы знали, что делать. Проблема заключалась в том, чтобы претворить эти знания в жизнь – последовательно и в массовом порядке. Из временной смерти автономного автомобиля родилась мечта об искупительной добродетели роботов. Ее первичным воплощением стал Адам и ему подобные, как это подразумевало руководство пользователя. Предполагалось, что искусственный человек должен быть образцом добродетелей. Я никогда не встречу никого лучше его. Однако, если бы с Мирандой переспал мой друг, это было бы жестоко и безнравственно по отношению ко мне. Проблема была в том, что я купил Адама – он был моей дорогостоящей собственностью, и его обязательства передо мной, помимо общей полезности, были мне неясны. Чем раб обязан своему хозяину? Кроме того, Миранда не была «моей». Это было ясно. Я так и слышал, как она замечает, что у меня нет здравых оснований чувствовать себя преданным.

Но имелся еще один вопрос, который мы с ней пока не обсуждали. Программисты из автомобильной промышленности могли внести свой вклад в моральные ориентиры Адама. Но его личность сформировали мы с Мирандой. Я не знал, в какой мере его личность затрагивала или превосходила его этику. Насколько она обладала собственной волей? Идеально сформированная моральная система должна быть свободна от любых предрасположенностей. Но достижимо ли это? Закрепленная в железе, моральная система становилась не более чем сухим эквивалентом мысленного эксперимента «мозг в банке»[28]28
  Разновидность мысленных экспериментов в философии, иллюстрирующих зависимость человеческого восприятия действительности от его субъективных ощущений.


[Закрыть], когда-то приводимого во всех учебниках по философии. А искусственный человек должен был осваиваться среди нас, несовершенных, падших нас, и приспосабливаться к нам. Руки, собранные в стерильных условиях, должны были погрузиться в грязь. Существовать в человеческом моральном измерении значило иметь тело, голос, модель поведения, память и желания, переживать конкретные вещи на личном опыте и испытывать боль. Идеально честное существо, оказавшееся в таком положении, вполне могло соблазниться Мирандой.

Всю ночь я представлял, как расправляюсь с Адамом. Я видел, как волоку его на веревке, чтобы утопить в мутной реке. Если бы только он не обошелся мне так дорого. Теперь он обходился мне еще дороже. Его близость с Мирандой не могла стать результатом борьбы между принципом и жаждой удовольствия. Его эротическая жизнь была симулякром. Он желал Миранду не больше, чем механическая посудомойка могла желать посуду. Но он или его моральный алгоритм поставил ее одобрение выше моего гнева. И в этом я винил Миранду, задавшую половину свойств его характера и потому ответственную за многие хитросплетения его натуры. Но в конечном счете я винил себя – за то, что вовлек ее в эту историю. Ведь мне хотелось «раскрывать» для себя Адама как нового друга – и вот же он, удивляет меня, негодяй. И через это я надеялся укрепить свою связь с Мирандой. Что ж, я думал о ней ночь напролет. Успех по всем статьям.

Я услышал шаги на лестнице. Две пары ног. Придвинув к себе чашку кофе, я раскрыл вчерашнюю газету и напустил на себя отвлеченный вид. Я собирался сохранить достоинство. В дверном замке повернулся ключ Миранды. Она вошла в кухню, Адам шел за ней, и я с видимой неохотой поднял взгляд от газеты. Я только что прочитал, что человеку по имени Барни Кларк было установлено первое постоянное искусственное сердце.

Я с болью отметил, как она изменилась – посвежела, прямо расцвела. Погода держалась такая же теплая. На Миранде была белая юбочка в складку из двухслойной марлевки. Когда она подошла ближе, край материи лизнул ее голые ноги, сантиметрах в десяти над коленками. В парусиновых туфлях на босу ногу, точно школьница, и в шелковой блузке, целомудренно застегнутой на все пуговицы. Эта белизна была сплошной насмешкой. В волосах я заметил новую заколку – ярко-красный пластик, кричащая дешевка. Уму непостижимо, как Адам сумел выскользнуть из дома и купить для нее эту вещицу у Саймона на мелочь, взятую из копилки на кухне. Но мне пришлось это постичь, как удар под дых, который я скрыл за улыбкой. Я собирался держаться молодцом.

Адам, шедший позади, теперь встал рядом. Но на меня он не смотрел. А Миранда просто светилась, словно ей не терпелось поведать мне важную прекрасную новость. Нас разделял кухонный стол, и они оба стояли передо мной, точно кандидаты на собеседовании. В других обстоятельствах я бы, конечно, встал, обнял ее и предложил кофе. Миранда обожала утренний кофе, и покрепче. Но я склонил голову набок, глядя ей в глаза, и ждал. Ну разумеется, она хотела позвать меня играть в теннис, и я догадывался, куда она засунула мячик, – как же я ненавидел свои глупые мысли. Я не представлял себе, что хорошего может выйти из разговора с этой парочкой. Я бы с большей охотой поразмышлял о счастливчике Барни с его новым сердцем.

Миранда сказала Адаму:

– Может, ты…

И пододвинула ему стул, на котором он обычно заряжался. Адам проворно сел, и мы смотрели, как он расстегивает ремень и вставляет себе в пупок зарядный шнур. Разумеется, Адам израсходовал массу энергии. Миранда положила руку ему на шею и нажала на точку отключения. Они, конечно, продумали это заранее. Его глаза закрылись, голова поникла, и мы остались одни.