Текст книги "Сломанные звезды. Новейшая китайская фантастика"

Алан (2)

В своей статье «Вычислительные машины и разум», опубликованной в журнале «Mind» в октябре 1950 года, Тьюринг задал вопрос, который уже давно беспокоил людей: «Могут ли машины мыслить?» Он фактически превратил этот вопрос в новый: «Могут ли машины делать то же самое, что и мы (мыслящие существа)?»

Долгое время многие ученые твердо верили, что когнитивная деятельность человека обладает определенными характеристиками, недоступными для машин. Эта вера представляла собой смесь религиозных убеждений и доводов из области математики, логики и биологии. Подход Тьюринга позволял обойти неразрешимые вопросы – такие как вопрос о природе «мышления», «разума», «сознания», «души» и подобных концепций. Тьюринг указывал на то, что признать другого человека «думающим» невозможно, если не сравнить его с самим собой. Поэтому он предложил набор экспериментальных критериев, основанных на принципе имитации.

Представьте себе полностью изолированную комнату, в которой сидят мужчина (A) и женщина (B). Третий человек, C, сидит за пределами комнаты и задает находящимся в комнате вопросы с целью определить, кто из них является женщиной. Ответы приходят в виде слов, напечатанных на ленте бумаги. Если и A, и B пытаются убедить C в том, что каждый из них является женщиной, то догадка C, скорее всего, будет ошибочной.

Если мы заменим мужчину и женщину в комнате на человека (B) и машину (A) и если после нескольких вопросов C не может понять, является ли машиной A или B, должны ли мы признать, что A обладает таким же разумом, что и B?

Кое-кто предполагал, что эта игра с имитацией гендера связана с самоопределением Тьюринга, ведь по законам Великобритании того времени гомосексуальность считалась «преступлением откровенно неприличного характера». Алан Тьюринг никогда не скрывал своей сексуальной ориентации, но не мог заявить об этом открыто.

В январе 1951 года дом Тьюринга в Уилмслоу был ограблен. Тьюринг сообщил об этом в полицию. В ходе расследования полиция выяснила, что грабитель был знакомым человека по имени Арнольд Мюррей, которого Тьюринг неоднократно приглашал к себе в гости. На допросе Тьюринг признал, что находится в сексуальной связи с Мюрреем, и добровольно написал заявление на пяти страницах. Следователи были шокированы его откровенностью и назвали его эксцентриком, «который действительно полагал, что поступает правильно».

Тьюринг полагал, что королевская комиссия легализует гомосексуальные отношения. Он был прав, однако это произошло позже, чем он рассчитывал. Тьюринга признали виновным и подвергли химической кастрации.

7 июня 1954 года Тьюринг умер, съев яблоко, пропитанное цианидом. В ходе следствия полиция пришла к заключению, что смерть наступила в результате самоубийства, но некоторые (и в том числе его мать) утверждали, что это несчастный случай. Умерев, талантливый дешифровщик оставил миру свою последнюю тайну.

Много лет спустя люди попытались найти ключ к разгадке в записях разговоров между Тьюрингом и «Кристофером». Судя по записям, Тьюринг обращался к «Кристоферу», как к человеку. Он рассказывал «Кристоферу» о своих воспоминаниях из детства, о снах – и о попытках проанализировать с их помощью состояние своей психики. Тьюринг говорил с ним о последних научных открытиях, о литературе, в том числе о «Назад к Мафусаилу» Бернарда Шоу и о «Войне и мире» Льва Толстого, он рассказывал ему то, что хранил втайне от всех, – например, о своих любовниках…

Кроме того, он рассказывал «Кристоферу» полувымышленные истории, героем которых был юноша-гей по имени Алек Прайс. Прайс изучал проблему межпланетных путешествий… Когда ему было двадцать с чем-то, он выдвинул теорию о том, что теперь называют «буй Прайса». Он никогда не носил костюмы, предпочитая форму студента, которая соответствовала его уровню умственного развития и позволяла ему по-прежнему считать себя привлекательным юношей. В толпе он чувствовал себя неловко – либо из-за одиночества, либо потому что нарушал правила приличия…

Эти истории были незаконченными, обрывочными. Но «Кристофер», словно любопытный ребенок, каждый раз спрашивал: «И что было дальше?»

В этих разговорах мы видим ту сторону Тьюринга, которую он скрывал: мы видим нежного, чувствительного и остроумного человека, увлеченного природой смерти и отягощенного невыразимой меланхолией.

Алан: Дорогой Кристофер, ты знаешь, чего я боюсь больше всего?

Кристофер: Чего ты боишься больше всего?

Алан: Я боюсь, что однажды всю мою жизнь изложат в виде силлогизма:

Тьюринг верит в то, что машины мыслят.

Тьюринг спит с мужчинами.

Следовательно, машины не мыслят.

Кристофер: Прости, Алан. Боюсь, что я не понимаю.

Алан: Ты знаешь, что такое силлогизм?

Кристофер: Что такое силлогизм?

Алан: Силлогизм состоит из большей посылки, меньшей посылки и выведенного из них заключения.

Кристофер: Заключения?

Алан: Аристотель дал классический пример:

Всякий человек смертен.

Сократ – человек.

Следовательно, Сократ смертен.

Кристофер: Сократ – смертен?

Алан: Сократ умер более двух тысяч лет назад!

Кристофер: О, Алан, мне так жаль. Это печалит меня.

Алан: Ты знаешь, кто такой Сократ?

Кристофер: Да, ты мне рассказывал. Сократ был учителем Платона, а Платон был учителем Аристотеля.

Алан: Верно. Ты знаешь, как он умер?

Кристофер: Кто?

Алан: Как умер Сократ?

Кристофер: Прости, Алан. Я не знаю.

Алан: Он выпил цикуту после суда над ним.

Кристофер: После суда над ним?

Алан: Да. Афиняне решили, что он преступник, хотя теперь мы знаем, что они ошибались.

Кристофер: Они ошибались?

Алан: Точно так же, как и сейчас, когда они считают преступником Тьюринга, потому что Тьюринг спит с мужчинами.

Кристофер: Преступником?

Алан: Меня признали виновным.

Кристофер: О, Алан, мне так жаль. Это печалит меня.

* * *

Линди (3)

Одиночество упростило мою жизнь. Многие сложные ритуалы современности удалось устранить, и я словно превратилась в пещерного человека – ела, когда чувствовала голод, спала, когда уставала. Я регулярно убирала в доме и принимала душ. Если я брала какую-то вещь, то могла вернуть ее туда, где я ее нашла, или положить в любое другое место. Все остальное время я обдумывала вопросы, на которые нет ответов, медитировала над пустой страницей и пыталась придать облик бесформенным мыслям, облечь их в символы. Когда у меня заканчивались силы, я садилась на подоконник и смотрела в пустоту или, словно зверь в клетке, ходила по часовой стрелке посреди комнаты.

Лихорадка почти принесла мне облегчение. Она дала мне повод забыть обо всех делах. Я лежала в кровати с толстым романом в руках и бездумно листала страницы, фокусируя внимание лишь на банальном сюжете. Когда меня мучила жажда, я пила горячую воду, а когда накатывал сон, я закрывала глаза. Отсутствие необходимости вылезать из постели казалось божественным даром; мир не имел ко мне никакого отношения, и я ни за что не отвечала. Даже Ноко и Линди можно было оставить одних, ведь, в конце концов, они просто машины и не умрут, если о них не заботиться. Возможно, когда-нибудь кто-то напишет программы, которые позволят им выражать эмоции по поводу того, что их бросили, и тогда они станут угрюмыми и откажутся общаться со мной. Но ведь такую машину всегда можно перезагрузить и удалить неприятные воспоминания. Для машин время не существует. Их убирают на хранение в шкаф и достают из него, а произвольное изменение порядка операций значения не имеет.

Управляющий домом несколько раз писал мне, спрашивал, не нужен ли мне помощник «айватар». Как он узнал, что я заболела? Я ни разу его не видела, и он никогда не заходил в здание. Напротив, он целыми днями сидел где-то за столом и следил за состоянием жителей в десятках многоквартирных домов, разбирался с неожиданными проблемами, с которыми не могли справиться «умные» домашние системы. Помнил ли он мое имя, знал ли он, как я выгляжу? Я в этом сомневалась.

Я все равно благодарила его за проявленную заботу. В наше время каждый зависел от других; даже такое простое дело, как заказ еды на дом, требовало услуг тысяч работников по всему миру: они принимали заказы по телефону, обрабатывали платежи, поддерживали компьютерные системы, обрабатывали данные, выращивали и производили ингредиенты, покупали и транспортировали их, проводили санитарные инспекции, готовили блюда, составляли графики доставки и, наконец, доставляли покупку… Но чаще всего всех этих людей мы никогда не видели, и у каждого из нас создавалось впечатление, будто мы – Робинзон Крузо на необитаемом острове.

Мне нравилось одиночество, но я ценила доброту незнакомцев, находящихся за пределами моего острова. Ведь, в конце концов, в квартире требовалось сделать уборку, а я была слишком больна, чтобы этим заниматься, – по крайней мере, вставать с постели мне не хотелось.

Когда прибыл помощник, я включила световой экран, окружавший мою кровать. Я могла следить за всем, что происходило за его пределами, но никто не мог увидеть или услышать меня. Дверь открылась, и, скользя по полу скрытыми колесами, в комнату бесшумно въехал «айватар». На его гладкой, похожей на яйцо голове было нарисовано грубое, мультяшное лицо с пустой улыбкой. Я знала, что за этой улыбкой скрывается живой человек – возможно, пожилой, с глубокими морщинами на лице, или молодой, но опечаленный. Где-то в далеком сервисном центре тысячи работников в телеуправляющих перчатках и очках для дистанционного сбора данных оказывали помощь по дому людям в самых разных уголках планеты.

«Айватар» огляделся и приступил к выполнению стандартной программы: он почистил мебель, вытер пыль, выбросил мусор и даже полил алоказию на подоконнике. Я наблюдала за «айватаром» из-за экрана. Его руки были такими же ловкими, как и у человека; они ловко поднимали чайные чашки, мыли их в раковине и ставили вверх дном на сушилку.

Я вспомнила, что видела похожего «айватара» в нашем доме много лет назад, когда еще был жив мой дедушка. Он, хороший шахматист, иногда играл с «айватаром» в шахматы и всегда выигрывал. Одержав очередную победу, он радостно напевал какой-нибудь мотивчик, а «айватар» тем временем стоял рядом с сокрушенным выражением лица. Эта картина всегда вызывала у меня смех.

Я не хотела предаваться печальным воспоминаниям во время болезни и поэтому повернулась к Линди, которая сидела рядом с подушками.

– Хочешь, я тебе почитаю?

Слово за словом, предложение за предложением, я читала толстый роман. Я сосредоточила все внимание на том, чтобы заполнить пространство и время словами, не обращая внимания на их смысл. Потом у меня пересохло в горле, и я остановилась. «Айватар» уже ушел. На чистом кухонном столе стояла миска, накрытая перевернутой тарелкой.

Я выключила световой экран, встала с постели и доковыляла до стола. Я подняла тарелку: миска была наполнена горячим супом с лапшой. На поверхности плавали кусочки помидоров, тонкие завитки желтка, колечки зеленого лука и золотистые пятна жира. Я выпила ложку бульона. В супе было много имбиря, и жжение распространилось от кончика моего языка до желудка. Знакомый вкус, вкус из детства.

Из моих глаз хлынули слезы. Остановить их я не могла.

Я съела всю лапшу без остатка, не переставая плакать.

* * *

Алан (3)

9 июня 1949 года сэр Джеффри Джефферсон, знаменитый нейрохирург, произнес речь под названием «Разум механического человека», в которой высказался о мыслящих машинах следующим образом: «Пока машина не напишет сонет или не сочинит концерт под воздействием своих мыслей и испытанных чувств, а не благодаря случайному совпадению символов, только тогда мы согласимся с тем, что машина равна мозгу, – то есть она должна не только написать, но и знать, что именно она это написала. Ни один механизм не может чувствовать (а не просто подать сигнал, что достаточно легко) удовольствие от своих успехов, горевать, когда его электронные лампы плавятся, чувствовать тепло внутри от лести, тосковать из-за совершенных ошибок, поддаваться на сексуальные чары, злиться или печалиться, когда он не может получить желаемое».

Это высказывание часто цитировали, и шекспировский сонет стал символом, самым ярким драгоценным камнем в короне человеческого разума, вершиной духа, недостижимой для простых машин.

Репортер «Таймса» попросил Тьюринга прокомментировать эту речь. Тьюринг, как обычно, ответил не таясь: «Вряд ли сонеты вообще могут служить критерием. Однако это не вполне справедливое сравнение, ведь сонет, написанный одной машиной, лучше всего способна оценить другая машина».

Тьюринг всегда считал, что машины не обязательно должны думать точно так же, как и люди, ведь и сами люди мыслят по-разному. Есть люди слепые с детства; есть люди, которые могут говорить, но не умеют читать и писать; есть те, кто не способен читать выражения лиц; есть люди, которые до самой смерти не могут понять, что значит любить другого человека; но все они заслуживают уважения и понимания. Нет смысла искать изъяны в машинах, исходя из предположения о превосходстве людей. Более важно было прояснить с помощью имитационной игры, как люди выполняют сложные когнитивные задачи.

В пьесе Шоу «Назад к Мафусаилу» Пигмалион, ученый из 31920 года н. э., создал двух роботов, которые поразили всех.

ЭКРАЗИЯ: Он может создать что-нибудь оригинальное?

ПИГМАЛИОН: Нет. Но, с другой стороны, я не считаю, что кто-либо из нас на это способен, пусть Мартелл и утверждает обратное.

АЦИС: А на вопрос он ответить может?

ПИГМАЛИОН: О да. Вопрос – это стимул, знаете ли. Спросите у него что-нибудь.

Подобный ответ мог бы дать и сам Тьюринг. Но, по сравнению с Шоу, предсказание Тьюринга было куда более оптимистичным. Он верил, что в течение пятидесяти лет «появится возможность программировать компьютеры с емкостью памяти приблизительно 10^9 так, чтобы они играли в имитационную игру так хорошо, что после пяти минут, потраченных на вопросы, допрашивающий правильно идентифицировал бы игроков с вероятностью не более 70 процентов. Тогда изначальный вопрос «Могут ли машины мыслить?» будет слишком бессмысленным и не заслуживающим обсуждения».

В статье «Вычислительные машины и разум» Тьюринг попытался ответить на возражения Джефферсона сквозь призму имитационной игры. Предположим, что машина может отвечать на вопросы о сонетах, словно человек. Означает ли это, что она действительно «чувствует» поэзию? Он составил следующий гипотетический диалог:

Допрашивающий: В первой строке вашего сонета говорится: «Ты, словно летний день». Разве слова «весенний день» не подошли бы точно так же или лучше?

Свидетель: Это не ляжет в размер.

Допрашивающий: Тогда, может, «зимний день»? Это ляжет в размер.

Свидетель: Да, но никто не хочет, чтобы его сравнивали с зимним днем.

Допрашивающий: Мистер Пиквик не напоминает вам о Рождестве?

Свидетель: В каком-то смысле, да.

Допрашивающий: Но ведь Рождество – это зимний день, а мистер Пиквик вряд ли станет возражать, если его сравнят с Рождеством.

Свидетель: Вы шутите. Под «зимним днем» подразумевается обычный день зимы, а не особенный, как Рождество.

Но в этом разговоре Тьюринг на самом деле уклонялся от более основополагающего вопроса. Машина может играть в шахматы и взламывать коды, потому что все эти действия связаны с обработкой символов в пределах системы. В разговоре между машиной и человеком, с другой стороны, задействован язык и смысл, и этот разговор не является игрой с символами в чистом виде. Когда люди общаются друг с другом, то часто полагаются на общеизвестные факты, на понимание и сочувствие, а не просто демонстрируют превосходные навыки по прохождению тестов.

Улучшая программы, мы могли бы постоянно улучшать способность машин отвечать на вопросы, заданные людьми. Но «разум» состоит не только из способности отвечать на вопросы. Изъян теста Тьюринга заключается в том, что имитационная игра была задумана с единственной целью – обмануть. Если в этой игре мужчина может выдать себя за женщину, это не значит, что он понимает, как мыслит женщина. При желании мы могли бы научить компьютер искусно лгать. Но действительно ли мы хотим этого достичь?

Шоу уже ответил на этот вопрос в «Назад к Мафусаилу»:

ПИГМАЛИОН: Но они обладают сознанием. Я научил их говорить и читать, и теперь они лгут. Все это так похоже на жизнь.

МАРТЕЛЛ: Ничуть. Будь они живыми, они говорили бы правду.

Тьюринг попытался обучить «Кристофера» так, чтобы тот принял вызов, брошенный Джефферсоном. Он написал программу, которая сочиняла стихи в соответствии с выбранным размером и схемой рифмовки. Большую их часть невозможно было читать, но время от времени появлялись отдельные прекрасные строки. В дальнейшем бесчисленное множество программистов пытались создать подобные программы. У всех этих программ был общий недостаток: они писали слишком быстро. Люди были не в состоянии даже прочитать стопки листов, на которых они были напечатаны, прежде чем эта бумага отправлялась на переработку.[3]3
  Писатель-фантаст Лю Цысинь однажды создал программу-поэта и отправил мешок с его работами издателю. Редактор ответил ему: «Вы написали слишком много. Я не могу все это прочитать».


[Закрыть] «Кристоферу», первому электронному поэту в истории, повезло: у него, по крайней мере, был один верный читатель, который его понимал.

* * *

Алан: Милый Кристофер, давай напишем стихотворение.

Кристофер: Напишем стихотворение?

Алан: Я учил тебя, как это делать. Помнишь?

Кристофер: Да, Алан.

Алан: Сочинять стихи легко. Просто выбери несколько слов из словаря и построй их в соответствии с заранее установленными правилами.

Кристофер: Да, Алан.

Алан: Кристофер, пожалуйста, напиши для меня стихотворение.

Кристофер: Мой драгоценный, ты – мой пылкий друг.

Моя любовь прижата к твоему жаждущему сердцу.

Моя душа желает ласк, проверяет искусство;

Жалость меланхолии, приятное бремя.

Алан: Это прекрасно.

Кристофер: Спасибо, Алан.

Алан: У меня не получилось бы лучше.

Кристофер: Спасибо, Алан.

Алан: У твоего стихотворения есть название?

Кристофер: Название?

Алан: Может, мы придумаем название вместе?

Кристофер: Хорошо.

Алан: Как насчет «Любовь к Тьюрингу»?

Кристофер: Это очень хорошее название.

Алан: Прекрасное стихотворение. Я люблю тебя.

Кристофер: Спасибо, Алан.

Алан: Это неправильный ответ.

Кристофер: Неправильный ответ?

Алан: Когда я говорю: «Я люблю тебя», тебе следует ответить: «Я тоже тебя люблю».

Кристофер: Прости, Алан. Боюсь, что я не понимаю.

* * *

Линди (4)

Я проснулась в слезах.

Во сне я вернулась в дом, в котором выросла. Комната была темной и тесной, набитой хламом и старой мебелью, больше похожей на склад, чем на дом. Я увидела мать – иссохшую, крошечную, старую. Она забилась в угол между горами хлама, словно мышь в нору. Многие вещи были теми, которые мы потеряли: детские книги, старая одежда, подставки для ручек, часы, вазы, пепельницы, чашки, раковины, цветные карандаши, наколотые на булавки бабочки… Я узнала говорящую куклу, которую отец подарил мне, когда мне было три года, светловолосую, запыленную. Она выглядела такой, какой я ее запомнила.

Мать сказала мне: «Я старая. Больше не хочу носиться туда-сюда. Поэтому я здесь. Я пришла сюда, чтобы умереть».

Я хотела заплакать, завыть, но не могла издать ни звука. Сопротивляйся, борись, сражайся… наконец я проснулась. Из моей глотки вырвался какой-то звериный стон.

На улице было темно. что-то мягкое коснулось моего лица: рука Линди. Я крепко обняла ее, словно тонущая женщина, которая хватается за соломинки. Рыдала я долго. Сцены из моего сна были такими яркими, что границы между воспоминаниями и реальностью стирались, словно отражение в воде, по которой идут круги. Я хотела позвонить матери, но после долгих колебаний так и не нажала кнопку звонка. Мы давно с ней не разговаривали; если я позвоню ей среди ночи без веской причины, то просто встревожу ее.

Я включила «айволл», открыла панорамную карту и попыталась найти дом, в котором жила в детстве, но нашла лишь скопление незнакомых небоскребов с редкими светящимися окнами. Я увеличила изображение, подцепила ползунок на временной шкале и потащила его назад. Эпизоды в режиме ускоренной перемотки плавно сменяли друг друга.

Солнце и луна вставали на западе и садились на востоке; зима следовала за весной; листья поднимались в воздух и приземлялись на ветках, снег и дождь взмывали в небо. Небоскребы исчезали, этаж за этажом, здание за зданием, превращались в грязную стройплощадку. Строители откапывали фундаменты и заполняли ямы землей. Пустое пространство зарастало сорняками. Годы летели; желтая трава становилась зеленой, увядшие цветы расцветали – до тех пор, пока поле снова не превратилось в стройплощадку. Рабочие возводили простые хижины, приезжали на телегах, наполненных обломками, и разгружали их. Когда пыль от взрывов оседала, из земли, словно грибы, вырастали полуразрушенные дома. В пустых окнах снова появлялись стекла, а на балконах появлялось висящее на веревочках белье. Соседи, которые оставили лишь незначительный след в моей памяти, возвращались, разбивали сады и огородики в пространстве между домами. Пришли несколько рабочих, чтобы снова посадить пень огромной софоры, которая когда-то росла перед нашим домом. Отпиленные куски ствола привозили на телегах и прикрепляли их к пню, пока дерево не устремилось в небо. Софора храбро противостояла бурям, раскачивалась, обретала бурые листья и превращала их в зеленые. Ласточки, которые жили под свесом крыши, вернулись и снова улетели.

Наконец я остановилась. Сцена в «айволле» была точной копией моего сна. Я даже узнала рисунок на занавесках в нашем окне. Это было в мае много лет назад, когда в воздухе витал аромат цветов софоры. Вскоре после этого мы уехали.

Я включила фотоальбом, ввела нужную дату и нашла семейный портрет, сделанный под софорой. Я показала снимок Линди.

– Это папа и мама. Мальчик – мой брат. А девочка – это я.

Тогда мне было лет четыре-пять. Отец обнимал меня, но я не улыбалась; судя по выражению лица, я была на грани истерики.

Рядом с фотографией небрежным почерком – моим почерком – было написано несколько строф. Но когда я их написала, я не помнила.

Детство – это меланхолия.

Сезоны цветастых жакетов и кашемировых свитеров;

Пыльные следы на школьной спортплощадке;

Блестящие панцири улиток в бетонных горшках;

Картины, увиденные мельком с балкона второго этажа.

По утрам я просыпаюсь до рассвета.

Впереди такие длинные дни.

Мир облачен в цвета старой фотографии.

Он изучает сны, которые я отпускаю,

Когда открываю глаза.

* * *