Текст книги "Игра в имитацию. О шифрах, кодах и искусственном интеллекте"

VI. Противоположные точки зрения по основному вопросу

Теперь мы можем считать, что основные понятия нами выяснены, и перейти к рассмотрению вопроса «Могут ли машины мыслить?» и его варианта, изложенного в конце предыдущего раздела. Вместе с тем мы не можем отказаться и от первоначальной формы вопроса, так как по поводу равноценности замены одной формы вопроса другой мнения могут расходиться, и в любом случае необходимо выслушать то, что было бы сказано в этой связи.

Читателю будет легче разобраться в этой дискуссии, если я сначала разъясню свои собственные убеждения. Рассмотрим сперва более точную форму вопроса. Я уверен, что лет через пятьдесят станет возможным программировать работу машин с емкостью памяти около 109, так чтобы они могли играть в имитацию настолько успешно, что шансы среднего человека установить присутствие машины через пять минут после того, как он начнет задавать вопросы, не поднимались бы выше 70 %. Первоначальный вопрос «Могут ли машины мыслить?» я считаю слишком неосмысленным, чтобы он заслуживал рассмотрения. Тем не менее я убежден, что к концу нашего века употребление слов и мнения, разделяемые большинством образованных людей, изменятся настолько, что можно будет говорить о мыслящих машинах, не боясь, что тебя поймут неправильно. Более того, я считаю вредным скрывать такие убеждения. Широко распространенное представление о том, что ученые с неуклонной последовательностью переходят от одного вполне установленного факта к другому, не менее хорошо установленному факту, не давая увлечь себя никакому непроверенному предположению, в корне ошибочно. Не будет никакого ущерба от того, что мы ясно осознаем, что является доказанным фактом, а что – предположением. Догадки очень важны, ибо они подсказывают направления, полезные для исследований.

Теперь я перехожу к рассмотрению мнений, противоположных моему собственному.

Теологическое возражение

«Мышление есть свойство бессмертной души человека. Бог дал бессмертную душу каждому мужчине и каждой женщине, но не дал души никакому другому животному или машинам. Следовательно, ни животное, ни машина не могут мыслить».

Я не могу согласиться ни с чем из того, что было только что сказано, и попробую возразить, пользуясь теологическими же терминами. Я счел бы данное возражение более убедительным, если бы животные были отнесены в один класс с людьми, ибо, на мой взгляд, между типичным одушевленным и типичным неодушевленным предметами имеется большее различие, чем между человеком и другими животными. Произвольный характер этой ортодоксальной точки зрения станет еще яснее, если мы рассмотрим, в каком свете она может представиться человеку, исповедующему какую-нибудь другую религию. Как, например, христиане отнесутся к точке зрения мусульман, считающих, что у женщин нет души? Но оставим этот вопрос и обратимся к основному возражению. Мне кажется, что из приведенного выше аргумента со ссылкой на душу у человека следует серьезное ограничение всесильности всемогущего. Пусть даже существуют определенные вещи, которые бог не может выполнить (например, сделать так, чтобы единица оказалась равной двум), но кто же из верующих не согласился бы с тем, что бог волен вселить душу в слона, если найдет, что слон этого заслуживает? Мы можем искать выход в предположении, что бог пользуется своей силой лишь в сочетании с мутациями, совершенствующими мозг настолько, что последний оказывается в состоянии удовлетворить требованиям души, которую бог желает вселить в слона. Но точно так же можно рассуждать и в случае машин. Это рассуждение может показаться отличным лишь потому, что в случае машин его труднее «переварить». По сути дела, это означает, что мы считаем весьма маловероятным, чтобы бог счел обстоятельства подходящими для того, чтобы дать душу машине, т. е. речь идет в действительности о других аргументах, которые обсуждаются в остальной части статьи. Пытаясь построить мыслящие машины, мы поступаем по отношению к богу не более непочтительно, узурпируя его способность создавать души, чем мы делаем это, производя потомство; в обоих случаях мы являемся лишь орудиями его воли и производим лишь убежища для душ, которые творит опять-таки бог. Все это, однако, пустые рассуждения. В пользу чего бы ни приводили такого рода теологические доводы, они не производят на меня особого впечатления. Однако в старину подобные аргументы находили весьма убедительными. Во времена Галилея полагали, что такие церковные тексты, как «Стояло солнце среди неба и не спешило к западу почти целый день» (Книга Иисуса Навина, глава X, стих XIII) и «Ты поставил землю на твердых основах: не поколеблется она в веки и веки» (псалмы Давида, псалом 103, стих 5), в достаточной мере опровергали теорию Коперника. В наше время такого рода доказательство представляется беспочвенным. Но когда современный уровень знаний еще не был достигнут, подобные доводы производили совсем другое впечатление.

Возражение со «страусовой» точки зрения

«Последствия машинного мышления были бы слишком ужасны. Будем надеяться и верить, что машины не могут мыслить».

Это возражение редко выражают в столь открытой форме, как это сделано выше. Но оно звучит убедительно для большинства из тех, кому оно вообще приходит в голову. Мы склонны верить, что человек в интеллектуальном отношении стоит выше всей остальной природы. Лучше всего, если бы удалось доказать, что человек необходимо является самым совершенным существом, ибо в таком случае он может не бояться потерять свое доминирующее положение. Ясно, что популярность теологического возражения связана именно с этим чувством. Это чувство, вероятно, особенно сильно у людей интеллигентных, так как они ценят силу мышления более высоко, чем остальные люди, и более склонны основывать свою веру в превосходство человека на этой способности.

Я не считаю, что это возражение является достаточно существенным, для того чтобы требовалось какое-либо опровержение. Утешение здесь было бы более подходящим; не предложить ли искать его в учении о переселении душ?

Математическое возражение

Имеется ряд результатов математической логики, которые можно использовать для того, чтобы показать наличие определенных ограничений возможностей машин с дискретными состояниями. Наиболее известный из этих результатов – теорема Геделя[8]8
  Gоdеl К. Uber formal unentscheidbare Satze der Principia Mathematica und verwandter Systeme, I, «Monatshefte fur Mathematik und Physik». B. 38, 1931. S. 173–198.


[Закрыть] – показывает, что в любой достаточно мощной логической системе можно сформулировать такие утверждения, которые внутри этой системы нельзя ни доказать, ни опровергнуть, если только сама система непротиворечива. Имеются и другие, в некотором отношении аналогичные, результаты, принадлежащие Черчу, Клини, Россеру и Тьюрингу. Результат последнего особенно удобен для нас, так как относится непосредственно к машинам, в то время как другие результаты можно использовать лишь как сравнительно косвенный аргумент (например, если бы мы стали опираться на теорему Геделя, нам понадобились бы еще и некоторые средства описания логических систем в терминах машин и машин в терминах логических систем). Результат Тьюринга относится к такой машине, которая, в сущности, является цифровой вычислительной машиной с неограниченной емкостью памяти. Он устанавливает, что существуют определенные вещи, которые эта машина не может выполнить. Если она устроена так, чтобы давать ответы на вопросы, как в «игре в имитацию», то будут вопросы, на которые она или даст неверный ответ, или не сможет дать ответа вообще, сколько бы ни было ей предоставлено для этого времени. Таких вопросов, конечно, может быть много, и на вопросы, на которые нельзя получить ответ от одной машины, можно получить удовлетворительный ответ от другой. Мы здесь, разумеется, предполагаем, что вопросы принадлежат скорее к таким, которые допускают ответ «Да» или «Нет», чем к таким, как «Что вы думаете о Пикассо?». Следующего типа вопросы относятся к числу таких, на которые, как нам известно, машина не может дать ответ: «Рассмотрим машину, характеризующуюся следующим:… Будет ли эта машина всегда отвечать “Да” на любой вопрос?» Если на место точек подставить описание (в какой-либо стандартной форме, например подобной той, которая была использована нами в разделе V) такой машины, которая находится в некотором сравнительно простом отношении к машине, к которой мы обращаемся с нашим вопросом, то можно показать, что ответ на этот вопрос окажется либо неверным, либо его вовсе не будет. В этом и состоит математический результат; утверждают, будто он доказывает ограниченность возможностей машин, которая не присуща разуму человека. Ответ на это возражение вкратце состоит в следующем. Установлено, что возможности любой конкретной машины ограничены, однако в разбираемом возражении содержится голословное, без какого бы то ни было доказательства, утверждение, что подобные ограничения не применимы к разуму человека. Я не думаю, чтобы можно было так легко игнорировать эту сторону дела. Когда какой-либо из такого рода машин задают соответствующий критический вопрос и она дает определенный ответ, мы заранее знаем, что ответ будет неверным, и это дает нам чувство известного превосходства. Не является ли это чувство иллюзорным? Несомненно, оно бывает довольно искренним, но я не думаю, чтобы ему следовало придавать слишком большое значение. Мы сами слишком часто даем неверные ответы на вопросы, чтобы то чувство удовлетворения, которое возникает у нас при виде погрешности машин, имело оправдание. Кроме того, чувство превосходства может относиться лишь к той машине, над которой мы одержали свою – в сущности, весьма скромную – победу. Не может быть и речи об одновременном торжестве над всеми машинами. Значит, короче говоря, для любой отдельной машины могут найтись люди, которые умнее ее, однако в этом случае снова могут найтись другие, еще более умные машины, и т. д.

Я думаю, что те, кто разделяет точку зрения, выраженную в математическом возражении, как правило, охотно примут «игру в имитацию» в качестве основы дальнейшего рассмотрения. Те же, кто убежден в справедливости двух предыдущих возражений, будут, вероятно, вообще не заинтересованы ни в каком критерии.

Возражение с точки зрения сознания

Это возражение особенно ярко выражено в выступлении профессора Джефферсона[9]9
  Jeffеrsоn G. The Mind of Mechanical Man. Lister Oration for 1949 // Britisch Medical Journal, v. I, 1949, p. 1105–1121.


[Закрыть] на Листеровских чтениях[10]10
  Листеровские чтения. Джозеф Листер (1827–1912) – выдающийся английский хирург.


[Закрыть] за 1949 год, откуда я и привожу цитату. «До тех пор, пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счет случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, т. е. что она может не только написать эти вещи, но и понять то, что ею написано. Ни один механизм не может чувствовать (а не просто искусственно сигналить, для чего требуется достаточно несложное устройство) радость от своих успехов, горе от постигших неудач, удовольствие от лести, огорчение из-за совершенной ошибки, не может быть очарованным противоположным полом, не может сердиться или быть удрученным, если ему не удается добиться желаемого».

Это рассуждение, по-видимому, означает отрицание нашего критерия. Согласно самой крайней форме этого взгляда, единственный способ, с помощью которого можно удостовериться в том, что машина может мыслить, состоит в том, чтобы стать машиной и осознавать процесс собственного мышления. Свои переживания можно было бы потом описать другим, но, конечно, подобное сообщение никого бы не удовлетворило. Точно так же если следовать этому взгляду, то окажется, что единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Фактически эта точка зрения является солипсистской[11]11
  Солипсистская точка зрения. Солипсизм (от лат. solus – единственный и ipse – сам) – взгляд, согласно которому единственной достоверной реальностью являются внутренние переживания субъекта, его ощущения и мышление. Солипсизм есть крайняя форма философии субъективного идеализма.


[Закрыть]. Быть может, подобные воззрения весьма логичны, но если исходить из них, то обмен идеями становится весьма затруднительным. Согласно этой точке зрения, А обязан думать, что «А мыслит, а В нет», в то время как В убежден в том, что «В мыслит, а А нет». Вместо того чтобы постоянно спорить по этому вопросу, обычно принимают вежливое соглашение о том, что мыслят все.

Я уверен, что профессор Джефферсон отнюдь не желает стоять на этой крайней солипсистской точке зрения. Вероятно, он весьма охотно принял бы в качестве критерия «игру в имитацию». Эта игра (если игрок В не участвует) нередко применяется на практике под названием viva voce[12]12
  Viva voce (лат.) – устно. (Прим. ред.)


[Закрыть], для того чтобы установить, понял ли действительно данный человек некоторую вещь или он заучил нечто «как попугай».

Вот отрывок из такой игры.

Задающий вопросы. Не находите ли Вы, что в первой строке Вашего сонета «Сравню ль тебя я с летним днем» выражение «с весенним днем» звучало бы лучше?

Отвечающий. Оно нарушало бы размер стиха.

Задающий вопросы. А если сказать «с зимним днем»? С размером здесь все обстоит благополучно.

Отвечающий. Это так, но никто не захочет, чтобы его сравнивали с зимним днем.

Задающий вопросы. А разве мистер Пиквик не напоминает Вам рождество?

Отвечающий. Некоторым образом, да.

Задающий вопросы. Но рождество – зимний день, и я не думаю, чтобы мистер Пиквик имел что-нибудь против этого сравнения.

Отвечающий. Я не думаю, что Вы говорите все это всерьез. Когда говорят о зимнем дне, имеют в виду обычный зимний день, а не какой-то особенный, вроде рождества.

И так далее. Что бы сказал профессор Джефферсон, если бы машина, пишущая сонеты, могла отвечать примерно так, как это было в приведенном выше отрывке из viva voce? Не знаю, стал ли бы он рассматривать ответы машины лишь как «просто искусственную сигнализацию». Если бы ее ответы были столь же связными и удовлетворительными по содержанию, как в приведенном выше отрывке, я не думаю, чтобы профессор Джефферсон охарактеризовал это как дело, выполнить которое может «достаточно несложное устройство». Эту фразу из его выступления следует, по-видимому, относить к таким случаям, когда в машине имеется, скажем, граммофонная пластинка с записью сонета в чьем-либо исполнении, а также механизм, с помощью которого эту запись можно время от времени включать.

Короче говоря, я считаю, что большинство из тех, кто поддерживает возражение с точки зрения сознания (consciousness), скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения. В таком случае они, по-видимому, охотно примут наш критерий.

Мне не хотелось бы создавать впечатление, будто я считаю, что в сознании нет ничего загадочного. Например, неудача наших попыток локализовать сознание похожа на парадокс. Но я вовсе не думаю, что загадки, связанные с сознанием, непременно должны быть разъяснены прежде, чем мы окажемся в состоянии ответить на вопрос, рассматриваемый в настоящей статье.

Возражения, исходящие из того, что машина не все может выполнить

Обычно эти возражения выражают в такой форме: «Я согласен с тем, что вы можете заставить машины делать все, о чем Вы упоминали, но Вам никогда не удастся заставить их делать А». При этом перечисляют довольно длинный список значений этого X. Я предлагаю читателю выбирать:

«Быть добрым, находчивым, красивым, дружелюбным, быть инициативным, обладать чувством юмора, отличать правильное от неправильного, совершать ошибки, влюбляться, получать удовольствие от клубники со сливками, заставить кого-нибудь полюбить себя, извлекать уроки из своего опыта, правильно употреблять слова, думать о себе, обладать таким же разнообразием в поведении, каким обладает человек, создавать нечто подлинно новое». (Некоторые пункты из этого списка ограничений машинных возможностей будут рассмотрены особо.)

Обычно в подтверждение подобных высказываний не приводят никаких доводов. Я убежден, что эти высказывания основываются главным образом на принципе неполной индукции[13]13
  Принцип неполной индукции – принцип логики, согласно которому разрешается делать обобщающее заключение о принадлежности некоторого свойства а всем предметам данного класса А на основании того, что установлена принадлежность свойства а лишь некоторым (не всем) предметам класса А, именно тем, которые рассмотрены в ходе индукции. Вывод, основанный на принципе неполной индукции – даже при условии достоверности исходных данных, – не достоверен, а только более или менее вероятен.
  Выражение «неполная индукция» русского перевода соответствует выражению «scientific induction» (буквально: «научная индукция») английского оригинала. Такой перевод выбран потому, что выражение «научная индукция» употребляется у нас обычно не в том смысле, который имеет в статье Тьюринга выражение «scientific induction» (под «научной индукцией» в нашей литературе обычно понимают сложное рассуждение, основанное на совместном применении неполной индукции и дедукции, которое при определенных условиях – последние, впрочем, не уточняются – может давать достоверное заключение).


[Закрыть]. Человек в течение своей жизни видел тысячи машин. Из того, что он видел, он делает ряд общих заключений. Машины безобразны, каждая из них создана для того, чтобы выполнять весьма ограниченные задачи, и если необходимо сделать нечто иное, они бесполезны, вариации их поведения крайне незначительны и т. д. и т. п. Естественно, человек делает вывод, что все это является необходимыми особенностями всех машин в целом. Многие из этих ограничений связаны с очень маленькой емкостью памяти большинства машин. (При этом я предполагаю, что понятие емкости памяти машины несколько обобщено таким образом, что охватывает и машины, отличные от машин с дискретными состояниями. Точное определение не играет здесь никакой роли, так как в настоящем рассмотрении мы не претендуем на математическую строгость.) Несколько лет назад, когда очень немногие знали о цифровых вычислительных машинах, часто приходилось встречаться с недоверчивым отношением к тому, что о них рассказывали, если об их замечательных свойствах говорили, не объясняя, как такие машины устроены. Это, вероятно, происходило из-за того, что слушавшие шаблонно применяли принцип неполной индукции. Разумеется, применение этого принципа происходило в основном бессознательно. Если ребенок, обжегшись один раз, боится огня и выражает страх перед огнем тем, что избегает его, то я бы сказал, что он применяет неполную индукцию (само собой разумеется, поведение ребенка можно описать и по-другому). Я не думаю, чтобы трудовая деятельность и обычаи человечества были особенно удачным материалом для применения неполной индукции. Большую часть пространственно-временного континуума (space-time) необходимо пытливо исследовать, если мы хотим получить надежные результаты. В противном случае мы можем прийти, скажем, к выводу (к которому приходит большинство английских детей), что все говорят по-английски и что глупо изучать французский язык. Однако относительно многого из того, что было названо в числе вещей, недоступных машине, следует сделать особые оговорки. Неспособность машины получать удовольствие от клубники со сливками может показаться читателю пустяком. Весьма возможно даже, что мы могли бы сделать так, чтобы машина получала удовольствие от этого изысканного блюда, но любая попытка в этом направлении была бы идиотизмом. Эта неспособность машины приобретает значение лишь в сочетании с другими труднодоступными для нее вещами, например в сочетании с трудностью установления между нею и человеком такого же отношения дружелюбия, какое бывает между двумя людьми.

Утверждение «Машины не могут совершать ошибок» кажется мне курьезным. Его пытаются парировать: «А разве от этого они хуже?» Отнесемся к этому утверждению не столь враждебно и попытаемся понять, что имеют в виду в действительности. Я думаю, что возражение, содержащееся в утверждении «Машины не могут совершать ошибок», можно пояснить с помощью «игры в имитацию». Требуется, чтобы задающий вопросы отличил машину от человека, просто задавая им ряд арифметических задач; машина должна разоблачить себя вследствие своей высокой точности. Ответ на эту аргументацию очень прост. Можно сделать так, чтобы машина (запрограммированная для участия в игре) не стремилась давать правильные ответы на арифметические задачи. Она может в известной мере специально вводить ошибки в вычисления, для того чтобы сбить с толку задающего вопросы. Что касается ошибок, связанных с механическими неисправностями, то такие ошибки обнаружат себя, по-видимому, тем, что ошибочный результат в этом случае окажется трудно подвести под некоторый общий род типичных арифметических ошибок. Однако даже такая интерпретация данного возражения не является приемлемой. Размеры настоящей статьи не позволяют нам остановиться на этом более подробно. Мне кажется, что это возражение возникает потому, что смешивают ошибки двух видов. Их можно называть «ошибками функционирования» и «ошибками вывода». Ошибки функционирования происходят вследствие некоторых механических или электрических неисправностей, в результате которых машина ведет себя не так, как это было намечено. В философских дискуссиях обычно отвлекаются от возможности ошибок такого рода; поэтому подвергают рассмотрению «абстрактные машины». Эти абстрактные машины – математические фикции, а не реально существующие объекты. По определению, они не могут иметь ошибок функционирования. В этом смысле мы действительно можем сказать, что «машины никогда не могут ошибаться». Ошибки вывода могут возникать лишь тогда, когда сигналу на выходе машины придан определенный смысл. Например, машина может выдавать в печатном виде математические уравнения или какие-нибудь высказывания на русском языке. Если при этом печатается ложное предложение, мы говорим, что машина совершила ошибку вывода. У нас, очевидно, вовсе нет оснований для утверждения, что машина не может совершать ошибок этого рода. Например, она может только и делать, что печатать «0 = 1». В качестве более естественного примера рассмотрим машину, располагающую каким-то методом для того, чтобы делать заключения на основе неполной индукции. Мы должны ожидать, что такой метод в отдельных случаях будет давать ошибочные результаты.

На утверждение о том, что машина не может иметь предметом своей мысли самое себя, можно, конечно, дать ответ лишь в том случае, если бы было возможно показать, что машина вообще имеет какие-либо мысли, выражающие какое-либо предметное содержание. Все же выражение «предметное содержание машинных операций» имеет некоторый смысл, по крайней мере для тех, кто имеет дело с машинными вычислениями. Если, например, машина решает уравнение х² – 40х – 11 = 0, то уравнение можно считать частью предметного содержания операций машины в данный момент. В этом смысле содержанием операций машины, безусловно, может быть она сама. Ее можно использовать при составлении своей собственной программы или для предсказания последствий, вызываемых изменениями в ее устройстве. Наблюдая результаты своего поведения, машина сможет изменять свои собственные программы, с тем чтобы быть более эффективной в достижении некоторой цели. Все это станет возможно в ближайшем будущем; это не утопические мечты.

Возражение, состоящее в том, что машина не отличается разнообразием поведения, является всего лишь способом выражения того обстоятельства, что она не обладает большой емкостью памяти. До самого последнего времени емкость памяти даже в тысячу цифр была очень редкой.

Все возражения, которые мы сейчас разбираем, часто являются просто замаскированной формой возражения с точки зрения сознания. Обычно если утверждают, что машина может выполнить что-нибудь из того, что было перечислено в начале раздела 5, и при этом описывают сущность метода, которым пользуется машина, это не производит большого впечатления. Считают, что, в чем бы ни состоял этот метод, он должен быть весьма элементарным, так как носит механический характер. Сравните сказанное с тем, что говорит Джефферсон.

Возражение леди Лавлейс

Наиболее подробные сведения, которыми мы располагаем об Аналитической машине Бэббеджа, берутся из воспоминаний леди Лавлейс[14]14
  Леди Лавлейс, Ада Августа (Ada Augusta, the Countess of Lovelace) принадлежала к тем немногим современникам Бэббеджа, которые вполне оценили значение его идей. Она была дочерью английского поэта Байрона (родилась в 1815 г., умерла в 1852 г.). Лавлейс получила хорошее математическое образование, сначала под руководством своей матери, а потом под руководством проф. Августа де Моргана (Augustus de Morgan), одного из создателей математической логики. С Бэббеджем и его машинами она познакомилась еще в юности. В 1840 г. Бэббедж посетил Турин (Италия) и прочел там серию лекций. Идеи Бэббеджа заинтересовали одного из итальянских офицеров – Менабреа, который опубликовал их изложение в Bibliotheque Universelle de Geneve (№ 82, Oktober 1842). Лавлейс перевела на английский язык эту работу и опубликовала ее в Scientific Memoirs (ed. by R. Taylor, v. 3, 1842, p. 691–731), присоединив к ней обширные Примечания переводчика, более чем в два раза превосходившие по объему текст Менабреа. Эти Примечания относились к принципам работы Аналитической машины и ее применению и были высоко оценены Бэббеджем. См.: Faster than Thought. A Symposium on Digital Computing Machines. Ed. by B.V. Bowden. London, 1953, chapter I. В приложении к книге воспроизведены работа Менабреа в переводе Лавлейс (Sketch on the Analitical Engine invented by Charles Babbage, Esq. by L.F. Menabrea, of Turin, Officer of the Military Engineers) и работа самой Лавлейс (Notes by the Translator).


[Закрыть]. В них она высказывает такую мысль: «Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать» (курсив леди Лавлейс). Это высказывание цитируется Хартри[15]15
  Hartree D.R. Calculating Instruments and Machines. New York, 1949.


[Закрыть], который добавляет: «Отсюда не следует, что невозможно сконструировать электронное устройство, которое “мыслит” или в котором, пользуясь биологическими терминами, можно вырабатывать условные рефлексы, на основе которых становится возможным “обучение”. Увлекательный и будоражащий вопрос, подсказанный некоторыми из последних достижений, состоит в том, осуществимо это принципиально или нет. Однако не видно, чтобы машины, построенные или запроектированные до настоящего времени, обладали этим свойством».

Я полностью согласен с Хартри по этому вопросу. Следует отметить, что он вовсе не утверждает в категорической форме, что машины, о которых идет речь, не обладают этим свойством. Он лишь замечает, что данные, которыми располагала госпожа Лавлейс, не позволяли ей допустить этого. Весьма возможно, что машины, о которых шла речь, в некотором смысле обладали этим свойством. Действительно, пусть некоторая машина с дискретными состояниями обладает рассматриваемым свойством. Аналитическая машина Бэббеджа была универсальной цифровой вычислительной машиной; это значит, что если бы она обладала нужной емкостью памяти и необходимой скоростью работы, то, будь в нее введена соответствующая программа, она могла бы подражать этой машине. По-видимому, этот довод не приходил в голову ни Бэббеджу, ни графине Лавлейс. Во всяком случае, от них нельзя требовать, чтобы они исчерпали все, что можно сказать по этому вопросу.

Весь этот вопрос будет рассмотрен еще раз в разделе, посвященном обучающимся машинам.

Один из вариантов аргумента госпожи Лавлейс – это утверждение, гласящее, что машина «никогда не может создать ничего подлинно нового». На секунду возразим поговоркой, что вообще «ничто не ново под луной». Кто может быть уверенным в том, что выполненная им «оригинальная работа» не была ростком из зерна, посеянного образованием, или просто результатом применения хорошо известных общих принципов? Более удачный вариант этого возражения состоит в утверждении, что машина никогда «не может ничем поразить человека». Это утверждение представляет собой прямой вызов, который, однако, мы можем принять, не уклоняясь. Лично меня машины удивляют очень часто. В основном это происходит потому, что я не могу точно рассчитать, чего можно, а чего нельзя ожидать от них, или (это бывает чаще) потому, что хотя я и провожу необходимые расчеты, однако делаю это в спешке, неряшливо, рискуя ошибиться. Вот я говорю себе: «По-видимому, электрическое напряжение здесь должно быть таким же, как там: во всяком случае, будем исходить из этого предположения». Само собой разумеется, что в таких случаях я часто ошибаюсь, и получающийся результат оказывается для меня неожиданностью, так как к тому времени, когда эксперимент заканчивается, сделанное допущение уже забыто мною. Эти предположения и натяжки я оставляю открытыми до лекции на тему о моих порочных методах работы. Однако я нисколько не сомневаюсь в том, что действительно испытываю удивление перед машинами.

Я не жду, что этот ответ заставит замолчать моего противника. Вероятно, он скажет, что это удивление происходит вследствие некоторого творческого умственного акта с моей стороны и отражает мое недоверие к машине. Но такая аргументация уводит от вопроса о том, может ли машина чем-либо удивить человека, и возвращает снова к возражению с точки зрения сознания. Этот способ аргументации должен, таким образом, считаться исчерпанным, хотя, быть может, стоит все же отметить то обстоятельство, что если нечто поражает нас своей неожиданностью, то удивление, которое мы испытываем, – независимо от того, что является его источником: человек, книга, машина или еще что-нибудь, – требует «творческого умственного акта».

Мнение о том, что машины не могут чем-либо удивить человека, основывается, как я полагаю, на одном заблуждении, которому в особенности подвержены математики и философы. Я имею в виду предположение о том, что коль скоро какой-то факт стал достоянием разума, тотчас же достоянием разума становятся все следствия из этого факта. Во многих случаях это предположение может быть весьма полезно, но слишком часто забывают, что оно ложно. Естественным следствием из него является взгляд, что якобы нет ничего особенного в умении выводить следствия из имеющихся данных, руководствуясь общими принципами.

Возражение, основанное на непрерывности действия нервной системы

Нет сомнения в том, что нервная система не является машиной с дискретными состояниями. Небольшая ошибка в информации относительно силы нервного импульса, действующего на нейрон, может привести к значительному изменению импульса на выходе. Исходя из этого, можно было бы как будто предполагать, что нельзя имитировать поведение нервной системы с помощью машины с дискретными состояниями.

То, что машина с дискретными состояниями должна отличаться от машины непрерывного действия, это, конечно, справедливо. Однако если мы будем придерживаться условий «игры в имитацию», то задающий вопросы не сможет использовать это различие. Данную ситуацию можно сделать яснее, рассмотрев другую, более простую машину непрерывного действия. Для этого особенно хорошо подходит дифференциальный анализатор. (Дифференциальный анализатор – это машина определенного рода, не относящаяся к типу машин с дискретными состояниями, применяемая для вычислений некоторых видов[16]16
  Дифференциальный анализатор – вычислительная машина, разработанная В. Бушем (Vannevar Bush) и его сотрудниками в Массачусетском технологическом институте в Кембридже (США) в конце 20-х годов и предназначенная для решения широкого класса обыкновенных дифференциальных уравнений. Дифференциальный анализатор – машина непрерывного действия; при решении задач мгновенные значения переменных выражаются положениями вращающихся валов машины (с учетом числа сделанных валом полных оборотов и направления вращения). Первая модель машины была чисто механическим устройством. В дальнейшем дифференциальный анализатор был усовершенствован его автором и превратился в электромеханическую машину. См.: Буш В. и Колдвелл С. Новый дифференциальный анализатор // Успехи математических наук. Т. 1. Вып. 5–6 (15–16) (новая серия). М.; Л., 1946. С. 113–171; Hartree D.R. Calculating Instruments and Machines, Cambridge, 1950, chapters 2 and 3. В настоящее время разнообразные, главным образом электронные, машины непрерывного действия (они называются иногда также аналоговыми) получили широкое распространение. (Подробнее о машинах этого класса см.: Кобринский Н.Е. Математические машины непрерывного действия. М.: Гостехиздат, 1954.)


[Закрыть]. Некоторые из дифференциальных анализаторов выдают ответы в напечатанном виде и поэтому пригодны для игры в имитацию. Цифровая вычислительная машина не может предсказать, какие в точности ответы даст дифференциальный анализатор, решая некоторую задачу, но зато она может сама находить ответы правильного характера на ту же задачу. Например, если требуется найти значение числа π(в действительности приблизительно равное 3,1416), то цифровая вычислительная машина могла бы осуществлять случайный выбор его значения из множества чисел 3,12; 3,13; 3,14; 3,15; 3,16, имеющих соответственно такие (например) вероятности выбора: 0,05; 0,15; 055; 0,18; 0,06. При этих условиях задающему вопросы будет очень трудно отличить дифференциальный анализатор от цифровой вычислительной машины.

Возражение с точки зрения неформальности поведения человека

Невозможно выработать правила, предписывающие, что именно должен делать человек во всех случаях, при всех возможных обстоятельствах. Например, пусть имеется правило, согласно которому человеку следует остановиться, если включен красный свет светофора, и продолжать движение, если свет зеленый; но как быть, если по ошибке оба световых сигнала появятся одновременно? По-видимому, безопаснее всего остановиться. Однако это решение в дальнейшем может быть источником каких-либо новых затруднений. Рассуждая так, мы приходим к заключению, что любая попытка сформулировать правила действия, предусматривающие любой возможный случай, обречена на провал, даже если ограничиться областью транспортной сигнализации. Со всем этим я согласен.

Основываясь на сказанном, доказывают, что мы не можем быть машинами. Я попытаюсь воспроизвести это доказательство, хотя боюсь, что вряд ли сумею сделать это хорошо. Выглядит оно приблизительно так: «Если бы каждый человек обладал определенной совокупностью правил действия, следуя которым, он живет, он был бы не чем иным, как машиной. Однако таких правил не существует. Следовательно, человек не может быть машиной». В этом рассуждении бросается в глаза ошибка, связанная с нераспределенностью термина. Я не думаю, чтобы когда-нибудь это возражение излагали именно в такой форме, однако я убежден, что рассуждение этого рода все же находит применение. Однако оно основано на смешении терминов «правила действия» (rules of conduct) и «законы поведения» (laws of behaviour), что затемняет вопрос. Под «правилами действия» я понимаю такие предписания, как «остановитесь, если увидите красный свет»; такие предписания могут определять наши действия и осознаваться нами. Под «законами поведения» я понимаю управляющие человеком естественные законы, например «если человека ущипнуть, он вскрикнет». Если в приведенном выше рассуждении вместо «правил действия, которыми человек руководствуется в своей жизни» подставить «законы поведения, управляющие жизнью человека», то ошибка, связанная с нераспределенностью термина, оказывается вполне устранимой[17]17
  В этом абзаце автор разбирает логическую ошибку в рассуждениях своих оппонентов, привлекая понятие о распределенности терминов категорического силлогизма. Категорический силлогизм можно описать как рассуждение, в котором из данного в посылках отношения по объему двух каких-либо терминов (понятий) к третьему следует их отношение друг к другу. Примером силлогизма может быть следующий вывод: (а) все млекопитающие являются позвоночными; (б) все копытные животные являются млекопитающими; (в) значит, все копытные животные являются позвоночными. Здесь из отношения между понятиями млекопитающие и позвоночные (посылка (а)) и между понятиями копытные животные и млекопитающие (посылка (б)) выводится отношение между понятиями копытные животные и позвоночные, составляющее содержание заключения (в). Если в этом выводе заменить указанные понятия переменными A, В, С, мы выявим форму этого умозаключения: «Все А суть В; все С суть A; следовательно, все С суть В», или в виде единого выражения в условной форме: «Если все A суть В и все С суть A, то все С суть В». Обратная замена переменных любыми понятиями всегда порождает логически правильное рассуждение, т. е. такое, в котором – при условии истинности посылок – всегда получается верное заключение, например: «Все люди смертны, Сократ – человек, следовательно, Сократ смертен» (пример силлогизма, издавна приводящийся в руководствах по формальной логике).
  Формы – так называемые модусы – категорического силлогизма могут быть различными. Вышеприведенные силлогизмы являются силлогизмами модуса Barbara (латинские названия модусов были придуманы в Средние века). Модусы различаются различным расположением терминов и характером входящих в них предложений: в них могут фигурировать не только утвердительные и всеобщие суждения (как в Barbara), но и отрицательные и частные суждения («некоторые животные приспособились к холодному климату» и пр.).
  Следование заключения из посылок категорического силлогизма происходит по правилам и аксиомам, которые могут быть сформулированы различным образом. Обычно в числе правил фигурируют некоторые, относящиеся к так называемой распределенности терминов. Термин называется распределенным в данном суждении (в которое он входит либо как логическое подлежащее, либо как логическое сказуемое), если суждение служит для выражения информации, относящейся к каждому предмету класса, который имеется в виду в данном термине. Например, в предложении «все млекопитающие позвоночные» термин подлежащего (млекопитающие) распределен (так как суждение выражает информацию о том, что каждое млекопитающее есть позвоночное животное), а термин сказуемого (позвоночные) не распределен (так как в суждении не выражена информация о том, что каждое позвоночное есть млекопитающее). К числу правил, относящихся к распределенности терминов, принадлежит следующее: термин, не распределенный в посылке, не может быть распределен и в заключении. Смысл этого правила состоит в том, что если в посылке нет информации о каждом члене класса, который имеется в виду в данном термине, она не может появиться и в заключении. Нарушение этого правила будет, конечно, логической ошибкой.
  Ошибочное рассуждение, которое рассматривается в тексте, таково: «Если бы все действия человека определялись некоторой совокупностью правил, то он был бы машиной. Но у человека нет такой совокупности правил. Значит, человек не есть машина».
  Это рассуждение логически неправильно, так как из отрицания основания условного суждения не следует отрицание его заключения. Представленное в виде категорического силлогизма, оно выглядит так: (1) Все то, чьи действия полностью определены некоторой совокупностью правил, есть машина. (2) Люди не действуют согласно некоторой совокупности правил, полностью определяющей их поведение. (3) Следовательно, люди не машины. Это рассуждение содержит логическую ошибку, так как в посылке (1) термин «машина» не распределен, в то время как в заключении он является распределенным (поскольку в нем выражена информация, относящаяся к каждой машине, именно что она не есть человек). Если в приведенном выше рассуждении вместо «правил действия» подставить «законы поведения» (в смысле, разъясненном в тексте), то логическая ошибка легко устраняется за счет замены посылки (1) обратным ей суждением: «Все машины отличаются тем, что их поведение полностью определено некоторыми законами» (в истинности которого, говорит Тьюринг, мы убеждены), в котором термин «машины» распределен (так как речь идет обо всех машинах). Но тут оказывается, что – в отличие от случая, когда речь шла о «правилах действия», – истинность второй посылки вызывает сомнения; по мнению Тьюринга, мы не имеем возможности убедиться в ее достоверности.


[Закрыть]. Ибо мы убеждены не только в том, что быть управляемым законами поведения – значит, быть некоторым родом машины (не обязательно машиной с дискретными состояниями), но что и, наоборот, быть такой машиной означает быть управляемым законами поведения[18]18
  Напомним, что под «машиной» Тьюринг имеет в виду значительно более общее понятие, чем понятие машины, которую можно действительно построить. Критические замечания по поводу излагаемых здесь взглядов Тьюринга см. в предисловии к русскому переводу.


[Закрыть]. Однако в отсутствии законов поведения, которые в своей совокупности полностью определяли бы нашу жизнь, нельзя убедиться столь же легко, как в отсутствии законченного списка правил действия. Единственно известный нам способ отыскания таких законов есть научное наблюдение, и, конечно, мы никогда и ни при каких обстоятельствах не можем сказать: «Мы уже достаточно исследовали. Законов, которые полностью бы определяли нашу жизнь и поведение, не существует».