Текст книги "Человек и компьютер: Взгляд в будущее"

Как правило, в заключении авторы сбавляют обороты, завершая разговор; я же, наоборот, хочу вас взбудоражить. Надеюсь, что вы воспримете этот раздел как призыв задуматься об очерченных мной проблемах и принять активное участие в создании такого будущего, каким вы хотите его видеть. Эта дискуссия уникальна, поскольку не носит академического характера. Она направлена в грядущее. Чем больше люди верят в позитивное технологическое завтра, тем выше вероятность того, что оно настанет. Мы все формируем наше будущее своими убеждениями и действиями. Я верю, что наша судьба находится в наших руках. Ничто не предрешено. Никто из нас не является просто зрителем. Игра продолжается, и все мы сидим за шахматной доской. И единственный способ победить – мыслить шире и глубже.

Это не выбор между утопией и антиутопией. И не вопрос противостояния технологиям. Да, нам придется очень постараться, чтобы не дать технологиям себя обогнать. Мы прекрасно умеем учить машины выполнять нашу работу вместо нас и будем делать это все лучше и лучше. Единственный путь – постоянно ставить перед собой новые задачи и цели, создавать новые отрасли, даже если пока мы не представляем, как к этому подступиться. Нам нужны новые рубежи и воля, чтобы их штурмовать. Наши технологии избавляют нас от многих трудностей и значительной доли неопределенности, поэтому необходимо применять их для решения все более сложных, сопряженных с высокой степенью неопределенности проблем.

Я утверждаю, что благодаря технологиям, которые высвободят наши творческие способности, наша человеческая сущность проявится еще сильнее. Но человек – это намного больше, чем творчество. Мы обладаем такими возможностями, с которыми никогда не сможет сравниться ни одна машина. У машин есть инструкции, у нас есть цели. Машины не могут мечтать, даже в режиме сна. Люди – могут! И нам нужны интеллектуальные машины, чтобы превращать наши дерзкие мечты в реальность. Если же мы перестанем мечтать, перестанем стремиться к грандиозным целям, мы сами можем превратиться в машины.

Примечания

Введение

«относительно просто добиться того, чтобы компьютеры…» Hans Moravec, Mind Children (Cambridge, MA: Harvard University Press, 1988).

В течение 20 лет я намеренно избегал любых разговоров на эту тему… Единственное исключение – снятый в 2013 году документальный фильм «Конец игры: Каспаров и Машина». Хотя авторам фильма удалось отразить мою точку зрения, они оставляют много простора для домыслов. Получилась отличная, полная драматизма картина, но в ней не хватает того строгого и глубокого анализа, который я наконец готов предложить в этой книге.

по сообщению Associated Press… AP, 24 сентября 1945 года. Доступно в интернете на ресурсе Tuscaloosa News: https://news.google.com/newspapers?nid=1817&dat=19450924&id=I-AAAIBAJ&sjid=HE0MAAAAIBAJ&pg=4761,2420304&hl=en. Следует заметить, что обсуждение вопроса о влиянии технологий на многовековую борьбу труда и капитала занимает одно из центральных мест в любой дискуссии, посвященной проблемам растущего экономического неравенства.

Глава 1. Интеллектуальная игра

Игра популярна на всех континентах… Шахматы распространялись не только на Запад, но и на Восток, где вбирали в себя элементы местных культур. Во многих странах Восточной Азии есть свои версии шахмат, которые пользуются здесь большей популярностью, чем современные «европейские» шахматы, и которые произошли, скорее всего, от общей индийской игры-прародительницы. В Японии распространена игра шахматного типа сёги, в Китае – сянци, и, кроме того, большая часть региона увлекается игрой го, даже более древней, чем шахматы.

Гёте называл шахматы «пробным камнем для ума»… Эти слова Гёте вложил в уста Адельгейды, героини трагедии «Гёц фон Берлихинген», написанной в 1773 году.

«Готовность принимать новые вызовы»… Статья «Гений и затмения», опубликованная в 52-м номере журнала Der Spiegel за 1987 год; http://www.spiegel.de/spiegel/print/d-13526693.html.

«Этот человек – феномен в истории человечества…» Цитата из статьи, опубликованной в газете World от 28 мая 1782 года, приводится в книге Гарольда Мюррея «История шахмат» (H. J. R. Murray, A History of Chess).

…мировой рекорд… установил немецкий игрок среднего уровня… Марк Ланг – мастер ФИДЕ с рейтингом около 2300 пунктов. В 2011 году он провел сеанс одновременной игры вслепую на 46 досках. Прежние рекорды зачастую кажутся сомнительными, поскольку условия не были стандартизированы. Например, некоторые игроки имели доступ к бланкам для записи ходов. Более подробно о рекорде Ланга см.: https://www.theguardian.com/sport/2011/dec/30/chess-marc

…сильнейшие шахматисты страны получили освобождение от призыва на фронт… Романов И. Петр Романовский. – М.: Физкультура и спорт, 1984. – С. 27.

Несколько лет спустя Иосиф Сталин… Вполне в духе культа личности: был опубликован текст шахматной партии, которую Сталин, как предполагают, элегантно выиграл у Николая Ежова, будущего руководителя НКВД.

…завоевав золотые медали на восемнадцати из девятнадцати Всемирных шахматных олимпиад… В 1978 году команда Венгрии отодвинула сборную СССР на второе место, что рассматривалось Москвой как огромное унижение. Когда мне было всего 17 лет, меня включили в «команду реванша», завоевавшую золото в 1980 году.

…я с гордостью поменял советский настольный флаг на российский… Я настоял на том, чтобы поменять флаги, несмотря на протесты представителей Спорткомитета СССР и моего соперника Анатолия Карпова. Подробнее об этом рассказано в 3-м томе моей книги «Великое противостояние» (2010).

Глава 2. Эпоха шахматных машин

…в своей статье «Программирование компьютера для игры в шахматы»… Claude Shannon, «Programming a Computer for Playing Chess,» Philosophical Magazine 41, ser. 7, no. 314, March 1950. Статья была впервые представлена на Съезде Национального института радиоинженеров 9 марта 1949 года в Нью-Йорке.

…высказанной Норбертом Винером в его фундаментальном труде «Кибернетика»… Винер Н. Кибернетика. – М.: Советское радио, 1968.

В одной из своих книг Таль поведал… Таль М. Н., Дамский Я. В. В огонь атаки. – М.: Физкультура и спорт, 1978. – С. 22–23.

…даже если машина типа А будет оценивать миллион позиций в секунду… На самом деле это был очень оптимистичный прогноз, поскольку шахматные машины смогли достичь скорости перебора миллион позиций в секунду только в 1990-х годах. Но задолго до этого появились более эффективные алгоритмы поиска, сделавшие программы чистого типа А устаревшими.

…в соответствии с законом Мура… Закон Мура, который в популярной трактовке гласит, что вычислительная мощность компьютеров удваивается примерно каждые два года, на протяжении вот уже нескольких десятилетий является золотым правилом в области технологий. Но, как часто происходит со многими популярными максимами, изначальное утверждение Гордона Мура имело более конкретный смысл и впоследствии было расширено им. В 1965 году Мур, соучредитель Intel, обнаружил, что количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 12 месяцев с момента их изобретения. В 1975 году он уточнил свой вывод, отметив, что число транзисторов возрастает вдвое каждые 24 года.

…играла не хуже и даже лучше… Чтобы лучше понять, как закон Мура работает на практике и с какой скоростью появляются все более быстрые и меньшие по размеру компьютеры, сравните следующие цифры: в 1985 году самый производительный компьютер в мире Cray-2 весил несколько тысяч килограммов при максимальной скорости 1,9 гигафлопса; в 2016 году iPhone 7 весил меньше 150 г при максимальной скорости 172 гигафлопса.

Глава 3. Человек против машины

На Земле есть много существ, которые могут перемещаться быстрее Усейна Болта… Легендарный американский легкоатлет Джесси Оуэнс, герой берлинской Олимпиады 1936 года, соревновался в 1940-х годах с лошадьми, собаками, мотоциклами и автомобилями.

Популярные шахматные программы предназначались скорее для любителей… Рекламный слоган, сопровождавший появление в 1988 году программы Battle Chess для ПК, гласил: «Чтобы усовершенствовать шахматы, потребовалось 2000 лет!» Я с этим не согласен.

Бронштейн разработал ряд новаторских подходов к популяризации шахмат… Бронштейн предложил произвольную расстановку фигур перед началом каждой партии задолго до того, как такую же идею выдвинул Бобби Фишер, и сегодня эта версия игры стала довольно популярной. Также раньше Фишера Бронштейн заговорил о необходимости ввести задержку времени перед каждым ходом с целью гарантировать игрокам по крайней мере несколько секунд на ход. В настоящее время режим задержки времени стал стандартом проведения профессиональных соревнований.

Бронштейн по-прежнему оставался одним из сильнейших шахматистов мира… Ходили слухи, что Бронштейну не «позволили» победить Ботвинника, любимца КПСС, и в ходе моего противостояния с Карповым пару десятилетий спустя я ощущал похожее давление.

Базовое значение фигур было определено еще два века назад… Разные игроки, как и разные компьютерные программы, склонялись к незначительному изменению стоимости фигур. Наиболее радикальный подход был у Бобби Фишера, который предложил оценивать слонов в 3,25 пешки.

В 1984 году американский журнал BYTE написал… Leo D. Bores, «AGAT: A Soviet Apple II Computer,» BYTE 9, no. 12 (ноябрь 1984).

Конечно, проигрыш в Hopper трехлетнему ребенку… Эта история была описана и в книге «Шахматы как модель жизни». За десять лет, прошедшие после ее написания, я еще больше убедился в том, что лучший способ обучения технологиям, как и языку, – раннее погружение.

«Гарри! Ты привез мне винчестер?!»… Если я не ошибаюсь, это был Степан Пачиков, инженер-программист, который вместе со мной руководил компьютерным клубом. Как сотрудник советской компании ParaGraph, он участвовал в разработке системы распознавания рукописного текста, и его идеи были использованы в карманных ПК Apple Newton. Впоследствии он переехал в Кремниевую долину и основал компанию Evernote, сервис создания и хранения заметок.

В 1999 году я снялся в ролике, рекламирующем поисковую систему AltaVista… Если вы хотите узнать, что случилось с AltaVista, спросите у Google!

…в аксиоме, сформулированной Биллом Гейтсом… В книге «Дорога в будущее». Гейтс Б. Дорога в будущее – М.: Русская редакция, 1996.

Глава 4. Что важно для машины?

«Итак, – сказал компьютер, – ответ на Великий Вопрос…» Адамс Д. Автостопом по галактике. – М.: АСТ, 2017.

Пабло Пикассо, который в одном интервью сказал… Более точную цитату см. в статье: William Fifield, «Pablo Picasso: A Composite Interview,» Paris Review 32, лето – осень 1964 года, и книгу того же автора: Fifield, In Search of Genius (New York: William Morrow, 1982).

Компания сочла целесообразным поддержать усилия Ферруччи… Steve Lohr, «David Ferrucci: Life After Watson,» The New York Times, May 6, 2013.

В 1989 году два ведущих специалиста в области компьютерных шахмат… Mikhail Donskoy and Jonathan Schaeffer, «Perspectives on Falling from Grace,» Journal of the International Computer Chess Association 12, no. 3, 155–63.

«Человек может стать хорошим шахматистом…» Результаты исследований Бине были описаны, в частности, в его работах 1893 года и позже обобщены в книге: Ann Robinson and Jennifer Jolly, A Century of Contributions to Gifted Education: Illuminating Lives (New York and London: Routledge, 2013).

Джон Маккарти… назвал шахматы «дрозофилой ИИ»… Сам Маккарти приписывал этот термин своему советскому коллеге Александру Кронроду.

Глава 5. Что важно для человека?

Я не собираюсь спорить с Международным олимпийским комитетом… Не сомневаюсь, что, если бы эти «умственные виды спорта» были достаточно прибыльными, МОК скорректировал бы свое определение физических нагрузок. Но с точки зрения прибыльности бридж превосходит шахматы, а видеоигры (e-спорт) значительно превосходят и то, и другое.

«Я могу играть в шахматы сто лет подряд…» https://www.reddit.com/r/IAmA/comments/2740ct/hi_im_malcolm_gladwell_author_of_the_tipping/chx6dpv/.

Мог бы я играть в сёги… В 2014 году в Токио, куда я приехал с целью популяризации состязаний в сёги между человеком и машиной, меня называли «Хабу[7]7
  Ёсихару Хабу – знаменитый японский профессиональный игрок в сёги.


[Закрыть] западных шахмат». Высокая похвала!

…давать людям возможность оправдать собственную лень генами… Несколько недавних исследований показали, что способность к упорному труду действительно в значительной степени является наследственной. Это не совсем то, что я имел в виду, когда в 2007 году назвал ее «врожденным даром», но всегда приятно узнавать, что твои предположения получают научное подтверждение. Об исследовании, в ходе которого была изучена наследуемость такого качества, как трудолюбие, у тысяч близнецов, см.: https://www.ncbi.nlm.nih.gov/pubmed/24957535 и http://pss.sagepub.com/content/25/9/1795.

«Шахматы – это культура…» Donald Michie, «Brute Force in Chess and Science,» Computers, Chess, and Cognition (Berlin: Springer-Verlag, 1990).

На что Фишер ответил: «Откуда вы знаете?»… Данную историю мне рассказали в Буэнос-Айресе, и я не знаю, насколько она соответствует действительности, хотя кажется весьма правдоподобной. Глубокий смысл этого короткого вопроса в том, что мало кто из болельщиков способен оценить качество игры чемпиона мира без комментариев экспертов. Сегодня ситуация изменилась, и каждый, кто имеет в своем распоряжении сверхсильный шахматный движок, чувствует себя вправе тыкать пальцем в ошибки чемпиона, словно он сам их обнаружил.

Глава 6. На арену!

…некоторые из этих сложных задач будут решены через пять – десять лет… Выступление Билла Гейтса на Объединенной международной конференции по проблемам искусственного интеллекта, Сиэтл (штат Вашингтон), 7 августа 2001 года; https://web.archive.org/web/20070515093349/ http://www.microsoft.com/presspass/exec/billg/speeches/2001/08-07aiconference.aspx.

Недавно агентство предложило провести ряд конкурсов… В том числе соревнования по защите информации «Захвати флаг» с участием компьютеров; см.: http://archive.darpa.mil/cybergrandchallenge_competitorsite/Files/Competitor_Day_CGC_Presentation_distar_21978.pdf.

«Данные решают всё»… Высказывание Джоша Эстеля цитируется в статье Джеймса Сомерса «Человек, который научит машины думать», опубликованной в журнале Atlantic в ноябре 2013 года.

Машина, учившаяся на гроссмейстерских партиях… История, рассказанная Кэтлин Спраклен, которая вместе со своим мужем Дэном написала знаменитую программу Sargon для шахматного микрокомпьютера. См. «Устную историю Кэтлин и Дэна Спраклен» – интервью Гарднера Хендри от 2 марта 2005 года; http://archive.computerhistory.org/projects/chess/related_materials/oral-history/spacklen.oral_history.2005.102630821/spracklen.oral_history_transcript.2005.102630821.pdf.

«Что такое нога?»… Тогда компьютер Watson впервые участвовал в телевикторине. Вы можете посмотреть этот видеоролик на YouTube. Мне было забавно читать комментарии людей (насколько я полагаю), которые были в восторге от промахов машины. Не злите их! Телевикторина Jeopardy! эфир от 14 февраля 2011 года; https://www.youtube.com/watch?v=fJFtNp2FzdQ.

«Комната отдыха для слабых» в аэропорту или «Тарелка с маленькими глупцами»… Машина спутала слово «слабый» со словом «уставший»; имеется в виду просто комната отдыха. Вторая ошибка становится понятной, если знать, что: 1) буррито – это мексиканская еда; 2) burro («бурро») на мексиканском сленге означает «дурак»; 3) суффикс -ito в испанском языке придает уменьшительное значение. Буррито = маленькие бурро = маленькие глупцы.

«Я не знаю, почему все больше людей попадается на этот крючок»… James Somers, «The Man Who Would Teach Machines to Think,» Atlantic, ноябрь 2013 года.

«Прогресс шахматных машин, основанных на грубой силе…» F-h. Hsu, T. S. Anantharaman, M. S. Campbell and A. Nowatzyk, «Deep Thought,» в книге Computers, Chess, and Cognition, Schaeffer and Marsland, eds. (New York: Springer-Verlag, 1990).

«Из-за приоритетности соревновательного аспекта…» Danny Kopec, «Advances in Man-Machine Play,» в книге Computers, Chess, and Cognition, Schaeffer and Marsland, eds. (New York: Springer-Verlag, 1990).

…шахматная корона достанется компьютеру раньше, чем женщине… Я не скрываю, что в тот период высказывал прискорбно сексистские замечания о месте женщин в шахматах. Так, в интервью журналу Playboy в 1989 году я сказал, что мужчины лучше играют в шахматы, потому что женщинам «не хватает бойцовского духа» и что «вероятно, ответ кроется в генах». Оставив в стороне возможные гендерные различия, сейчас я не могу поверить в то, что когда-то сказал эти слова, тем более что из всех, кого я знаю, самым бойцовским характером обладала моя мама.

Сегодня я с огорчением вижу, что не всегда делал лучшие ходы… Если вам интересно, ход 43.Фb1 был умным ходом, но я не вижу упоминаний о нем ни в одной из многочисленных книг и статей, посвященных этому матчу. После него черные по-прежнему находились в намного лучшей позиции, но совершить прорыв все равно было не так-то просто. Я мог бы сохранить свое подавляющее преимущество в случае хода 40…f5. Сегодня бесплатный шахматный движок на моем ноутбуке находит ход 43.Фb1 за полсекунды, что показывает, как далеко зашел прогресс.

…дает такое же преимущество, какое можно получить благодаря подаче в теннисе… Конечно, статистически это трудно подтвердить, поскольку подача в теннисе обеспечивает гораздо большее преимущество, чем игра белыми в шахматах. Но сходство состоит в том, что и то и другое позволяет овладеть инициативой и лучше контролировать ход игры.

«Красный шахматный король быстро сжег чипы Deep Thought»… Andrea Privitere, «Red Chess King Quick Fries Deep Thought's Chips,» The New York Post, 23 октября 1989 года.

Глава 7. Первый матч с Deep Blue

«Обыграть Гарри Каспарова в шахматы значительно сложнее…» Raymond Keene, How to Beat Gary Kasparov at Chess (New York: Macmillan, 1990). В англоязычных публикациях мое имя пишут как Garry, Gary и даже Garri, но я предпочитаю первый вариант.

Конфиденциальность уходит в прошлое… Если вы хотите узнать, как общество может жить в мире без конфиденциальности, я рекомендую познакомиться с вышедшей в 1997 году книгой Дэвида Брина «Прозрачное общество» (The Transparent Society), а также с комментариями читателей на веб-сайте писателя.

…оценочные функции в лучших коммерческих шахматных программах… Hsu et al., «Deep Thought,» в книге Computers, Chess, and Cognition.

…и был вынужден смириться с ничьей… В следующем раунде Genius победил гроссмейстера Предрага Николича, а в полуфинале проиграл Виши Ананду.

…выиграл у Fritz девять из десяти партий… Feng-hsiung Hsu, Behind Deep Blue (Princeton, NJ: Princeton University Press, 2002).

Deep Blue совершил еще одну самоубийственную ошибку… Из-за перезагрузки компьютер сделал неверный ход 13.0–0 вместо сильного хода 13.g3, который, по словам одного наблюдателя, Deep Blue планировал до сбоя. Потом он ошибся с ходом 14.Крh1 и получил небольшую отсрочку, когда программа Fritz просмотрела ход 14…Сg4, приводящий к немедленной победе. Спустя два хода Deep Blue совершил ту самую самоубийственную ошибку, сыграв 16.с4, за что сразу же был наказан ходом 16…Фh4. У белых не осталось никаких шансов спасти партию. Любопытно, что Сюй Фэнсюн написал об ошибочном ходе 16.с4 в своем посте на шахматном форуме через несколько дней после матча, но забыл упомянуть о нем в своей книге.

Его создатели не ждали, что я буду слепо повторять ту выигранную партию… В техническом плане машина, с которой я играл в 1989 году, была Deep Thought, а не Deep Blue, и в этом матче была практически другая машина, но для удобства я рассматриваю матчи 1989, 1996 и 1997 годов как поединки с разными версиями одной и той же машины.

…шахматисты бывали менее точны, чем во время игры… В своей книге «Шахматы как модель жизни» я привожу конкретный исторический пример – ключевую партию матча на первенство мира между Ласкером и Стейницем (1894), которую более ста лет неправильно интерпретировали.

…не дать противнику возможности показать, на что он способен… Brad Leithauser, «Kasparov Beats Deep Thought,» The New York Times, 14 января 1990 года.

…я мог бы спасти партию… Если бы я сделал верный ход 27…f4 вместо ошибочного 27…d4? Ход 27…Лd8 тоже устраивал черных.

«В этот момент король Deep Blue подвергся яростной атаке…» Charles Krauthammer, «Deep Blue Funk,» TIME, 24 июня 2001 года.

«Напротив меня за шахматной доской – новый вид интеллекта»… Garry Kasparov, «The Day I Sensed a New Kind of Intelligence,» TIME, 25 марта 1996 года.

…стоимость акций IBM выросла на $3310 млн чуть больше чем за неделю… Конечно, нельзя утверждать, что акции подорожали исключительно благодаря матчу, но, как указывает Ньюборн, даже, если матч дал всего 10 % такого роста, это составляет свыше $300 млн. Неплохой доход от шести партий в шахматы.