Текст книги "Будущее без работы. Технология, автоматизация и стоит ли их бояться"

Этот довод подтверждается исследованием McKinsey & Company 2017 года, в рамках которого было рассмотрено 820 различных профессий. Выяснилось, что полностью автоматизированы посредством существующих технологий могут быть менее 5 % из них. В то же время более 60 % профессий состоят из задач, 30 % которых можно автоматизировать[124]124
  A Future That Works: Automation, Employment, and Productivity / McKinsey Global Institute. 2017. Январь.


[Закрыть]. Другими словами, очень немногие рабочие места могут быть полностью заняты машинами, но машины могут взять на себя значительную часть присущих им задач.

Вот почему попадают в ловушку те, кто утверждает, что «моей работе автоматизация не грозит, потому что я делаю X», где «X» – это задача, которую особенно трудно автоматизировать. Ни одна работа не состоит лишь из одной задачи: адвокаты не только выступают в суде, хирурги не только выполняют операции, журналисты не только пишут статьи. Эти конкретные задачи, возможно, трудно автоматизировать, но это необязательно относится ко всем другим видам деятельности, которые эти специалисты выполняют в своей работе. Адвокаты, например, могут утверждать, что ни одна машина не может произносить пламенные речи перед ошеломленными присяжными, – и они правы. Но машины сегодня, безусловно, могут находить, собирать и просматривать широкий спектр юридических документов: эти задачи составляют большую часть работы большинства юристов, а для младших юристов – почти всю.

Технологические оптимисты совершают аналогичную ошибку, когда указывают, что из 271 профессии, указанной в американской переписи 1950 года, из-за автоматизации исчезла только одна – лифтер[125]125
  Возможно, первым это отметил экономист Джеймс Бессен из Бостонского университета.


[Закрыть]. Это вовсе не признак бессилия техники, как они, возможно, полагают, а еще одно свидетельство того, что важные изменения носят более глубокий характер и происходят на уровне базовых задач, а не на уровне названий должностей.

Второй ключевой посыл, из которого исходит Отор и его коллеги, – важна сама природа задач, а не «квалификация» выполняющего их работника – имеет огромное значение. Белые воротнички-профессионалы, посвятившие своему образованию немало времени и средств, часто этому поражаются, а некоторые даже обижаются, считая грубой аналогию между их «изощренной» работой и нерафинированным трудом других людей. Но дело в том, что их работа не такая особенная, как они себе представляют. Как только вы разбиваете большинство профессиональных задач на составляющие их части, многие из них оказываются «рутинными» и могут быть автоматизированы. Тот факт, что образованные профессионалы выполняют свои задачи, работая головой, а не руками, не имеет значения. Гораздо важнее, являются ли эти задачи «рутинными».

Оптимистичный образ мышления

Гипотеза ОЛМ важна потому, что она успешно объясняет не только экономические особенности недавнего прошлого – размывание рынка труда и ущерб, который несут работники со средней квалификацией, – но и оптимизм, который многие прогнозисты испытывают в отношении технологий и будущего.

Старая «каноническая модель» технологических изменений тоже предполагала оптимистический взгляд на будущее труда, но по совершенно нереалистичной причине: в ней, как мы видели, технология всегда дополняет работников (хотя некоторых из них больше, чем других). Сегодня мало кто стал бы так рассуждать. Те же, кто оптимистично смотрит на будущее работы, выстраивают такую версию, которая больше похожа на историю гипотезы ОЛМ, отдающую предпочтение задачам. Они утверждают, что новые технологии действительно заменяют работников, но не во всем, и что машины, как правило, увеличивают спрос на людей для выполнения задач, не поддающихся автоматизации. Сам Отор выразил этот подход емкой фразой: «Автоматизация обычно дополняет те задачи, которые не может заменить»[126]126
  Autor D. Why Are There Still So Many Jobs? The History and Future of Workplace Automation // Journal of Economics Perspectives. 2015. № 3 (29). С. 3–30.


[Закрыть].

Подобные доводы основываются на предположении, что существуют задачи, которые машины просто не могут выполнить, и поэтому есть твердый предел вредной замещающей силы. Конечно, некоторые могут сказать, что это положение интуитивно очевидно. Но гипотеза ОЛМ дает формальное обоснование: машины нельзя научить выполнять «нерутинные» задачи, потому что люди неспособны объяснить, как они их выполняют. По словам Отора, «возможности для такого рода замещения ограничены, потому что есть много задач, которые люди понимают без слов и выполняют без особых усилий, но для которых ни программисты, ни кто-либо другой не может сформулировать явные «правила» или «процедуры»»[127]127
  Там же.


[Закрыть]. Таким образом, в будущем технологии будут все больше заменять людей в «рутинных» задачах и будут дополнять людей в «нестандартных» задачах.

Это различение «рутинных» и «нестандартных» задач распространилось далеко за пределы академических экономических работ. Наиболее влиятельные институты и аналитические центры – от МВФ до Всемирного банка, от ОЭСР до Международной организации труда – опираются на него, оценивая, какие человеческие действия подвергаются риску автоматизации[128]128
  Примеров тому множество: World Economic Outlook / IMF. 2017; World Development Report 2016: Digital Dividends / World Bank. 2016. 14 января; Nübler I. New Technologies: A Jobless Future or Golden Age of Job Creation? // International Labour Office, Working Paper. 2016. № 13. Ноябрь; Artificial Intelligence, Automation, and the Economy / Executive Office of the President. 2016. Декабрь.


[Закрыть]. Марк Карни, управляющий Банком Англии, повторил это в своем предупреждении о «расправе над Дилбертами»: новые технологии, по его мнению, угрожают «рутинной когнитивной работе», подобной той, которую выполняет Дилберт, персонаж стрип-комиксов об офисной жизни[129]129
  O’Brien F., Onoszko M. Tech Upheaval Means a “Massacre of the Dilberts” BOE’s Carney Says // Bloomberg. 2018. 13 апреля.


[Закрыть]. Президент Обама предупредил, что «повторяющиеся» роли подвержены особому риску автоматизации[130]130
  Dadich S. Barack Obama, Neural Nets, Self-Driving Cars, and the Future of the World // Wired. 2016. Ноябрь.


[Закрыть]. Из этой идеи исходят в своих рассуждениях и крупные компании: инвестиционный банк UBS утверждает, что новые технологии «освободят людей от рутинной работы и тем самым дадут им возможность сосредоточиться на более креативных услугах с более высокой добавленной стоимостью»; фирма аудиторских услуг PwC говорит, что «машины, которые заменяют работников, выполняющих рутинные методические задачи, могут дополнить сравнительное преимущество тех из них, кто обладает такими качествами, как умение решать проблемы, лидерство, эмоциональный интеллект, эмпатия и креативность»; а аудиторская фирма Deloitte сообщает, что в Великобритании «количество рутинных рабочих мест, подверженных высокому риску автоматизации, сократилось, но это более чем компенсировало создание новых, менее стандартных рабочих мест, которым автоматизация грозит в меньшей степени»[131]131
  Intelligence Automation: A UBS Group Innovation White Paper // UBS. 2017; Workforce of the Future: The Competing Forces Shaping 2030 // PwC. 2018; From Brawn to Brains: The Impact of Technology on Jobs in the UK // Deloitte. 2015.


[Закрыть].

Эту концепцию также популяризировали журналисты и комментаторы. Economist, например, объясняет, что «уязвимость к автоматизации, по мнению экспертов, определяется не столько тем, является ли соответствующая работа ручной или простой, сколько тем, является ли она рутинной». В свою очередь, New Yorker предлагает нам «представить себе матрицу с двумя осями, от ручного – к когнитивному и от рутинного – к нестандартному», в которой каждая задача сортируется в один из образующихся из квадрантов[132]132
  Automation and Anxiety // The Economist. 2016. 25 июня; Kolbert E. Our Automated Future // New Yorker. 2016. 19 и 26 декабря.


[Закрыть]. Тень различий «рутины» и «нерутины» мы можем видеть и в других часто встречающихся описаниях автоматизации, согласно которым машины могут делать только «повторяющиеся» или «предсказуемые» вещи, «основанные на правилах» или «четко определенные» (другими словами, выполнять «рутинные» задачи), но не могут справиться с вещами «трудно определимыми» или «сложными» («нестандартными» задачами).

На самом деле очень немногие подходы в современной экономической мысли оказались столь же влиятельными, как гипотеза ОЛМ. Эта идея, зародившаяся в тишине кабинетов экономистов, просочилась во внешний мир и предопределила представления многих людей о грядущем[133]133
  Berlin I. Two Concepts of Liberty. Oxford: Clarendon Press, 1958. С. 4. Цитируя немецкого поэта Генриха Гейне, Берлин пишет, что «философские идеи, взращенные в тиши профессорских кабинетов, могут разрушить целую цивилизацию».


[Закрыть]. Гипотеза ОЛМ уверила нас, что существует широкий спектр задач, которые никогда не могут быть автоматизированы; резерв деятельности, который всегда обеспечит людям достаточное количество работы. Привычный Век труда будет продолжаться.

На мой взгляд, это оптимистичное предположение, скорее всего, окажется неверным. Но чтобы понять почему, мы должны сначала взглянуть на изменения, произошедшие в мире технологий и искусственного интеллекта.

Глава 3. Революция прагматиков

Люди уже давно фантазируют о машинах, способных делать удивительные вещи. Три тысячи лет назад Гомер рассказывал историю о треножниках, которые по приказу создавшего их бога «сами собой» устремлялись к своему владельцу[134]134
  Гомер. Илиада. Песнь 18, строки 370–380.


[Закрыть]. Платон писал о Дедале, скульпторе настолько талантливом, что его статуи приходилось связывать, чтобы те не убежали[135]135
  О том, что скульптуры Дедала выглядели как живые, Платон пишет в диалоге «Евтифрон»: Платон. Диалоги. М.: Мысль, 1986.


[Закрыть]. Каким бы причудливым ни казался этот миф, ученик Платона Аристотель проникся им и задался вопросом: что случилось бы с миром труда, если бы «каждый имеющийся у нас инструмент мог выполнять свою задачу либо по нашей просьбе, либо сам ощутив в этом необходимость»[136]136
  Говорят, что Архит, близкий друг Платона, изготовил первого в мире робота – голубя на паровой тяге, который мог самостоятельно летать.


[Закрыть]. Древние еврейские мудрецы писали о големах – мистических существах из грязи и глины, оживавших, стоило лишь их хозяевам произнести правильное заклинание. Говорят, что один голем по имени Йозеф до сих пор прячется на чердаке Большой синагоги в Праге; по легенде, много веков назад раввин Йехуда Лёв вернул его к жизни, чтобы защитить евреев своей общины от преследований[137]137
  Эти и многие другие примеры приводятся в: Nilsson N. J. The Quest for Artificial Intelligence. New York: Cambridge University Press, 2010.


[Закрыть].

В древней литературе множество таких рассказов. Но и более поздняя история полна басен о чудесных и странных машинах, совершающих свою работу без всякого видимого участия человека. Сегодня мы называем их «роботами», но до изобретения этого слова в 1920 году их называли «автоматами» – и они были безумно популярны. В XV веке Леонардо да Винчи нарисовал самодвижущуюся тележку и облаченного в броню гуманоидного робота; он также создал для короля Франции механического льва, который после трех ударов кнута Его Величества раскрывал свою грудь, чтобы показать символ правящей династии[138]138
  О тележке и роботе см.: http://www.davinci-inventions.com/ (дата обращения: 08.05.2018). О льве см.: Shirbon S. Da Vinci’s Lion Prowls Again After 500 Years // Reuters. 2009. 14 августа.


[Закрыть]. В XVIII веке своими машинами прославился француз Жак де Вокансон: одна играла на флейте, другая – на бубнах, а самой знаменитой была утка, которая могла есть, пить, махать крыльями и испражняться. К сожалению, так называемый canard digérateur, или «переваривающая утка», на самом деле не соответствовал своему названию: из скрытого отсека просто выпускался правдоподобный заменитель (хлебные крошки, окрашенные в зеленый цвет)[139]139
  Wood G. London: Faber and Faber, 2002. С. 35.


[Закрыть]. Подобные надувательства случались довольно часто. Примерно в то же время венгр по имени Вольфганг фон Кемпелен построил шахматную машину, получившую прозвище «турок» из-за восточной внешности. Она десятилетиями гастролировала по всему миру, побеждая таких знаменитых противников, как Наполеон Бонапарт и Бенджамин Франклин. Они даже не подозревали, что в брюхе предполагаемого автомата прятался гроссмейстер[140]140
  См.: Standage T. The Turk. New York: Berkley Publishing Group, 2002; Wood G. Living Dolls. С. 79, 81. Секрет был раскрыт лишь в 1834 году, через 65 лет после создания «турка»: Жак-Франсуа Муре, один из «директоров», которые прятались в машине, продал секрет одной газете.


[Закрыть].

Почему людей так очаровывали эти машины? Отчасти, вероятно, потому, что они были зрелищными: некоторые делали забавные и (как в случае с переваривающей уткой) часто умеренно шокирующие вещи. Но как насчет шахматной машины? Почему она всех так взволновала? Дело было не в его ловкости рук: мир XVIII века был полон технологий, выполнявших задачи, требующие гораздо более впечатляющих физических возможностей, чем перемещение шахматной фигуры. Скорее всего, люди были впечатлены очевидной способностью «турка» выполнять задачи, требующие когнитивных способностей, то есть делать то, что люди делают головой, а не руками. Считалось, что такая деятельность находится далеко за пределами досягаемости любой машины, и все же шахматное устройство делало гораздо больше, чем просто бесцельно передвигало фигуры по доске. Казалось, оно взвешивает возможные ходы и переигрывает опытных игроков-людей, мыслит и рассуждает. Когда речь идет о людях, мы признаем, что эти способности требуют «интеллекта». И именно это должно было шокировать публику: машины, похоже, тоже действовали разумно.

В конце концов, почти все эти рассказы оказались выдумками. Множество проектов так и остались на бумаге, а построенные машины, как правило, были рассчитаны на то, чтобы обмануть зрителя. Неслучайно Жан-Эжен Робер-Уден, первый современный фокусник (у которого несколько десятилетий спустя позаимствовал свое имя иллюзионист Гудини), был мастером по изготовлению автоматов: однажды ему пришлось чинить знаменитую переваривающую утку, когда у нее сломалось крыло[141]141
  Wood G. Living Dolls. С. 35.


[Закрыть]. Но в XX веке все изменилось. Исследователи впервые в истории начали строить машины с серьезным намерением соперничать с людьми – началась разработка настоящей сложной программы по созданию интеллекта. Теперь их устремления не сводились к вымыслу или обману, а были вполне серьезны.

Первая волна искусственного интеллекта

На заседании Лондонского математического общества в 1947 году Алан Тьюринг сообщил собравшимся, что задумал вычислительную машину, которая смогла бы демонстрировать интеллект[142]142
  Turing A. Lecture to the London Mathematical Society. 1947. 20 февраля. URL: https://www.vordenker.de/downloads/turing-vorlesung.pdf (дата обращения: 06.2018).


[Закрыть]. Тьюринг заслуживал серьезного к себе отношения: он был, возможно, ведущим британским шифровальщиком времен войны и одним из величайших компьютерных ученых в истории. Однако реакция на высказанные им идеи оказалась настолько враждебной, что через год он был вынужден опубликовать новую статью, в которой гневно ответил на возражения против его утверждения, что машины «могут демонстрировать разумное поведение». «Обычно считают, что это невозможно, но никаких доводов не приводят», – заявлял он в первых же строках. Тьюринг считал, что возражения часто были «чисто эмоциональными» – например, «нежелание признать возможность того, что у интеллектуального могущества человека могут быть какие-то соперники», или «религиозная вера в то, что любая попытка построить такие машины является своего рода прометеевой непочтительностью»[143]143
  Turing A. Intelligent Machinery: A Report by A. M. Turing / National Physical Laboratory. 1948. URL: https://www.npl.co.uk (дата обращения: 07.2018).


[Закрыть].

Менее чем через десять лет группа из четырех американских ученых – Джона Маккарти, Марвина Мински, Натаниэля Рочестера и Клода Шеннона – направила в Фонд Рокфеллера предложение о предоставлении средств на проведение «двухмесячного исследования искусственного интеллекта с участием десяти человек» в Дартмутском колледже (термин «искусственный интеллект» изобрел Маккарти)[144]144
  См.: Solomonoff G. Ray Solomonoff and the Dartmouth Summer Research Project in Artificial Intelligence. URL: http://raysolomonoff.com/dartmouth/dartray.pdf.


[Закрыть]. Их предложение поражало амбициозностью и оптимизмом. Они утверждали, что «каждый аспект обучения или любая другая особенность интеллекта» могут быть смоделированы машиной. И они считали, что можно достичь «значительного прогресса», если «тщательно отобранная группа ученых будет работать над этим вместе в течение лета»[145]145
  McCarthy J., Minsky M., Rochester N., Shannon C. A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence. 1955. 31 августа.


[Закрыть].

Так уж вышло, что летом 1956 года в Дартмуте не было достигнуто ничего заслуживающего внимания. Тем не менее образовалось сообщество ученых, определилось направление движения, и несколько великих умов начали сотрудничать. Со временем под вывеской искусственного интеллекта будет собрана эклектичная коллекция различных типов проблем: распознавание человеческой речи, анализ изображений и объектов, перевод и интерпретация письменного текста, игры в шашки и шахматы и решение проблем[146]146
  Susskind D., Susskind R. The Future of the Professions. Oxford: Oxford University Press, 2015. С. 182.


[Закрыть].

Вначале большинство исследователей искусственного интеллекта считали, что создание машины для выполнения определенной задачи подразумевает наблюдение за тем, как люди выполняют ту же самую задачу, и копирование. В то время такой подход, судя по всему, казался вполне разумным. Люди были, безусловно, самыми одаренными существами в мире, так почему бы не попытаться построить эти новые машины по их образу и подобию?

Эта мимикрия принимала различные формы. Некоторые исследователи пытались создать сети искусственных нейронов путем воспроизведения реальной физической структуры человеческого мозга (Марвин Мински, один из авторов группы, просившей финансирования у фонда Рокфеллера, посвятил этому докторскую диссертацию)[147]147
  Minsky M. Neural Nets and the Brain Model Problem. PhD diss. Princeton University, 1954.


[Закрыть]. Другие использовали психологический подход, стремясь воспроизвести процессы мышления и рассуждения, в которых задействован человеческий мозг (это пытались сделать присутствовавшие в Дартмуте Герберт Саймон и Аллен Ньюэлл, когда предложили «универсального решателя задач» – раннюю систему, известную как «программа, имитирующая человеческое мышление»)[148]148
  Newell A., Simon H. A Program That Simulates Human Thought // GPS / ed. H. Billing. Munich: R. Oldenbourgh, 1961.


[Закрыть]. Третий подход состоял в том, чтобы вывести правила, которым следуют люди, и на их основе написать инструкции для машин. Для этого исследователи создали специальную подотрасль, а их изобретения стали известны как «экспертные системы» – они полагались на правила, которые задавал им живой эксперт.

Во всех этих начинаниях люди так или иначе задавали шаблон поведения машин. Например, для создания машины, которая могла бы играть в шахматы на высшем уровне, нужно было сесть за стол с гроссмейстерами и заставить их объяснить, как они играют в эту игру. Написание программы для перевода одного языка на другой подразумевало наблюдение за тем, как человек, знающий оба языка, понимает смысл абзаца текста. Идентификация объектов означала, что нужно обработать изображение так же, как это делает человеческий глаз[149]149
  Здесь я имею в виду настойчивые попытки определять края в изображениях и на этой основе воспроизводить объекты как обычные схематичные рисунки. Дэвид Марр, британский нейробиолог и психолог, называл их «первичными набросками». Именно так, утверждал он, люди воспринимают мир. См.: Quest for Artificial Intelligence. Глава 9; Marr D. Vision: A Computational Investigation into the Human Representation and Processing of Visual Information. London: MIT Press, 2010.


[Закрыть].

Эта методология нашла свое отражение в языке пионеров ИИ. Алан Тьюринг утверждал, что «можно построить машины, которые будут очень точно имитировать поведение человеческого разума»[150]150
  Turing A. Intelligent Machinery, A Heretical Theory // Philosophia Mathematica. 1996. № 3 (4). С. 156–260.


[Закрыть]. Нильс Нильссон, присутствовавший на Дартмутском собрании, отметил, что большинство ученых там «были заинтересованы в подражании высшим уровням человеческого мышления. Их работа в определенной степени опиралась на анализ того, как люди решают свои проблемы»[151]151
  Nilsson N. J. Quest for Artificial Intelligence. С. 62.


[Закрыть]. А философ Джон Хаугеланд писал, что область ИИ ищет «подлинный предмет: машины с разумом, в полном и буквальном смысле»[152]152
  Haugeland J. Artificial Intelligence: The Very Idea. London: MIT Press, 1989. С. 2.


[Закрыть].

За некоторыми утверждениями Хаугеланда и других ученых стояло более глубокое теоретическое убеждение: люди, по их мнению, представляют собой лишь сложный тип компьютера. Это была «вычислительная теория разума». С практической точки зрения, она могла быть привлекательной для исследователей ИИ. Если бы люди были всего лишь сложными компьютерами, то трудности в создании искусственного интеллекта были бы преодолимы: исследователи просто должны были сделать свои собственные, простые компьютеры более сложными[153]153
  Не всех этот путь вдохновлял. Философ Хьюберт Дрейфус, всегда высказывавшийся пессимистически относительно искусственного интеллекта, ругал коллег. Те полагали, что «они могут сделать компьютеры такими же умными, как люди». Цит. по: Grimes W. Hubert L. Dreyfus, Philosopher of the Limits of Computers, Dies at 87 // New York Times. 2017. 2 мая.


[Закрыть]. Как выразился ученый-компьютерщик Дуглас Хофштадтер в своей знаменитой работе «Гедель, Эшер, Бах», многие исследователи воспринимали как «догмат» утверждение, что «любой разум – лишь вариация одной и той же темы, чтобы создать настоящий разум, работники ИИ должны подойти как можно ближе… к механизмам мозга, если они хотят, чтобы машины обладали теми же возможностями, что и мы»[154]154
  Хофштадтер Д. Гедель, Эшер, Бах: эта бесконечная гирлянда. М.: Бахрах-М, 2001.


[Закрыть].

Конечно, не всех интересовало копирование людей. Но большинство специалистов по искусственному интеллекту того времени придерживались этих представлений – даже те, кто изначально был против, в конечном итоге поддались им. Например, Герберт Саймон и Аллен Ньюэлл. Прежде чем они создали общую систему решения проблем, основанную на человеческом мышлении, они фактически построили совершенно другую систему, названную «Логический теоретик». Эта система отличалась от всех остальных машин, появившихся после Дартмутского собрания, – она действительно работала. И все же, несмотря на успех, Саймон и Ньюэлл отказались от нее. Почему? Отчасти потому, что она действовала не как человек[155]155
  Crevier D. AI: The Tumultuous History of the Search for Artificial Intelligence. New York: Basic Books, 1993. С. 48, 52.


[Закрыть].

Однако в конечном счете этот подход к созданию машин по образу и подобию человека не увенчался успехом. Несмотря на первоначальный всплеск оптимизма и энтузиазма, серьезного прогресса в области искусственного интеллекта достигнуто не было. Когда речь заходила о грандиозных задачах – создании разумной машины, обладающей сознанием или способной мыслить и рассуждать как человек, – ничего подобного построить не удавалось. То же можно было сказать и о более скромных амбициях заставить машины выполнять конкретные задачи. Несмотря на все усилия, машины не могли победить лучшего игрока в шахматы. Они не могли перевести больше нескольких фраз или распознать что-либо, кроме самых простых объектов. Так происходило и со многими другими задачами.

По мере того как прогресс замедлялся, исследователи оказывались в тупике. Конец 1980-х годов вошел в историю как «зима искусственного интеллекта»: финансирование иссякло, исследования замедлились, а интерес к этой области упал. Первая волна искусственного интеллекта, породившая столько надежд, закончилась неудачей.

Вторая волна искусственного интеллекта

В 1997 году ситуация с ИИ начала улучшаться. Система под названием Deep Blue, принадлежавшая IBM, победила Гарри Каспарова, тогдашнего чемпиона мира по шахматам. Это было замечательное достижение, но еще замечательнее было то, как система его добилась. Компьютер Deep Blue не пытался копировать Гарри Каспарова, его интуицию или его гениальность. Он не повторял его мыслительный процесс и не имитировал его рассуждения. Вместо этого он использовал огромные объемы вычислительной мощности и памяти для обработки 330 миллионов ходов в секунду. Каспаров, один из лучших шахматистов всех времен и народов, мог в любой момент держать в голове до сотни возможных ходов[156]156
  О «330 миллионах ходов» см.: Campbell M., Hoane Jr. A. J., Hsu F. Deep Blue //Artificial Intelligence. 2002. № 134. С. 57–82; о «сотне ходов» см. введение к переработанному изданию книги: Dreyfus H. What Computers Can’t Do: The Limits of Artificial Intelligence. New York: Harper & Row, 1979. С. 30.


[Закрыть].

Результат Deep Blue был не только практической победой, но и идеологическим триумфом. До этого события большинство исследователей ИИ можно было считать пуристами, которые пристально наблюдали за разумными действиями людей и пытались построить подобные им машины. Но Deep Blue был спроектирован совершенно иначе. Его создатели не стремились копировать анатомию шахматистов, их образ мысли или конкретные стратегии. Скорее они были прагматиками. От человека задача требовала применения интеллекта. Они же построили машину, способную выполнить ее принципиально иным способом, и тем самым положили конец зиме в области искусственного интеллекта – я называю это революцией прагматиков.

График 3.1. Частота ошибок систем, побеждавших в конкурсе ImageNet

За десятилетия, прошедшие после победы Deep Blue, на основе этого прагматического подхода было создано целое поколение машин, которые функционировали совсем не так, как люди, и оценивались не по тому, как они выполняют задачу, а по тому, насколько хорошо они ее выполняют. Прогресс в области машинного перевода, например, произошел не благодаря созданию машины, подражающей талантливому переводчику, а благодаря тому, что компьютеры сканируют миллионы переведенных человеком фрагментов текста, чтобы самостоятельно вычислять межъязыковые соответствия и паттерны. Подобным образом машины научились классифицировать изображения: они не подражают человеческому зрению, а просматривают миллионы ранее отмеченных изображений и выискивают сходство между ними и данной фотографией. Проект ImageNet ежегодно проводит конкурс, в котором ведущие ученые-компьютерщики соревнуются в создании систем, способных распознавать объекты на изображении точнее, чем их коллеги. В 2015 году победившая система впервые превзошла человека, правильно распознав 96 % изображений, а в 2017 году победитель достиг 98-процентной точности (см. график 3.1[157]157
  Данные взяты из презентации на конкурсе ImageNet 2017 года, см.: http://image-net.org/challenges/talks_2017/ILSVRC2017_overview.pdf (дата обращения: 07.2018). Electronic Frontier Foundation показывает победившие системы на похожем графике и тоже указывает процент ошибок, допускаемых человеком; см.: https://www.eff.org/ai/metrics#Vision (дата обращения: 07.2018). Обзор конкурса см.: Russakovsky O., Deng J., Su H., et al. ImageNet Large Scale Visual Recognition Challenge // International Journal of Computer Vision. 2015. № 3 (115). С. 211–252.


[Закрыть]).

Как и Deep Blue, многие из этих новых машин полагаются на последние достижения в области обработки и хранения данных. Вспомните, что между Дартмутским собранием 1956 года и концом столетия мощность обычного компьютера увеличилась примерно в десять миллиардов раз. Что касается объема данных, то Эрик Шмидт, бывший председатель совета директоров Google, считает, что сейчас мы за каждые два дня создаем столько же информации, сколько было создано с момента зарождения цивилизации до 2003 года[158]158
  Цит. по: Susskind D., Susskind R. The Future of the Professions. С. 161.


[Закрыть].

В первой волне развития искусственного интеллекта, еще до появления таких вычислительных мощностей и возможностей по хранению данных, люди должны были сами выполнять большую часть сложной вычислительной работы. Опираясь на свою изобретательность, проницательность и аналитические способности, исследователи надеялись понять, как люди мыслят, или вручную обнаружить негласные правила, формирующие их поведение, и запечатлеть все это в виде набора четких инструкций для машин. Но во второй волне ИИ машины больше не полагались на такое иерархическое применение человеческого интеллекта, а начали использовать колоссальные вычислительные возможности и все более сложные алгоритмы для обработки огромных массивов данных, изучая человеческий опыт, чтобы выяснить, что делать им самим, двигаясь снизу вверх[159]159
  Впрочем, не все исследователи выбрали этот путь. Марвин Мински поступил иначе и предпочел иерархический подход; см.: https://www.youtube.com/watch?v=nXrTXiJM4Fg.


[Закрыть].

Слово «алгоритм», происходящее от имени математика IX века по имени Абу Абдуллах Мухаммад ибн Муса Аль-Хорезми, означает просто набор пошаговых инструкций. Алгоритмы машинного обучения, которые сегодня во многом определяют прогресс в области искусственного интеллекта, специально нацелены на то, чтобы системы учились на собственном опыте, а не руководствовались явными правилами. Многие из них опираются на идеи, разработанные задолго до того, как появились такие вычислительные мощности и был накоплен такой объем данных, чтобы из интересных теоретических возможностей они превратились в нечто более практическое. Действительно, некоторые из величайших триумфов нынешних прагматиков выросли из пуристских попыток копировать человеческие существа. Например, сегодня самые способные машины полагаются на так называемые искусственные нейронные сети, разработанные несколько десятилетий назад в попытке имитировать работу человеческого мозга[160]160
  Например, Уоррен Маккаллок и Уолтер Питтс, создавшие первую такую сеть в 1943 году, пытались описать «нейронные события» в мозгу как «логику высказываний» на бумаге. См.: McCulloch W., Pitts W. A Logical Calculus of the Ideas Immanent in Nervous Activity // Bulletin of Mathematical Biophysics. 1943. № 5. С.115–133.


[Закрыть]. Однако теперь нет особого смысла судить о том, насколько точно эти сети имитируют человеческую анатомию; их оценивают с чисто прагматической точки зрения, в зависимости от того, насколько хорошо они выполняют поставленные задачи[161]161
  Именно поэтому не имеет значения тот факт, что мы до сих пор не научились моделировать даже деятельность мозга червяка, насчитывающего 302 нейрона, не говоря уже о человеческом мозге, в котором около 100 млрд нейронов. Fry H. Hello World: How to Be Human in the Age of the Machine. London: Penguin, 2018. С. 13.


[Закрыть].

В последние годы эти системы стали намного сложнее, чем Deep Blue. Взять, например, систему AlphaGo, разработанную для игры в китайскую настольную игру го. В 2016 году в серии из пяти игр она взяла верх над Ли Седолом, лучшим игроком в мире. Это крупное достижение, по мнению большинства экспертов, должно было произойти по меньшей мере на десять лет позже. Сложность го заключается не в правилах, а в том, что «пространство поиска», т. е. набор всех возможных ходов для просеивания, огромно. В шахматах на первом ходу первый игрок выбирает один из двадцати возможных ходов, а в го – из 361 варианта. После ответного движения противника в шахматах есть 400 возможных вариантов, а в го – около 129 960. После двух ходов это число увеличивается до 71 852 ходов в шахматах и около семнадцати миллиардов в го. А после всего лишь трех ходов у каждого игрока есть около 9,3 миллиона вариантов в шахматах и около 2,1×1015 в го – т. е. два с пятнадцатью нулями. Это в 230 миллионов раз больше возможностей, чем в шахматах на том же этапе игры[162]162
  На четвертом ходу разница увеличивается до 280 млрд раз. О числе возможных вариантов в шахматах после каждого хода одного из игроков см.: http://oeis.org/A019319, http://mathworld.wolfram.com/Chess.html. Число вариантов измеряется примерно так: 361 × 360 = 129960 после первого хода каждого из игроков; 361 × 360 × 359 × 358 после второго и 361 × 360 × 359 × 358 × 357 × 356 после третьего. (Это лишь грубые подсчеты, исходящие из предположения, что при каждом ходе камушек можно поместить на любую незанятую клетку на доске. Хотя существуют ситуации, в которых одно из этих движений может быть запрещено.)


[Закрыть].

В шахматах победа Deep Blue была отчасти обусловлена способностью компьютера использовать подавляющую вычислительную мощь по сравнению с той, что располагал Каспаров. Но в го эта стратегия не сработает, поскольку игра слишком сложна. Поэтому AlphaGo использовал другой подход. Сначала он просмотрел тридцать миллионов ходов из игр лучших игроков. Затем он перешел к обучению, играя против самого себя, и извлек опыт из тысяч собственных игр. Таким образом, AlphaGo смог выиграть, оценивая гораздо меньше позиций, чем Deep Blue.

В 2017 году была представлена еще более сложная версия программы, получившая название AlphaGo Zero. Замечательной эту систему делало то, что она полностью избавилась от всех принципов работы человеческого интеллекта. Глубоко внутри кода Deep Blue было прописано несколько умных стратегий, которые шахматные чемпионы разработали для него заранее[163]163
  Компания IBM рассказала, как «шахматное мастерство» Deep Blue выросло за последний год. Вместе с международным гроссмейстером Джоэлем Бенджамином команда разработчиков в течение нескольких месяцев обучала программу тонкостям игры. URL: https://www.research.ibm.com/deepblue/meet/html/d.3.3a.html (дата обращения: 01.09.2017).


[Закрыть]. Изучая обширную коллекцию прошлых игр великих игроков-людей, AlphaGo в определенном смысле полагалась на них в своей сложной вычислительной работе. Но AlphaGo Zero ничего этого не требовала. Ей не нужно было ничего знать об игре человеческих экспертов; ей вообще не нужно было пытаться подражать человеческому интеллекту. Все, что ей требовалось, – это правила игры. Получив их, она играла сама в течение трех дней и генерировала собственные данные, а затем победила своего старшего брата, AlphaGo[164]164
  Silver D., Huang A., Maddison C., et al. Mastering the Game of Go with Deep Neural Networks and Tree Search // Nature. 2016. № 529. С. 484–489; Silver D., Schrittwieser J., Simonyan K., et al. Mastering the Game of Go Without Human Knowledge // Nature. 2017. № 550. С. 354–359.


[Закрыть].

Другие системы применяют схожие методы в решении задач, больше напоминающие беспорядок реальной жизни. Шахматы и го, например, являются играми «совершенной информации»: оба игрока видят всю доску и все фигуры. Но, как выразился легендарный математик Джон фон Нейман: «Настоящая жизнь совсем не такая. Настоящая жизнь состоит из блефа, из мелких хитростей, из вопросов, что, по мнению другого человека, я собираюсь сделать». Вот почему исследователей очаровал покер – его оказалось очень трудно автоматизировать. Тем не менее DeepStack, разработанный командой из Канады и Чехии в 2017 году, сумел победить профессиональных игроков в покер в серии из более чем 44 тысяч хедз-апов (то есть игр один на один). Как и AlphaGo Zero, он не выстраивал свою тактику на основе анализа прошлых игр, в которые играли люди, и не полагался на «предметные знания», т. е. умные стратегии покера, разработанные людьми. Вместо этого он научился выигрывать, просто исследуя несколько миллионов случайно сгенерированных игр[165]165
  Marovcik M., Schmid M., Burch N., et al. Deep Stack: Expert-Level Artificial Intelligence in Heads-Up No-Limit Poker // Science. 2017. № 356 (6337). С. 508–513.


[Закрыть]. В 2019 году Facebook и Университет Карнеги – Меллона пошли еще дальше: они объявили о создании Pluribus – системы, которая могла побеждать лучших профессиональных игроков в покер в соревнованиях с участием нескольких игроков. Эта система тоже научилась играть в покер «с нуля», без участия человека, просто играя партию за партией против копий самой себя в течение нескольких дней[166]166
  Brown N., Sandholm T. Superhuman AI for Multiplayer Poker // Science. 2019. URL: https://science.sciencemag.org/content/early/2019/07/10/science.aay2400.


[Закрыть].

Смена приоритетов

Было бы ошибкой думать, что в начале 1990-х исследователи просто «открыли» прагматический путь. Выбор между тем, чтобы заставить машины решать проблемы любыми возможными способами, и копированием человеческих навыков (между тем, что я называю «прагматизмом» и «пуризмом») не нов. Еще в 1961 году, во времена расцвета пуризма, Аллен Ньюэлл и Герберт Саймон писали, что исследователи «старательно разделяют… попытки выполнить с помощью машин задачи, выполняемые людьми, и попытки смоделировать процессы, которые люди фактически используют для выполнения этих задач»[167]167
  Newell A., Simon H. GPS.


[Закрыть]. Подобным образом философ Хьюберт Дрейфус в 1979 году провел различие между «инженерами искусственного интеллекта» – группой практиков, «не заинтересованных в создании в широком смысле “умных” машин», – и «теоретиками искусственного интеллекта», руководствовавшихся тем, что он считал благородным научным призванием[168]168
  Dreyfus H. What Computers Can’t Do: The Limits of Artificial Intelligence. С. 3.


[Закрыть]. Пионеры кибернетики знали, что они могут сосредоточиться либо на создании машин, выполняющих задачи, которые исторически требовали разумных людей, либо на попытке понять сам человеческий интеллект[169]169
  Вот, например, какое определение искусственному интеллекту дал Марвин Мински: «Это наука, заставляющая машины делать вещи, которые потребовали бы применения интеллекта, если бы их выполняли люди». Minsky M. Semantic Information Processing. Cambridge, MA: MIT Press, 1968. С. 5.


[Закрыть]. Они предпочли сосредоточиться на последнем.

Отчасти, как мы уже видели, это было связано с тем, что изначально копирование человеческих действий казалось путем наименьшего сопротивления для создания умных машин. Люди так умны; зачем начинать с нуля проектирование машины, если можно просто сымитировать человека? Но у склонности к пуризму была и вторая причина. Для многих исследователей сам проект изучения человеческого интеллекта был намного интереснее, чем просто создание умных машин. Их труды полны восторженных упоминаний о классических мыслителях вроде Готфрида Вильгельма Лейбница, Томаса Гоббса, Рене Декарта и Дэвида Юма и цитат из их размышлений о человеческом разуме. Исследователи искусственного интеллекта надеялись, что идут по их стопам. Их интриговали вопросы не о машинах, а о людях – что такое «ум» и как работает «сознание», что на самом деле означает «думать» или «понимать»?