Текст книги "Будущее без работы. Технология, автоматизация и стоит ли их бояться"

В настоящее время многие экономисты понимают свою ошибку: они не догадывались, что новые технологии превратят многие «нестандартные» задачи в «рутинные». Ведь «нестандартные» задачи определяются как те, что требуют «негласного» знания, которое людям трудно сформулировать. Экономисты утверждают, что в настоящее время новые технологии просто раскрывают некоторые из тех неявных знаний, на которые полагаются люди. Различие между «рутиной» и «нерутиной» все еще полезно, утверждают они; новые технологии просто сдвигают границу между ними, которую экономисты когда-то (ошибочно, по их признанию) считали фиксированной. Таким образом, они пытаются спасти гипотезу ОЛМ. Дэвид Отор, например, утверждает, что современные ученые пытаются автоматизировать «нестандартные» задачи, «выводя правила, которые мы применяем, но отчетливо не понимаем»; Дана Ремус и Фрэнк Леви говорят, что новая технология «объясняет негласный протокол»[209]209
  См. Autor D. Polanyi’s Paradox and the Shape of Employment Growth // Re-Evaluating Labor Market Dynamics: A Symposium Sponsored by the Federal Reserve Bank of Kansa City. Jackson Hole, Wyoming, 2014. 21–23 августа. С. 130; Remus D., Levy F. Can Robots Be Lawyers? Computers, Lawyers, and the Practice of Law // Georgetown Journal of Legal Ethics. 2017. № 3 (30). С. 501–558. URL: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2701092.


[Закрыть].

Чтобы увидеть на практике, как работает такой подход, рассмотрим систему, придуманную группой исследователей из Стэнфордского университета в 2017 году для выявления рака кожи. Если вы дадите ей фотографию родинки, она может определить, является ли та злокачественной, с такой же точностью, как 21 ведущий дерматолог. Как ей это удается? Располагая базой данных из 129 450 случаев, она ищет сходство между ними и изображением этого образования. Обновленная гипотеза ОЛМ предполагает, что эта машина для распознавания родинок работает, потому что она способна идентифицировать и извлекать из архива невыразимые правила, которые дерматологи не могут сформулировать, хотя сами им следуют. Машина делает их негласные правила явными, превращая «нестандартную» задачу в «рутинную».

Однако такое объяснение принципов работы стэнфордской машины неверно. Идея о том, что машины раскрывают до сих пор скрытые человеческие правила, проникая все глубже в молчаливое понимание людьми мира, все еще исходит из того, что именно человеческий интеллект лежит в основе возможностей машин. Но она неверно объясняет, как работают системы искусственного интеллекта второй волны. Конечно, некоторые машины действительно могут наткнуться на негласные человеческие правила и превратить «нестандартные» задачи в «рутинные». Но гораздо важнее то, что многие машины также сейчас вырабатывают совершенно новые правила, не связанные с теми, которым следуют люди. И это серьезное изменение. Машины больше не ездят верхом на хвосте человеческого интеллекта.

Возьмем еще раз стэнфордскую машину. Просматривая 129 450 клинических случаев, она не пытается раскрыть «негласные» правила, которым следует дерматолог, а использует огромные вычислительные мощности для выявления ключевых паттернов в базе данных, содержащей больше возможных случаев, чем врач может рассмотреть за свою жизнь. Вполне вероятно, что некоторые правила, которые она при этом открывает, похожи на те, которым следуют люди. Но это необязательно так: машина может обнаружить и совершенно иные правила.

Еще один хороший пример этого – машина AlphaGo, которая победила чемпиона мира Ли Седола в игре в го. Почти столь же примечательным, как и победа AlphaGo, стал ее тридцать седьмой ход во второй игре – и реакция на него зрителей. Комментаторы были потрясены, они никогда не видели ничего подобного. Сам Ли Седол казался обескураженным. Тысячи лет человеческой игры выковали эмпирическое правило, известное даже новичкам: в начале игры нельзя ставить камни на пятую линию от края. Но именно это AlphaGo и сделала на этом ходу[210]210
  См.: Hassabis D. Artificial Intelligence: Chess Match of the Century // Nature. 2017. № 544. С. 413–414.


[Закрыть], не обнаружив существующего, но доселе не сформулированного человеческого правила. На самом деле из имеющихся в ее распоряжении данных AlphaGo сама рассчитала, что вероятность того, что человек сделает такой ход, составляет всего один из десяти тысяч[211]211
  Metz C. How Google’s AI Viewed the Move No Human Could Understand // Wired. 2016. 14 марта. См. также: Tegmark M. Life 3.0: Being Human in the Age of Artificial Intelligence. London: Penguin Books, 2017. С. 87.


[Закрыть]. Как заметил один эксперт-наблюдатель, это было «совсем не человеческое движение»[212]212
  Metz C. The Sadness and Beauty of Watching Google’s AI Play Go // Wired. 2016. 3 ноября.


[Закрыть]. Это было что-то новое и удивительное. Один чемпион по игре в го назвал этот ход «красивым», а другой сказал, что ему от него стало «дурно»[213]213
  Эпитет «красивый» был процитирован в предисловии к изданию книги: Susskind D., Susskind R. The Future of the Professions. Oxford: Oxford University Press, 2017. «Физическое недомогание» в: Don’t Forget Humans Created the Computer Program That Can Beat Humans at Go // FiveThirtyEight. 2016. 16 марта. URL: https://www.fivethirtyeight.com/.


[Закрыть]. Система буквально переписала правила, которым следуют люди.

Возможно, возникнет соблазн пренебречь этим различием и сказать, что экономисты просто должны признать – «нестандартные» задачи теперь могут быть автоматизированы. Однако то, почему эти экономисты были неправы, тоже имеет значение. Сам факт того, что эти системы могут не следовать тем же правилам, что и люди, создает для них новые возможности, как это было в случае с AlphaGo, ошеломившей Ли Седола, – и это тоже проблематично. Например, одним из достоинств систем, разработанных во время первой волны ИИ, была их «прозрачность». Они следовали четким правилам, установленным людьми, и наблюдателю было легко понять, почему система принимает то или иное решение, будь то ход в игре или постановка медицинского диагноза. Во второй волне ИИ системы стали гораздо менее «прозрачными». Например, изначально было совершенно непонятно, почему AlphaGo решила сделать беспрецедентный тридцать седьмой ход, и разработчикам системы пришлось тщательно проанализировать сложные вычисления, прежде чем они смогли понять смысл принятого ею решения.

Эта новая непрозрачность подтолкнула исследователей помочь системам искусственного интеллекта «объяснить себя»[214]214
  См., например, программу DARPA по исследованию и объяснению работы искусственного интеллекта.


[Закрыть]. На нее уже попытались отреагировать и на государственном уровне. В ЕС, например, статья пятнадцать нового Общего регламента по защите данных предоставила гражданам право получать «содержательную информацию о логике автоматизированного принятия решений»[215]215
  См.: Selbst A., Powles J. Meaningful Information and the Right to Explanation // International Data Privacy Law. 2017. № 4 (7). С. 233–242.


[Закрыть]. В настоящий момент европейские политики считают, что эта информация отсутствует.

Заблуждение искусственного интеллекта

В различных случаях, описанных выше, ученые-компьютерщики и экономисты совершали то, что мой отец и я стали называть «заблуждением ИИ»: ошибочное убеждение, что единственный способ разработать машины, выполняющие задачу на уровне человека, состоит в копировании способа, которым люди выполняют эту задачу[216]216
  Цит. по: Susskind D., Susskind R. The Future of the Professions. С. 45.


[Закрыть]. Это заблуждение, широко распространенное и по сей день, определяет представления многих людей о технологиях и работе.

Врачи, например, обычно не соглашаются с утверждением, что машина когда-нибудь сможет диагностировать болезни так же хорошо, как и они. Машина, говорят они, никогда не сможет формулировать «суждение», которое требует инстинкта и интуиции, способности смотреть пациенту в глаза, осуществлять личный контакт, применять личный опыт. Ничто из этого никогда не получится записать в набор инструкций для машины. Королевский колледж врачей общей практики, профессиональная организация врачей в Великобритании, заявляет, что «ни одно приложение или алгоритм не смогут делать то, что делает врач-терапевт… исследования показали, что у терапевтов есть «внутреннее чутье», когда они просто понимают, что с пациентом что-то не так»[217]217
  Marshall M. No App or Algorithm Can Ever Replace a GP, Say RCGP // Gponline.com. 2018. 27 июня. URL: https://www.gponline.com/ (дата обращения: 08.2018).


[Закрыть]. Вполне возможно, что так оно и есть. Однако это не означает, что машины не могут выполнять задачи врачей: они могут сделать это, действуя совершенно иначе. Система анализа родинок, разработанная в Стэнфорде, не повторяет процесс «суждения» и не пытается воспроизвести их «внутреннее чутье»; скорее всего, она вообще ничего не «понимает» в дерматологии. Тем не менее она может определить, является ли родинка раковой опухолью.

Архитекторы между тем могут сказать, что машина никогда не сможет спроектировать инновационное или красивое здание, потому что не бывает «творческих» компьютеров. Но обратим внимание на Эльбскую филармонию в Гамбурге, в которой есть удивительно красивый концертный зал, состоящий из десяти тысяч взаимосвязанных акустических панелей. Такое пространство заставляет инстинктивно думать, что только человек – притом наделенный удивительно тонкой творческой чувствительностью – может создать нечто столь эстетически впечатляющее. Однако в действительности концертный зал был спроектирован при помощи алгоритмов и техники, известной как «параметрический дизайн». Архитекторы задали системе набор критериев (например, пространство должно было иметь определенные акустические свойства и любая панель, к которой мог прикоснуться зритель, должна иметь определенную текстуру), и она предложила архитекторам на выбор ряд возможных проектов. Аналогичное программное обеспечение было использовано для разработки легких велосипедных рам, более прочных стульев и многого другого[218]218
  Susskind D., Susskind R. The Future of the Professions // Proceedings of the American Philosophical Society. 2018. При параметрическом дизайне моделируется ряд возможных зданий или предметов на основе регулируемых «параметров» или переменных. Когда параметры корректируются, модель генерирует новую версию. См.: Susskind D., Susskind R. The Future of the Professions. С. 95.


[Закрыть]. Ведут ли эти системы себя «творчески»? Нет, они используют большую вычислительную мощность, чтобы слепо генерировать различные возможные проекты, и работают при этом совсем не так, как человек.

Или возьмем еще один пример. В 1997 году, всего через несколько месяцев после того, как компьютер Deep Blue обыграл Каспарова в шахматы, произошла вторая победа ИИ, о которой многие забыли. Зрители, собравшиеся в Университете Орегона, услышали фортепианную пьесу, которую сочли подлинным сочинением Баха, – но на самом деле ее написала компьютерная программа EMI, изобретенная композитором Дэвидом Коупом. Может быть, эта машина действовала «творчески», сочиняя композицию? Один профессор теории музыки университета заявил, что вся эта история «приводит в замешательство»[219]219
  Johnson G. Undiscovered Bach? No, a Computer Wrote It // New York Times. 1997. 11 ноября.


[Закрыть]. Дуглас Хофштадтер, организатор музыкального эксперимента, назвал EMI «самым глубокомысленным проектом в области искусственного интеллекта, с которым я когда-либо сталкивался», и признался, что почувствовал себя «озадаченным и обеспокоенным»[220]220
  Hofstadter D. Staring Emmy Straight in the Eye – And Doing My Best Not to Flinch. С. 34.


[Закрыть]. Если бы эту пьесу написал человек, мы без колебаний использовали бы эпитет «творческий». Но как бы ни была прекрасна композиция, все равно кажется неправильным использовать этот термин для описания того, что сделала компьютерная программа. EMI не пришлось, как однажды написал Хофштадтер о сочинительстве, «блуждать по всему миру в одиночестве, пробиваясь сквозь лабиринт жизни и чувствуя каждое ее мгновение», прежде чем она села и превратила эти чувства в ноты[221]221
  Hofstadter D. Gödel, Escher, Bach: An Eternal Golden Braid. С. 677.


[Закрыть]. Машина выполнила свою задачу совсем иначе.

Это привлекательный ход мысли: раз машины не могут рассуждать как мы, то они никогда не смогут высказывать суждений; раз они не могут думать как мы, они никогда не будут творить; раз они не могут чувствовать как мы, они никогда не будут испытывать эмпатию. Возможно, так и есть. Но такой подход не учитывает, что машины, вероятно, смогут выполнять задачи, требующие сочувствия, суждения или творчества, когда их выполняет человек, – просто совершенно иным способом.

Ниспровержение интеллекта

Согласно греческой мифологии, древние боги жили на горе Олимп. Наделенные замечательными способностями, они сидели на вершине и смотрели на обычных людей внизу. Однако если смертные были исключительно доблестными или выдающимися, они тоже могли уподобиться богам: в процессе, который греки называли апофеозом, они поднимались на гору и занимали свое место на вершине. Это случилось, например, с греческим героем Гераклом. В конце своей жизни он был вознесен на Олимп, чтобы жить рядом с божествами: «ныне ж, бесстаростным ставши навеки, живет без страданий»[222]222
  Shapiro H. A. “Heros Theos”: The Death and Apotheosis of Herakles // Classical World. 1983. № 1 (77). С. 7–18. Цитата взята из «Теогонии» Гесиода в переводе В. В. Вересаева (строка 955): Эллинские поэты VII–III вв. до н. э. Эпос. Элегия. Ямбы. Мелика / отв. ред. М. Л. Гаспаров. М.: Ладомир, 1999.


[Закрыть].

Сегодня многие из нас, кажется, воображают, что люди сидят на вершине своей собственной горы. Мы не считаем себя богами, но считаем себя способнее любого другого живого существа. Многие люди полагают, что если машина, стоящая у подножия горы, присоединится к нам, то она тоже должна пройти через апофеоз – не для того чтобы уподобиться богу, а чтобы стать больше похожей на человека. Это пуристский взгляд на ИИ. Как только машина обретает «человеческий интеллект», она достигает пика своих возможностей и ее восхождение заканчивается.

Но, как показала революция прагматиков, с этим предположением связаны две проблемы. Во-первых, есть и другие способы подняться на Гору способностей, кроме как следовать по определенному пути, который избрали люди. Дорога пуристов – это лишь один из способов совершить восхождение; технический прогресс открыл целый ряд других многообещающих вариантов. Второе откровение заключается в том, что в этом горном массиве есть и другие вершины, наряду с той, где гордо восседают люди. Многие люди отвлекаются на вид, открывающийся с вершины: глядя на менее приспособленные машины внизу или глядя друг на друга и удивляясь своим собственным способностям. Но если бы мы посмотрели вверх, а не вниз или вдоль, то увидели бы другие горы, возвышающиеся над нами.

Вероятно, на данный момент люди – самые способные машины в мире, но существует огромное количество других возможных форм, которые машины могли бы принять. Представьте себе космический склад, который хранит все эти различные комбинации и вариации: он был бы невообразимо большим, возможно, бесконечно большим. Естественный отбор затронул крошечный уголок этого огромного пространства, попав на один (хотя и очень длинный) путь эволюции, и сосредоточился на усовершенствовании человека. Однако люди, вооруженные новыми технологиями, сейчас исследуют другие. Там, где эволюция использовала время, мы используем вычислительную мощность. И трудно предвидеть, не столкнемся ли мы в будущем с различными конструкциями, совершенно новыми способами создания машин, которые откроют пики возможностей далеко за пределами досягаемости даже самых компетентных людей, живущих сегодня[223]223
  Дэниел Деннет называет этот «космический склад» «пространством для проектирования». См., например: Dennett D. From Bacteria to Bach and Back.


[Закрыть].

Если машинам не нужно воспроизводить человеческий интеллект, чтобы стать разумными, то огромные пробелы в современном научном понимании интеллекта имеют гораздо меньшее значение, чем принято считать. Нам не нужно разгадывать тайны работы мозга и разума, чтобы построить машины, способные превзойти людей. А если машинам не нужно нас копировать, то нет никаких оснований думать, что наши способности представляют предел возможностей будущих машин. Ведь принято считать, что интеллектуальная доблесть человека настолько велика, что для машин она недосягаема[224]224
  Эту мысль хорошо изложил американский нейробиолог Сэм Хэррис в TED-лекции: Can We Build AI Without Losing Control over It? / TED. 2016. 29 сентября.


[Закрыть]. На самом деле очень маловероятно, что так будет и впредь.

Часть вторая. Угроза

Глава 5. Присвоение задач

Как прогресс в области искусственного интеллекта повлияет на занятость людей? Хотя машины уже научились многому, их возможности еще достаточно ограничены. У вредной замещающей силы есть границы. Беда в том, что они нечетко очерчены и постоянно меняются.

В последнее время вышли десятки книг, статей, обзоров и докладов, предлагающих самые разные подходы к изучению новых пределов возможностей машин. Один из них – попытаться определить, какие именно человеческие способности трудно автоматизировать. Например, оказалось, что новые технологии не справляются с задачами, связанными с социальным интеллектом – с действиями, требующими личного взаимодействия или эмпатии. С 1980 по 2012 год доля таких рабочих мест выросла до 12 % от общей численности рабочей силы США[225]225
  Deming D. The Growing Importance of Social Skills in the Labor Market // Quarterly Journal of Economics. 2017. № 4 (132). С. 1593–1640.


[Закрыть]. Согласно исследованию Pew Research Center 2014 года, многие эксперты все еще верят, что, несмотря на все достижения революции прагматиков, существуют определенные «уникальные человеческие качества, такие как эмпатия, креативность, суждение или критическое мышление», которые «никогда не будут автоматизированы»[226]226
  Smith A., Anderson J. AI, Robotics, and the Future of Jobs: Key Findings // Pew Research Center. 2014. 6 августа. URL: http://www.pewinternet.org/2014/08/06/future-of-jobs/ (дата обращения: 08.2018).


[Закрыть].

Другой подход ставит вопрос иначе. Дело не в том, могут ли человеческие способности быть воспроизведены машиной, – есть ли в самих задачах аспекты, облегчающие или затрудняющие их машинную обработку? Например, если вы сталкиваетесь с задачей, в которой легко выявить цель и определить, была ли эта цель достигнута, и задача при этом предлагает много данных для анализа, то она, вероятно, может быть автоматизирована[227]227
  См., например: Brynjolfsson E., Mitchell T. What Can Machine Learning Do? Workforce Implications // Science. 2017. № 358 (6370).


[Закрыть]. Хорошим примером может служить распознавание фотографий кошек[228]228
  Markoff J. How Many Computers to Identify a Cat? 16,000 // New York Times. 2012. 25 июня.


[Закрыть]. Цель проста: нужно ответить на вопрос «Это кошка?». Легко сказать, удалось ли системе добиться успеха: «Да, это действительно кошка». И в интернете есть много фотографий кошек, возможно, даже слишком много (около шести с половиной миллиардов, по одной из оценок[229]229
  Yang J. Internet Cats Will Never Die // CNN. 2015. 2 апреля.


[Закрыть]). С другой стороны, задачи, чьи цели неоднозначны или для решения которых не хватает доступных данных, могут находиться вне досягаемости машин. Экономисты из Федеральной резервной системы Центрального банка США предположили, что «сложность задач» также может быть полезным показателем границ способностей машины[230]230
  Caines C., Hoffman F., Kambourov G. Complex-Task Biased Technological Change and the Labor Market // International Finance Division Discussion Papers. 2017. № 1192.


[Закрыть]. Например, Эндрю Ын, бывший директор лаборатории искусственного интеллекта в Стэнфорде, ищет задачи, которые «выполнит среднестатистический человек… посвятив им менее секунды размышлений»[231]231
  Ng A. What Artificial Intelligence Can and Can’t Do Right Now // Harvard Business Review. 2016. 9 ноября.


[Закрыть].

Однако очевидная проблема с обозначением границ для машин этими способами заключается в том, что любые выводы, к которым вы придете, очень быстро устареют. Те, кто пытается определить эти пределы, похожи на пресловутых маляров железнодорожного моста через Ферт-оф-Форт в Шотландии, настолько длинного, что, едва они добирались до конца, им приходилось снова браться за работу, потому что краска на другом конце уже начинала отслаиваться. Потратив какое-то время на размышления о способностях сегодняшних машин и придя к некоему выводу, вы обнаружите, что результат уже устарел и пора начинать сначала.

Рассуждая о возможностях машин, лучше отказаться от попыток конкретизировать ограничения. Подавите соблазн все систематизировать, похороните инстинкт составлять списки трудновоспроизводимых человеческих способностей и конкретных трудноосуществимых задач – вместо этого попытайтесь выявить более общие тенденции. Вы увидите, что под рябью прогресса, которую мы наблюдаем сегодня, скрываются глубинные течения[232]232
  «После сорока лет начинаешь отличать мимолетную рябь на поверхности от глубинных течений или подлинных изменений». Из: Weiss A. Harold Bloom, The Art of Criticism No. 1 // Paris Review. 1991. № 118. Весна.


[Закрыть]. Хотя трудно точно сказать, на что будут способны машины будущего, они несомненно смогут больше нынешних. Со временем машины будут постепенно, но неуклонно продвигаться все дальше в область задач, выполняемых людьми. Можно не сомневаться, что, с точки зрения будущего, любая ныне существующая технология, будь то смартфон или ноутбук, покажется примитивной.

Эту общую тенденцию, что машины берут на себя всё больше поручений, ранее выполнявшихся людьми, мы можем обозначить как «присвоение задач»[233]233
  Последствия «присвоения все более способными машинами задач, которые вплоть до недавнего времени считались предназначенными для человека» исследуются в: Susskind D. Technology and Employment: Tasks, Capabilities and Tastes. DPhil diss. Oxford University, 2016; A Model of Technological Unemployment. Oxford University Department of Economics Discussion Paper Series. 2017. № 819.


[Закрыть]. И лучший способ увидеть ее в действии – разложить на три основных вида способностей, которые люди используют в работе: мануальные, когнитивные и аффективные. Сегодня каждая из них находится под все возрастающим давлением.

Когда Дэниела Белла, одного из величайших социологов XX века, попросили высказаться относительно автоматизации, он пошутил, что мы должны помнить старую еврейскую поговорку: «Пример – не доказательство»[234]234
  Bell D. The Bogey of Automation // New York Review of Books. 1965. 26 августа.


[Закрыть]. Тем не менее я надеюсь, что в потоке приведенных примеров эту тенденцию распознает даже Белл.

Физические способности

Начнем со способностей человека, связанных с взаимодействием с физическим миром: выполнение ручного труда и реакция на то, что мы видим вокруг. Традиционно эта физическая и психомоторная способность использовалась с экономическими целями в сельском хозяйстве, но за последние несколько столетий отрасль все больше автоматизировалась. Сейчас существуют доильные аппараты и беспилотные тракторы, дроны для выпаса скота и автоматические хлопкоочистители[235]235
  О тракторах см.: Feingold S. Field of Machines: Researchers Grow Crop Using Only Automation // CNN. 2017. 8 октября. О доении коров см.: Heyden T. The Cows That Queue Up to Milk Themselves // BBC News. 2015. 7 мая. О выпасе скота см.: Brady H. Watch a Drone “Herd” Cattle Across Open Fields // National Geographic. 2017. 15 августа. Об очистке хлопка см.: Postrel V. Lessons from a Slow-Motion Robot Takeover // Bloomberg View. 2018. 9 февраля.


[Закрыть]. Есть роботы, трясущие деревья и собирающие апельсины, срезающие виноградные кисти и всасывающие яблоки с деревьев вакуумными трубками[236]236
  О сборе яблок см.: Simonite T. Apple-Picking Robot Prepares to Compete for Farm Jobs // MIT Technology Review. 2017. 3 мая. О сборе апельсинов см.: Porter E. In Florida Groves, Cheap Labor Means Machines // New York Times. 2004. 22 марта. О сборе винограда см.: http://wall-ye.com/.


[Закрыть]. Есть фитнес-трекеры, которые следят за здоровьем животных, системы камер, обнаруживающие испортившиеся продукты, и автоматические опрыскиватели, распыляющие удобрения на посевы и пестициды на сорняки[237]237
  Об аксессуарах см.: Akhtar K. Animal Wearables, Robotic Milking Machines Help Farmers Care for Cows // CBC News. 2016. 2 февраля. О системах камер см.: Black Swift Technologies and NASA Partner to Push Agricultural Drone Technology Beyond NDVI and NDRE (Red Edge) // Black Swift Technologies Press Report. 2018. 20 марта. Об автоматических опрыскивателях см.: Vincent J. John Deere Is Buying an AI Startup to Help Teach Its Tractors How to Farm // Verge. 2017. 7 сентября.


[Закрыть]. В Японии, например, 90 % работ по опрыскиванию сельскохозяйственных культур выполняется дронами[238]238
  Susskind J. Future Politics. Oxford: Oxford University Press, 2018. С. 54.


[Закрыть]. Одна британская ферма сеет, выращивает и убирает ячмень вообще без какого-либо участия человека[239]239
  Feingold S. Field of Machines: Researchers Grow Crop Using Only Automation.


[Закрыть]. Американский сельскохозяйственный гигант Cargill использует систему распознавания лиц для мониторинга поведения и состояния своих коров[240]240
  Fussell S. Finally, Facial Recognition for Cows Is Here // Gizmodo. 2018. 1 февраля.


[Закрыть]. Китайский технологический конгломерат Alibaba разрабатывает аналогичную технологию слежения за свиньями и планирует использовать систему распознавания голоса для прослушивания визга поросят, придавленных матерями, – это, как они полагают, снизит смертность поросят на 3 % в год[241]241
  Vincent J. Chinese Farmers Are Using AI to Help Rear the World’s Biggest Pig Population // Verge. 2018. 16 февраля.


[Закрыть].

В связи с автоматизацией задач в физическом мире особую тревогу сейчас вызывают беспилотные автомобили и грузовики. Раньше считалось, что компьютер мог управлять транспортным средством только копируя людей-водителей, т. е. имитируя их мыслительные процессы за рулем. Революция прагматиков показала, что это убеждение оказалось ошибочным: автомобили без водителя, как мы теперь понимаем, не должны следовать фиксированным, пошаговым правилам дорожного движения, сформулированным и установленным людьми. Они могут научиться ориентироваться самостоятельно, снизу вверх, опираясь на сенсорные данные миллионов реальных и имитированных тест-драйвов[242]242
  См., например: Grzywaczewski A. Training AI for Self-Driving Vehicles: The Challenge of Scale // NVIDIA Developer Blog. 2017. 9 октября.


[Закрыть]. Компания Ford пообещала выпустить беспилотный автомобиль к 2021 году – ее примеру последовали и другие производители[243]243
  См. заявление компании: https://corporate.ford.com/innovation/autonomous-2021.html (дата обращения: 01.05.2018).


[Закрыть]. Tesla утверждает, что ее автомобили уже обладают всем необходимым оборудованием, чтобы управлять собой на уровне безопасности, который «значительно превышает уровень безопасности водителя-человека»[244]244
  All Tesla Cars Being Produced Now Have Full Self-Driving Hardware // Tesla.com. 2019. 19 октября. URL: https://www.tesla.com/en_GB/blog/all-tesla-cars-being-produced-now-have-full-self-driving-hardware (дата обращения: 23.07.2019).


[Закрыть]. Учитывая, что в среднем в мире в результате ДТП каждую секунду кто-то получает травму, а каждые двадцать секунд кто-то погибает, перспектива появления беспилотных транспортных средств выглядит заманчиво[245]245
  Ежегодно в ДТП гибнет 1,25 млн человек, от 20 до 50 млн получают травмы. См.: http://www.who.int/en/news-room/fact-sheets/detail/road-traffic-injuries (дата обращения: 27.04.2018).


[Закрыть].

Наибольшее воздействие беспилотные транспортные средства, вероятно, окажут на грузоперевозки, а не на личный транспорт, что отчасти объясняется ценностью грузов. В 2016 году по Европе проехала первая колонна полуавтономных грузовиков, взаимодействовавших друг с другом: передний грузовик держал скорость, а остальные автоматически следовали за ним (тогда за рулем каждого из них все еще сидел водитель)[246]246
  Wong J. I. A Fleet of Trucks Just Drove Themselves Across Europe // Quartz. 2016. 6 апреля.


[Закрыть]. В будущем же поставки могут вообще осуществляться без дорог. Amazon подала заявку на патент на «гнезда дронов» – большие здания, похожие на ульи, предназначенные для размещения флотов автономных летающих роботов-доставщиков, и на «воздушные центры выполнения заказов» – дирижабли, курсирующие на высоте тринадцати километров с грузом продуктов, которые дроны готовы доставить потребителям[247]247
  Levin S. Amazon Patents Beehive-like Structure to House Delivery Drones in Cities // Guardian. 2017. 26 июня; Kharpal A. Amazon Wins Patent for a Flying Warehouse That Will Deploy Drones to Deliver Parcels in Minutes // CNBC. 2016. 30 декабря.


[Закрыть].

Воздушная роботизированная доставка может показаться причудливой, а патенты Amazon могут показаться просто попыткой привлечь к себе некоторое внимание. Однако стоит помнить, что Amazon является одним из самых продвинутых пользователей робототехники, имея на своих складах парк из более чем 100 000 наземных роботов[248]248
  Wingfield N. As Amazon Pushes Forward with Robots, Workers Find New Roles // New York Times. 2017. 10 сентября.


[Закрыть]. И некоторые роботы сегодня уже способны совершать замечательные физические подвиги, такие как открытие дверей и лазание по стенам, подъем по лестнице и приземление на обратном пути, перенос кабелей по суровой местности и завязывание веревок вместе в воздухе[249]249
  О «суровой местности» см.: Cable-laying Drone Wires Up Remote Welsh Village // BBC News. 2017. 30 ноября. О «завязывании узлов в воздухе» см.: Susskind D., Susskind R. The Future of the Professions. Oxford: Oxford University Press, 2015. С. 99. О «прыжках с переворотом» см.: Simon M. ‘Boston Dynamics’ Atlas Robot Does Backflips Now and It’s Full-title Insane // Wired. 2017. 16 ноября. Об остальном см.: Susskind J. Future Politics. С. 54.


[Закрыть]. Между тем, мировое население промышленных роботов неуклонно растет: Международная федерация робототехники, торговая ассоциация, ожидает, что в 2020 году их будет более 3 миллионов, что вдвое больше, чем в 2014 году[250]250
  См.: Robots Double Worldwide by 2020: 3 Million Industrial Robots Use by 2020 // International Federation of Robotics. 2018. 30 мая. URL: https://ifr.org/ifr-press-releases/news/robots-double-worldwide-by-2020 (дата обращения: 08.2018). Даты за 2017 год взяты из Statista: https://www.statista.com/statistics/947017/industrial-robots-global-operational-stock/ (дата обращения: 04.2019).


[Закрыть] (см. график 5.1[251]251
  Там же.


[Закрыть]).

График 5.1. Количество промышленных роботов в мире (в тысячах штук)

Автомобильная промышленность представляет хороший пример того, как происходит присвоение задач машинами в индустриальном мире. Когда-то автомобили производились на заказ, а мастера делали каждую деталь с нуля вручную. В 1913 году Генри Форд автоматизировал процесс, заменив самодельные компоненты стандартизированными деталями фабричного производства. Это позволило ему ввести свою знаменитую конвейерную линию, по которой изготавливаемые машины перемещались от одного рабочего к другому. Сегодня в автомобильном производстве роботы выполняют уже 80 % работы[252]252
  Susskind J. Future Politics. С. 54.


[Закрыть]. Но речь не только об автомобилях. По подсчетам McKinsey & Co., в 2015 году 64 % рабочего времени во всех областях производства было потрачено на выполнение задач, которые можно было бы автоматизировать с помощью уже существующих технологий, не говоря о будущих[253]253
  Chui M., George K., Manyika J., Miremadi M. Human + machine: A New Era of Automation in Manufacturing // McKinsey & Co. 2017. Сентябрь.


[Закрыть] (вопрос, почему эти действия еще не автоматизированы, хотя технически это осуществимо, мы рассмотрим позже в этой главе).

Строительство – еще одна сфера экономики, которая традиционно опирается на физические способности человека. Но теперь машины присваивают себе и эти задачи. За восьмичасовую смену человек может уложить от трехсот до шестисот кирпичей, а кирпичный робот Sam100 – свыше трех тысяч[254]254
  Wilkinson C. Bot the Builder: The Robot That Will Replace Bricklayers // Financial Times. 2018. 23 февраля.


[Закрыть]. Другой робот, оснащенный лазерной сенсорной системой, известной как лидар[255]255
  LIDAR (Light Detection and Ranging) – лазерная система обнаружения и измерения дальности. – Прим. ред.


[Закрыть], может перемещаться по строительным площадкам, сканируя проделанную работу и проверяя, что все было установлено в нужном месте в нужное время (сейчас эту задачу выполняют люди при помощи планшетов и рулеток, а 98 % крупных строительных проектов осуществляются с превышением бюджета и отставанием от графика)[256]256
  Ackerman E. AI Startup Using Robots and Lidar to Boost Productivity on Construction Sites // IEEE Spectrum. 2018. 24 январь.


[Закрыть]. Balfour Beatty, крупная британская компания, надеется, что к 2050 году ее строительные площадки «будут свободны от людей»[257]257
  См.: https://www.balfourbeatty.com/innovation2050 (дата обращения: 04.2019).


[Закрыть]. Пожалуй, самую удивительную строительную машину разработала команда исследователей из Наньянского технологического университета в Сингапуре: она может собрать стул из IKEA за двадцать минут[258]258
  Burdick A. The Marriage-saving Robot That Can Assemble Ikea Furniture, Sort Of // New Yorker. 2018. 18 апреля.


[Закрыть].

Теперь строители начали применять в работе 3D-печать и создавать целые дома, «распечатывая» их слой за слоем (хотя пока что эти объекты выглядят не очень эстетично). Технология не ограничивается строительством: она использовалась для печати съедобных блюд и копий мотоциклов, бикини и ермолок, деталей самолетов и протезов человеческих органов, оружия и скульптур XVI века[259]259
  О «ермолках» см.: Arom E. The Newest Frontier in Judaica: 3D Printing Kippot // Jerusalem Post. 2014. 24 октября. См. еще: Susskind J. Future Politics. С. 56–7.


[Закрыть]. General Electric использует трехмерную печать для создания топливных форсунок двигателей, которые на 25 % легче и в пять раз долговечнее предшественников. А в организации «Врачи без границ» печатают протезы для тысяч сирийских беженцев, потерявших конечности во время войны, в пять раз дешевле обычных[260]260
  Kellner T. Mind Meld: How GE and a 3D-Printing Visionary Joined Forces // GE Reports. 2017. 10 июля; 3D Printing Prosthetic Limbs for Refugees // The Economist. 2018. 18 января. URL: https://www.youtube.com/watch?v=_W1veGQxMe4 (дата обращения: 04.2018).


[Закрыть].

Когнитивные способности

Помимо взаимодействия с физическим миром, машины все больше присваивают себе задачи, которые до сих пор требовали от человека способности мыслить и рассуждать.

Например, в юридической сфере: компания JP Morgan разработала систему, рассматривающую коммерческие кредитные соглашения, – за несколько секунд она делает то, что, по их оценкам, потребовало бы около 460 тысяч часов работы юристов[261]261
  Weiss D. C. JPMorgan Chase Uses Tech to Save 460,000 Hours of Annual Work by Lawyers and Loan Officers // ABA Journal. 2017. 2 марта.


[Закрыть]. Юридическая фирма Allen & Overy создала программу, которая готовит документы для прямых сделок с деривативами; на составление соответствующего документа адвокату потребуется три часа, а системе – три минуты[262]262
  Allen & Overy and Deloitte Tackle OTC Derivatives Market Challenge // Allenovery.com. 2016. 13 июня. URL: https://www.allenovery.com/en-gb/global/news-and-insights/news/allenovery-and-deloitte-tackle-otc-derivatives-market-challenge (дата обращения: 08.2018).


[Закрыть]. Группа американских исследователей настроила систему, способную правильно предсказывать исход решений Верховного Суда США примерно в 70 % случаев; эксперты, исходящие из юридических доводов, как правило, угадывают только 60 %[263]263
  Katz D. M., Bommarito II M. J., Blackman J. A General Approach for Predicting the Behavior of the Supreme Court of the United States // PLOS ONE. 2017. 12 апреля. Ruger T. W., Kim P. T., Martin A. D., Quinn K. M. The Supreme Court Forecasting Project: Legal and Political Science Approaches to Predicting Supreme Court Decisionmaking // Columbia Law Review. 2004. № 4 (104). С. 1150–1210.


[Закрыть]. Группа британских исследователей разработала аналогичную программу для Европейского суда по правам человека – точность ее прогнозов достигает 79 %[264]264
  Aletras N., Tsarapatsanis D., iuc-Pietro D. P., Lampos V. Predicting Judicial Decisions of the European Court of Human Rights: A Natural Language Processing Perspective // PeerJ Computer Science. 2016. № 2 (93).


[Закрыть]. Если учесть, что шансы на победу – один из главных вопросов клиентов, участвующих в тяжбе, такие системы особенно интересны.

В медицине многие из самых впечатляющих достижений связаны с диагностикой[265]265
  Хотя они вовсе не ограничиваются диагностикой. Более широкий обзор применения ИИ в медицине см. в: Topol E. High-performance Medicine: The Convergence of Human and Artificial Intelligence // Nature. 2019. № 25. С. 44–56.


[Закрыть]. DeepMind создала программу, которая может диагностировать более пятидесяти глазных заболеваний с коэффициентом погрешности всего в 5,5 %; только двое из восьми клинических экспертов смогли обойти такой результат[266]266
  De Fauw J., Ledsam J., Romera-Paredes B., et al. Clinically Applicable Deep Learning for Diagnosis and Referral in Retinal Disease // Nature Medicine. 2018. № 24. С. 1342–1350.


[Закрыть]. Команда из Оксфорда разработала систему, способную превзойти кардиологов в диагностировании проблем с сердцем[267]267
  Ghosh P. AI Early Diagnosis Could Save Heart and Cancer Patients // BBC News. 2018. 2 января.


[Закрыть]. В Китае, где политика в области сбора данных не так строга, как, скажем, в Великобритании или США, объем информации, поступающей в такие системы, поражает воображение. Если Стэнфордская машина для анализа родинок имела в своем распоряжении 129 450 случаев заболевания, то диагностическая система, созданная китайским технологическим гигантом Tencent и второй Центральной больницей провинции Гуанчжоу, смогла привлечь более 300 млн медицинских записей из больниц по всей стране[268]268
  Huang E. A Chinese Hospital Is Betting Big on Artificial Intelligence to Treat Patients // Quartz. 2018. 4 апреля.


[Закрыть]. Такие системы могут обладать определенной погрешностью, но и люди совершают ошибки: сегодня говорят, что диагнозы оказываются неправильными в 10–20 % случаев[269]269
  Susskind D., Susskind J. The Future of the Professions. С. 48.


[Закрыть]. Эталоном оценки полезности этих диагностических машин должно быть их превосходство над человеком, а не абсолютное совершенство.

Что касается образования, то за один год на онлайн-курсы Гарвардского университета записалось больше людей, чем поступило в него за все время существования[270]270
  Там же. С. 58.


[Закрыть]. В Оксфордском университете я прежде всего преподаю студентам экономико-математические дисциплины – и параллельно часто направляю их в Академию Хана, где есть онлайн-сборник практических задач (сто тысяч, решены два миллиарда раз) и обучающих видеороликов (5500 роликов, 450 млн просмотров). У Академии Хана около десяти миллионов уникальных посетителей в месяц – это больше, чем общее количество учащихся начальных и средних школ Англии[271]271
  Эти статистические данные взяты из: там же. С. 57–58.


[Закрыть]. Конечно, практические задачи и онлайн-видео, делающие высококачественный образовательный контент доступнее, представляют собой довольно простые технологии. Однако цифровые платформы, подобные этой, все чаще используются для поддержки сложных подходов, таких как «адаптивные» или «персонализированные» системы обучения. Они адаптируют содержание, подход и темп учебного процесса к потребностям каждого отдельного студента, стремясь воспроизвести индивидуальное обучение, которое предлагается в вузах вроде Оксфордского университета, но недоступно в большинстве других мест. Подобные системы разрабатывают более семидесяти компаний, и 97 % школьных округов США в той или иной форме инвестировали в них[272]272
  Там же. С. 56; Thomson A. Personalised Learning Starts to Change Teaching Methods // Financial Times. 2018. 5 февраля.


[Закрыть].

Этот список можно продолжать очень долго. В области финансов в настоящее время широко распространена компьютеризированная торговля, на которую приходится примерно половина всех сделок на фондовом рынке[273]273
  Pearlstein S. The Robots-vs.-Robots Trading That Has Hijacked the Stock Market // Washington Post. 2018. 7 февраля.


[Закрыть]. Японская страховая фирма Fukoku Mutual Life Insurance стала применять систему искусственного интеллекта для расчета страховых выплат – она заменяет 34 сотрудника[274]274
  Japanese Insurance Firm Replaces 34 Staff with AI // BBC News. 2017. 5 января.


[Закрыть]. В ботанике алгоритм, обработавший более чем 250 тысяч сканов высушенных растений, мог идентифицировать виды на новых изображениях с точностью почти в 80 %; один палеоботаник, просматривая результаты, счел, что система, «вероятно, намного превосходит ботаника-систематика»[275]275
  Ledford H. Artificial Intelligence Identifies Plant Species for Science // Science. 2017. 11 августа. Carranza-Rojas J., Goeau H., Bonnet P. Going Deeper in the Automated Identification of Herbarium Specimens // BMC Evolutionary Biology. 2017. № 17 (181). Сначала система прошла обучение, обработав около миллиона общих изображений из ImageNet, а затем заново обучилась на гербариях.


[Закрыть]. В журналистике агентство Associated Press начало использовать алгоритмы для составления спортивных репортажей и отчетов о прибылях и убытках, в результате чего последних теперь производится примерно в пятнадцать раз больше, чем когда эту задачу выполняли только люди. Примерно треть контента, публикуемого Bloomberg News, генерируется аналогичным образом[276]276
  Susskind D., Susskind J. The Future of the Professions. С. 77; Peiser J. The Rise of the Robot Reporter // New York Times. 2019. 5 февраля.


[Закрыть]. В области кадровых ресурсов 72 % заявок соискателей «никогда не увидит ни один человек»[277]277
  O’Neil C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016. С. 114. Цитируется из: Susskind J. Future Politics. С. 266.


[Закрыть].

Мы уже убедились, что машины могут сочинять музыку настолько сложную, что слушатели воображают, будто ее написал Бах. Но теперь появились системы, которым под силу режиссировать фильмы, монтировать трейлеры и даже составлять рудиментарные политические речи (как говорит Джейми Сасскинд, «мало того, что политики часто звучат как бездушные роботы; теперь у нас есть бездушные роботы, которые звучат как политики»[278]278
  Там же. С. 31.


[Закрыть]). В Дартмутском колледже, родине искусственного интеллекта, проводятся «литературные творческие тесты Тьюринга»: исследователи представляют системы, которые могут по-разному писать сонеты, лимерики, короткие стихи или детские рассказы; а сочинения, которые чаще всего принимают за написанные человеком, получают призы[279]279
  Литературные творческие тесты имени Тьюринга проводит Институт компьютерных наук Нейком при Дартмутском колледже. См.: http://bregman.dartmouth.edu/turingtests/ (дата обращения: 08.2018).


[Закрыть]. Эти системы могут показаться не совсем серьезными или умозрительными – в некоторых случаях так и есть. Однако исследователи, работающие в области «вычислительного творчества», очень серьезно относятся к проекту создания машин, выполняющих подобные задачи[280]280
  См., например: Colton S., Wiggins G. Computational Creativity: The Final Frontier? / Proceedings of the 20th European Conference on Artificial Intelligence. 2012. С. 21–26.


[Закрыть].