Текст книги "Устойчивы к будущему. 9 правил для людей в эпоху машин"

Глава 1. Рождение недооптимиста

Для общества опасны не сами машины, а то, что из них делает человек.

Норберт Винер

Свет в зале гаснет, из колонок вырывается гитарное соло, на экране над сценой высвечиваются названия роботов.

Бот контроля информационной безопасности – Accenture

Бот-турбоэкстрактор – Kraft Heinz

Бот веб-мониторинга – Infosys

Апрель 2019 года, я в банкетном зале одной из манхэттенских гостиниц; стартап из Кремниевой долины под названием Automation Anywhere представляет нескольким сотням корпоративных директоров свои последние разработки. Это не пинькающие и динькающие машины, какие видишь в фантастических фильмах. Это программные боты из байтов и пикселей, которым предназначено заменить людей.

Automation Anywhere внушает руководителям простую мысль: «Из наших ботов получаются офисные работники получше, чем из ваших людей». В конце концов, боты способны работать двадцать четыре часа в сутки и семь дней в неделю, не выматываясь и не подрывая свое здоровье. Они не уходят в отпуск, не пишут жалобы в отдел кадров и не берут больничный. И если вы заменяете человека ботом, то это, по идее, может означать, что вы освобождаете его для выполнения более содержательных заданий.

«От двадцати до сорока процентов работников вынуждены исполнять роль мостиков между прикладными программами», – говорит СЕО Automation Anywhere Михир Шукла. Когда их обязанности будут выполнять автоматы, «вы сможете не только освободить этих людей для более значимых задач, но и существенно сократить свои затраты».

Как выяснилось, эти аргументы действуют прекрасно. Несмотря на свою малозаметность, Automation Anywhere превратилась в один из самых быстрорастущих стартапов в мире, и сейчас ее стоимость оценивается в шесть с лишним миллиардов долларов. Боты компании были установлены больше миллиона раз, в том числе в крупнейших корпорациях из списка Fortune 500, вроде Mastercard, Unilever и Comcast.

За несколько недель до той встречи с директорами я по приглашению Михира Шуклы посетил головной офис Automation Anywhere в Сан-Хосе. Руководитель провел меня по просторному одноэтажному зданию, чьи стены изнутри украшены оттисками математических уравнений, и показал четыре зала для совещаний, каждый из которых посвящен одной из промышленных революций.

Первый, под названием «1760», отдает дань самой первой промышленной революции, и по его стенам развешаны разнообразные фабричные приспособления. Во втором, «1840», с потолка свисают Эдисоновы лампы в память о второй промышленной революции конца XIX века. В третьем зале, «1969», – обои середины прошлого века и светомузыка. Он представляет третью промышленную революцию – волну новаторских разработок XX века, в числе которых микропроцессор, персональный компьютер и интернет.

Последний зал оказался совершенно белым. Он посвящен четвертой промышленной революции – той, которая происходит прямо сейчас и характеризуется ускоряющимся прогрессом в области ИИ и автоматизации. Дизайн в духе «чистого листа», по словам Шуклы, символизирует, что четвертая промышленная революция еще не завершена и ее перспективы для изменения жизни к лучшему не раскрыты полностью.

В Сан-Хосе Михир Шукла сказал мне, что извечный вопрос о роботах, «отнимут ли они у нас работу», в принципе поставлен неправильно. Есть множество работ, которые роботам следует у нас отнять, поскольку на этих должностях мы только растрачиваем свой человеческий потенциал.

«Мы пытаемся вытащить робота из человека и позволить человеку достигать большего», – сказал он.

Но в Нью-Йорке, стоя на сцене перед своими потенциальными клиентами, Шукла выбрал более прагматичный тон. Он сказал директорам, что автоматизация позволит их компаниям резко сократить операционные расходы и повысить прибыльность. Он похвастался, что боты Automation Anywhere – не просто однозадачные алгоритмы, а «доступные для скачивания цифровые работники», способные полностью заменить людей. Он привел примеры таких работников, которых можно «нанять» в несколько кликов: бухгалтер по кредиторской задолженности, администратор по заработной плате, налоговый аудитор.

Затем Шукла снова переключился в режим воодушевления и развернул перед слушателями грандиозную панораму будущего ИИ и автоматизации, вроде тех, что рисуют многие его собратья по технологическому цеху. Это оптимистичная картина будущего, где выигрывают абсолютно все, а искусственный интеллект дает свободу от рутинного труда, стимулирует экономический рост и позволяет решить важнейшие социальные проблемы.

«Я вижу мир, в котором через сотню лет мы будем съезжать на лыжах со склонов Марса, – говорил он. – Через двести – заниматься серфингом на кольцах Сатурна. А через пятьсот – качать энергию из черных дыр».

Шукла расхаживал по сцене, приближаясь к эффектному финалу.

«Таков потенциал человеческого рода, – продолжал он. – Но мы не можем всего этого достичь, пока от сорока до семидесяти процентов наших работников будут использоваться как роботы. Мы должны освободить человеческий интеллект!»

Когда я рассказывал людям, что пишу книгу об ИИ и автоматизации, они реагировали по-разному.

Друзья и коллеги, скептически относившиеся к техническому прогрессу, обычно меня поддерживали. Они слышали мрачные прогнозы о роботах, отнимающих работу, и тревожились. Им хотелось, чтобы я подтвердил их опасения насчет надвигающегося кризиса и укрепил их подозрения, что, даже если ИИ не вызовет массовой безработицы, с ним будут связаны другие беды: всеподавляющая слежка, «сбежавшие» беспилотные автомобили, мозгоразмягчающее воздействие соцсетей, – которые перевесят всё положительное.

Но в Кремниевой долине чаще реагировали так, как Аарон Леви, СЕО компании Box, разрабатывающей корпоративное программное обеспечение. «О боже, – сказал он мне. – Только не говорите, что пишете еще одну книгу из серии “Роботы отнимают всю работу”, которые всех пугают и вгоняют в тоску».

Как и Михир Шукла из Automation Anywhere, Леви полагает, что в конечном счете роботы принесут рабочему населению пользу. Его раздражают паникерские, как он их называет, сообщения в СМИ о новых ИИ-технологиях, и он считает, что все мы волнуемся зря.

Прежде чем приступать к ответу на вопрос «Что нам делать с ИИ?», я решил уделить должное внимание этой точке зрения и полноценно пообщаться с людьми вроде Леви и Шуклы. Я побеседовал с теми, кто настроен оптимистически по отношению к ИИ и верит, что эти технологии в итоге принесут гораздо больше положительного, чем отрицательного. Из сказанного ими я вычленил четыре главных аргумента.

1. «Мы это уже проходили, и всё всегда заканчивалось хорошо».

Во-первых, как утверждают оптимисты, опыт сотен лет показывает, что страхи по поводу автоматизации в целом напрасны и, хотя новые технологии лишают работы некоторых людей, они всегда создают новые рабочие места взамен старых и заодно повышают уровень жизни.

Оптимисты не отрицают, что первая промышленная революция отняла работу у некоторых фермеров. Но при этом, по их словам, она создала миллионы рабочих мест на фабриках и сделала более дешевыми и доступными потребительские товары совершенно новых категорий. И в истории человечества такое случалось не раз. С появлением электрического освещения фонарщики стали не нужны, но возникло множество новых, электрических приспособлений, которые потребовалось производить, продавать и чинить. Из-за изобретения домашних холодильников лишились клиентов торговцы льдом, но появилось куда больше рабочих мест для продавцов продуктов, рестораторов и фермеров.

«Последние 250 лет технологии развивались постоянно, а уровень безработицы в США почти всё это время оставался на уровне 5–10 %, даже когда появлялись радикально новые технологии, такие как паровой двигатель и электричество», – пишет один из оптимистов, футуролог и автор книги «Четвертая эпоха» Байрон Риз[19]19
  Reese B. The Fourth Age. New York: Atria Books, 2018.


[Закрыть].

Люди, приводящие этот аргумент, обычно подкрепляют его современными данными экономической статистики. Они часто говорят о так называемом парадоксе производительности – о том, что в последние несколько десятилетий рост производительности в США, как ни странно, замедлялся, хотя можно было бы ожидать обратного, если бы из-за массовой автоматизации существенно росла продуктивность компаний и люди повсюду теряли работу.

В целом, настаивают оптимисты, нет никаких свидетельств, что нынешний технологический скачок чем-то отличается от предыдущих, и пусть опыт прошлого подскажет нам, что нет смысла беспокоиться из-за будущего.

2. «С ИИ нам будет работаться лучше, он возьмет на себя самое скучное».

Во-вторых, говорят оптимисты, технологии обычно не заменяют живых людей. Они только делают их работу интереснее, освобождая их от гнета однообразных, прозаических заданий и позволяя им сосредоточиться на более приятных и значимых задачах.

«ИИ приходит за нуднейшей офисной работой», – объявил в 2020 году журнал Wired в статье, где рассказывалось, как интеллектуальные приложения устанавливаются в крупных компаниях для выполнения рутинной работы вроде ввода данных, форматирования документов и резюмирования длинных отчетов[20]20
  Knight W. AI Is Coming for Your Most Mind-Numbing Office Tasks // Wired, March 14, 2020.


[Закрыть].

Для примера оптимисты обычно рассказывают о специалистах, уже поручивших компьютерам значительную часть своих скучных обязанностей, например медиках, пользующихся электронными картами, которые в основном сами ведут повседневные записи, а врачи могут сосредоточиться на беседе с больными; юристах, которым программы, проводящие правовые исследования, позволяют больше общаться с клиентами; архитекторах, кому системы автоматизированного проектирования сберегают часы, которые они иначе потратили бы на нудное копание в пикселях.

Этим профессиям автоматизация ничем не угрожает, утверждают оптимисты, ведь остается еще много того, что может делать живой врач, юрист или архитектор, а машина не способна. Интеллектуальные инструменты, которые появятся в ближайшие несколько лет, возьмут на себя еще больше скучных и однообразных обязанностей и дадут нам свободу заниматься тем, что нам действительно нравится.

3. «Люди и ИИ будут сотрудничать, а не состязаться».

Оптимисты утверждают также, что значительная часть современных интеллектуальных продуктов предназначена для совместной работы с людьми, а не их замены, и что в наших взаимоотношениях с ИИ нужно видеть возможность для сотрудничества, а не угрозу конкуренции.

В книге «Вторая эра машин» Эрик Бриньолфсон и Эндрю Макафи предлагают заменить выражение «гонка против машин» выражением «гонка вместе с машинами». Пол Доэрти и Джеймс Уилсон, руководители консалтинговой компании Accenture, в книге «Человек + машина»[21]21
  Издана на русском языке: Доэрти П., Уилсон Дж. Человек + машина. Новые принципы работы в эпоху искусственного интеллекта. М.: Манн, Иванов и Фербер, 2019. Прим. ред.


[Закрыть] утверждают, что сотрудничество человека с ИИ станет краеугольным камнем экономики XXI века. Они говорят, что системы ИИ не заменяют нас массово, а дополняют наши навыки и сотрудничают с нами ради повышения производительности, невозможного ранее.

Оптимисты этого типа любят приводить в пример шахматного гроссмейстера Гарри Каспарова, который, как известно, в 1997 году проиграл серию партий IBM-овскому компьютеру Deep Blue. После поражения от Deep Blue, гласит легенда, Каспаров понял, что будет лучше, если живые шахматисты и компьютеры станут сотрудничать. И он начал содействовать популяризации «фристайл-шахмат», в которых любой игрок может обращаться за помощью к компьютерной программе и сочетать прозорливые идеи машины с собственным мастерством. В игре против компьютера, по словам Каспарова, команды из человека и машины будут обладать подавляющим преимуществом.

Этот принцип, продолжают оптимисты, будет работать в любой сфере. Врачи, прежде чем поставить диагноз, станут консультироваться с моделями машинного обучения; судьи перед вынесением приговора – обращаться к алгоритмам оценки риска рецидива; а журналисты – легким движением руки оживлять сгенерированные машиной черновые варианты статей. Во всех этих случаях, говорят оптимисты, люди и ИИ, работая вместе, будут достигать большего и лучшего, чем если бы они трудились по отдельности.

4. «ИИ не приведет к массовой безработице, поскольку человеческие потребности безграничны. В будущем мы придумаем себе новые профессии, о которых сегодня не можем даже помыслить».

Четвертый любимый довод оптимистов, по сути, подразумевает, что у пессимистов плохо с воображением. Всего пару-тройку десятилетий назад, напоминают они, многих из крупнейших мировых компаний – включая Facebook, Google, Amazon – вообще не существовало. Еще недавно не было таких понятий, как автор YouTube, специалист по поисковой оптимизации (SEO) или профессиональный киберспортсмен.

ИИ, как утверждают оптимисты, уже создает новые профессии в таких сферах, как интеллектуальная обработка данных, точная медицина и предсказательная аналитика. А в будущем, по мере его совершенствования, откроется еще больше лазеек для проявления человеческой изобретательности. Может быть, нам всем захочется, чтобы нас повсюду сопровождали персональные роботы-тренеры, которые напоминали бы, что нужно правильно питаться и больше упражняться. Может, наши города опутают сетью датчиков, которые будут динамично корректировать маршруты движения для предотвращения заторов или, исследуя сточные воды, обнаруживать очаги заболеваний. А может, в дополнение к беспилотным автомобилям мы построим самодвижущиеся рестораны, которые будут перевозить нас с места на место, пока мы обедаем. Всем этим новым проектам нужны люди не только для написания кода, но и для консультирования, установки датчиков и доброжелательной встречи посетителей.

По словам оптимистов, нам всегда прекрасно удавалось изобретать для себя новые, интересные занятия, когда технологии распахивали перед нами новые двери, и наши безграничные желания не позволят нам остаться без дела.

Проанализировав эти доводы и изучив факты, которыми оптимисты обычно их подкрепляют, я остановился на позиции, которую нельзя отнести ни к абсолютному оптимизму, ни к абсолютному пессимизму.

Это скорее «недооптимизм»; слово я придумал сам, и оно отражает мою убежденность, что, хотя худшие опасения по поводу искусственного интеллекта и автоматизации могут не сбыться, существуют реальные, прямые угрозы, требующие нашего внимания. Если бы мне предложили оценить степень моего беспокойства по десятибалльной шкале, где 1 – «ИИ не породит никаких экономических и социальных проблем», а 10 – «ИИ уничтожит нас и всё, что нам дорого», я бы, наверное, завис где-то в районе семерки.

Меня не так уж (где-то на уровне 2 или 3) беспокоят сами технологии. Я по-прежнему верю, что продуманные ИИ и автоматизация могут решительно изменить к лучшему жизнь многих людей. Одни только беспилотные автомобили и грузовики могли бы ежегодно спасать сотни тысяч жизней, предотвращая аварии со смертельным исходом, а даже если бы водители грузовиков и таксисты потеряли работу, мы бы в целом выиграли. Точная медицина – новый, индивидуальный подход к лечению и предотвращению заболеваний, сочетающий ИИ, анализ больших наборов данных и геномику, – могла бы помочь нам открыть новые, спасительные методы лечения изнурительных болезней. Есть еще миллион других способов сделать наше будущее более радужным – и солидных (более эффективное использование энергии), и просто приятных (новые виды адаптивных видеоигр на базе ИИ).

Однако меня куда больше (наверное, на уровне 8 или 9) беспокоят люди, разрабатывающие и внедряющие все эти технологии. Я вижу, как за ИИ жадно хватаются охочие до прибыли руководители и восторженные предприниматели. Многие из них умышленно недооценивают риск, что их работники пострадают или будут уволены. Я знаю, что многие при помощи ИИ контролируют каждый шаг подчиненных, и в результате для многих работа становится более трудной и нестабильной, а не легкой и приятной. Я понимаю, что, если массивы данных формируются некорректно и пристрастно, ИИ тоже будет грешить некорректностью и пристрастностью, а подавляющая однородность сообщества разработчиков ИИ может привести к тому, что созданные ими системы будут причинять несоразмерный ущерб уязвимым группам, в том числе женщинам и расовым меньшинствам. Я боюсь, что авторитарные правительства будут всё чаще направлять ИИ на угнетение таких групп и подавление политического инакомыслия. И я с содроганием думаю о нарушениях неприкосновенности частной жизни и прав человека, которым будут содействовать такие технологии ИИ, как распознавание лиц.

Я признаю, что мой недооптимизм – отчасти инстинктивная реакция, обусловленная тем, что я несколько лет освещал новости сферы высоких технологий и видел: она не соответствует идеалам. Но он также основан на том, что я уяснил для себя касательно ИИ-оптимизма и почему любой из его главных аргументов на самом деле слабее, чем кажется самим оптимистам.

Начнем с первого утверждения.

«Мы это уже проходили, и всё всегда заканчивалось хорошо»

Прежде всего я понял, что многие оптимисты отлынивали от домашних заданий по истории. Они утверждают, будто четвертая промышленная революция принесет благо человечеству, но редко упоминают о том, что для множества людей предыдущие три оказались не таким уж благом.

В XVIII и XIX веках, когда шел процесс индустриализации в США и Великобритании, рабочие, как правило, трудились на переполненных, грязных фабриках в нечеловеческих условиях, их часто заставляли оставаться сверхурочно и подвергали чудовищной эксплуатации[22]22
  Griffin E. Liberty’s Dawn: A People’s History of the Industrial Revolution. New Haven: Yale University Press, 2013.


[Закрыть]. В тяжелейших условиях трудились дети: им платили крохи, их селили в битком набитые убогие общежития и жестоко наказывали, когда им не удавалось выполнять требования руководства. Вторая и третья промышленные революции прошли для рабочих относительно спокойно, отчасти благодаря мерам по охране труда, принятым по следам первой революции. Но проблем у простых работников всё равно было предостаточно. Вторая промышленная революция дала начало Позолоченному веку – периоду в истории США в конце XIX столетия, отмеченному ошеломляющей коррупцией, кровавыми разгонами рабочих забастовок, жестокой расовой дискриминацией и колоссальным имущественным неравенством. Что касается третьей промышленной революции, прогресс коммуникационных технологий способствовал резкому скачку производительности, а также воцарению культуры, требующей быть на связи круглосуточно и каждодневно, и появлению в офисах новых источников беспокойства, что привело к невиданному всплеску случаев «перегорания» на работе и росту стресса.

История показывает, что бурный технический прогресс часто улучшает положение высших слоев общества и владельцев капитала, а простые работники не всегда ощущают на себе его преимущества незамедлительно. Например, в Великобритании с началом промышленной революции в 1760-х валовой внутренний продукт и прибыли корпораций почти сразу резко возросли, но прошло, по некоторым подсчетам, больше полувека, прежде чем повысились реальные зарплаты британских рабочих[23]23
  Clark G. The Condition of the Working-Class in England, 1209–2003 // Journal of Political Economy, 2005.


[Закрыть]. (Это запаздывание, о котором писал Фридрих Энгельс в книге «Положение рабочего класса в Англии», экономисты называют паузой Энгельса[24]24
  Allen R. C. Engels’ Pause: Technical Change, Capital Accumulation, and Inequality // Explorations in Economic History, 2008.


[Закрыть].) А значит, к тому времени, как рабочим, действительно приложившим руку к промышленной революции, предоставилась возможность вкусить плоды роста своей производительности, многие из них уже были либо уволены по старости, либо мертвы.

Некоторые экономисты предполагают, что сейчас мы переживаем еще одну паузу Энгельса: рост зарплат остановился, хотя прибыли корпораций стремительно растут. Кроме того, в последнее время были опубликованы исследования, позволяющие усомниться в справедливости утверждения, что автоматизация всегда создает больше рабочих мест, чем сокращает.

В частности, двое экономистов, Дарон Аджемоглу из Массачусетского технологического института и Паскуаль Рестрепо из Бостонского университета, пришли к выводу, что уже не один десяток лет автоматизация сокращает рабочие места быстрее, чем создает новые[25]25
  Acemoglu D., Restrepo P. Automation and New Tasks: How Technology Displaces and Reinstates Labor // Journal of Economic Perspectives, 2019.


[Закрыть]. Авторы убедились, что в период с 1947 по 1987 год оптимистичный взгляд в целом соответствовал действительности: в промышленных отраслях, где внедрялись средства автоматизации, сокращение и создание рабочих мест (авторы используют термины «замещение» и «восстановление») происходило примерно одинаковыми темпами. Но в период с 1987 по 2017 год процесс замещения в этих отраслях, как выяснилось, намного опережал процесс восстановления. Новые места, как правило, требовали высокой квалификации, поэтому были недоступны для многих работников. Если в прошлом замещенные могли утешаться тем, что скоро для них создадут новые места, то сегодня многие из мест, уничтожаемых ИИ и автоматизацией, вряд ли будут восстановлены.

Автоматизация, кроме того, сильнее всего сказывается на представителях низкооплачиваемых профессий и усугубляет расовое и гендерное неравенство. В 2019 году компания McKinsey в своем докладе прогнозировала, что чернокожие мужчины будут существенно быстрее замещаться автоматами, чем белые и азиаты, в частности, потому, что они чаще работают на должностях, которым в первую очередь грозит автоматизация, таких как водитель грузовика, работник общепита и офисный служащий[26]26
  Cook K., Pinder D., Stewart S. The Future of Work in Black America // McKinsey, October 4, 2019.


[Закрыть]. (Темнокожим женщинам повезет немного больше, продолжали эксперты, поскольку они доминируют в отраслях, менее подверженных автоматизации, таких как уход за больными и преподавание.)

Всё это должно вызывать беспокойство и заставлять нас сомневаться в словах оптимистов, которые обращаются к историческим фактам, только чтобы успокоить себя и других относительно нынешней волны ИИ и автоматизации. (Вот что пишет экономист из Оксфордского университета Карл Бенедикт Фрей: «Если это “всего-навсего” очередная промышленная революция, то пора бить тревогу»[27]27
  Frey C. B. The Technology Trap: Capital, Labor, and Power in the Age of Automation. Princeton, N.J.: Princeton University Press, 2019.


[Закрыть].) Множество людей пострадало от первых трех промышленных революций; многие могут пострадать и от этой.

«С ИИ нам будет работаться лучше, он возьмет на себя самое скучное»

Чтобы оценить этот довод, прежде всего надо разобраться, что значит «лучше».

В целом можно согласиться, что благодаря автоматизации определенные виды работ становятся менее трудными физически. Самые тяжелые производственные задачи прошлых столетий – добыча полезных ископаемых, переработка мяса, тяжелое машиностроение – сегодня часто выполняются машинами.

Нетрудно также привести примеры того, как автоматизация избавляет людей от скучной, монотонной работы. Например, мне как журналисту раньше приходилось часами расшифровывать аудиозаписи интервью. Это была кропотливая, трудоемкая работа, я ее ненавидел. А сейчас я загружаю аудиофайлы на специальный автоматизированный сервис с самообучающейся системой преобразования речи в текст и получаю расшифровку через несколько секунд. Не всегда всё проходит без сучка и задоринки. (Приложение иногда допускает очень забавные ошибки, как в тот раз, когда я брал интервью у доверенного лица главы Facebook Марка Цукерберга и Zuck’s inclination превратилось в sexy clinician[28]28
  Zuck’s inclination (англ.) – намерение Цука; sexy clinician – сексуально привлекательный клиницист. Прим. перев.


[Закрыть].) Но за годы она сберегла мне сотни часов и освободила время на репортажи и писательство.

Однако, несмотря на существование подобных трудосберегающих новшеств, нет никаких свидетельств, что современные работники счастливее предшествующих поколений. Общие показатели депрессии и тревожности в США сегодня куда выше, чем были тридцать лет назад, а уровень рабочего стресса, как его оценивают сами люди, растет уже несколько десятилетий[29]29
  Twenge J. M. Are Mental Health Issues on the Rise? // Psychology Today, October 12, 2015.


[Закрыть].

Казалось бы, парадокс: мы не становимся счастливее на работе, хотя она стала более безопасной и менее изнурительной, – но объяснить его можно тем, что, избавляя нас от тяжелого физического труда, автоматизация иногда лишает работу всего, что приносит людям радость и удовлетворение.

Историк Дэвид Най пишет, что в 1930-х, когда пошла первая волна электрификации на фабриках, многие рабочие надеялись, что это положительно скажется на повседневном труде[30]30
  Nye D. E. Electrifying America: Social Meaning of a New Technology. Cambridge, Mass.: MIT Press, 1990.


[Закрыть]. Но вот зажглись лампочки, и рабочие увидели, что главная перемена в их жизни – в том, что они больше не взаимодействуют друг с другом. Электрические машины превратили динамичный коллективный труд в кнопконажимательную рутину.

«Человеческое общение на фабрике – естественный обмен слухами и шутками, товарищеские отношения – стало затруднительным, – пишет Най. – Раньше рабочие свободно общались во время частых перерывов, но руководство постоянно вносило усовершенствования в машинное оборудование и наращивало темпы».

Сейчас такая трансформация происходит в офисах: ИИ и автоматизация позволяют руководителям избавиться от любых проявлений неэффективности и простоев, благодаря которым работники раньше могли передохнуть и поговорить друг с другом.

Кроме того, ИИ и автоматизация создали совершенно новую категорию скучных, монотонных работ, многие из которых выполняются не на Западе. Мэри Грей и Сиддхарт Сури написали книгу о распространении такого явления, как «призрачный труд»: чтобы ИИ и автоматизированные системы адекватно работали, используется человеческий труд, и этот факт тщательно скрывается от потребителей[31]31
  Gray M. L., Suri S. Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt, 2019.


[Закрыть]. Социальные сети вроде Facebook, Twitter и YouTube полагаются на армию низкооплачиваемых внештатных работников, которые целыми днями просеивают спорные публикации, решая, что оставить, а что удалить. Интеллектуальным помощникам вроде Alexa ассистируют «комментаторы данных» – люди, которые прослушивают записи разговоров с пользователями и путем разметки данных, исправления ошибок и обучения ИИ тому, как понимать акценты и необычные запросы, помогают системе постепенно совершенствоваться. В Китае есть компании, специализирующиеся на разметке данных и позволяющие удовлетворить огромный спрос на людей, которые должны дни напролет выполнять всевозможную рутинную канцелярскую работу, без чего ИИ просто не может существовать, например маркировать изображения и помечать аудиозаписи[32]32
  Yuan L. How Cheap Labor Drives China’s A. I. Ambitions // The New York Times, November 25, 2018.


[Закрыть]. Говорят, что таким людям платят всего 10 юаней в час, примерно 1,47 доллара.

ИИ-оптимисты в целом правы, утверждая, что в итоге новые технологии повышают качество жизни и, когда мы к ним привыкаем, у нас редко возникает желание вернуться к старым порядкам. (Полагаю, даже самый закоренелый луддит был бы не в восторге, если бы ему предложили стирать вручную или лечь на операцию без наркоза.) Но они упускают одно: что мы живем не «в итоге» и не «в перспективе». Масштабные экономические сдвиги моментально сказываются на нас, людях, чья карьера и жизнь ограничены во времени, и многие не успевают ощутить материальных улучшений, которые приносит технический прогресс.

Я в принципе согласен с оптимистами, что попытки сохранить устаревшие нормы и должности ради стабильности обречены на провал. И мне не чужд довод, что мы как общество слишком поспешно принимаем перемены за великое бедствие.

Но любой честный разговор на эту тему требует признать, что перемены даются трудно и многим не удается безболезненно перескочить из одной технологической эпохи в другую. Некоторые неизбежно проваливаются в трещины. Другие в конце концов нащупывают почву под ногами, но так и не обретают прежней стабильности. А третьих используют в своих интересах люди, вооружившиеся новыми технологиями и стремящиеся выжать из всех прочих побольше, а заплатить поменьше. Часто такие революции оставляют после себя потерянные поколения – миллионы людей, кому неподвластные им силы разрушили жизнь и которые так и не добираются до обетованной земли, а порой даже не успевают узнать, как она выглядит.

Одним словом, ИИ и автоматизация, конечно, могут улучшить нам жизнь, но далеко не факт, что это действительно случится.

«Люди и ИИ будут сотрудничать, а не состязаться»

Мне очень, очень хотелось в этом с оптимистами согласиться. Меня безумно привлекает образ человека и ИИ, трудящихся вместе, бок о бок, в полном согласии друг с другом. И мне хотелось бы верить, что, каких бы высот ни достигла машина в выполнении той или иной задачи, живой специалист всегда будет обладать некими неисчислимыми исключительными качествами, которые позволят ему внести свою лепту.

Но, к сожалению, это, видимо, не так.

Исследования одно за другим показывают, что, преодолев некий порог эффективности, ИИ, как правило, опережает не только людей, но и команды из людей и ИИ. Предметом одного из исследований, метаанализа предварительных публикаций, проведенного в 2019 году специалистами Вашингтонского университета и Microsoft Research, был ряд предшествующих изысканий, которые давали оценку решениям, принимавшимся самостоятельно интеллектуальными системами, и сравнивали их с решениями, принятыми людьми при помощи ИИ[33]33
  Bansal G. et al. Does the Whole Exceed Its Parts? The Effect of AI Explanations on Complementary Team Performance // ArXiv, June 2020.


[Закрыть]. Оказалось, что в каждом из случаев ИИ, действовавший самостоятельно, показывал результаты лучше, чем команда из людей и ИИ.

«Повышения эффективности не наблюдалось ни в одном из исследований», – писали авторы и особо отмечали, что «в каждом из случаев при включении в работу человека эффективность снижалась».

Нельзя назвать удачным даже хрестоматийный пример с шахматными командами из человека и ИИ. Гипотеза Гарри Каспарова о том, что такие гибридные команды будут превосходить компьютеры, играющие в одиночку, может, и подтверждалась в более раннюю и менее продвинутую эпоху компьютерных шахмат, но сегодня она уже не верна. Например, в 2014 году по результатам исследования, проведенного специалистами Университета Буффало, был сделан вывод, что, хотя команды из человека и ИИ прежде и могли иметь преимущество перед шахматными интеллектуальными системами, «на сегодняшний день это различие утрачено»[34]34
  Regan K. W. et al. Human and Computer Preferences at Chess // MPREF@AAAI, 2014.


[Закрыть].

Иными словами, в партнерстве человека и ИИ, о котором мы столько слышали, человек часто превращается в обременительный балласт.