Текст книги "Устойчивы к будущему. 9 правил для людей в эпоху машин"

Глава 3. Как на самом деле нас вытесняют машины

Некоторые технологии являются к нам под маской… они не похожи на технологии, поэтому мы их не особенно ругаем, а то и не замечаем, пока они делают свое дело нам во благо или во вред.

Нил Постман

В мультсериале «Джетсоны», выпущенном в 1960-х и рассказывающем об одной семье из напичканного роботами будущего, есть известный эпизод, демонстрирующий, как мы обычно представляем себе замену людей машинами. Джордж Джетсон отправляется на работу, на завод. Начальник вызывает его к себе и сообщает, что отныне его обязанности будет исполнять робот по имени Юниблаб. (В качестве утешения начальник предлагает Джорджу должность помощника Юниблаба.)

Прошло полвека, а стереотипное представление о том, как происходит автоматизация на рабочих местах, нисколько не изменилось. Приходишь ты на работу – а на твоем месте робот. Начальник, смущенно теребя ворот рубашки, вываливает на тебя неприятные новости.

Такие замены иногда случаются до сих пор: так, в 2019 году Walmart обзавелась целой армией роботов-поломойщиков и тут же уволила несколько сотен живых уборщиков[60]60
  Harwell D. As Walmart Turns to Robots, It’s the Human Workers Who Feel Like Machines // Washington Post, June 6, 2019.


[Закрыть]. (Как писала The Washington Post, сотрудники магазина Walmart в городе Мариетта дали своему роботу имя Фредди в честь всеми любимого уборщика, которого тот заменил.) Но увольнения в «джетсоновском» стиле редки и становятся всё реже по причинам, в первую очередь связанным с капиталистическим представлением об эффективности. Я имею в виду, что если бы вас можно было заменить готовым роботом, то это, вероятно, уже было бы сделано.

Сегодня более типичны истории вроде той, что мне поведал Джейми Лерман, страховой агент из Нью-Джерси, работающий в маленьком семейном филиале одной крупной национальной страховой компании. Десять лет назад, когда Лерман начинал продавать страховки, его филиал был полон сотрудников, которые весь день обзванивали потенциальных клиентов, высчитывали стоимость страхования по новым договорам и выписывали счета. Но новые технологии позволили перевести значительную часть этих работ в автоматический режим. Теперь в филиале вдвое меньше сотрудников, чем когда Лерман начинал работать, и многие столы в офисе пустуют.

«Дело не в том, что людей увольняют, – рассказывал он мне. – А вот когда они уходят сами, необходимость в немедленной их замене становится всё менее насущной. Нам просто больше не требуется столько людей».

Существуют и еще менее заметные формы сокращения рабочих мест из-за автоматизации. Рассмотрим следующие (чисто гипотетические) сценарии.

1. Крупнейшая аэрокосмическая компания, имеющая восемьдесят тысяч сотрудников и заводы по всей стране, обнаружила, что за последние несколько лет продажи ее новых самолетов резко сократились. Одна из причин в том, что некий стартап из Сан-Франциско со штатом в двадцать человек разработал приложение, которое при помощи алгоритма машинного обучения помогает продлевать срок службы самолетов: используя алгоритмы прогнозирования, оно вычисляет, когда нужно заменить или отремонтировать те или иные детали. Эта система позволяет авиакомпаниям реже заменять свои реактивные самолеты новыми, и на протяжении трех кварталов показатели продаж у аэрокосмического гиганта оцениваются как провальные. Под давлением акционеров и совета директоров компания принимает решение закрыть несколько заводов и уволить 25 % своих сотрудников.

2. Автотранспортная компания десятки лет перевозит грузы для некой сети крупных супермаркетов. Но в один прекрасный день отдел логистики этой сети начинает пользоваться новым интеллектуальным «оптимизатором грузоперевозок», решив скорректировать маршруты доставки и сократить число машин, требующихся для развозки всё того же количества грузов. Проходит год; автотранспортная компания понимает, что заказов на доставку у нее стало на 30 % меньше, и она вынуждена уволить часть своих водителей и диспетчеров.

3. Престижная нью-йоркская юридическая компания последние двадцать лет каждое лето принимает на работу пятьдесят выпускников юридических колледжей. Но случается так, что главный ее клиент, инвестиционный банк с Уолл-стрит, обзаводится ИИ-инструментом, умеющим автоматически просматривать документы определенных типов и помечать пункты, вызывающие сомнение с правовой точки зрения. Этой программой могут управлять младшие сотрудники банка с зарплатой 40 долларов в час, а не 400, как у сотрудника юридической фирмы, поэтому банк теперь гораздо реже обращается к сторонним консультантам. Партнеры компании, которые никак не могли этого учесть, когда прогнозировали ее доходы, решают будущим летом нанять лишь двадцать пять выпускников колледжей.

Все эти сценарии касаются потери работы из-за автоматизации, хотя ни один из них не связан с прямым, равночисленным замещением. Если бы нечто подобное случилось с вами, вам, может быть, и в голову бы не пришло, что виноваты новые технологии. Вы заметили бы лишь побочные эффекты: урезание бюджета, пустые трейлеры, сокращение числа вакансий.

Эта динамика – составляющая того, что технический обозреватель Брайан Мерчант называет проблемой «невидимой автоматизации»[61]61
  Merchant B. There’s an Automation Crisis Underway Right Now, It’s Just Mostly Invisible // Gizmodo, October 11, 2019.


[Закрыть]. По его словам, «результатом автоматизации, как видно, не становится немедленное и прямое выпроваживание работников в массовом порядке». Ее последствия, продолжает он, часто проявляются постепенно, в виде сокращений зарплат, отказа от заполнения вакансий и роста текучки кадров.

На самом деле существует несколько распространенных способов вытеснения сотрудников, которому способствуют машины, и отнюдь не по «джетсоновскому» сценарию.

Маленькие компании вместо больших

Во-первых, автоматизация позволяет маленьким компаниям решать те же задачи, что решаются их более солидными и известными соперниками, и при этом обходиться куда меньшим числом сотрудников.

В своей книге «Цифровое преимущество» профессора Гарвардской школы бизнеса Марко Янсити и Карим Лахани, иллюстрируя эту мысль, приводят в пример Ant Group – стартап, оказывающий финансовые услуги и входящий в состав китайского гиганта интернет-торговли Alibaba[62]62
  Лахани К., Янсити М. Цифровое преимущество. Искусство конкурировать в эпоху искусственного интеллекта. М.: Бомбора, 2021.


[Закрыть]. Ant Group, который вначале назывался Alipay и был платежной платформой, превратился в одну из самых дорогостоящих частных компаний в мире. И добиться этого он сумел во многом потому, что придумал, как заменить машинными операциями множество трудоемких видов услуг обычных банков.

Например, дочернее предприятие Ant Group, MYbank, – приложение для кредитования, чья процедура подписания документов согласуется с формулой «3-1-0»: всё, что нужно, – три минуты на подачу заявки, одна секунда на ее одобрение алгоритмом и ноль человек. Так банк уже выдал кредиты на сотни миллиардов долларов, а благодаря информации о потребителях, которую он получает от Alibaba и других партнеров, сумел сохранить ставку штрафных санкций на уровне 1 %, что гораздо ниже, чем у многих обычных кредитных учреждений.

MYbank, у которого в 2018 году было всего около трехсот сотрудников, не будет вынужден уволить тысячи кредитных специалистов, чтобы освободить место для алгоритмов, поскольку и не брал на работу столько людей. Но такие должности есть в других китайских банках и кредитных организациях. И можно не сомневаться, что по мере роста MYbank многим из этих других компаний придется снижать зарплаты, чтобы удержаться на плаву.

Новые модели поведения вместо старых

Кроме того, машины заменяют живых работников, меняя привычки потребителей.

Возьмем, например, Kodak, бывшего гиганта индустрии фотографии. В 1988 году это была процветающая компания с потрясающим по величине штатом в 145 тысяч человек, в числе которых – значительная доля населения города Рочестер, где она была основана. Если бы в то время у кого-нибудь из руководителей Kodak спросили, что может представлять главную опасность для этих людей, он, наверное, заговорил бы об аутсорсинге или международной конкуренции. А если бы этот руководитель был очень дальновидным, он, может, предсказал бы популярность цифровых фотоаппаратов.

Но Kodak уничтожила не конкуренция и не цифровые фотоаппараты, а смартфоны и социальные сети. Когда миллионы людей начали носить в кармане телефон с камерой высокого разрешения, они перестали воспринимать фотографию как платную услугу, для которой требуется специальная аппаратура. Она стала хобби. IT-компании не ставили перед собой задачи уничтожить Kodak, но, поменяв поведение потребителей – сделав так, чтобы они, вместо того чтобы печатать фотографии, стали загружать их на сайты, – фактически определили его судьбу. В 2012 году Kodak объявила себя банкротом; сейчас у нее осталось всего около пяти тысяч сотрудников.

Было бы странно утверждать, что остальные 140 тысяч рабочих мест в Kodak были уничтожены автоматизацией, потому что автоматизация проводилась не в Kodak. Она происходила в MySpace, Facebook, Instagram, Twitter и других компаниях, предлагавших инструменты для обмена фотографиями. Но, когда они взяли на вооружение новые технологии и позволили пользователям делиться фотографиями онлайн, хотя те никогда не видели кассеты с пленкой, жители Рочестера потеряли работу.

Фриланс вместо полной занятости

Кроме того, машины позволяют заменять сотрудников, работающих полный день, внештатными, временными и приходящими за счет того, что весь объем работ делится на типовые задачи, которые в принципе могут выполнять непрофессионалы, и небольшое количество менеджеров руководит многочисленным и гибким наемным персоналом.

Типичный пример такого подхода – платформы услуг на сдельной разовой основе, вроде Uber, Lyft и Airbnb, которые позволяют людям, имеющим машину или свободную спальню, конкурировать с профессиональными водителями и владельцами гостиниц. Но, возможно, более показательным будет пример из моей профессиональной сферы. Несколько десятков лет назад газеты, журналы и телеканалы нанимали журналистов, которые должны были отделять факты от вымысла, решать, какие сюжеты подходят для их аудитории, и располагать новости дня в порядке значимости. Их называли редакторами, продюсерами и обозревателями; их были десятки тысяч, и большинство зарабатывало прилично, на уровне среднего класса.

Теперь множество таких должностей упразднено, а их место заняла должность, характерная для эпохи автоматизации, – модератор контента. Подобно редакторам и продюсерам прежних времен, модераторы контента весь день следят за тем, чтобы информация, передаваемая через Facebook, YouTube, Twitter и другие платформы, годилась для массового потребления. Эти люди обычно не числятся в штате компаний, но нанимаются по контракту агентствами по временному трудоустройству и консалтинговыми фирмами. Мало кто из них зарабатывает существенно больше прожиточного минимума. И при том что они целыми днями фильтруют спорный контент, они фактически не обладают знаниями и навыками, благодаря которым редакторы и продюсеры когда-то могли оперативно и самостоятельно решать, какие сюжеты пропустить, а какие зарубить. Они руководствуются безликими «инструкциями по работе с контентом» и схемами принятия решений, которые им выдают менеджеры. Конечная цель IT-компаний – полностью автоматизировать этот процесс и заменить всех живых модераторов ИИ-инструментами, способными идентифицировать ненавистнические высказывания, сцены насилия и другие запрещенные виды контента. А пока они просто заменяют штатных, квалифицированных работников низкооплачиваемыми фрилансерами.

Поскольку автоматизация преображает жизнь и работу такими подспудными и окольными методами, нам нередко трудно распознать угрозу в том или ином продукте. Но мы часто понимаем задним числом, что такая-то технология, казавшаяся безобидной и полезной, когда мы с ней познакомились, в итоге оказала на нас разрушительное воздействие.

В 1984 году появился TurboTax, и поначалу он совсем не походил на робота, уничтожающего рабочие места. Это был пакет программ, позволяющий компьютерным маньякам заполнять налоговые декларации на ПК, но прошло время, и он вынудил армии специалистов по оформлению налоговой документации искать себе новую работу.

В 1985 году новый редактор Microsoft Excel совсем не походил на робота, уничтожающего рабочие места. Это была программа для работы с электронными таблицами. Но прошло время, и она сделала ненужными целые отделы сотрудников, занимавшихся ручным вводом данных.

В 2006 году, когда Facebook добавил функцию «новостная лента», та не походила на робота, уничтожающего рабочие места. Это был способ выяснить, какая из твоих пассий времен колледжа снова свободна как ветер. Но лента превратилась в продукт, передающий информацию миллиардам людей, доминирующий на рынке онлайн-рекламы и снижающий спрос на печатные СМИ.

Некоторые технологии, входящие в нашу жизнь, почти наверняка будут стоить людям работы, как произошло с этими инструментами. Нам надо извлечь из истории простой урок: мы не можем предвидеть, как машины разрушат нашу жизнь. Нас пугает Скайнет[63]63
  Скорее всего, имеется в виду персонаж фильмов о Терминаторе, вымышленный интеллектуальный суперкомпьютер. Прим. перев.


[Закрыть], а не электронные таблицы. И когда приходят перемены, они часто застают нас врасплох.

Глава 4. Алгоритм-менеджер

Я был так подавлен: мои мозги больше никому нужны. Просто сидишь, как болванчик, и глазеешь на эту чертову штуковину. Я привык держать всё под контролем, самостоятельно всё планировать. А теперь у меня такое чувство, будто кто-то уже всё решил за меня. Как будто меня понизили[64]64
  Noble D. Forces of Production: A Social History of Industrial Automation. New York: Knopf, 1984.


[Закрыть].

Рабочий с недавно автоматизированного завода General Electric, 1970 год

Каждый будний день Конор Спраулс, представитель службы клиентской поддержки, приходит на работу в кол-центр компании MetLife в городе Уорик[65]65
  Roose K. A Machine May Not Take Your Job, but One Could Become Your Boss // The New York Times, June 23, 2019.


[Закрыть]. Сев за свой стол, он включает компьютер, и на экране в правом нижнем углу появляется маленькое голубое окошко.

Это Cogito, интеллектуальное приложение-инструктор, с чьей помощью MetLife контролирует своих представителей службы клиентской поддержки. Каждый раз, когда Спраулсу звонят, Cogito слушает разговор и в режиме реального времени высказывает свои замечания и пожелания. Если приложение считает, что Спраулс говорит слишком быстро, в окошке появляется изображение спидометра, намекающее, что нужно снизить темп. Если у оператора сонный голос, загорается картинка с чашкой кофе, чтобы тот взбодрился. А если Cogito почему-то кажется, что Спраулс не может установить с собеседником контакт, приложение показывает ему картинку с сердечком – «значок эмпатии», побуждая его подстроиться под эмоциональное состояние клиента.

Когда мы представляем себе автоматизацию на рабочих местах, мы видим машины, выполняющие тяжелую, не требующую высокой квалификации работу под надзором людей. Однако во многих современных офисах ИИ получил повышение до уровня руководителей среднего звена. В самых разных сферах, от служб поддержки до банковских услуг и общепита, программные средства теперь выполняют контрольные функции: натаскивают работников, следят за качеством, оценивают производительность, – а ведь все эти обязанности прежде выполнялись людьми.

Идея алгоритмов-начальников не нова. Инструменты «оптимизации процессов» использовались в XX веке для того, чтобы выжимать больше из производственных рабочих, а работники сферы услуг уже десятки лет знакомы с системами «динамического планирования» вроде Kronos, позволяющими составлять график смен с учетом прогнозируемой потребности в персонале. Но ИИ и технологии машинного обучения позволили передавать машинам даже обязанности высшего руководства. Так, Amazon при помощи сложных алгоритмов отслеживает производительность складских работников. Говорят, что алгоритмы могут даже автоматически оформлять документы на увольнение отстающих[66]66
  Lecher C. How Amazon Automatically Tracks and Fires Warehouse Workers for ‘Productivity’ // The Verge, April 25, 2019.


[Закрыть]. В IBM аттестацией сотрудников занимается ее собственная ИИ-платформа под названием Watson, и это означает, что надбавка к жалованью может зависеть не только от того, как ты работал весь этот год, но и от того, какие результаты, по прогнозам алгоритма, ты будешь показывать в следующем[67]67
  Greene T. IBM Is Using Its AI to Predict How Employees Will Perform // TheNextWeb, July 10, 2018.


[Закрыть]. Платформы услуг по запросу, такие как Uber и Lyft, вообще отказались от контроля с участием человека и передали функции оплаты, диспетчерского обслуживания и разрешения споров в ведение алгоритмов.

Средства алгоритмического менеджмента превратились в доходный бизнес. Помимо Cogito, существуют ИИ-компании, ориентированные на розничную торговлю, например Percolata, стартап из Кремниевой долины, к чьим клиентам относятся Uniqlo и 7-Eleven. Он разработал сенсоры для магазинов, оценивающие «реальную производительность» каждого работника[68]68
  Sheffield H. The Great Data Leap: How AI Will Transform Recruitment and HR // Financial Times, November 4, 2019.


[Закрыть]. Еще один стартап, Beqom, занимается автоматизацией расчета зарплат и годовых премий. А Nexus AI, система «управления персоналом», позволяет менеджерам распределять сотрудников на команды на основе таких расчетных характеристик, как «эффективные работники» и «полное взаимопонимание».

Побывав в кол-центре MetLife, я был поражен, какой властью наделена программа Cogito, хотя она довольно новая. Приложение отслеживает, сколько уведомлений получает каждый работник, и этот показатель учитывается при оценке менеджерами производительности сотрудника за единицу времени. (Работникам не разрешается сворачивать окно Cogito на экране компьютера; если они это сделают, программа оповестит об этом контролера.) У каждого человека по-прежнему есть живой начальник, и, хотя в компании меня заверили, что очки, начисляемые Cogito, никогда не имеют определяющего значения при расчете зарплат и аттестации, Крис Смит, директор по международным операциям MetLife, сказал мне, что Cogito дало компании возможность подтянуть отстающих.

«Была у нас одна сотрудница: мы видели, что ее разговоры всегда длятся на несколько минут дольше обычного, – рассказал Смит. – Когда ее прослушали через Cogito, стало понятно, что она повторяет информацию, которую не надо повторять».

MetLife, в которой под надзором Cogito работает более 1500 сотрудников кол-центров, утверждает, что благодаря этому приложению показатель удовлетворенности ее клиентов вырос на 13 %. И работников MetLife, с которыми я общался при посещении кол-центра, кажется, не угнетает такое положение вещей. (Меня, разумеется, сопровождал ответственный сотрудник отдела связей с общественностью, так что люди, наверное, старались вести себя как можно лучше.) Большую часть сотрудников интеллектуальное приложение, по-видимому, немного раздражает, но в пределах терпимого.

«Когда оно появилось, у нас были опасения вроде “Ах, да эта штука будет вопить на меня при каждом звонке”. Но этого не случилось, – сказал мне Спраулс. – Я думаю, что в целом это всё-таки классная технология».

Другой сотрудник MetLife, Томас, в меньшем восторге от Cogito. «В начале, – рассказывал он, – программа присылала мне массу уведомлений из-за того, что никак не могла привыкнуть к моему голосу». Например, часто сигнализировала о том, что он говорит не умолкая, и побуждала дать клиенту вставить слово. Он делал, как его просили, но приложение продолжало порицать его за погрешности, которых он, по его ощущению, не допускал: то он говорит слишком быстро, то не вникает в чувства клиента.

«Иногда выскакивает уведомление, а я просто не обращаю на него внимания, зная, что всё делаю правильно», – добавил Томас.

Защитники идеи алгоритмического менеджмента часто упирают на то, что у многих живых руководителей есть свои недостатки. Они принимают решения сгоряча. Переходят границы и продвигают любимчиков. Бывают самовлюбленными и жестокими. По идее, с помощью автоматизации можно вытеснить худших руководителей, а хороших сделать лучше, вооружив их более совершенными инструментами и информацией.

Как раз над этим работают некоторые стартапы. Компания Humu, основанная одним из бывших руководителей Google Ласло Боком, старается улучшить работу руководителей при помощи ИИ. Humu, к чьим клиентам относятся Sweetgreen и OfferUp, в течение дня рассылает руководителям электронные письма и сообщения с ненавязчивыми подсказками, чтобы они не забывали, например, четче разъяснять сотрудникам свои решения и поддерживать с ними обратную связь[69]69
  Wakabayashi D. Firm Led by Google Veterans Uses AI to ‘Nudge’ Workers Toward Happiness // The New York Times, December 31, 2018.


[Закрыть]. Есть и другие похожие автоматические системы «воспитания» руководителей, например приложения Coach Amanda, Butterfly и QStream.

О долгосрочной эффективности таких программ судить пока рано. Но можно уверенно сказать: когда этим загадочным управленческим алгоритмам позволяют работать без должного надзора со стороны человека, нередко возникают проблемы. Работники Instacart и других сервисов доставки по запросу уже устраивали согласованные «забастовки», протестуя против спорных решений этих компаний: например, настройки приложения Instacart таким образом, чтобы чаевые от клиентов включались в обязательную минимальную оплату, а не приплюсовывались к ней[70]70
  Roose K. After Uproar, Instacart Backs Off Controversial Tipping Policy // The New York Times, February 6, 2019.


[Закрыть]. Постоянные авторы YouTube – категория людей, подвергающаяся, вероятно, наиболее непосредственному контролю со стороны машин во всём мире, – развлекаются тем, что разбирают по косточкам его вездесущий рекомендательный алгоритм и постоянно жалуются на то, как он влияет на посещаемость их каналов. Опрос водителей Uber, проведенный в 2019 году, показал, что система алгоритмического управления, при которой всё, от расчета зарплат до оценки работы, находится в ведении непробиваемых и недоступных пониманию машин, у многих из них вызывает ощущения подавленности и обезличивания[71]71
  Möhlmann M., Henfridsson O. What People Hate About Being Managed by Algorithms, According to a Study of Uber Drivers // Harvard Business Review, August 30, 2019.


[Закрыть]. Как выяснили исследователи, множество водителей уже проявляло неповиновение в той или иной форме: например, сговаривались с коллегами, чтобы обхитрить систему и искусственно спровоцировать резкий скачок тарифов в определенной зоне.

Подобные маневры, вероятно, будут становиться куда более обычным делом по мере того, как машины начнут приобретать всё больше власти в разных организациях. Пройдет время, и, может быть, нам всем станут куда больше знакомы нынешние чувства авторов YouTube и водителей Uber – людей, подчиненных капризным машинам, в чьей власти возвысить их или погубить их карьеру. ИИ будет не только нанимать нас и увольнять, но и повседневно руководить нами, поправлять нас, когда мы будем ошибаться, и хвалить, когда мы всё будем делать хорошо. Под «офисными интригами» будет пониматься «обратное проектирование программы управления персоналом». «Нездоровую рабочую обстановку» будет создавать не начальник-самодур, а скверная модель машинного обучения. И вопрос о том, что для работников лучше – признать власть таких машин или бросить ей вызов, – будет оставаться открытым.