Текст книги "Технологии Четвертой промышленной революции"

Наверное, самое большое беспокойство по поводу Четвертой промышленной революции вызвано тем, что новые ценности могут распределяться несправедливо, а усиление неравенства приведет к подрыву социального единства. Одна из угроз, способных обострить неравенство в результате Четвертой промышленной революции, – это монополизация власти. Например, уже сейчас Google контролирует почти 90 % глобального рынка контекстной рекламы, Facebook – 77 % мобильного трафика социальных сетей, а Amazon – почти 75 % рынка электронных книг{9}9
  The New York Times 2017.


[Закрыть]. Как предупреждает ОЭСР, в будущем сложные самообучающиеся алгоритмы могут вступать в сговор для повышения цен так, что это будет невозможно доказать{10}10
  Организация экономического сотрудничества и развития (OECD) 2016.


[Закрыть]. И если станет возможным создание универсального искусственного интеллекта, который разовьется до сверхинтеллекта, то первопроходцы в этой области смогут доминировать на многих рынках.

Беспокойство о возможном неравенстве можно несколько сгладить тем, что структура и возможности многих технологий Четвертой промышленной революции в разной степени децентрализованны. Например, блокчейн работает как распределенная платформа для прозрачных и анонимных транзакций, а 3D-печать в долгосрочной перспективе ведет к демократизации производства. Даже биотехнологии, позволяющие модифицировать геном, сейчас доступны людям со скромным финансовым положением. Демократизация в этом контексте означает, что технологии становятся доступнее по мере глобального распространения цифровой инфраструктуры и знаний. Означает ли это, что решения относительно технологий и их роли в промышленности и обществе тоже будут приниматься демократическим путем? Это нам еще предстоит увидеть. В главе 3 мы вернемся к этому вопросу, поговорив о том, как внедрять общественные ценности на этапе разработки технологий, как определять нормы и демократизировать процессы разработки и принятия решений, которые часто работают по принципу «черного ящика».

Рисунки 5 и 6. Подверженность автоматизации некоторых сфер профессиональной деятельности

Источники: Аутор (Autor), Леви (Levy) и Мурнейн (Murnane) (2003); Инвестиционный институт Blackrock (2014)

Еще одна важная и широко обсуждаемая проблема – влияние на уровень трудоустройства. Как показано на рис. 5 и 6, многие профессии подвержены риску автоматизации. Этот риск гораздо выше, чем во время предыдущих промышленных революций, а быстрое распространение технологий означает быструю потерю работы все большим числом людей. При этом новые рабочие места в передовых технологических сферах сегодня появляются реже, чем в предыдущие десятилетия{11}11
  Бергер (Berger) и Фрей (Frey) 2015.


[Закрыть]. Рабочие места в новых отраслях требуют технических знаний и физических навыков, что создает проблемы для работников с низкой квалификацией. В странах с развитой экономикой большинство новых рабочих мест занимают фрилансеры, временные сотрудники, работники с частичной занятостью и представители «гигномики». У них нет тех законодательных гарантий и социальных преимуществ, какие есть у штатных сотрудников. Например, в США 94 % новых рабочих мест, появившихся в 2005–2015 годах, созданы на условиях «альтернативной формы занятости» с ограничениями в социальной защите, трудовых правах и даже сколько-нибудь значимом контроле со стороны работников{12}12
  Катц (Katz) и Крюгер (Krueger) 2016.


[Закрыть]. С этой точки зрения технологии Четвертой промышленной революции выглядят как угроза праву человека делать выбор и с пользой применять свои навыки и интересы, способная лишить новые поколения работников удовлетворенности и стабильности. Для решения этой проблемы потребуются новые нормативные требования к нестандартным условиям работы, инвестиции в обучение взрослого населения и упреждающая политика трудоустройства{13}13
  Всемирный экономический форум 2017b.


[Закрыть].

Потребуются также новые подходы к системам социальной защиты и к роли трансфертных платежей. Как показано на рис. 7, в большинстве стран трансфертные платежи, чаще всего представленные в виде правительственных расходов и социальных программ, играют важную роль в перераспределении рыночных доходов. Например, структурное неравенство в Швеции больше, чем в США, Сингапуре, Мексике и Турции, но после вычета налогов и трансфертных платежей коэффициент Джини становится меньше, чем во всех этих странах. Предлагаются разные варианты решения этой проблемы, например универсальный основной доход, средства из которого можно получать с помощью налога на роботов, – известно, что такой законопроект рассматривается в Сан-Франциско{14}14
  The San Francisco Examiner 2017.


[Закрыть]. Однако в отчете об инклюзивном росте[2]2
  Экономический рост, способствующий решению социальных проблем. – Прим. ред.


[Закрыть] и развитии в 2017 году (Inclusive Growth and Development Report 2017), представленном на Всемирном экономическом форуме, говорится, что правительства должны более основательно подходить к вопросу усиления инклюзивного роста: возможности для проведения внутренних структурных реформ выходят далеко за пределы налогов и трансфертных платежей{15}15
  Всемирный экономический форум 2017a.


[Закрыть].

Рисунок 7. Различная роль перераспределения в уменьшении неравенства

Источник: Всемирный экономический форум (2017)

Кроме потенциального влияния на экономическое неравенство, Четвертая промышленная революция может привести к серьезным негативным последствиям для целого ряда областей. Ниже перечислены некоторые из этих последствий, отмеченные экспертами в докладе о глобальных рисках и подробнее рассматриваемые в главах раздела 2:

• Технологии Четвертой промышленной революции могут открыть широкие возможности для создания оружия массового поражения, например биологического оружия на основе биотехнологий.

• Новые материалы, например полученные с помощью нанотехнологий, могут вредить окружающей среде или здоровью людей, и это может проявиться только при широком распространении этих материалов.

• Достижения в области экологически чистой энергии могут дестабилизировать геополитическое положение, подорвав экономику стран, зависящих от добычи ископаемых видов топлива.

• Попытки изменения климата посредством геоинжиниринга могут привести к неожиданным последствиям и нанести необратимый ущерб экосистеме.

• Достижения в области квантовых вычислений могут сделать бесполезными протоколы безопасности, используемые в Интернете.

• Широкое распространение ИИ, работающего по принципу «черного ящика», может сделать экономические системы более уязвимыми и нестабильными, скрыв механизмы подотчетности, необходимые для принятия решений, например, в конфликтных ситуациях.

• Достижения нейротехнологий могут скомпрометировать свободу выбора человека и открыть новые возможности для манипуляций, побуждающих людей переходить по ссылкам, покупать определенные товары или совершать другие поступки.

Управлять этими внешними последствиями будет невозможно, если мы продолжим полагаться на существующие модели управления – медленные и консервативные. Например, Федеральному управлению гражданской авиации США потребовалось восемь месяцев, чтобы предоставить компании Amazon «экспериментальное разрешение на полеты» для тестирования одной из моделей дронов. За это время модель устарела, а Amazon провела испытания в Канаде и Великобритании{16}16
  New Atlas 2015.


[Закрыть]. Как говорится в главе 3 и в заключении, миру срочно нужны новые подходы к управлению, пересматривающие не только содержимое нормативных актов и стандартов, но и сами механизмы их создания.

Необходимо найти новые подходы к управлению технологиями, служащие общественным интересам, отвечающие нуждам человека и, в итоге, позволяющие нам почувствовать себя частью действительно глобальной цивилизации. Чтобы достичь этого, мы в первую очередь должны решить, какие потребности человека связаны с технологиями и как нам внедрять общечеловеческие ценности в новые технологии, меняющие мир. Этот важнейший вопрос мы рассмотрим в следующей главе.

Итоги главы

Эффективный способ глубже понять Четвертую промышленную революцию – использовать двусторонний подход, который можно назвать стратегией масштабирования (zoom-in, zoom-out). Важны обе стороны этого подхода:

1. Получить минимальный необходимый уровень понимания ряда технологий и их возможностей, чтобы лучше оценить их потенциал и способы применения.

2. Составить полную картину, разобравшись в связях между технологиями и вызванными ими системными изменениями.

Все технологии Четвертой промышленной революции имеют некоторые общие аспекты, связанные с теми системными изменениями, которые мы наблюдаем. Чтобы взглянуть на происходящее с общего, системного уровня, следует рассмотреть четыре общих аспекта динамики развития технологий:

1. Технологии Четвертой промышленной революции существенно расширяют и преобразуют цифровые системы.

2. Технологии распространяются с экспоненциальной скоростью, проникая в материальные объекты и в нашу жизнь.

3. Разрушительная мощь технологий усиливается по мере того, как они комбинируются и запускают очередной цикл инноваций.

4. Разные технологии создают похожие преимущества и проблемы.

Преимущества и проблемы перспективных технологий связаны с такими важными вопросами, как неравенство, безработица, демократия, суверенитет, экономическое развитие, здоровье и безопасность.

Чтобы успешно справляться со скоростью и масштабностью влияния технологий Четвертой промышленной революции, потребуются новые, более гибкие модели управления для частного сектора, общественных организаций, а также для правительств и традиционных регуляторов. Мы должны создать новые, более гибкие и приспособленные к будущим реалиям формы управления, включая нормы, стандарты и практики, которые будут учитывать всеобщие интересы.

Глава 3
Внедрение ценностей в технологии

В книге «Четвертая промышленная революция» (2016) утверждается, что для «продвижения вперед» необходим ценностно-ориентированный подход к сложной, неопределенной и переменчивой технологической среде{17}17
  Шваб 2016.


[Закрыть]. В этой главе мы подробнее рассмотрим эту идею и определим те принципы и ценности, которые помогут нам двигаться вперед и сохранять роль общества в формировании технологического будущего.

Нельзя отрицать, что технологии повысили качество жизни и общее благосостояние населения планеты. Но они также породили немало проблем и опасных последствий. Например, многие цифровые платформы концентрируют богатство у все более узкого круга людей, делая положение рабочих нестабильным и уязвимым; новые способы добычи природного газа наносят ущерб окружающей среде, обогащая владельцев предприятий за счет всех остальных; с инвестициями в капитальное оборудование связывают до 83 % сокращений производственных рабочих мест в США, начиная с 1990 года, с последующим исчезновением целых сообществ{18}18
  Деварай (Devaraj) и Хикс (Hicks) 2017.


[Закрыть].

В последние 30 лет многие из этих внешних эффектов проявлялись медленно. Но в ходе Четвертой промышленной революции изменения ускорятся, и нам придется иметь дело с более разнообразными, сложными и разрушительными последствиями применения технологий. К чему это приведет, можно только предполагать, но многие эксперты всерьез озабочены возможными опасными эффектами. Как говорилось в конце второй главы, отчет о глобальных рисках (Global Risks Report), представленный на Всемирном экономическом форуме в 2017 году, показал, что особое беспокойство у экспертов вызывают биотехнологии, ИИ, геоинжиниринг и Интернет вещей{19}19
  Всемирный экономический форум 2017.


[Закрыть]. Отчет о глобальных рисках на 2018 год показывает, что в прошлом году главным риском стали растущие киберугрозы, которым подвергаются все цифровые сущности, включая информационные массивы, инфраструктуру, персональные и идентификационные данные. Так можем ли мы говорить, что технологии Четвертой промышленной революции действительно улучшат мир и нашу жизнь? Стоят ли экономические и прочие преимущества потенциальных человеческих жертв? Сможем ли мы снизить сопутствующие риски? И чего мы на самом деле хотим от этих технологий?

Любая конкретная технология может дать удобства, развлечения, власть, продуктивность или комбинацию этих четырех элементов, но в итоге мы все хотим от технологий того же, чего от здоровой экономики, – улучшения нашей жизни. В первой главе мы отметили, что технологии должны расширять возможности, а не ограничивать их; что будущее должно формироваться людьми и для людей; что ценности должны быть достоинствами, а не недостатками технологий. На первом месте должно быть повышение уровня жизни. Если Четвертая промышленная революция приведет к усилению неравенства, бедности, дискриминации, нестабильности или вреда для окружающей среды; если произойдет маргинализация, порабощение или обесценивание людей, значит, мы пошли не тем путем.

К сожалению, усиливается ощущение, что весь мир идет на поводу у технического прогресса и экономических императивов, упуская из виду самое важное. Известные экономисты, такие как Эрик Бринолфссон (Erik Brynjolfsson) и Эндрю Макафи (Andrew McAfee), популяризовали идею «великого отделения» человеческого труда от продуктивности экономики в результате внедрения технологий{20}20
  Бринйольфссон (Brynjolfsson) и Макэфи (McAfee) 2014.


[Закрыть], и, по некоторым прогнозам, уже к 2020 году до 40 % рабочих мест перейдет на модель «гигномики», появившуюся благодаря технологиям{21}21
  The Boston Globe 2016.


[Закрыть]. Сокращение доли оплаты труда в национальном доходе стран – членов ОЭСР на 80 % связывают с влиянием технологий. Они способствуют усилению неравенства, и общественность все острее воспринимает политику, стимулирующую экономический рост в ущерб социальному единству и благосостоянию общества{22}22
  Кили (Keeley) 2015.


[Закрыть]. Вместо того чтобы спросить себя, чего мы хотим от технологических изменений, мы по-прежнему вынуждены бороться с их опасными последствиями.

Ценностно-ориентированный подход к технологиям поможет нам восстановить баланс и выйти из этого трудного положения. Во-первых, прямо признав политическую природу технологий, мы сможем сформировать требования к ответственному и эффективному управлению. Во-вторых, сделав приоритетом управления общественные ценности, мы сможем контролировать, как используются технологии и кому они несут выгоду. В-третьих, четко определив, где и как ценности становятся частью технологических систем, мы сможем лучше понять их и найти оптимальные стратегии внедрения ценностей в процесс разработки технологий.

Связи между технологиями и ценностями нелегко сформулировать. Ценности абстрактны и неосязаемы, к тому же они сильно различаются у разных людей и обществ. А технологии распространились повсюду – от языков до космических ракет. При таких масштабах поиск связей становится сложной задачей. К сожалению, в попытках найти простое решение возникли две всем знакомые, но дезориентирующие позиции. Их можно вкратце изложить так:

Точка зрения № 1: технологии предопределяют будущее

Эта точка зрения предполагает, что технологии влияют на общество, мотивируя, направляя и ограничивая нас разными способами, а технический прогресс – это внешняя, почти неодолимая сила, которую нельзя изменить или остановить. Люди, принимающие эту точку зрения, часто говорят о технологиях так, будто они определяют историю и наши ценности, направляя нас к прогрессу или упадку, и считают, что нет смысла пытаться помешать этому.

Точка зрения № 2: технологии нейтральны по отношению к ценностям

Вторая точка зрения отрицает, что сами по себе технологии имеют какое-либо значимое влияние на общество, и характеризует их как нейтральные инструменты. Сторонники этой точки зрения утверждают, что на общество влияют отдельные личности, которые выбирают, как именно использовать инструменты. При этом обсуждение возможностей технологий и их влияния на людей несправедливо переключается на моральные качества исключительно пользователей, а не создателей и распространителей этих технологий.

Этих точек зрения недостаточно, чтобы задать направление Четвертой промышленной революции. Хотя в каждой из них есть зерно правды, обе они достаточно опасны в эпоху, когда технологии показывают динамику, описанную во второй главе, распространяясь все быстрее, предоставляя пользователям все больше власти, окружая нас со всех сторон и проникая в нас.

Сторонники первой точки зрения считают, что технологии находятся вне контроля общества, тогда как вторые снимают с общества ответственность за влияние, оказываемое технологиями. И те и другие упускают из виду, что технологии и общество формируют друг друга. Ядерные технологии – хороший пример, показывающий, как опасно полностью принять любую из этих точек зрения. Это определенно не «просто инструменты», ведь само существование ядерных технологий, позволяющих получать энергию и создающих угрозу ядерного уничтожения, создает огромную напряженность. Недавние обострения геополитических споров напомнили всем о ядерной опасности, а Нобелевскую премию мира в 2017 году присудили Международной кампании за запрещение ядерного оружия (International Campaign to Abolish Nuclear Weapons, ICAN). В то же время ядерные технологии не обязаны определять судьбу человечества, потому что общество способно решать, какие технологии разрабатывать, как это делать, кто при этом имеет право голоса и каким целям все это служит. И действительно, все больше стран решает отказаться от ядерной энергии, о чем свидетельствует обязательство правительства Германии закрыть к 2022 году последнюю ядерную станцию{23}23
  Рэнкин (Rankin) 2015.


[Закрыть].

Для продвижения по пути прогресса во время Четвертой промышленной революции требуется более вдумчивое и практичное отношение к технологиям, а также возможность подробно обсуждать их цели, риски и неопределенности. Необходима третья точка зрения: «Все технологии имеют политическую природу». О политике здесь говорится в описательном смысле. Мы не подразумеваем, что технологии олицетворяют правительства, связаны с определенной партией или каким-то образом вытекают из «левой» или «правой» идеологии. Мы имеем в виду, что технологии – это решения, продукты и воплощения идей, полученные в результате социальных процессов, поддерживающие и выражающие стремления людей и организаций, содержащие в себе целый ряд допущений, ценностей и принципов, которые, в свою очередь, могут повлиять (и влияют) на власть, структуру и состояние общества.

В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.

Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой»{24}24
  Институт инженеров электротехники и электроники (IEEE) 2017.


[Закрыть]. Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений»{25}25
  Nuffield Council on Bioethics 2014.


[Закрыть]. В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:

Несмотря на большое разнообразие биотехнологий, условия, приводящие к появлению только определенных сочетаний в конкретном социально-историческом контексте, рождают общий ряд проблем. К этим условиям относятся и естественные ограничения, и добровольный выбор (даже если он не всегда осознанный или очевидный). При этом выбор зависит от сложных суждений, включающих ценности, убеждения и ожидания, связанные с технологиями и их применением. То, как совершается этот выбор, как оцениваются, включаются или исключаются разные ценности, убеждения и ожидания, имеет важные этические и политические аспекты, как и сама природа этих соображений.

Любая технология несет в себе отражение ценностей, целей и убеждений ее создателей. И чем мощнее технология, тем важнее понимать то, что в нее заложено.

Чаще всего экономические мотивы диктуют, какие технологии целесообразно развивать, как их реализовывать и применять. Эти мотивы можно распознать по социальным последствиям. Например, недавно обсуждалось, этично ли (и сколько это будет стоить) фильтровать цифровой контент для борьбы с фальшивыми новостями. Это обсуждение непосредственно связано с экономическими императивами технологических компаний, с архитектурой их платформ, с их приемами отслеживания, сегментации и доставки контента группам потребителей. В среде цифровых социальных медиа, как и в традиционной индустрии газет, телевидения и радио, экономическое давление и методы управления продуктами определяют, что и как становится известно миллиардам людей. Открытая природа Интернета позволяет быстро масштабировать технологии социальных медиа, но при этом чрезвычайно усложняет мониторинг сетей в поисках контента, который считается «асоциальным».

Признавая, что технологии олицетворяют определенные социальные установки, интересы и цели, мы получим больше возможностей, чтобы инициировать изменения. Одновременно мы будем обязаны брать на себя ответственность, потому что не сможем ни винить в нежелательных последствиях только технологии, ни игнорировать их влияние на наши решения. Признать это – значит взять на себя три обязанности:

1. Определить ценности, связанные с конкретными технологиями.

2. Понять, как технологии влияют на наш выбор, на принятие решений.

3. Определить наилучшие способы влияния на развитие технологий для всех заинтересованных сторон.

В политических переговорах между представителями общества, технологий и бизнеса именно мы должны определять, какое внимание будет уделено общественным ценностям.