Текст книги "Технологии Четвертой промышленной революции"

Поскольку технологии тесно интегрированы в общество, на нас лежит ответственность за определение направления их развития и обязанность объявить приоритет общественных ценностей. Хотя технологии часто воплощают те ценности, которые заложены в их структуру и предназначение, непросто решить, какими должны быть эти ценности. Джон Хэвенс (John Havens) из IEEE сформулировал эту проблему так: «Как машины узна́ют, каковы наши ценности, если мы сами этого не знаем?.. …Мы не сможем улучшить благосостояние человечества, если не уделим время определению наших общих ценностей, чтобы создавать технологии, которые наверняка будут отвечать этим идеалам»{26}26
  Институт инженеров электротехники и электроники (IEEE) 2017.


[Закрыть].

Разные люди и общества ценят разные вещи, поэтому всегда будут разногласия в социальных и культурных точках зрения на технологии. Тот факт, что разные культуры и типы ценностей ведут к различиям в приоритетах, не должен мешать ценностно-ориентированному подходу к технологиям. Наоборот, чем больше мы об этом думаем, тем лучше поймем, какие приоритеты критически важны для обществ, как технологии повлияют на ценности и как будут их поддерживать. Вполне возможно найти ряд ценностей, общих для большинства культур. В документе «Новое социальное соглашение» (A New Social Covenant) Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей в 2012–2014 годах определил «широкий консенсус между представителями различных культур, религий и философий относительно некоторых общечеловеческих стремлений», которые представляют «мощный объединяющий идеал» для «преданных друг другу личностей, уважающих будущие поколения»{27}27
  Всемирный экономический форум 2013.


[Закрыть].

Определение позитивных объединяющих ценностей – лишь первый шаг. Такое соглашение необходимо реализовать на практике. Один из способов это сделать – организовать ответственное и эффективное управление. Обычно организациям сложно угнаться за скоростью и масштабностью технологических изменений. Многие правовые системы плохо подготовлены для управления новыми рисками; мир только начал осознавать реальность широкого ряда беспрецедентных сценариев развития событий, угрожающих всему – от окружающей среды до прав человека. Кроме того, сложно предвидеть, какие внешние последствия будут иметь новые технологии в зависимости от выбранных способов их создания, применения и управления. Риски могут и будут неожиданно возникать на стыках технологических дисциплин. Стратегии управления должны быть достаточно гибкими и адаптивными, чтобы мы могли адекватно реагировать на риски, не блокируя работу организаций.

Новое социальное соглашение о ценностях

Совет Всемирного экономического форума по глобальной повестке дня по вопросам ценностей (2012–2014).

Наш призыв таков: после целенаправленных глобальных размышлений мы должны принять важнейшие решения нашего времени. Один из способов помочь этим размышлениям – разработать Новое социальное соглашение.

Многие предыдущие попытки фокусировались на индивидуальных правах, которые, без сомнения, важны. Но мы сконцентрируемся на наших обязанностях по отношению друг к другу, как внутри государств, так и между ними… Когда дело касается ценностей, существует большое культурное разнообразие. Но есть и широкий консенсус – между культурами, религиями и философиями – по некоторым общечеловеческим стремлениям:

• Достоинство человека, независимо от расы, пола, происхождения и убеждений.

• Важность общего блага, превосходящая индивидуальные интересы.

• Необходимость разумного управления и заботы не только о нас самих, но и о наших потомках.

Чтобы привить эти ценности, важны как личные, так и коллективные усилия. Необходимо внедрить эти ценности в общественную жизнь, чтобы преодолеть разрыв между стремлениями и практикой. Обсуждения недостаточно – мы должны принимать решения. Успех зависит от трансформирующего ценностно-ориентированного лидерства во всех областях человеческой деятельности. Мы должны культивировать, поощрять и приветствовать новые модели поведения как на Всемирном экономическом форуме, так и вне его. Необходимо привлекать людей, которые смогут эффективно и продуктивно решать глобальные задачи, людей, которые построят и оставят после себя более справедливый, изобильный и жизнеспособный мир.

Примеры ценностно-ориентированного управления в действии уже существуют. Общий регламент по защите данных (General Data Protection Regulation, GDPR), принятый Евросоюзом, вступит в силу в середине 2018 года. Это постановление изменит правила получения согласия пользователя на обработку персональных данных и потребует предоставления соглашения с понятными условиями. Компании, управляющие данными, должны будут уведомлять пользователей об инцидентах безопасности[3]3
  В первую очередь они должны будут уведомлять о таких инцидентах ответственные органы, необходимость уведомления пользователей регламентируется отдельно. – Прим. ред.


[Закрыть], предоставлять информацию об использовании данных, соблюдать «право на забвение»[4]4
  Речь идет о более ограниченном праве на удаление данных. – Прим. ред.


[Закрыть], обеспечивать переносимость данных, при необходимости нанимать специалистов по защите данных и выполнять юридические требования к безопасности данных на этапе проектирования технологий и служб{28}28
  Общий регламент по защите данных (EU GDPR) 2017.


[Закрыть].

Акцент GDPR на обеспечении конфиденциальности на этапе проектирования технологий демонстрирует тщательный подход к практической реализации ценностей: внедрение ценностей в процессы разработки технологий, чтобы их разработка отражала ценности общества, а не только их создателей. Вместо того чтобы пытаться решить проблемы, возникшие из-за принципа невмешательства в технологии и этику, лучше сразу решать вопросы этики, ценностей и социальных последствий на различных этапах технологической разработки. Этим мы окажем важное влияние на то, как технологии интегрируются и поддерживают стремление общества к всеобщему благосостоянию. Блокчейн, Интернет вещей, автономные системы, нейротехнологии и алгоритмы – это примеры технологий, которые создаются специализированными сообществами с узкими интересами, иногда в тех областях, где ценности еще предстоит явно определить.

К сожалению, интегрировать нужные ценности в процессы технологического развития не всегда легко. Это нельзя сделать, просто добавив некий «этический компонент», – для этого может потребоваться принятие новых методологий, формирование организационной культуры и даже изменение рыночного мышления, предполагающего, что двигателем прогресса является экономика. Другая сложность заключается в том, что многие технологии, особенно цифровые, можно использовать разными способами, а риски и потенциальные последствия их применения сложно оценить. Даже если сделать прогноз рисков, не все технологии предусматривают возможность «программирования». Например, неясно, как разрабатывать блокчейн-технологии, чтобы предотвратить их использование преступными организациями или уменьшить их экологический вред из-за чрезмерного потребления энергии. Тем не менее компаниям и организациям следует думать не только о проектировании и внедрении – они должны включаться в социально ответственные процессы с самого начала. На уровне инженерии и разработки продуктов следует учитывать не только экономические стимулы и технические требования к разработке и использованию технологий, но и влияние на общество{29}29
  Были предложены различные разновидности такой стратегии. Концептуальная модель, которая рассматривается в данном случае, предполагает ответственность и наблюдение, как описывает Митчем (Mitcham) (1994).


[Закрыть].

Успешно возвести общественные ценности в приоритет невозможно без нисходящего регулирования. Для этого необходимо поднять вопрос о ценностях и дать людям и организациям возможность перейти на новые модели поведения. Кроме того, требуется вдохновение и мотивация от общественных лидеров. Начало может быть положено во многих местах, о чем говорится далее, в разделе, посвященном переломным моментам, но в любом случае, чтобы помочь изменить поведение, повысить уровень осведомленности о широком влиянии технологий и способствовать возведению общественных ценностей в приоритет, можно использовать следующие подходы к технологиям.

Во-первых, критически важно осознавать серьезность и всепроникающее влияние технологий. Технологии вовлечены в каждый аспект человеческой жизни, они помогают нам взаимодействовать друг с другом, поддерживают нашу экономику, влияют на наше здоровье и окружающую среду, позволяют обрабатывать информацию, от которой зависит работа организаций и отдельных людей. В таких сферах, как производство передовых материалов и фармацевтических средств, уже давно сложился ответственный подход к технологиям, и другие технологии, от поисковых и автономных систем до блокчейна, требуют похожего отношения. Если рассматривать не только влияние на уровень смертности, но и совокупное влияние технологий на нашу жизнь, можно по-новому взглянуть на многие технологии, кажущиеся безобидными.

Во-вторых, более четкую перспективу для использования технологий могут дать размышления о персональной или организационной цели. Научные и технологические исследования требуют свободы для выхода за существующие границы, но мы должны также стараться согласовывать новые возможности со стремлением к благосостоянию общества. Например, в знаменитой речи, произнесенной в 1945 году после применения первых атомных бомб, физик Роберт Оппенгеймер сказал, что предназначение ученого – получать знания и делиться ими во благо человечества{30}30
  Оппенгеймер [2 ноября 1945] 2017.


[Закрыть]. Начав с этого, он выступил за создание комиссии по атомной энергии, свободный обмен информацией и прекращение производства бомб, призывая проявлять любознательность, амбициозность и коллективную ответственность.

В-третьих, приоритет ценностей позволяет превратить убеждения в действия. Огромную помощь в этом может оказать укрепление веры в ценности, провозглашенные организацией. Этический кодекс или просто организационная концепция с изложением целенаправленного ценностно-ориентированного подхода к технологиям может способствовать формированию соответствующей культуры в организации или даже в целой профессии или отрасли. В качестве примера можно привести клятву Гиппократа, которая помогает помнить о потенциальном риске исследований, анализа и применения технологий, и может быть одной из причин того, что в индустрии биотехнологий, подверженной влиянию медицинского сектора, наблюдается довольно высокий уровень самоанализа и самоограничения.

Наконец, важно использовать поворотные точки, когда ценности могут стать эффективным средством для формирования технологий и путей их разработки. Опираться на благие намерения и обязательства важно, но граждане и лидеры могут приложить больше усилий для повышения уровня осведомленности в критические моменты разработки технологий. Например, на уроках этики педагоги могут демонстрировать важность рационального принятия решений на примере «проблемы вагонетки»{31}31
  Проблема вагонетки – это мысленный эксперимент, который используется в курсах по этике. Он демонстрирует сложность факторов, которые участвуют в процессе принятия моральных решений. Обычная формулировка звучит так: «Тяжелая неуправляемая вагонетка несется по рельсам. На пути ее следования привязаны пять человек. Вы можете переключить стрелку, и тогда вагонетка проедет по запасному пути, к которому привязан один человек». Отвечающий должен принять решение о том, следует ли переключить стрелку, а также найти объяснение своему выбору.


[Закрыть].

Эта этическая головоломка позволяет студентам понять, что сложные для людей решения часто основываются на неосязаемых жизненных принципах, цену которых невозможно точно определить. Если такие решения должны принимать машины, эти неизмеримые критерии необходимо представить в виде кода. Поворотные точки дают лидерам возможность подчеркнуть роль ценностей в формировании технологий.

Почему ценности?

Стюарт Уоллис (Stewart Wallis), независимый мыслитель, спикер и сторонник Новой экономической системы, Великобритания.

Мир сталкивается с проблемами, которых никогда не было. Впервые за всю историю человечества мы достигли критических пределов планетарной экологии или уже вышли за них. В то же время к 2050 году мы должны создать около 1,5 млрд новых рабочих мест или обеспечить людей другими средствами к существованию в условиях роста населения и еще более быстрых технологических изменений (многие из которых ведут к исчезновению существующих профессий). Более того, при текущих темпах расходования углеродных источников топлива и других редких экологических ресурсов мы сталкиваемся с потенциальным конфликтом между направленностью на создание новых рабочих мест и заботой о благополучии планеты. Добавьте сюда растущую геополитическую напряженность и межконтинентальное движение беженцев и экономических мигрантов, постоянное увеличение глобального неравенства в уровне благосостояния и доходов, положительные и отрицательные последствия Четвертой промышленной революции – и станет очевидно, что все это приведет либо к катастрофическому регрессу, либо к позитивному преображению человеческого прогресса. В любом случае, мы увидим ошеломляющее изменение системы. Есть много потенциальных решений, но воспользуемся ли мы ими и будут ли изменения положительными, в значительной степени зависит от ценностей.

Ценности дают нам четкий пункт назначения – «истинный север» на компасе – и средства, чтобы двигаться к нему. За промышленной революцией в Западной Европе стоял сдвиг ценностей в сторону креативности, доверия и предприимчивости. За отменой рабства и возникновением движения за гражданские права также стояло кардинальное переосмысление ценностей. Аналогично этому сдвиги в ценностях стояли и за двумя крупными изменениями в западной экономике XX века: в середине столетия произошел переход к кейнсианству, а в 1980-е, 1990-е и первое десятилетие XXI века – к тому, что грубо назвали неолиберализмом. Во всех этих случаях сдвиг в ценностях предоставил цели и средства их достижения, так как ценности мотивировали людей к действию. Сдвиги в ценностях сопровождались появлением четкой, позитивной и сильной идеологии, которая, в свою очередь, сопровождалась мощными стимулами к преобразованиям. И лишь последующие изменения в нормах и законах привели к более масштабному сдвигу ценностей человечества в целом.

Учитывая беспрецедентную скорость технологических и социальных изменений во время Четвертой промышленной революции, нельзя надеяться, что желаемый исход можно получить исключительно с помощью государственного законодательства и экономических стимулов. К тому времени, когда законодательство вступает в силу, оно часто уже устаревает, становится оторванным от реальности или излишним. Единственный способ гарантировать положительные результаты – дальнейшая революция ценностей.

Признать, что технологии оказывают на нас комплексное влияние, просто. Об этом каждый день говорится в заголовках СМИ. Сложнее найти подходящие способы, чтобы повысить уровень осведомленности о ценностях и культивировать навыки контекстного анализа, необходимые на различных этапах технологического развития. На каком же этапе мы можем внедрить в процесс технологического развития определенные ценности, такие как эффективность и эстетические соображения, и сопоставить их с более широкими общественными ценностями, такими как человеческое достоинство и общее благо?

Начинать следует со следующих девяти поворотных точек. Лидеры – проектировщики, предприниматели, законодатели и общественные деятели – могут совершать изменения в этих точках, используя их для критического анализа ценностей, инициируя обсуждение более широкого контекста применения технологий и предпринимая соответствующие действия.

Внимания требуют не только технологии. Людям тоже нужно ответственное развитие. В последние годы некоторые академические аккредитующие органы сделали этику обязательным курсом для инженеров{32}32
  Претц (Pretz) 2017.


[Закрыть]. Однако в этих образовательных программах чаще всего рассматриваются вопросы профессионального поведения, говорится о необходимости следовать нормам и подчеркивается, что несоблюдение правил и требований может приводить к человеческим жертвам. В ответ на громкие случаи мошенничества в программы MBA тоже стали включать курсы по этике наряду с вопросами корпоративной социальной ответственности и экологического просвещения. Оба типа образовательных программ могут выиграть от более открытых дискуссий о связи ценностей с технологиями, обществом и экономической системой. Если педагоги будут развивать в студентах осознанность, это поможет инженерам и менеджерам оказывать влияние на остальных, принимая более широкую точку зрения на решение проблем, размышляя о целях и сопоставляя их с текущими условиями.

Когда вопрос касается стыковки ценностно-ориентированного подхода с технологическим развитием, первыми в дело вступают предприниматели и инвесторы. Предприниматели ищут решения проблем, возникающих у групп людей с похожими нуждами или желаниями, но обязательно затрагивающих более широкий круг лиц. Логично предположить, что размышления о более глобальных социальных последствиях на этом этапе будут иметь значительные каскадные эффекты. Инвесторы, с другой стороны, имеют средства, чтобы определять направление развития технологий. Независимые финансисты могут серьезно повлиять на привлечение внимания к вопросам о социальных последствиях и предложить ценностно-ориентированные обоснования для инвестиций. Если эти люди найдут способы позитивно влиять на предпринимателей и стимулировать их, чтобы те приняли ценностно-ориентированный подход к разработкам, эффект может быть очень существенным.

Ценности предпринимателей и лидеров организаций оказывают огромное влияние на работников и развитие технологий. Руководители могут трансформировать культуру компании и отдать приоритет общественным ценностям. Стартапы особенно эффективны в установке ценностей, потому что первые сотрудники обычно подбираются по общим интересам или целям. Один из примеров эффективного лидерства – FIFCO, компания – производитель алкогольных напитков из Коста-Рики. Ценности руководителя привели к тому, что эта компания стала пропагандировать строгое ограничение употребления алкоголя и стремиться, чтобы ни один ее сотрудник не жил в бедности{33}33
  Florida Ice and Farm Company 2015.


[Закрыть]. Руководители организаций могут оказывать большое влияние в этой поворотной точке, устанавливая правила и подавая примеры, помогающие создавать целеустремленные и социально ответственные организации.

В начале любого институционального процесса, будь то выделение бюджета, определение программы исследований или выбор рынков, явно или неявно устанавливаются приоритеты, вызывающие эффект домино. Например, процесс принятия решений для инженерных и бизнес-проектов часто включает допущения и стимулы, связанные с эффективностью, масштабируемостью, прибылью и многим другим. Анализируя эти допущения и стимулы, можно выявить лежащие в их основе ценности и понять, как решения организации или ее отдельных сотрудников, принимаемые в процессе разработки или внедрения, могут повлиять на дальнейшее развитие событий. Независимо от того, какой продукт разрабатывается – приложение для мобильного телефона или секретная военная технология, – разделение процесса принятия решения на составные части помогает выявить его архитектуру ценностей. Руководители могут использовать эту возможность, чтобы еще раз проверить свои цели на соответствие более широким общественным приоритетам.

С 1970-х годов социологи указывают на то, что методы и процессы, которые ученые, инженеры и другие специалисты используют для работы, показывают, какие ценности проповедуются на рабочих местах. Эти структурированные ценности, в свою очередь, влияют на результаты научной работы и создаваемые физические продукты{34}34
  Для примера: Лятур (Latour) и Вулгар (Woolgar) 1979.


[Закрыть]. Обсуждение процессов, процедур и протоколов предоставляет еще одну возможность повысить уровень осведомленности о ценностях во время разработки технологий. Кроме того, лидеры организаций могут анализировать, как выполняется применение научных методов на рабочих местах и как ограничения технологических инструментов и продуктов могут влиять на ценности и встраивать эти ценности в методы работы. Тщательное изучение динамики рабочего окружения позволяет руководителям и исполнителям определять, какие ценности и предубеждения внедряются в конечный продукт.

Любая экономическая система создает стимулы, влияющие на общественные ценности и цели. Определение рычагов экономического давления, таких как ответственность акционеров или конкурентоспособность, может заставить нас задуматься о том, для чего используются технологии и согласуются ли они со стимулами и целями. Изучение рычагов экономического давления помогает также выявить области, в которых стимулы поднимают проблему целого класса технологий. Например, текущие экономические стимулы часто препятствуют разработке социально выгодных технологий, таких как роботизированное протезирование, которые не обещают быстрого возврата инвестиций или не имеют больших рынков. Обратив внимание на эти области, мы сможем сфокусироваться на вопросе о том, чего мы действительно хотим от технологий, и формировать поведение, способствующее получению желаемых результатов.