Текст книги "Технологии против человека"

Глава 1. Пролог к будущему

За последующие двадцать лет жизнь человечества изменится больше, чем за последние триста.

Людям свойственно относиться к будущему как к продолжению настоящего или даже прошлого. Принято считать, что тот порядок вещей, который установлен в настоящую эпоху, также будет хорошо служить нам и в будущем, лишь в несколько измененной форме. Тем не менее наша настоящая реальность, подверженная колоссальному влиянию экспоненциальных и комбинаторных технологических изменений, обещает, что будущее уже не будет ее продолжением. Напротив, оно будет чем-то абсолютно иным, так как логика, стоящая за областью предположений о будущем, изменилась.

Как футуролог, в своей книге я попытаюсь почувствовать и представить себе ближайшее будущее (от пяти до восьми лет от настоящего момента), погрузиться в него, представить взгляды той эпохи, а затем, с этой позиции, ретроспективно оценить наше настоящее.

Затем я перейду к анализу вызовов эпохи и предложу манифест, своеобразный призыв к тому, чтобы остановиться и подумать, прежде чем бездумно нырять в цифровой водоворот и потерять то человеческое, что в нас есть, вместо того чтобы возвыситься над своей человеческой природой, как мы изначально планировали. Уже сейчас нам стоит задуматься о том, что будущее – это не то, что с нами случается, а то, что мы создаем сами, и нам придется нести за него ответственность.

Историческая точка начала глобального экспоненциального развития технологий

Я считаю, что мы живем в самое удивительное время в истории человечества, и привык смотреть в будущее с оптимизмом. Тем не менее если мы не хотим потерять то, что составляет нашу человеческую сущность, нам необходимо придерживаться более комплексного подхода по управлению технологиями.

Мы находимся в точке начала глобального экспоненциального развития экспоненциальной кривой во многих сферах науки и технологий, т. е. в такой точке, где рост технологических изменений, исчисляемый от каждого измеряемого периода к последующему, становится все более значительным. В центре истории об экспоненциальном росте находится закон Мура, впервые провозглашенный в 1970-х годах. Его суть состоит в том, что скорость процессора (производительность чипа), которую можно приобрести за 1000 долларов, увеличивается вдвое каждые 18–24 месяца.

Экспоненциальный темп роста сейчас наблюдается в таких сферах, как глубокое обучение[9]9
  Глубокое обучение – это тип машинного обучения, при котором компьютеры формируют масштабные искусственные нейронные сети, по своим свойствам сходные с нейронными сетями человеческого мозга.


[Закрыть], генетика, материаловедение, производство. Время, необходимое для экспоненциального удвоения, во многих сферах уменьшается, и это создает потенциал для коренных перемен во всех сферах деятельности на планете. На языке терминов это можно выразить так: мы прошли тот этап на кривой, когда было сложно заметить, чтобы хоть что-то изменялось, т. е. мы больше не двигаемся маленькими шагами от 0,01 до 0,02 или от 0,04 до 0,08.

В то же время мы, к счастью, еще не достигли той стадии, когда подобные удвоения настолько велики, что могут создать чрезмерную нагрузку для нашего понимания и лишить нас способности действовать. Если рассматривать происходящее в перспективе, то (говоря условно) в большинстве сфер мы сейчас находимся на относительном уровне производительности около четырех, но уже следующий шаг приведет нас к восьми, а не к линейному увеличению до пяти! Именно сейчас экспоненциальный рост приобретает особое значение, и под воздействием новых технологий радикальным изменениям подвергаются все сферы жизни общества: от энергетики, транспорта, медиа и коммуникаций до медицины, здравоохранения и пищевой промышленности.

Обратите внимание на последние изменения в автомобильной индустрии: за последние семь лет мы прошли путь от электромобилей с диапазоном менее чем 50 миль (80 км) до последней модели Tesla и BMW i8, на которых можно проехать 300 миль (483 км) без подзарядки^1,2. В Нью-Йорке тем временем уже насчитывается больше заправочных станций для электромобилей, чем обычных топливных заправок³. Практически каждый месяц новые открытия позволяют увеличивать производительность электробатарей, чья низкая эффективность раньше была главным препятствием для массового перехода на электромобили. Скоро мы сможем заряжать наши электромобили раз в неделю, затем раз в месяц и в конце концов только раз в год – и тогда уже лишь немногие захотят ездить на роскошных машинах со старым добрым бензиновым двигателем!

Подумайте также о том, как резко снизилась стоимость секвенирования генома[10]10
  Секвенирование генома – тест для определения генетических мутаций в ДНК, которые являются причиной наследственных болезней, наследственных предрасположенностей или особенностей организма.


[Закрыть]. В 2008 году она составляла десять миллионов долларов, а сейчас опустилась до восьмисот долларов⁴. Только представьте, что может случиться, когда суперкомпьютеры, чья мощность вырастет экспоненциально, станут доступны для всех медицинских учреждений и лабораторий: цена секвенирования генома человека может упасть до пятидесяти долларов⁵.

А теперь представьте себе следующее: данные геномов двух миллиардов людей загружают в надежное облачное хранилище (желательно, конечно, сохраняя анонимность) и используют для исследований, осуществляемых по большей части искусственным интеллектом (ИИ), работающим на базе тех же суперкомпьютеров.

Возможности, открывающиеся для научных изысканий, в таком случае превзойдут все наши самые смелые ожидания, но в то же время повлекут за собой серьезные этические осложнения: увеличение продолжительности жизни, репрограммирование генома, потенциально – конец старения или даже смерти (для тех, кто сможет себе это позволить). Означает ли это, что богатые будут жить вечно, в то время как бедные не смогут даже купить лекарство от малярии?

Подобные экспоненциальные преобразования говорят о том, что видение будущего как продолжения линейного роста, вероятно, приведет к катастрофически ошибочным предположениям о масштабах, скорости и потенциальных последствиях изменений. Все это выглядит безобидно и как будто бы так отдалено от нас, что очень многие люди не могут понять растущего беспокойства по поводу угрозы человечеству со стороны развивающихся технологий, ведь мы сейчас находимся только у подножия кривой. Такие проблемы, как потеря приватности, технологическая безработица или деквалификация человека, еще не успели стать нашими повседневными заботами, но ситуация скоро изменится.

Важно понимать, что главные изменения будут происходить из-за комбинаторных инноваций, например, из-за одновременного использования нескольких мегасдвигов и деструктивных элементов. Так, в третьей главе мы рассмотрим, как компании, стремящиеся создать новые деструктивные предложения, соединяют при использовании большие массивы данных и интернет вещей[11]11
  Интернет вещей – концепция вычислительной сети физических предметов, оснащенных встроенными технологиями для взаимодействия друг с другом или с внешней средой (умный дом, умный город, умный транспорт и т. д.).


[Закрыть] наряду с ИИ и облачными сервисами.

Произведенные ли по доброй воле, без оглядки на нежелательные последствия, или же, наоборот, с целью навредить, грядущие изменения никого не обойдут стороной. С одной стороны, технологические прорывы могут существенно улучшить нашу жизнь и приблизить процветание человечества (см. главу 9); с другой стороны, некоторые из этих экспоненциальных изменений представляют угрозу для общественного устройства и ставят под вопрос нашу человечность.

Вернор Виндж, компьютерный ученый и знаменитый писатель-фантаст, написал в 1993 году следующие строки:

Спустя тридцать лет у нас появятся технические возможности для создания сверхчеловеческого интеллекта. Сразу после этого эра человечества подойдет к концу. Можно ли избежать такого прогресса? И если его не избежать, можно ли направить его так, чтобы мы смогли его пережить?⁶

Добро пожаловать в ХелВен!

Нам становится ясным, что будущее отношений между людьми и машинами зависит в первую очередь от экономической системы, которая их порождает. Мы сталкиваемся с тем, что я называю вызовами ХелВен[12]12
  От hell (ад) и heaven (рай) (англ.).


[Закрыть]. Так, мы на полной скорости приближаемся к миру, похожему на нирвану, где нам уже не нужно зарабатывать на жизнь, где все проблемы решены с помощью технологий и где мы можем наслаждаться изобилием всего – что иногда называется экономикой Звездного пути⁷.

Или же, напротив, мы можем оказаться в мире антиутопии, где над обществом установлен контроль суперкомпьютеров, интернет-ботов, суперумных программ слежения – машин и алгоритмов, киборгов и роботов, а точнее, их владельцев. В мире, где людей будут терпеть в лучшем случае только в качестве домашних животных или как какие-то необходимые помехи, а в худшем – новые кибербоги обратят нас в рабство. Это темное общество будет представлять собой бесчувственный, бездушный и бестелесный мир, то есть мир, в котором все человеческие свойства будут утрачены.

Ты можешь дожить до того, что ужасы дел рук человеческих, которым ты будешь свидетелем, выйдут за границу твоего понимания.

– Никола Тесла⁸

Насколько параноидален этот взгляд?

Задумайтесь о том, что уже стало частью повседневности: доступные за небольшую цену цифровые сервисы позволяют нам перепоручать наше мышление, решения и воспоминания все дешевеющим мобильным устройствам и их облачным хранилищам. Эти «внешние мозги» очень быстро наращивают функционал: от знания-меня и представления-меня до бытия-мной. Они уже стали не чем иным, как нашей цифровой копией, и если это по-прежнему вас не смущает, то только представьте, как мощность этих «внешних мозгов» увеличивается в сотни раз в течение следующих пяти лет.

Нужно найти дорогу в незнакомом городе? Не обойтись без карт Google. Сомневаетесь, куда пойти обедать? TripAdvisor подскажет. Некогда ответить на электронные письма? Новый умный помощник от Gmail все сделает сам⁹. Разумеется, человечество еще не дошло до той стадии сближения с машинами, когда всем можно оставаться дома, пока двойники-киборги проживают жизнь за нас, как в фильме Брюса Уиллиса «Суррогаты»¹⁰. Также мы пока не можем осуществить сценарий из сериала 2015 года «Люди», где можно было приобретать многофункциональных человекоподобных компаньонов-синтов¹¹. Но на самом деле мы недалеки от этого.

В этой книге я постараюсь объяснить, почему антиутопическая картина будущего представляется мне маловероятной. Вместе с тем я берусь утверждать, что степень влияния технологий на нашу жизнь и жизнь будущих поколений всецело обусловлена нашим собственным выбором.

Технологии и человечество переживают сближение, и мы находимся в точке поворота

Три важных слова пришли мне на ум, пока я писал книгу: экспоненциальный, комбинаторный и рекурсивный.

1. Экспоненциальный. Технологии развиваются экспоненциально. Несмотря на то что микрочипы, будучи подчинены основным законам физики, не могут бесконечно уменьшаться в размерах, технологический прогресс во многом еще совершается в соответствии с законом Мура¹². Кривая производительности микропроцессоров демонстрирует экспоненциальный рост, а не линейный или постепенный, как люди привыкли считать. Это представляет определенные сложности для понимания: технологии развиваются экспоненциально, а люди (я надеюсь!) остаются заложниками линейности.

2. Комбинаторный. Разные проявления технологического прогресса комбинируются и интегрируются. Такие инновационные технологии, как машинный интеллект, глубокое обучение, интернет вещей и редактирование генома, начинают пересекаться и дополнять друг друга. Они больше не применяются только в узкоспециализированных сферах – напротив, уже во многих секторах можно наблюдать долгоиграющие последствия их применения. Технологии CRISPR-Cas9[13]13
  CRISPR-Cas9 – новая технология редактирования геномов высших организмов, базирующаяся на иммунной системе бактерий, которая дает возможность исправлять неправильные последовательности генов и таким образом лечить наследственные заболевания человека.


[Закрыть], применяющиеся при редактировании генома, могут, к примеру, стать ключом к нахождению лекарства от рака и значительно увеличить продолжительность жизни¹³. Такие технологии смогут перевернуть всю систему здравоохранения, социального страхования и вообще капитализма, каким мы его знаем сейчас.

3. Рекурсивный. Такие технологии, как ИИ, когнитивные вычисления и глубокое обучение, смогут в дальнейшем привести к рекурсивным (т. е. самоусилительным) усовершенствованиям (т. е. усовершенствованиям систем самих себя). Уже можно, к примеру, наблюдать первых роботов, которые могут сами себя обновлять и перепрограммировать и контролировать состояние энергосети, от которой зависит их функционирование. Все это может привести к так называемому взрыву интеллекта. Профессор Оксфордского университета Ник Бостром утверждает, что подобный прогресс может привести к возникновению суперинтеллекта – систем ИИ, которые смогут обучаться быстрее людей и интеллектуально превзойти нас во всех смыслах¹⁴. Если мы можем создать ИИ с уровнем IQ 50, что же остановит нас от разработки ИИ с IQ 50 000 и что произойдет, если мы это сделаем?

К счастью, суперинтеллект еще не является предметом для беспокойства в нашем ближайшем будущем. Однако у нас и без него проблем хватает: отслеживание нашей жизни в интернете, скрытые камеры повсеместно, ослабление конфиденциальности, потеря анонимности, хищение электронных личных данных, цифровая безопасность. Поэтому я и считаю, что основа для будущего (оптимистичного или антиутопического) закладывается здесь и сейчас.

Мы находимся на критически важном этапе и должны целостно оценивать ситуацию и проявлять большую дальновидность в наших действиях, осуществляя строгий надзор за технологиями, которые могут в дальнейшем получить над нами бо́льшую власть, чем мы могли себе представить.

Мы больше не можем позволить себе существовать по принципу «поживем – увидим», если и дальше хотим сохранять контроль над своей жизнью и ее развитием. Вопрос, заслуживающий нашего внимания, заключается в том, чтобы оставаться и в будущем людьми, пока мы будем заниматься развитием технологий, изменяющим человечество навсегда.

Мы не должны позволять свободным рынкам, предпринимателям и военным организациям принимать решения за нас. Будущее человечества не должно строиться в соответствии с устаревшими порядками индустриального общества восьмидесятых годов, в котором за высшее благо почитались прибыль и рост любой ценой. Несмотря на то что технологии являются источниками огромных доходов и генерируют значительную прибыль, ни Кремниевая долина, ни наиболее технологизированные страны не должны становиться «центром управления человечества».

К счастью, в настоящее время еще соблюдается принцип 90/10: 90 % возможностей, которые открывают нам новые технологии, могут пойти на пользу человечеству, в то время как лишь 10 % уже оцениваются как негативные и вызывают беспокойство. Если нам удастся и дальше сохранить этот баланс или даже поднять соотношение до 98/2, то наши усилия будут не напрасны. В то же время эти проблемные 10 % могут быстро возрасти до 50 % (например, по неосторожности) или выше, если мы не придем к согласию по поводу того, как именно будем использовать технологии на благо человечества. Как видим, сейчас точно не самое лучшее время, чтобы пускать ситуацию на самотек и отстраненно наблюдать за ее развитием.

Искусственный интеллект и редактирование генома как два главных двигателя прогресса

ИИ – первая движущая сила в области экспоненциальных технологий; ее можно определить как разработку машин (программ или роботов), обладающих интеллектом и способных к самостоятельному обучению, т. е. это машины, способные думать как люди. Ожидается, что способности ИИ будут развиваться в два раза быстрее, чем остальные технологии, превосходя даже закон Мура и рост вычислительных мощностей¹⁵.

На сегодняшний день самая высокая опасность, связанная с искусственным интеллектом, заключается в том, что люди слишком рано начинают верить, что они его понимают.

– Элиезер Юдковский[14]14
  Элиезер Шломо Юдковский (англ. Eliezer S. Yudkowsky, р. 1979) – американский специалист по искусственному интеллекту, исследующий проблемы технологической сингулярности.


[Закрыть],¹⁶

Спутником ИИ на пути кардинальных изменений является геномная инженерия (human genom engineering), которая способна изменять ДНК человека так, чтобы положить конец некоторым или даже всем болезням, усовершенствовать наше тело и, возможно, даже остановить смерть. Все эти процессы будут возможны благодаря ИИ.

Эти два фактора окажут значительное влияние на жизнь человечества уже в ближайшие двадцать лет. Данная книга посвящена в основном ИИ и глубокому обучению, так как они уже сейчас имеют решающее значение для будущего и выступают ведущими факторами в развитии таких революционных технологий и направлений, как нанотехнологии, геномная инженерия и материаловедение.

Уподобиться богу?

Рэй Курцвейл, доктор наук и технический директор Google, оказавший значительное влияние на футурологию в общем и мою работу в частности, занимает позицию, которую я в этой книге постараюсь оспорить. Он предсказывает, что к 2025 году компьютеры превзойдут вычислительную мощность человеческого мозга, а к 2050-му отдельно взятый компьютер превзойдет мощность всех человеческих мозгов вместе взятых¹⁷.

Курцвейл утверждает, что эти изменения ознаменуют появление так называемой сингулярности – момента, когда компьютеры наконец превзойдут человеческий мозг по показанию вычислительной мощности. В этом случае человеческий интеллект сможет отойти от своей биологической природы, а компьютеры смогут независимо и, скорее всего, рекурсивно преодолеть свое изначальное программирование, что явится решающим моментом в истории человечества.

В конце 2015-го Рэй Курцвейл произнес следующую речь в Университете сингулярности[15]15
  Singularity University (сокращенно SU) находится в Кремниевой долине и является частной компанией, являясь одновременно университетом, мозговым центром и бизнес-инкубатором.


[Закрыть]:

Эволюционируя, мы приближаемся к Богу. Эволюция – это духовный процесс. В мире есть красота, любовь, творчество и интеллект, и все это заключено в неокортексе[16]16
  Неокортекс – новые области коры головного мозга, отвечающие за высшие нервные функции: сенсорное восприятие, выполнение моторных команд, осознанное мышление и речь.


[Закрыть]. Так что мы будем заниматься разработкой неокортекса мозга и таким образом уподобимся Богу¹⁸.

Я разделяю взгляд доктора Курцвейла на будущее компьютеров, которые смогут уподобиться мозгу человека, но – с Богом или без – я не думаю, что мы должны расплачиваться нашей человечностью за возможность обрести неограниченный небиологический интеллект. Мне кажется, что это плохая сделка, шаг назад, а не вперед, и в этой книге я попытаюсь объяснить, почему так твердо убежден в том, что человечеству не нужно вступать на этот путь.

Сейчас у компьютеров еще не хватает мощностей, необходимых для осуществления предсказаний Курцвейла. Чипы еще слишком большие, сети не настолько быстрые и электросеть не в состоянии обеспечить энергией машины подобной производительности. Разумеется, это всего лишь временные трудности, ведь мы каждый день слышим о новых прорывах в науке, а также подозреваем о секретных лабораториях, в которых проводятся инновационные разработки.

Нам нужно быть готовыми к сингулярности: открытыми, но способными к критике, научными, но гуманными, любопытными, но осторожными. Предпринимательский дух в нас не должен заглушать заботу о процветании общества.

Научная фантастика становится научной реальностью

Скоро машины уже смогут справляться с любым трудом – как физическим, так и умственным: понимать язык, различать сложные изображения или умело использовать наше тело, приспосабливая его к различным ситуациям. К этому времени мы уже, несомненно, будем полностью зависеть от машин во всех сферах жизни. Мы также будем свидетелями соединения человека и машины в одно целое благодаря таким технологиям, как дополненная реальность (ДР), виртуальная реальность (ВР), голограммы, импланты, интерфейс «мозг – компьютер» (ИММ) и создание частей тела с использованием нанотехнологий и синтетической биологии.

Кто же будет решать, что есть человек, когда в нашей крови будут плавать наноботы, а в мозгу будут установлены коммуникационные импланты? Если у технологий нет и не должно быть этики, что тогда случится с нашей моралью, нормами поведения и социальными договоренностями, когда машины будут управлять всем вместо нас?

Несмотря на заверения ИИ-евангелистов[17]17
  ИИ-евангелист – специалист, профессионально занимающийся пропагандой в сфере искусственного интеллекта.


[Закрыть], я считаю, что в обозримом будущем машинный интеллект не будет снабжен эмоциональным интеллектом для решения этических дилемм, потому что машины – не живые существа, а дупликаты и симуляторы.

Разумеется, по прошествии некоторого времени машины научатся считывать, анализировать и, возможно, даже понимать наши системы ценностей, социальные контракты, мораль и верования – но они никогда не смогут стать частью этого мира и существовать в нем так, как в нем существуем мы (что немецкие философы называют бытием-в-мире (dasein)).

Но все же будем ли мы жить в мире, где данные и алгоритмы восторжествуют над тем, что я называю андроритмами, – всем тем, что делает нас людьми? (Далее в книге я подробно объясню, что я понимаю под андроритмами.)

Последовательные удвоения от 4 до 8 и от 16 до 32 имеют весьма разное абсолютное приращение по сравнению с удвоениями от 0,1 до 0,8. Сегодня это наш самый главный вызов: мы должны представить экспоненциально иное будущее и стать его проводниками, несмотря на то что его сложность может стать выше нашего понимания. Для этого нам придется определенным образом развивать в себе экспоненциальное воображение.

Сначала постепенно, а потом сразу

Наилучшим объяснением сути экспоненциального роста мне представляется цитата из произведения Эрнеста Хемингуэя «И восходит солнце»:¹⁹

– Как вы обанкротились?

– Двумя способами. Сначала постепенно, а потом сразу.

Размышляя о создании будущего, необходимо держать в голове эти мемы-близнецы: один – про экспоненциальность, и второй – про «постепенно, а потом сразу». Оба они являются ключевыми понятиями в этой книге. Постепенно мы станем замечать робкие предзнаменования больших возможностей или большой угрозы. А затем они либо вдруг сразу исчезнут, либо останутся здесь, сейчас и в гораздо больших масштабах, чем мы предполагали. Солнечная энергия, беспилотные автомобили, цифровая валюта, блокчейн – очень долгое время ушло на их развитие, но вот они здесь, переживают колоссальный подъем.

История учит нас, что те, кто слишком медленно приспосабливаются или не в состоянии предусмотреть опасность, будут вынуждены нести ответственность за последствия этого.

Если мы будем продолжать и дальше ждать у моря погоды, то скоро заметим, как станем ненужными, устареем, а затем и вовсе исчезнем. Поэтому нам нужна другая стратегия, чтобы сохранить нашу человечность в этом быстро меняющемся мире.

Рынок уже не сможет разрешить сложившуюся ситуацию посредством «невидимой руки». Открытые рынки, регулируемые ростом и прибылью, неизбежно приведут к обострению проблем между людьми и технологиями, так как прибыль, получаемая от продажи последних, оценивается в триллионы долларов в год. Разумеется, перед лицом такой многообещающей возможности для бизнеса никто не остановится перед замещением человеческих проявлений технологиями.

Питер Диамандис, член совета Human Longevity Inc.[18]18
  Human Longevity – компания, основанная в Сан Диего, Калифорния, США в 2013 году Крейгом Вентером и Питером Диамандисом. Среди ее целей – собрать наиболее подробную в мире базу генотипов и фенотипов человека и с применением машинного обучения ИИ найти и разработать новые способы борьбы со старением.


[Закрыть], утверждает, к примеру, что увеличение продолжительности жизни приведет к увеличению доли глобального рынка США до 3,5 триллиона долларов²⁰. Такие незначительные проблемы, как сохранение человечности, вряд ли станут препятствием на пути осуществления этих умопомрачительных возможностей.

За пределами управляемости

В конце концов, речь идет о выживании и процветании всего человечества, и я не думаю, что венчурные капиталисты, фондовые рынки и военные вправе распоряжаться ими по собственному усмотрению.

В ближайшем будущем мы станем свидетелями мировоззренческих сражений обладателей различных экономических интересов, что-то вроде противостояния гуманистов и трансгуманистов[19]19
  Трансгуманизм – философская концепция, поддерживающая использование достижений науки и технологии для улучшения умственных и физических возможностей человека с целью устранения нежелательных аспектов человеческого существования – страданий, болезней, старения и смерти.


[Закрыть]. Сейчас нефть и прочие ископаемые виды топлива истощаются и прекращают быть главной причиной столкновения международных военных интересов, и США и Китай уже готовятся запустить технологическую гонку вооружений.

Новые войны будут цифровыми, и битвы в них будут вестись за лидерство в экспоненциальных областях, таких как ИИ, изучение генома, интернет вещей, цифровая безопасность и цифровое оружие. Страны Европы (и особенно Швейцарию) в сложившейся ситуации больше волнуют вопросы о высоком: права человека, счастье, этика, сохранение баланса и устойчивое коллективное благосостояние. Мне представляется, что изучение этих проблем также открывает большие возможности для Европы, и далее в книге я остановлюсь на них подробнее.

Огромное количество ученых, лидеров общественного мнения, венчурных капиталистов и различного рода технических гуру (в т. ч. и футурологов) выступают за быстрый и добровольный отход от гуманизма.

Эти фанаты технического прогресса призывают «преодолеть человека» и радостно вступить на следующую ступень эволюции – слить воедино биологию и технологии, модифицировать и возвысить наш ум и тело, стать сверхлюдьми, уничтожить болезни (хорошо) и смерть – заманчивая и странная перспектива.

Интерес к трансгуманизму все возрастает, но мне он кажется наиболее опасным явлением из всех, что я как футуролог мог наблюдать за последние пятнадцать лет. Достижение счастья для людей путем полного растворения их же человеческой сущности в новых технологиях кажется довольно бредовой идеей.

Золтан Иштван, защитник трансгуманизма и кандидат в президенты США 2016 года, и философ Джесси И. Бейли[20]20
  Джесси И. Бейли (англ. Jesse I. Bailey) – Ph.D., преподаватель философии в Университете Священного Сердца, штат Коннектикут, США.


[Закрыть] высказывают следующие противоположные взгляды по данному вопросу.

Сторонник. Иштван пишет следующее в своем романе «Ставка на трансгуманизм» (2013):

Смелое знамя трансгуманизма поднимется. В этом уже не может быть никаких сомнений. Его возникновение обусловлено недемократической природой технологий и нашим эволюционным развитием. За ним – будущее. За нами – будущее, нравится вам это или нет. Направлять будущее и управлять им должны сильные и мудрые ученые-трансгуманисты, которых будут поддерживать их страны и предоставлять им необходимые для этого ресурсы. При переходе к трансгуманизму нужно соблюдать осторожность, чтобы не принести себя в жертву его всепоглощающей силе или же нашей боязни спровоцировать эту силу.

Необходимо направить ресурсы на развитие технологий. На образование. На университеты, промышленность и новые идеи. Инвестировать в то сильное, яркое и лучшее, что есть в нашем обществе. И тогда мы сможем достичь будущего²¹.

Гуманист. В научном издании The Journal of Evolution and Technology Бейли высказывает противоположную точку зрения.

Я считаю, что, желая уничтожить смерть как основание нашего бытия-в-мире (человеческого существования), трансгуманизм отходит от необходимости разработки грамотного отношения к технологиям, к истине и к самому бытию-в-мире.

Трансгуманисты обычно делают одно из двух заявлений: либо наше тело сможет жить тысячи лет, либо наше сознание можно будет загружать в другие тела. Каждая из этих позиций (слегка, но все же разными способами) отчуждает человека от его телесной завершенности.

Хайдеггер рассматривает бытие-к-смерти (being-toward-death) как основную гарантию сохранения индивидуальности, когда мы оказываемся под угрозой растворения в «других» (the they-self) (которые оказываются заключены в технологические рамки). Таким образом, выступая за потерю осознания нашей конечности, трансгуманизм также ликвидирует призыв к аутентичности, как и саму ее необходимость²².

Становится ясно, что технологический детерминизм – не лучшее решение, и основной девиз Кремниевой долины «Почему бы нам просто не продолжать изобретать, веселиться, делать деньги и заодно пытаться упростить жизнь миллионам людей с помощью этих чудесных новых технологий?» не только говорит о лени, но и может в итоге привести к таким же опасным последствиям, как и луддизм[21]21
  Луддизм – критика влияния научно-технического прогресса на человека и общество; борьба с достижениями инновационных технологий.


[Закрыть].

В этой книге, в противовес картезианским и редукционистским взглядам трансгуманистов (т. е. упрощенным взглядам на мир и человечество как на огромную машину), я приведу другое мировоззрение – философию цифровой эры, которую я иногда называю экспоненциальным гуманизмом. С ее помощью мы сможем найти срединный путь, который позволит нам принять развитие технологий, но не превратиться в них, и использовать их как средство, а не как цель.

Чтобы обеспечить безопасное будущее, мы должны инвестировать не только в развитие технологий, но и в нас самих. Необходимо приложить значительные усилия (материальные ресурсы и проч.) в определение и обоснование нового экспоненциального гуманизма, который, несмотря на все наши несовершенства и недостатки, поможет сохранить наш мир благоприятным для жизни. Инвестировать только лишь в развитие технологий будет недостаточно, коль скоро мы во всем станем полагаться на машины, но перестанем даже понимать, как они работают.

Если мы не примем меры, я боюсь, что экспоненциальный неконтролируемый рост интеллекта в областях ИИ, роботостроения, биоинженерии и генетики приведет к систематическому пренебрежению главными принципами человеческого существования, ведь у техники нет этики – а общество без этики обречено.

Эта дихотомия проявляется всюду: все, что может быть оцифровано, виртуализировано, роботизировано, – будет, но есть такие вещи, которые нельзя автоматизировать – потому что они делают нас людьми.

Эта книга рассказывает о том, куда нас могут привести экспоненциальные технологии в ближайшие десять лет, что окажется на кону, и объясняет, что мы можем сделать сегодня, чтобы предотвратить негативные последствия. Независимо от личных философских или религиозных взглядов, все, пожалуй, согласятся, что технологии уже настолько заполнили нашу жизнь, что любой дальнейший экспоненциальный прогресс должен стать основанием для нового вида дискуссии, чтобы определить, куда и зачем он нас ведет. И вот сейчас, когда технологии в буквальном смысле готовы ворваться в наши тела, нам пора посовещаться – и этот разговор обещает быть самым главным из тех, что еще предстоят человечеству.