Текст книги "Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами"

Нынешние невероятные налоговые льготы и меры поддержки корпораций могут эволюционировать в специальные экономические зоны, которые приведут к созданию «государств в государстве» – с собственными законами и правилами, системами социальной поддержки и безопасности и специальными корпоративными органами для рассмотрения споров. Корпорации уже начали движение в этом направлении и даже особо не скрываются: государственную социальную систему поддержки населения все чаще замещают корпоративные сервисы и платформы. В конце концов, население проголосует за тех, с кем комфортнее, не так ли? А работники и граждане корпоративных «квазигосударств» проголосуют так, как им скажет начальство, лишь бы сохранить рабочее место.

Если государства начнут сопротивляться, принимая запретительные меры, возбуждая громкие налоговые дела, лишая компании господдержки и арестовывая топ-менеджеров, то корпорации могут на это ответить бойкотом, отключением части критических сервисов или даже искусственно спровоцировать экономический и социальный кризис, чтобы политикам было чем заняться. На фоне искусственных или естественных кризисов в ряде стран к власти будут приходить корпорации или контролируемые ими политики, а после преодоления трудностей могут и не захотеть уходить. Возможно, дойдет даже до вооруженных конфликтов между корпоративными армиями и госвойсками.

Корпоративно-государственное противостояние может привести не только к кризису легитимности государств и сворачиванию «устаревших» демократических институтов, но и к полному пересмотру базовых принципов организации экономики и общества. Победа одних означает путь к госкапитализму с отмиранием корпораций и крупных частных компаний, победа других – к росту влияния корпоративных элит, дикому капитализму и безудержному извлечению прибыли с существенным снижением роли государств в мировой политике и экономике. А в случае консенсуса сформируются принципиально новые гибридные корпоративно-государственные структуры управления.

Возможный сценарий «Неофеодализм»

Суверенитет корпораций – Новая кастовая система

2025 год – Корпорации получают особые экономические зоны с собственной юрисдикцией.

С расширением объемов государственных субсидий и поддержки через лоббизм и финансирование политиков корпорации устанавливают свои законы, налоги и правила внутри таких анклавов.

2026 год – Корпорации начинают выпускать собственные валюты и предоставлять финансовые услуги.

ИТ-компании проникают в «нетрадиционные» для себя индустрии и рынки, скупая стратегические активы, энергетическую и логистическую инфраструктуру. Частные армии и спецслужбы корпораций, выросшие из отделов экономической и кибербезопасности, получают все более широкие полномочия в зонах корпоративных интересов.

2028 год – Транснациональные корпорации входят в конфликт с государствами из-за растущего влияния.

Корпорации все активнее саботируют невыгодные им законы, самостоятельно вводя санкции против «недружественных» стран, разрушая неудобные общественные и государственные институты через злоупотребления судебной системой. Корпоративное гражданство постепенно вытесняет национальное в кругах элит.

2030 год – Корпорации претендуют на место за столом глобального управления наравне с государствами.

Большая двадцатка (G20) – клуб правительств и глав ЦБ государств с наиболее развитой и развивающейся экономикой, преобразовывается в клуб правительств, глав ЦБ и глав крупнейших ТНК (G20+C20). К этому моменту капиталы в распоряжении корпораций превышают ВВП ряда стран, а их силы безопасности могут соперничать с государственными армиями.

2032 год – Усиливаются трения между корпорациями и странами, не желающими терять суверенитет.

Корпоративные альянсы становятся геополитическими структурами, при необходимости блокирующими «мятежные» правительства и финансирующими оппозицию. Корпорации нередко используют частные военные компании (ЧВК) и инструменты информационного воздействия для поддержки переворотов в развивающихся странах. Мир разделяется на сферы влияния корпораций, а государства стремительно теряют контроль над экономикой.

2034 год – Крупнейшие корпорации фактически подменяют собой государства на подконтрольных территориях.

Внутренняя и внешняя политика государств-марионеток полностью диктуется корпоративным режимом. Бывшие государства становятся налоговыми и законодательными «офшорами», «прокси», через которые действуют корпорации, фактически являясь теневым правительством. Межкорпоративные конфликты и войны принимают глобальный характер, а мир погружается в неофеодализм.

Закручивание гаек во имя общественного блага

Доктор, доктор, пожалуйста! Ох, в каком бардаке я нахожусь. Доктор, доктор, пожалуйста! Ох, я просто не могу победить.

UFO «Doctor, Doctor», альбом «Phenomenon», студия Chrysalis, 1974

Жительнице штата Аризона позвонила плачущая дочь и сказала, что попала в беду, а затем трубку взял мужчина и сообщил, что сделает с девочкой нехорошие вещи, если не получит выкуп. Все обошлось, девочка была в безопасности, просто мошенники сгенерировали ее речь при помощи искусственного интеллекта. Но мать была уверена, что голос и плач – в точности как у ее дочери. Похожая ситуация произошла с мужчиной из штата Огайо, у которого требовали выкуп в размере $5000 за «похищенную» дочь. Хорошо, что его коллега не растерялся и позвонил девочке, чтобы убедиться, что она в школе и с ней в все порядке.

Публикации в социальных сетях предоставляют виртуальным «похитителям» достаточно образцов голоса, чтобы выдать себя за родственника практически любого современного человека. Кроме выкупа они могут требовать совершить диверсию или иное преступление, ведь родитель в состоянии аффекта пойдет на что угодно. Поэтому в США (а потом и по всему миру) подобные шокирующие истории, связанные со злоупотреблениями персональными данными и кражей личности, будут максимально использоваться для усиления контроля за гражданами под видом заботы о национальной безопасности. Ну действительно, почему бы не собрать базу данных голосов всех граждан, чтобы установить у телеком-операторов оборудование для их идентификации? Разумеется, все ради защиты детей.

С одной стороны, защита данных граждан – это вопрос национальной безопасности. С другой стороны, государства реагируют на запрос, появившийся в результате скандалов, связанных с утечками и злоупотреблениями. Наконец, они ощущают все возрастающую конкуренцию со стороны корпораций.

В 2021 году российская компания Xsolla, предоставляющая платежные услуги, уволила сразу 150 сотрудников. Ее генеральный директор и основатель Александр Агапитов разослал работникам письмо, в котором говорилось, что они уволены на основании анализа больших данных об их деятельности. Многие осудили действия компании, расценив это как тайный шпионаж за сотрудниками.

В 2022 году регулирующие органы Великобритании оштрафовали на $9,4 млн американскую компанию Clearview AI, создающую ПО для распознавания лиц. Она собирала изображения людей из Великобритании и других стран в интернете и социальных сетях для глобальной онлайн-базы, которую правоохранительные органы могут использовать для распознавания лиц, что оказалось нарушением закона Великобритании о защите данных.

В США государственным служащим запрещено устанавливать на рабочие устройства TikTok из-за сомнений в политике использования личных данных. Резкий скачок популярности сервиса и недоверие к китайским компаниям привели к тому, что генерального директора видеоплатформы Шоу Ци Чу вызвали на слушание в Конгресс США. Несмотря на то, что конгрессмены показали себя не самыми технически подкованными участниками диалога, TikTok и правда собирает огромное количество данных о пользователях.

Государства встают на путь ужесточения регуляции, и хотя разные страны делают это по-разному, но к зарубежным акторам все относятся более жестко, чем к отечественным.

Еще в 2018 году в ЕС вступил в силу Общий регламент по защите данных (GDPR), направленный прежде всего на предоставление гражданам контроля над собственными персональными данными и упрощение нормативной базы для международных экономических отношений путем унификации регулирования в рамках ЕС. В США, в зависимости от штата, действует несколько различных регуляторных актов, но самые заметные из них были введены в 1998 году. Закон Грэмма – Лича – Блайли требует защиты конфиденциальности данных пользователей от любой финансовой организации, а «Закон о защите конфиденциальности детей в интернете» запрещает собирать персональные данные детей до 13 лет без ведома их родителей.

В Китае с 2021 года действует «Закон о защите персональной информации» (PIPL), направленный на защиту физических лиц, общества и национальной безопасности от вреда, который может быть причинен злоупотреблениями и нарушениями при обработке информации, относящейся к личности человека. Также на территории КНР действует «Закон о безопасности данных» (DSL), требующий локализации данных, собранных иностранными и отечественными организациями о китайских гражданах, и запрещающий их экспорт технологическими компаниями без предварительной «проверки кибербезопасности», процесс которой остается неясен.

Закон, принятый летом 2023 года после массовых беспорядков в Париже, позволяет французской полиции удаленно включать камеры, микрофоны и геолокацию на любых девайсах. Разумеется, он касается не добропорядочных граждан, а только злых подозреваемых и всяких там преступников. Но самое интересное – это «чувствительные профессии», которые исключаются из действия закона, например, члены парламента, принимающие эти самые законы. Являются ли преступниками люди, выходящие протестовать на улицы, пока непонятно.

Если вы читали изданный в 1949 году роман-антиутопию Джорджа Оруэлла «1984», то наверняка помните про двоемыслие: «Война – это мир, свобода – это рабство, незнание – сила». Мне кажется, прогрессивные государства уже близки к реализации первых двух пунктов. А третий успешно реализует генеративный искусственный интеллект в течение ближайших нескольких лет.

Французский министр юстиции, убеждая, что закон будет применяться максимум пару десятков раз в году, добавляет (я не шучу, это практически цитата): «Мы далеки от Оруэлловского тоталитаризма, закон спасет жизни людей». Закручивание гаек всегда происходит во имя общественного блага, и в этом направлении «демократии» будут бежать быстрее «авторитарных режимов», потому что для них общественное благо ценнее – вот такой парадокс.

В Германии набирает обороты националистическая, правопопулистская и евроскептическая (Брексит[34]34
  Brexit (англ. Britain (Британия) + exit (выход)) – прекращение членства Великобритании в Европейском союзе по итогам национального референдума, проведенного из-за растущего недовольства британцев участием страны в Евросоюзе на фоне экономического кризиса.


[Закрыть], похоже, был первым звоночком) партия «Альтернатива для Германии». Пока французы жгут автомобили, глава немецкого профсоюза полиции прогнозирует беспорядки, ссылаясь на «преобразования на рынке труда, цифровизацию или интеграционные вызовы». Топ-менеджеры уже открыто заявляют, что их работники не успевают адаптироваться к стремительному развитию искусственного интеллекта, и непонятно, что с этим делать, кроме введения глобальных ограничений на разработку, которые вряд ли будут приняты (и даже в случае принятия все равно найдется способ их обойти).

Кажется, вся эта турбулентность сводится к одному простому тезису: люди хотят кушать регулярно, поэтому недовольны игрищами политиков, забывающими об интересах своих избирателей. Что нас может ожидать в среднесрочной перспективе?

1. Климатические мигранты и обострение проблем мирового голода. Люди поедут из тех мест, где очень жарко и не растет еда, в страны с другой культурой.

2. Потеря рабочих мест самыми незащищенными, за которых придется кому-то заплатить, иначе они выйдут с вилами на улицы. Ну и опыт 2007–2008 годов подсказывает, что когда незащищенные перестают платить по кредитам, может случиться ипотечный кризис, перерастающий в мировой финансовый.

3. Обострение проблем ментального здоровья по целому ряду причин. Есть вероятность, что когда начнутся массовые бесконтрольные манипуляции с применением ИИ, у многих «кукуха» просто не справится.

Государства будут стараться не допустить социальных взрывов по-разному:

1. Очевидный и проверенный временем путь – раздавать вертолетные деньги, поставляемые печатным станком, а с инфляцией пусть разбираются следующие администрации.

2. Огораживаться от «чужих», чтобы своим больше досталось. Проще всего это делать под соусом национальной безопасности, потому что не пускать к себе в страну по этническому или национальному признаку пока еще неприлично, хотя с россиянами точечные эксперименты проводятся.

3. Закручивать гайки и усиливать меры контроля. При хорошей реализации общество получает безопасность в обмен на щепотку гражданских свобод, при плохой – идет прямой дорогой в гетто.

Проблема в том, что на завтрашние вызовы контрпродуктивно отвечать вчерашними инструментами. Вот простой пример: роботы уволили людей и производят продукцию эффективнее, но у людей без зарплаты не будет денег, чтобы ее покупать. В таком случае придется принять какие-то меры:

• продавать товары людям с зарплатами в другие страны, куда цифровизация не добралась;

• раздавать бесплатные деньги, что потребует повышения налогов и приведет к снижению покупательной способности валюты из-за печатного станка;

• придумывать механизмы бартера и взаимозачета, что означает плановую экономику и – вперед к коммунизму.

Возможный сценарий «Госкапитализм»

Национализация – Коллективизм

2025 год – Правительства ужесточают антимонопольное законодательство и усиливают регулирование корпораций.

2026 год – Государства национализируют стратегические отрасли экономики: энергетику, связь, транспорт.

Для контроля над крупным бизнесом и предотвращения злоупотреблений создают дополнительные регулирующие и контролирующие органы, облагают корпорации все более высокими налогами на прибыль, а возможности лоббистской деятельности ограничивают. Установка лимитов на размеры и рыночную долю корпораций и принудительное дробление монополий позволяет вытеснить частные компании из стратегических сфер, а их активы перевести под контроль государства.

2028 год – Государства берут под контроль финансовый сектор и ограничивают трансграничное движение капиталов.

2030 год – Формируется модель «государственного капитализма» с доминированием госсектора в экономике.

Независимость коммерческих банков и финансовых институтов ограничивают, их функционал остается только на уровне пользовательских интерфейсов. Центробанки напрямую кредитуют госкомпании и стратегические проекты, а частные компании вынуждены конкурировать за госзаказы и доступ к ресурсам. Рыночные механизмы отходят на второй план – экономическое развитие определяется госпланами и госпрограммами.

2032 год – Государства расширяют социальные программы, финансируемые за счет доходов госкомпаний.

2034 год – Госкапитализм переходит в тоталитарную фазу со всеобъемлющим контролем государства над экономикой.

Повсеместно вводятся системы бесплатного образования, медицины и жилья для лояльных режиму граждан, а редкое инакомыслие подавляют увольнениями и отказом в доступе к благам. Частный бизнес и частная инициатива практически исчезают, а свободный рынок заменяется прямым распределением ресурсов по госплану. Цифровые системы учета и распределения благ охватывают все аспекты жизни граждан и, благодаря предиктивным алгоритмам, полной оцифровке общества и средств производства, работают гораздо эффективнее, чем бюрократические попытки построения коммунизма XX века.

Глава 5
Коллективизм или индивидуализм?

Приведет ли технологическое неравенство к главенству интересов группы над интересами личности или технологии обеспечат максимум индивидуальной свободы от государств, корпораций и других людей?

Двойственная природа технологий

Никто не рискнул спросить его о делах, Никто не посмел допустить оплошность, Потому что у незнакомца на бедре была большая пушка, Большая пушка на бедре.

Marty Robbins «Big Iron», альбом «Gunfighter Ballads and Trail Songs», студия Columbia, 1959

Человек не существует в вакууме: он либо сам влияет на ход истории, будучи политиком, ученым, предпринимателем, либо объединяется с окружающими, чтобы менять окружающую среду эффективнее, быстрее и глубже. Работа с другими людьми настолько глубоко заложена в нашу природу, что именно с общением связаны особенности нашей памяти, мышления и даже некоторых инстинктов. У каждого объединения людей, будь то племя в лесах бассейна Амазонки или транснациональная корпорация, есть свои цели, средства, структура и внутренняя культура. Их целью почти всегда является сохранение группы, поддержка ее членов и реализация выгодных для них изменений с помощью доступных ресурсов. Именно ради изменений, выгодных различным группам, и трансформации взаимодействий между ними, создают политические альянсы, продают товары, вводят законы, разрабатывают и внедряют новые технологии.

В плане служения индивидуализму или коллективизму технологии имеют двойственную природу. С одной стороны, их куда проще разрабатывать и внедрять коллективно, когда есть общая цель и необходимые человеческие и финансовые ресурсы. С другой стороны, технологии дают индивиду доступ к новым ресурсам и возможностям, включая способы уклонения от навязываемой воли коллектива и противостояния ему. Когда-то огнестрельное оружие уравняло возможности людей из разных сословий, а шифропанки использовали интернет и криптографию (в которые изначально инвестировало государство, то есть коллектив) для защиты личного пространства и приватности, повышая уровень независимости отдельных индивидов.

Достигнутый прогресс в области искусственного интеллекта, солнечных панелей, телекоммуникационных спутников, устойчивых к неблагоприятной среде растений и прочих технологий был бы невозможен без коллективов, заинтересованных в их развитии. Но благодаря тем же достижениям, отдельный человек может жить самодостаточно в почти полной изоляции от общества: при должных навыках и техническом обеспечении у него будет пропитание, энергия и доступ в интернет.

Примечательно, что собственным физическим убежищем озаботился предприниматель, сделавший ставку на развитие метавселенных. Согласно результатам расследования журнала Wired, Марк Цукерберг строит на гавайском острове Кауаи подземный бункер общей площадью 464 кв. м в своем поместье стоимостью $270 млн. На площади в 566 гектаров разместится десяток зданий: по меньшей мере 30 спален с ванными, включая два отдельно стоящих особняка и 11 домов на дереве, фитнес-центр, гостевые коттеджи и помещения для обслуживающего персонала. Похоже, идея строительства бункера пришла к Цукербергу не вчера: он приобрел землю для проекта еще в 2014 году, подав против сотен гавайцев судебные иски о принудительной продаже участков, которые находились в зоне его интересов. Профессор права Гавайского университета даже назвал это «лицом неоколониализма».

Цукерберг далеко не единственный, кто стремится огородиться в собственном анклаве. По наблюдениям Стива Хаффмана, сооснователя и CEO социальной сети Reddit, больше половины миллиардеров из Кремниевой долины готовятся к апокалиптическим сценариям, закупая подземные бункеры и оружие. Их пример стимулирует желание иметь «запасной аэродром»: бывший менеджер Facebook Антонио Гарсия Мартинес тоже владеет парой гектаров на острове на Тихоокеанском Северо-Западе – в его доме есть генераторы, солнечные панели и оружие.

При должных навыках интернет, изначально разработанный военно-промышленным комплексом США, становится инструментом антиправительственных активистов. Этот активизм проявляется не только в лево-популистском движении Occupy Wall Street, направленном против экономического неравенства, корпоративной жадности и влияния денег, но и в многочисленных хакерских атаках группировки Anonymous на американские финансовые институты, и в публикациях утечек данных из корпораций и государственных органов, и в обсуждениях рядовыми американцами острых вопросов (например, стоит ли США снабжать Израиль оружием), ведущихся в запрещенных у нас социальных сетях.

При принятии решений коллектив зачастую руководствуется общественным благом, которое может расходиться с желанием индивида не иметь никаких ограничений. К примеру, Китай лидирует по количеству камер: 372 штуки на тысячу человек. При этом здесь существует множество зрелых технических решений, отлично адаптированных под местную специфику и способных точно распознавать людей в этой очень большой и достаточно гомогенной популяции. По мнению многих граждан Китая, система всеобщего видеонаблюдения сделала их страну безопасней. Однако китайские амбиции не заканчиваются лидерством в области видеомониторинга в своей стране – появилась информация о том, что Китай планирует установить на Луне крупнейшую систему видеонаблюдения для защиты «лунной собственности» и «оперативной реакции» в случае нарушений.

Официальная российская статистика также подтверждает связь видеонаблюдения и повышения уровня безопасности: в 2023 году при помощи системы «Безопасный город» в Москве удалось на 31 % сократить количество преступлений, совершенных в жилом секторе, а использование модуля «ПАРСИВ»[35]35
  ПАРСИВ (Подсистема автоматической регистрации сценариев индексирования видеоинформации) – полицейский модуль для подключения к единому городскому центру, в котором хранятся данные с камер видеонаблюдения.


[Закрыть] и системы «Сфера»[36]36
  Сфера – государственная автоматизированная информационная система видеоаналитики, работающая в Московском метрополитене, для распознавания лиц пассажиров, которые находятся в розыске.


[Закрыть] позволили установить 4325 лиц, находившихся в розыске, в том числе задержать 3897 человек за совершение преступлений.

Размещение дополнительных камер наружного наблюдения, которые ищут преступников и следят за общественным порядком, – благо для общества в целом, но вполне возможно – угроза для отдельных индивидов, у которых остается все меньше личных границ. Если вы находитесь в публичном месте, то в большинстве стран мира вас можно снимать на видео и выкладывать ваши неловкие попытки перепрыгнуть через лужу в социальные сети с перспективой превращения в интернет-мем.

Еще один пример индивидуальных ограничений ради общественного блага: в начале 2024 года в Калифорнии внесли на рассмотрение законопроект, требующий с 2027 года оснащать все производимые и продаваемые в штате автомобили ограничителями скорости, чтобы не позволять водителям ускоряться сверх определенного предела. Предположительно, технология будет использовать систему глобального позиционирования GPS и базу данных о скоростях на дорогах, чтобы автомобили не превышали разрешенную скорость больше, чем на 10 миль в час. То есть на шоссе с максимальным ограничением в 65 миль/час ехать быстрее 75 будет физически невозможно.

По данным Министерства транспорта США, треть смертей на дорогах связана с превышением скорости, причем в 2021 году число погибших при превышении скорости достигло 14-летнего максимума. Так что с точки зрения государства и общественной безопасности, это абсолютно очевидное решение, и если технологии позволяют запретить превышение скорости, то почему нет? Но возникают вопросы о последствиях подобной инновации:

• Не приведет ли она к появлению черного рынка программных и технических средств, снимающих ограничения?

• Кто и каким образом будет с ним бороться?

• Не появятся ли дополнительные издержки из-за более медленного движения автомобилей?

• Не приведет ли это к авариям, которых можно было бы избежать за счет резкого ускорения?

• К каким злоупотреблениям со стороны автопроизводителей и злоумышленников могут привести подобные ограничители?

• Смогут ли водители безопасно управлять автомобилем на территориях, где нет требований о таких ограничителях скорости?

Все это – примеры того, как государство (коллектив), имея больше ресурсов, чем любой индивид, способно использовать технологии для своих нужд и во имя общественного блага. В тех областях, которые сегодня представляют «дикий запад», неизбежно появится регулятор, который получит гранты и субсидии, внедрит технологии, сформирует правила и принудит к их исполнению – в отличие от индивида, который не обладает ни экспертизой, ни ресурсами, ни возможностями.

Примечательно, что коллективизм проще обеспечивать и поддерживать при высокой степени цифровизации. Цифровая прозрачность каждого человека позволяет эффективнее проводить государственную политику и удовлетворять интересы большинства. Государства, активно внедряющие системы мониторинга и контроля за гражданами, цифровые идентификаторы и профили для каждого человека, получают больше данных для анализа их поведения и предпочтений. А коллектив, имеющий инструменты для более эффективного анализа поведения и предпочтений своих членов, может точнее удовлетворять запросы людей, заранее отслеживая возможных отступников от принятых в обществе правил, законов или идеологии.

Все это делает коллективизм с высокой степенью цифровизации весьма стабильной конфигурацией общества. Индивид практически неспособен конкурировать с государством или корпорацией в технологическом поле: коллектив способен собрать деньги на постройку нового центра обработки данных, инвестировать в передовые алгоритмы и повысить точность принимаемых решений, а у отдельного человека на это нет ни денег, ни компетенций.

Коллективизм подразумевает подчинение интересов индивида требованиям группы окружающих его людей, взамен предлагая их поддержку. Какие требования будут предъявлять коллективы будущего к своим членам и какую поддержку им оказывать? Кто и как будет принимать решения о более достойных поддержки членах общества в ситуациях, где прежние парадигмы устарели? Уже сейчас мы видим, что в одних странах преференции получают ветераны, многодетные матери и люди с особенностями развития, а в других – квиры[37]37
  Квиры – собирательный термин, используемый для обозначения человека, чья сексуальность и (или) гендерная идентичность отличаются от большинства. Здесь и далее упоминаются факты, связанные с деятельностью международного общественного движения ЛГБТ, признаного в России экстремистской организацией.


[Закрыть] или мигранты, приезжающие в страну с единственной целью получить пособие по безработице.

В 2022 году ученые из Хэфэйского комплексного национального научного центра предложили искусственный интеллект для считывания эмоций, направленный на определение лояльности членов Коммунистической партии Китая. Система способна интерпретировать электроэнцефалограммы, мимику и электрическую активность кожи людей во время просмотра партийных информационных материалов. Испытуемые входили в специальную кабинку и садились перед экраном, на котором им демонстрировали материалы, пропагандирующие политику и достижения партии.

Система считывала и интерпретировала несколько параметров, а затем присваивала испытуемому баллы лояльности, учитывая эмоциональную реакцию, степень концентрации на материале и согласия с транслируемой пропагандой. Авторы и правительство с помощью этой системы собирались контролировать качество образовательных материалов политической направленности. В ходе испытаний системы такую проверку прошли по меньшей мере 43 члена компартии Китая. Однако идея подверглась критике общественности и мирового научного сообщества: большинство экспертов утверждали, что система будет использоваться для устрашения членов партии.

В мире, где каждый человек (или его цифровой двойник) уже взвешен и измерен, ответ напрашивается сам собой: блага должны распределяться согласно показаниям социального рейтинга, скрытого за умным алгоритмом, или публично отображаемого прямо в паспорте. Что станет с теми, чей рейтинг окажется слишком низким, чтобы соответствовать этим требованиям? Вряд ли они будут низведены до состояния рабов: у них наверняка даже останутся гражданские права и возможность распоряжаться своими телами и сознанием.

Это не безумный сценарий – сегодняшние американские миллениалы, в отличие от своих родителей или дедов, уже не способны купить дом или квартиру из-за роста инфляции и разрыва между доходами самых бедных и самых богатых. А с учетом турбулентности на рынке труда, вызванной внедрением искусственного интеллекта и алгоритмов автоматизации бизнес-процессов, ситуация будет только ухудшаться, так как давая людям доступ к новым ресурсам, технологии в то же время углубляют и усложняют социальное и экономическое неравенство в обществе.

Тем не менее, человек – существо социальное, и эволюция зашила нам на подкорку стремление объединяться в группы (или делиться на них), чтобы стабилизировать доступ к ресурсам и увеличить шансы на успешное выживание и размножение. Но человек также обладает разумом, который позволяет ему принимать решения, игнорируя инстинкты. Наступит ли момент, когда разработанная коллективом технология убъет нужду в коллективизме для выживания и доступа к материальным благам? Будет ли такой свободный от общества человек принадлежать к тому же виду Homo Sapiens, который вышел из колыбели в Африке и расселился по всей планете, или это уже другой вид?

Но и коллективистские строи общества невозможны без должного уровня развития технологий. Например, коммунизм куда проще построить в цивилизации, которая победила дефицит. Коллектив зачастую является заказчиком технологий, предназначенных для решения его задач. Выборы во многих странах, в том числе в США, демонстрируют недостаточную прозрачность процессов, а личные политические амбиции аппаратчиков нередко превалируют над верностью демократии. Не проще ли обеспечить демократию при помощи блокчейна и прозрачного голосования либо разработанного для этих целей ИИ? Или лучше обеспечить авторитаризм с культом вождя при помощи нейрочипов, синтетических органов и пренатальной корректировки личных и профессиональных треков? Ведь тогда вождь будет бессмертен, вера племени в него – неколебима, а народ – счастлив…

Выживает и становится успешным тот, кто наиболее приспособлен и адаптирован к окружающей среде, в том числе социальной. С помощью инструментов и технологий человек подчиняет и изменяет среду согласно своему пониманию выгоды. Тем самым развитие технологий неизбежно приводит к перестановкам в обществе. В ситуации наступившей блокчейн-демократии наименее приспособленные «лишние люди» будут торговать своим правом голоса – легально или нелегально. В Древнем Риме далеко не все жители могли участвовать в политической жизни, при этом оставались свободные люди, не имеющие политических прав, но сохраняющие гражданские. А в Спарте критерием выживания младенца было хорошее здоровье – неподходящих просто сбрасывали со скалы.

Какие дополнительные блага будут получать конформные люди, оцененные высоким рейтингом за социальную полезность? Если они и есть «лучшие люди», то почему бы не наделить их (и только их) правом принимать решения о развитии общества? Принадлежность к «лучшим людям» будут определять на основе разных методологий, но практически неизбежно – при помощи алгоритмов. Вполне возможно, что деглобализация с обострением холодных и торговых войн приведет к дополнительным преимуществам для отслуживших в армии. Вероятно, сама армия станет популярным выбором для «лишних людей»: даже сегодня во многих странах служба воспринимается как социальный лифт, стабильный источник дохода и уважаемая обществом деятельность.