Текст книги "Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе"

Китай не начинал обычной, традиционной войны с 1979 года, с китайско-вьетнамской войны. И на первый взгляд нельзя сказать, что у него были серьезные военные противники – он не был мишенью террористических атак, у него нет враждебных отношений со странами, которым обычно отводится роль неблагонадежных (Россия, Северная Корея), и нет врагов среди других государств. Почему же активизировалась армия?

Потому что войны будущего – это войны при помощи программного кода, а не при помощи рукопашного боя. Используя ИИ, военные могут дестабилизировать экономику другой страны, вместо того чтобы уничтожать ее сельское хозяйство и крупные города. С этой точки зрения, а также принимая во внимание неуклонное развитие ИИ, Китай далеко обогнал Запад.

С моей точки зрения, мы осознали происходящее слишком поздно. В ходе моих собственных встреч с сотрудниками Пентагона и Министерства обороны потребовалось много времени, прежде чем мы пришли к согласию относительно будущего боевых действий (код или традиционные боевые действия). Например, в 2017 году Министерство обороны учредило Межфункциональную рабочую группу по алгоритмическому оружию для работы над так называемым проектом Maven – системе глубокого обучения и распознавания образов, способной самостоятельно распознавать объекты на фотографиях и в видеороликах. В группе не было экспертов по ИИ, поэтому Министерство обороны обратилось за помощью к Google, чтобы те помогли им обучить системы ИИ, отвечающие за анализ снятого дронами материала. Но сотрудникам Google, занятым в проекте, никто не сообщил, что проект носит военный характер, и дело кончилось масштабным скандалом. Четыре тысячи сотрудников Google подписали петицию, направленную против проекта Maven. Они выкупили целую полосу рекламной площади в The New York Times, и в конце концов много сотрудников уволилось[120]120
  Kate Conger, “Google Employees Resign in Protest Against Pentagon Contract,” Gizmodo, May 14, 2018, https://gizmodo.com/googleemployees-resign-in-protest-against-pentagon-con-1825729300.


[Закрыть], а Google заявил, что не будет продлевать контракт с Министерством обороны.

Точно так же из-за контракта с Пентагоном на сумму в 10 млрд долларов попала под огонь критики компания Amazon. В октябре 2018 года член Комитета по ассигнованиям Конгресса США Том Коул, республиканец из штата Оклахома, и Стив Уомэк, республиканец из Арканзаса, обвинили Министерство обороны в сговоре с Amazon, заключавшемся в составлении контракта таким образом, что под его требования заведомо не подходила никакая другая компания из числа технологических гигантов. Но эта жалоба оказалась не единственной. Часть сотрудников компании выразила несогласие с ее политикой. Одни были недовольны, что Amazon вообще сотрудничает с вооруженными силами, другие – что ее система распознавания лиц используется правоохранительными органами. В ответ на это Джефф Безос заявил: «Если технологические компании отвернутся от Министерства обороны, наша страна окажется в беде»[121]121
  Nitasha Tiku, “Amazon’s Jeff Bezos Says Tech Companies Should Work with the Pentagon,” Wired, October 15, 2018. https://www.wired.com/ story/amazons-jeff-bezos-says-tech-companies-should-work-with-thepentagon/.


[Закрыть].

И если в США технологические гиганты пытаются пройти по лезвию ножа между требованиями национальной безопасности с одной стороны и полной прозрачности – с другой, отношения BAT с китайским государством носят прямо противоположный характер. Можно привести пример, от которого стынет в жилах кровь: нынешняя позиция американских военных заключается в том, что, как бы совершенны ни были системы ИИ, автоматические системы или роботы, в контуре управления обязательно должен присутствовать человек. Таким образом мы гарантированно никогда не дадим программе власти убивать. Для Китая это не так[122]122
  Stewart, “China Racing for AI Military Edge.”


[Закрыть]. Генерал-лейтенант НОАК Ли Гуоцзи, возглавляющий Комиссию по науке и технике вооруженных сил Китая, произнес фразу, звучащую как предупреждение: «Мы должны… воспользоваться возможностью изменить парадигмы»[123]123
  State Council, People’s Republic of China, “China Issues Guideline on Artificial Intelligence Development,” English.gov.cn, last modified July 20, 2017, http://english.gov.cn/policies/latest_releases/2017/07/20/ content_281475742458322.htm.


[Закрыть]. Таким образом он косвенно сообщил о намерении Китая дать своей военной мощи новое выражение.

Если же для вас не важны соображения военного и экономического преимущества, то китайское отношение к вопросам тайны частной жизни все же должно вызвать беспокойство. Опять-таки, почему это должно заботить вас, если вы не гражданин Китая? Потому что авторитарные правительства возникают постоянно, и, как правило, копируют методики своих успешных предшественников. При том росте национализма, который наблюдается сейчас в мире, китайский подход к использованию ИИ может служить примером для других стран в течение многих лет. Тем самым окажутся дестабилизированы рынки, торговля и геополитический баланс сил.

Стоит упомянуть еще об одной акции Китая, которую в будущем, может быть, назовут одним из самых масштабных и опасных социальных экспериментов. Китай использует ИИ, чтобы с его помощью создать послушное население. План Государственного совета по ИИ до 2030 года объясняет, что ИИ «существенно усовершенствует методику управления обществом» и «будет играть незаменимую роль в обеспечении общественной стабильности»[124]124
  State Council, People’s Republic of China, “Key AI Guidelines Unveiled,” English.gov.cn, last modified December 15, 2017, http://english.gov.cn/ state_council/ministries/2017/12/15/content_281475977265006.htm.


[Закрыть]. Достичь этой цели планируется при помощи так называемой системы социального кредита, которая, как говорится в заложившем ее основы документе Госсовета КНР, позволит «достойным доверия свободно перемещаться, в то время как дискредитировавшим себя будет трудно сделать хотя бы шаг»[125]125
  Elsa B. Kania, “China’s AI Giants Can’t Say No to the Party,” Foreign Policy, August 2, 2018, https://foreignpolicy.com/2018/08/02/chinas-ai-giants-cant-say-no-to-the-party/.


[Закрыть]. Впервые подобная идея была опробована в 1949 году, когда Коммунистическая партия пришла к власти и начала экспериментировать с технологиями управления обществом. Во времена правления Мао Цзедуна поддержание общественного порядка самими членами общества было нормой: рабочих отправляли в колхозы, где принудительно объединяли в бригады, и они получали очки соответственно количеству произведенного продукта. В бригаде каждый следил за поведением каждого, и доступ к общественным благам определялся по количеству очков. При Мао система потерпела крах, а в 1980-е годы еще один, поскольку люди, как выяснилось, не могут судить друг друга сколько-нибудь точно: они всегда руководствуются собственными нуждами, сомнениями и предубеждениями.

В 1995 году тогдашний президент КНР Цзян Цземинь пришел к мысли о необходимости соединить технологии управления обществом и высокие технологии, и к середине 2000-х годов китайское государство уже работало над созданием и внедрением автоматизированной системы рейтингов[126]126
  Ibid.


[Закрыть]. В партнерстве с Пекинским университетом оно создало Китайский центр кредитных исследований, задачей которого было подготовить инженерную основу для создания и реализации всекитайской системы социального кредита, основанной на ИИ. Именно этим отчасти объясняется такое большое внимание, которое уделяет ИИ нынешний президент страны. Ведь он обещает не только воплотить в жизнь идею, предложенную в самом начале истории Коммунистической партии, но, что важнее, сохранить за этой партией власть.

Внедренная в городе Жуньчэн система социального кредита уже показала, что ИИ работает. Каждому из 740 000 жителей города вначале присваивается по 1000 баллов, и в зависимости от поведения баллы прибавляются или вычитаются. Совершив «героический поступок», горожанин может заработать 30 очков, а проехав на красный свет, автоматически теряет 5 очков. Жители города распределяются по группам, обозначенным от A+++ до D, и именно принадлежность к той или иной группе определяет возможность свободно передвигаться. Человек, относящийся к группе C, рискует обнаружить, что должен внести залог, прежде чем арендовать велосипед, в то время как относящийся к группе А может получить его бесплатно на 90 минут. Причем рейтинги присваиваются не только отдельным людям – поведение компаний в Жуньчэне оценивается точно так же, и их деловые возможности определяются в первую очередь заработанной оценкой[127]127
  Ibid.


[Закрыть].

Направленные микрофоны и смарт-камеры, управляемые ИИ, установлены во многих местах на улицах Шанхая. Водители, слишком часто использующие звуковой сигнал, автоматически получают штраф[128]128
  John Pomfret, “China’s New Surveillance State Puts Facebook’s Privacy Problems in the Shade,” Washington Post, March 27, 2018, https://www. washingtonpost.com/news/global-opinions/wp/2018/03/27/chinas-newsurveillance-state-puts-facebooks-privacy-problems-in-the-shade.


[Закрыть] через Tencent WeChat, а их имена, фотографии и удостоверения личности выводятся на ближайшие рекламные щиты. Если водитель припаркуется на обочине более чем на семь минут, он получит еще один штраф. Причем штрафом дело не ограничится: водитель теряет баллы социального кредита. Как только показатель опустится ниже определенного уровня, человек столкнется с трудностями при покупке билета на самолет и при поиске работы. В сериале «Черное зеркало» есть эпизод, где показана подобная антиутопия в будущем. В Шанхае такое будущее уже наступило.

Наблюдение за гражданами на государственном уровне осуществляется при поддержке компаний BAT, которые, в свою очередь, получают поддержку за счет различных институциональных и индустриальных установлений. Так, кредитная служба Alibaba Zhima Credit не сообщала публично, что является частью государственной кредитной системы, тем не менее рассчитывает доступную тому или иному гражданину сумму кредита, исходя из того, что он покупает и кто его друзья в социальной сети Alipay.

В 2015 году директор по технологиям Zhima Credit признал, что покупка подгузников считается «ответственным» поведением, в то время как слишком продолжительное погружение в видеоигры рассматривается как отрицательный фактор[129]129
  Nicholas Wright, “How Artificial Intelligence Will Reshape the Global Order,” Foreign Affairs, July 10, 2018, https://www.foreignaffairs.com/ articles/world/2018-07-10/how-artificial-intelligence-will-reshape-global-order.


[Закрыть].

Давайте вернемся к уже обсуждавшейся выше теме «Облако китайской полиции»: оно создавалось для слежения за людьми с отклонениями в душевном здоровье, которые публично высказывали критику в адрес государства и принадлежали при этом к этническим меньшинствам. Так называемая Программа объединенных действий (Integral Joint Operations Program) использует ИИ, чтобы выявлять нарушения общепринятых стандартов поведения, например случаи перехода улицы в неположенном месте. Система социального кредита выставляет оценки гражданам и упорядочивает их согласно поведению, а системы принятия решений на основании этих оценок определяют, кто может получить кредит, кому можно путешествовать и даже в какую школу могут пойти их дети.

Робин Ли, один из основателей Baidu, утверждает, что в Китае неприкосновенность частной жизни не является столь важной ценностью, как на Западе. «В Китае люди более открыты и менее чувствительны к вопросам приватности, – сказал Ли, выступая на Китайском форуме развития в Пекине. – Если в обмен на нее они могут получить удобство, безопасность или эффективность, то с удовольствием пойдут на такой размен»[130]130
  Zhang Hongpei. “Many Netizens Take Issue with Baidu CEO’s Comments on Data Privacy,” Global Times, March 26, 2018, http://www.globaltimes.cn/ content/1095288.shtml.


[Закрыть]. Впрочем, дело скорее в наказаниях, ожидающих непослушных.

Я бы взяла на себя смелость утверждать, что система социального кредита предназначена не для укрепления позиций Коммунистической партии или обеспечения конкурентного преимущества перед теми, кто работает над ИИ на Западе. Скорее речь идет о мировом господстве и определении облика мировой экономики. В начале 2018 года президент Си Цзиньпин заявил государственному агентству новостей Синьхуа: «Затянув ремни и сжав зубы, мы изготавливаем две бомбы и один спутник», – отсылая таким образом своих слушателей к программе производства вооружений, принятой во времена Мао. «Дело в том, что мы используем преимущества социалистической системы. Мы концентрируем усилия на великих задачах. Следующий шаг – сделать то же самое в области науки и технологии. Нам следует отбросить ложные надежды и полагаться только на себя»[131]131
  Raymond Zhong, “Chinese Tech Giant on Brink of Collapse in New US Cold War,” New York Times, May 9, 2018, https://www.nytimes.com/ 2018/05/09/technology/zte-china-us-trade-war.html.


[Закрыть].

Си Цзиньпин отвергает идеи рыночной экономики, свободного Интернета, обширной экосистемы конкурирующих и взаимодополняющих идей. Экономика Китая, жестко контролируемая сверху, изолирует себя от конкуренции. Она стимулирует создание изолированных подсетей, в которых правила определяются физическим местоположением пользователя. Она приводит к централизации политики в отношении использования киберпространства, препятствует свободе слова, путем законодательного контроля проникает во все стороны жизни в третьей эпохе развития вычислительной техники: инфраструктура Интернета, глобальные потоки данных, аппаратные платформы – в каждой из этих областей все чаще требуется согласование с Пекином. Во время одного из своих публичных выступлений в 2016 году Си Цзиньпин сказал, что государство сохраняет за собой полную свободу действий в отношении защиты сетей, устройств и данных[132]132
  Samm Sacks, “Beijing Wants to Rewrite the Rules of the Internet,” Atlantic, June 19, 2018, https://www.theatlantic.com/international/archive/2018/06/ zte-huawei-china-trump-trade-cyber/563033/.


[Закрыть].

В значительной мере этот контроль будет осуществляться через вовлечение стран-участниц инициативы «Один пояс и один путь» в различные инфраструктурные и технологические пилотные проекты. В качестве одного из первых партнеров по пилотным проектам выбрана Танзания – и, возможно, отнюдь не совпадением объясняется то, что эта страна переняла у Китая многие аспекты его политики в отношении киберпространства и данных. Правительство Танзании получило техническую помощь от китайских партнеров, и один из высокопоставленных танзанийских чиновников заявил: «Наши китайские друзья научились блокировать подобные медиа в своей стране и заменили их собственными – безопасными, конструктивными и популярными»[133]133
  Ibid.


[Закрыть]. Примерно то же самое происходит в Африке повсюду. Вьетнам принял жесткие законы о киберпространстве по образцу китайских. По состоянию на июнь 2018 года Индия рассматривает возможность добавить в законодательство требование хранить данные о гражданах страны внутри нее и использовать отечественные средства обеспечения кибербезопасности[134]134
  Ibid.


[Закрыть].

Что, если Китай начнет влиять на своих партнеров по «Одному поясу и одному пути» таким образом, что одним из главных его экспортных товаров окажется система социального кредита? Легко представить себе в качестве ее покупателей автократические государства типа Турции или Руанды. Но что будет с другими странами, например Бразилией и Австрией, которые поддались искушению популизма и где на момент написания этой книги у власти находятся националистические лидеры? Что, если какой-нибудь государственный орган вашей собственной страны по доброй воле или по принуждению решит внедрить систему социального кредита, которая тут же станет следить за вами, не дожидаясь вашего однозначного согласия? Узнаете ли вы, что вам был присвоен рейтинг, и, возможно, такой, с которым вы оказались в списке лиц, подлежащих наблюдению?

Что, если иностранные компании будут распределены по группам и получат либо преференции, либо запрет на работу с Китаем – или даже друг с другом? Что, если по мере роста китайской экономики инструментом распространения подобной власти станут Интернет, гаджеты и даже сам ИИ?

Что, если Китай построит систему социального кредита для людей, находящихся за его границами, которая будет использовать данные из открытого и свободного Интернета и западных социальных сетей? Что, если он сохраняет все данные, которые вы оставляете за собой, посетив, скажем, Великую китайскую стену или Запретный город? И как насчет хакерских атак, о которых мы слышим время от времени и следы которых ведут в сети, расположенные в Китае?

Есть еще одна причина беспокоиться относительно планов Китая, и она возвращает нас туда, где зарождаются ИИ-племена: в университеты. Китай активно переманивает преподавателей из американских и канадских центров образования в области ИИ, предлагая им переезд на соблазнительных условиях, – и дефицит хорошо обученных специалистов по data science и машинному обучению уже ощутим. Утечка мозгов скоро создаст кадровый вакуум на Западе. Пока что это самый разумный ход Китая, потому что лишает Запад возможности конкурировать в будущем.

Кадровая политика Китая состоит в возвращении ученых на родину, это один из пунктов так называемого плана «Тысяча талантов». Быстрый рост компаний из группы BAT создал спрос на талантливых сотрудников – которые в большинстве своем учились в Соединенных Штатах и в настоящее время работают в американских фирмах и университетах. Эта программа нацелена на ведущих специалистов и штатных профессоров, которым в ее рамках предлагаются очень привлекательные в своем роде условия: внушительные личные доходы и ассигнования на исследовательскую работу, а кроме того, шанс присоединиться к научному сообществу, свободному от юридических и финансовых ограничений, привычных для Соединенных Штатов. Пока в рамках программы сменили место работы свыше 7000 человек, и все они получили разовый бонус от китайского правительства в 1 млн юаней (примерно 151 тыс. долларов), начальный бюджет на научную работу в 3–5 млн юаней (467–778 тыс. долларов), субсидии на покупку жилья и образование, средства на питание, компенсацию переезда, помощь супругам в поиске новой работы и даже поездки на родину полностью за счет работодателя[135]135
  “The Thousand Talents Plan: The Recruitment Program for Innovative Talents (Long Term),” Recruitment Program of Global Experts, http://1000plan.org/en/.


[Закрыть]. Все вернувшиеся в страну так или иначе в конце концов оказываются работающими на BAT.

Если ИИ для Китая – подобие «космической гонки» СССР и США, то сейчас у него есть все предпосылки для победы, и победы серьезной. За два последних года оказались пройдены несколько критически важных этапов развития ИИ, в то время как администрация Трампа уменьшила финансирование фундаментальной науки и технологии, направляя средства на другие цели, распространяла ложную информацию о влиянии ИИ на рынок труда, портила отношения с нашими стратегическими союзниками и неоднократно раздражала Китай изменением таможенных пошлин.

Мы вскоре придем к осознанию того факта, что наши верховные законодатели не имеют стратегии ни в отношении ИИ, ни в отношении нашего сколько-нибудь отдаленного будущего. Пустоту заполняют оппортунистические мероприятия и погоня за коммерческим успехом. Компании «Большой девятки» могут быть успешными сами по себе, но они не являются частью скоординированного плана приобретения и концентрации экономической и военной мощи в руках Соединенных Штатов. Кроме того, они никогда не согласились бы – и, наверное, не должны бы соглашаться – на участие в подобной схеме.

Как возникла американская часть «Большой девятки», сегодня знают почти все, но гораздо менее известно, какие изменения должны вскоре произойти в отношениях между этими компаниями, вашими данными и устройствами, которые вы используете.

Американские компании, входящие в «Большую девятку» – Google, Microsoft, Amazon, Facebook, IBM, Apple, – изобретательны, оригинальны и в целом ответственны за все основные достижения в области ИИ. Они функционируют как мафия в чистейшем (но не ругательном) смысле этого слова: это закрытая сеть людей со сходными интересами и биографиями, работающих в одной области и имеющих абсолютное влияние на наше будущее. В этот конкретный момент Google обладает наибольшей долей такого влияния на отрасль ИИ, на деловую жизнь, на функционирование государства и на нашу с вами ежедневную жизнь, так что в дальнейшем мы будем называть американские фирмы G-MAFIA[136]136
  Аббревиатура названий фирм: Google, Microsoft, Amazon, Facebook, IBM, Apple. – Прим. пер.


[Закрыть]. Неудивительно, что они вдохновили такую толпу подражателей в Китае и что им практически запрещено там работать. ИИ не был их начальной специализацией, но в последние годы все они сделали приоритетным направлением своей работы его коммерческую эксплуатацию и решают эту задачу при помощи исследований, партнерств, новых продуктов и услуг.

В Китае правительство контролирует группу BAT. В Соединенных Штатах G-MAFIA обладает значительной властью над правительством, во-первых, в силу рыночной экономики, во-вторых, в силу традиционно сильного неприятия американцами любых форм контроля над бизнесом со стороны государства. Однако у влияния, которым пользуется G-MAFIA, есть еще одна причина: законодатели в Вашингтоне попросту не обращали на нее внимания. Если президент Си Цзиньпин занимается консолидацией власти над внутренними делами страны и публично заявляет о своих планах достичь к 2030 году мирового лидерства в ИИ, то заместитель помощника Трампа по технологической политике Майкл Крациос заявил руководителям отрасли, собравшимся в Белом доме, что наилучшей стратегией для Америки будет предоставить Кремниевой долине возможность прокладывать свой курс самостоятельно, без вмешательства государства[137]137
  Tom Simonite, “The Trump Administration Plays Catch-Up on Artificial Intelligence,” Wired, May 11, 2018, https://www.wired.com/story/trump-administration-plays-catch-up-artificial-intelligence/.


[Закрыть].

В этой области существует дисбаланс сил: правительство Соединенных Штатов оказалось неспособно создать сети, базы данных и инфраструктуру, необходимые ему для работы, поэтому оно нуждается в G-MAFIA. Например, в 2019 году сумма платежей американского государства компании Amazon за использование облачных ресурсов, скорее всего, достигнет 4,6 млрд долларов, а другая компания Джеффа Безоса, занимающаяся частной космонавтикой Blue Origin, как ожидается, начнет участвовать в космических полетах в интересах НАСА и Пентагона. В Америке правительство нуждается в услугах G-MAFIA, и поскольку у нас рыночная экономика, а наши законы написаны в интересах бизнеса, влияние Кремниевой долины значительно. Позвольте прояснить мою мысль: я не против G-MAFIA как успешных и доходных компаний. Точно так же я не верю, что большие суммы денег – плохо в каком бы то ни было смысле. G-MAFIA не следует ни ограничивать, ни регулировать в ее стремлении к получению прибыли до тех пор, пока она не нарушает других законов.

В то же время их возможности не обходятся им даром. От G-MAFIA ждут полезных на практике и коммерчески успешных приложений ИИ как можно быстрее. Инвесторы привыкли, что в цифровом мире ценность компаний нарастает быстро, причем зачастую сама собой. Dropbox, платформа для обмена файлами, достигла капитализации в 10 млрд долларов всего через шесть лет после начала работы. Инвестиционная компания Sequoia Capital владела долей в 20 % компании, когда та провела начальное публичное размещение своих акций и довела их суммарную стоимость до 1,7 млрд долларов[138]138
  Ari Levy, “Dropbox Is Going Public: Here’s Who’s Making Money,” CNBC, February 23, 2018, https://www.cnbc.com/2018/02/23/dropbox-is-going-public-heres-whos-making-money.html.


[Закрыть]. В Кремниевой долине принято называть стартапы, цена которых превышает миллиард долларов, «единорогами», а те, которые, подобно Dropbox, превышают этот показатель в десять раз, известны как «десятироги». В 2018 году было достаточно единорогов и десятирогов, чтобы открыть в Кремниевой долине зоопарк, и некоторые из них стали партнерами G-MAFIA, включая SpaceX, Coinbase, Peloton, Credit Karma, Airbnb, Palantir и Uber. С быстрыми деньгами приходит и ожидание, что продукт или услуга начнут быстро отрабатывать инвестиции, благодаря либо своему широкому распространению, либо приобретению более крупной компанией, либо просто в силу рыночной шумихи.

У вас так или иначе есть отношения с G-MAFIA, даже если вы не используете ни один из их известных продуктов. «Теория шести рукопожатий» – способ выразить при помощи математики нашу связь друг с другом. Мы находимся в одном рукопожатии от наших знакомых, в двух – от знакомых наших знакомых и так далее. Рукопожатий между вами и G-MAFIA на удивление мало, даже если вы находитесь офлайн.

Две трети взрослых американцев сегодня используют Facebook[139]139
  John Gramlich, “5 Facts about Americans and Facebook,” Fact Tank (блог), April 10, 2018, http://www.pewresearch.org/fact-tank/2018/04/10/5-factsabout-americans-and-facebook/.


[Закрыть], причем большинство этих людей входят в социальную сеть как минимум раз в сутки, следовательно, даже если вы не пользуетесь ею, кто-то неподалеку от вас наверняка это делает. Между вами и Facebook два рукопожатия максимум, даже если вы никогда не ставили «лайк» ни одному посту, даже если вы удалили свою учетную запись. Приблизительно половина домохозяйств в Соединенных Штатах – подписчики Amazon Prime, поэтому между вами и Amazon – от одного до трех рукопожатий[140]140
  Elizabeth Weise, “Amazon Prime Is Popular, but in Three-Quarters of All US Homes? That’s Open to Debate,” USA Today, October 20, 2017, https://www.usatoday.com/story/tech/2017/10/20/amazon-prime – big-though-how-big-no-one-knows/784695001/.


[Закрыть]. Если вы хотя бы раз были на приеме у врача в последние десять лет, всего одно рукопожатие лежит между вами и компаниями Microsoft и IBM. У 95 % американцев есть смартфон[141]141
  “Mobile Fact Sheet,” Pew Research Center.


[Закрыть], таким образом, между ними и Google или Apple оказывается всего одно рукопожатие.

Просто в силу того, что вы жили в последние два десятилетия, вы генерировали данные для G-MAFIA, даже если не пользовались ее продуктами. Причина заключается в том, что мы приобрели огромное количество гаджетов и смарт-устройств, генерирующих данные, – мобильные телефоны, устройства GPS, смарт-колонки, умные телевизоры и DVD-рекордеры, камеры видеонаблюдения, фитнес-трекеры, беспроводные садовые видеокамеры, беспроводные устройства для занятий спортом. Есть еще одна причина – очень большая доля наших разговоров, покупок, работы, да просто повседневной жизни задействует платформы G-MAFIA.

В Соединенных Штатах третьим лицам разрешен доступ ко всем этим данным, если он осуществляется с коммерческими целями или ради расширения возможностей привычных нам систем. Уже сейчас можно совершать покупки на многих сайтах, используя данные кредитной карточки и адрес, хранящиеся на Amazon. На многие сайты можно войти, используя учетную запись Facebook. Возможность использовать G-MAFIA для получения услуг на сторонних сайтах опирается на весь массив генерируемых нами данных, в форме фотографий, аудиофайлов, видеороликов, биометрической информации, сведений об использовании тех или иных цифровых служб и так далее. Все наши данные хранятся в облаке – на самом деле это модное словечко обозначает, что программное обеспечение и данные находятся в Интернете, а не на устройстве пользователя. Неудивительно, что основных провайдеров облачных услуг всего четыре: Google, Amazon, Microsoft, IBM.

Вы обращаетесь к облаку как напрямую (скажем, создавая предназначенные для совместного использования документы и электронные таблицы Google), так и косвенным путем (когда ваш мобильный телефон автоматически синхронизирует фотографии с облачным хранилищем или просто копирует их туда). Если у вас есть iPhone или iPad, вы пользуетесь частным облаком Apple. Если обращались к сайту системы здравоохранения Healthcare.gov – значит, пользовались частным облаком Amazon. Если устраивали для своего ребенка вечеринку Build-a-Bear в торговом молле, чтобы отпраздновать его день рождения – что ж, эта служба использует для координации облако Microsoft. В последние десять лет облачные технологии прочно вошли в нашу жизнь, причем до такой степени, что мы не считаем их больше ни особенно интересными, ни стоящими внимания, ни увлекательными с технологической точки зрения. Они просто есть, как электричество или водопровод, и мы вспоминаем о них, только когда лишаемся доступа к ним.

Мы все генерируем данные и используем облака, слепо доверяя ИИ-племенам и созданным ими системам. При этом в Соединенных Штатах наши данные способны сказать о нас гораздо больше, чем номер в системе социального страхования, который нас приучили столь внимательно оберегать от чужих глаз. Зная этот номер, посторонний может открыть на ваше имя банковский счет или запросить кредит на машину. Используя данные, генерируемые вами в облаке, G-MAFIA может определить, не беременны ли вы, не считают ли ваши сотрудники вас некомпетентной, не боретесь ли вы со смертельной болезнью в терминальной стадии – и G-MAFIA, скорее всего, узнает это раньше вас. То, что они знают о вашей жизни столько, сколько мог бы разве что Всевышний, не обязательно плохо. На самом деле есть пути сделать нашу жизнь более здоровой и счастливой, разрешив анализ персональных данных и поиск закономерностей в них.

Какими бы могущественными ни выглядели искусственный интеллект и облака G-MAFIA, для них существует ограничивающий фактор: аппаратное обеспечение. Современная архитектура была достаточно хороша для продуктов со встроенным слабым ИИ, например спам-фильтра Google или функции «Визуальный автоответчик» на iPhone. В то же время она должна обеспечивать работу сильного ИИ, долгосрочной цели, уже видимой на горизонте. А для этого требуется аппаратное обеспечение, специально предназначенное для нужд ИИ.

Чтобы понять, почему для ИИ требуется особая аппаратная платформа, нужно вспомнить Джона фон Неймана, уже упоминавшегося нами ученого, разработавшего теоретические основы архитектуры современных компьютеров. В то время программы и данные для обработки загружались в вычислительную машину по отдельности, а в его архитектуре программы и данные хранились в памяти вместе. Именно архитектура фон Неймана по-прежнему определяет устройство наших ноутбуков и настольных компьютеров, в которых данные пересылаются между процессором и памятью. Если один из этих ресурсов в дефиците, то вы увидите сообщение об ошибке, а возможно, машина начнет нагреваться или просто отключится. Эта проблема известна под именем «бутылочного горлышка фон Неймана». Неважно, как быстро может работать процессор – память, содержащая данные, и память, содержащая программу, создают «бутылочное горлышко», ограничивая скорость передачи информации. Почти все наши современные компьютеры основаны на архитектуре фон Неймана, и проблема заключается в том, что существующие процессоры не могут исполнять программы быстрее, чем извлекают инструкции из памяти.

«Бутылочное горлышко» представляет собой серьезную проблему и для ИИ. Сейчас, когда вы разговариваете с Алексой или Google Home, ваш голос записывается, подвергается разбору и передается в облако – и только таким образом вы получаете ответ, причем нужно принять во внимание физическое расстояние до используемых центров обработки данных. Поразительно, что Алексе на ответ требуется всего пара секунд. По мере проникновения ИИ на все большее количество наших устройств – будь то смартфоны с биометрическими датчиками, или камеры видеонаблюдения, способные распознавать лица, или самоуправляемые автомобили, или прецизионные роботы, предназначенные для введения лекарства больному, – задержка в одну-две секунды может обернуться катастрофическими последствиями. Самоуправляемый автомобиль не может обращаться к облаку за каждым действием, потому что датчиков, собирающих для него информацию, слишком много.

Единственное решение заключается в том, чтобы перенести вычислительную мощность ближе к источнику данных и сократить таким образом задержку, заодно снизив требования к пропускной способности каналов связи. Подобная архитектура нового типа носит название граничных, или периферийных, вычислений и представляет собой неизбежный этап эволюции аппаратных платформ ИИ и системной архитектуры. Чтобы ИИ мог перейти на следующую стадию развития, аппаратное обеспечение должно выйти на соответствующий уровень. Вместо того чтобы встречаться с G-MAFIA в облаке, где у нас есть хоть какая-то власть менять настройки и разрешения, вскоре мы будем вынуждены пригласить ее во все используемые нами машины. Это означает, что в следующие десять лет вся еще не влившаяся в G-MAFIA экосистема ИИ будет вынуждена влиться в нее, вернее, в небольшое количество ее систем. Все стартапы и периферийные игроки, не говоря уже о нас с вами, будут вынуждены смириться с новым порядком и поклясться в верности небольшому числу коммерческих поставщиков, которые сейчас играют роль операционных систем для повседневной жизни. Как только ваши данные, гаджеты, бытовая техника, автомобили и услуги попадут в паутину, вы тоже лишитесь свободы. По мере приобретения все новой техники – например, мобильных телефонов, «умных» холодильников, или же «умных» наушников – вы заметите, что роль операционной системы, обеспечивающей вашу повседневную жизнь, перешла к G-MAFIA. Человечеству делается предложение, от которого оно не может отказаться.