Текст книги "Принцип апокалипсиса: сценарии конца света"

Глава 12
Восстание интеллектуальных
машин

Когда миром станет править искусственный интеллект, мы вполне можем этого точно так же не заметить. Мы ведь уже не можем осмыслить и проанализировать те объемы данных, которые сами же и производим, – и нам приходится доверяться компьютеру. Вы можете спросить у машины: можешь что-то предсказать на основе этих данных? Она ответит: да, конечно. Вы спросите: а как ты это делаешь? Она скажет: прости, но ты не поймешь.

И все это – уже реальность.

М. Косииски, руководитель Центра психометрии Кембриджского университета.

Мировое научное сообщество в последнее время активно вовлечено в обсуждение рисков создания искусственного интеллекта (ИИ), который может стать угрозой существованию человечества. Очередную волну «киберофобии» (боязни кибернетики) подняли высказывания знаменитого британского физика-теоретика Стивена Хокинга, пришедшего к выводу, что ИИ способен положить конец человеческому роду. Его выводы основываются на ограниченных физиологией возможностях человека – с одной стороны, и быстрым развитием искинов-роботов – с другой.

Интервью Хокинга

Полезный искусственный интеллект мог бы сосуществовать с людьми и увеличивать наши возможности. Но искусственный интеллект, вышедший из-под контроля, может оказаться трудно остановить. При разработке искусственного интеллекта необходимо обеспечить соблюдение требований этики и мер безопасности…

Появление полноценного искусственного интеллекта может стать концом человеческой расы.

Из интервью С. Хокинга Л. Кингу (RT America)

Недавно, беседуя с легендарным американским журналистом Ларри Кингом, Хокинг сделал необычное заявление. По его словам, классические законы робототехники, введенные 75 лет назад Айзеком Азимовым[1]1
  – Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  – Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  – Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.


[Закрыть], безнадежно устарели. В первую очередь это связано с военными проектами искинов-терминаторов, массово создаваемыми Пентагоном с помощью одиозного американского Агентства по перспективным оборонным научно-исследовательским разработкам (DARPA).

Надо сказать, что некоторую ограниченность трех законов робототехники прекрасно понимал и сам Азимов. Об этом говорит «нулевой закон», сформулированный в одном из его романов, входящих в цикл «Основание», который рассказывает об очень далеком будущем галактической расы землян. В книге «Основание и роботы» (1985 год) говорится: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Сегодня американские военные, бредящие возрождением рейгановских «звездных войн», пытаются всячески переформулировать этику законов робототехники, подстраивая ее под образ «великой американской мечты господства над всем миром». Так возникают чудовищные проекты «звезд смерти», населенных искинами и следящих за соблюдением «базовых принципов либеральной демократии» на нашей планете. Ну а если электронный мозг «звезды смерти» решит, что где-то на Земле нарушаются «принципы свободы и демократии» в понимании Белого дома, туда немедленно ударят все испепеляющие лучи гайзеров (рентгеновских лазеров). Варианты этого страшного оружия с «ядерной накачкой» были созданы еще в эпоху параноидальной рейгановской СОИ (Стратегической оборонной инициативы)…

Стивен Хокинг отмечал, что примитивные формы искусственного интеллекта, уже существующие на сегодняшний день, доказали свою полезность, но он опасался, что человечество создаст что-то такое, что превзойдет своего создателя.

Ученый предполагает, что такой разум очень быстро возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. А если учесть, что возможности людей ограничены слишком медленной эволюцией, мы никак не сможем соревноваться со скоростью «мышления» машин.

Хокингу возражает молодой разработчик веб-приложения Cleverbot Ролло Карпентер, который доказывает, что мы еще долго останемся хозяевами даже самых продвинутых искинов, которые, в свою очередь, могут помочь нам решить многие мировые проблемы.

Для подобных высказываний у Карпентера есть весомые основания, ведь Cleverbot хорошо зарекомендовало себя в так называемом тесте Тьюринга. Суть его заключается в том, сможет ли экзаменатор при анонимном общении по ряду ответов на его вопросы уверенно определить, кто перед ним – человек или машина. При этом главная задача разработчика образа искина – так «настроить» его на человеческую логику, чтобы его было невозможно распознать.

Карпентер считает, что мы не можем с уверенностью сказать, что произойдет, когда машины превзойдут нас интеллектом. Следовательно, мы не можем предсказать, как они поведут себя: станут ли они нам помогать, нас игнорировать или же рано или поздно нас уничтожат.

С другой стороны, Хокинга всячески поддерживает американский инженер, предприниматель и миллиардер Илон Маек. Он основал известные компании: – аэрокосмический стартап SpaceX и автомобильный концерн Tesla. Маек уверен, что успех создания искусственного интеллекта станет самым значительным событием нашего времени, но это же станет, к сожалению, и последним событием для существования человечества. Этот яркий и выдающийся бизнесмен, автор многих амбициозных высокотехнологичных проектов, предостерегает, что уже через 5-10 лет в недрах искинов появится нечто действительно очень опасное. Маек сравнивает создание «нейрокибернетических искинов» буквально с «вызовом демона-разрушителя» и уверен, что необходимо срочно создать некий международный комитет по надзору за ИИ-технологиями.

Террористический Интернет

Я из тех, кто считает, что суперинтеллект может угрожать человечеству. Сначала машины будут выполнять за нас работу и не будут обладать суперинтеллектом. Хорошо, если мы правильно будем этим управлять. Через несколько десятилетий машины поумнеют настолько, что это может стать для нас проблемой. Здесь я согласен с Илоном Маском и другими и не понимаю, почему многих людей это не волнует.

Б. Гейтс, основатель корпорации Microsoft

Уже сейчас, как уверен профессор Хокинг, есть серьезные проблемы с интернетом. Свои опасения он подкрепляет словами директора Британского Центра по контролю за коммуникациями GCHQ Роберта Ханнигана, который недавно предупредил, что интернет становится командным центром для террористических организаций.

Свои опасения высказывает и основатель корпорации Microsoft Билл Гейтс, который, в частности, считает, что ИИ в самом скором времени может превратиться в источник постоянных проблем, связанных с непонятной даже его создателям логикой поведения.

В общем, тему своего заявления Хокинг выбрал неслучайно. Высокотехнологичный сектор робототехники относится к одной из самых динамичных и быстроразвивающихся отраслей современной индустрии. Передовые технологии с примитивными формами ИИ были созданы еще в конце прошлого века и сегодня активно применяются в различных отраслях: атомной, нефтегазовой, медицине и фармацевтике.

Хорошим примером «скрытой угрозы искинов» являются проекты создания интеллектуального электромобиля без водителя. Так, несколько лет назад первые 40 машин, оснащенные 22 сенсорами, панорамными камерами и «умной» программой управления, начали передвигаться в тестовом режиме со скоростью 30 км/ч по улицам городов Британии. Ведущие же мировые производители интеллектуальной робототехники – США, Южная Корея, Япония – по оценкам экспертов, вообще уже стоят на пороге новых революционных открытий в плане создания «сверхинтеллектуальных» искинов.

Вместе с тем развитие с такой степенью интенсивности принципиально нового технологического феномена – «коммуникации естественного и искусственного разума» – требует совершенно иного подхода к искинам в глобальном масштабе. Так, по мнению ряда ученых, вполне назрела необходимость выработки согласованных международных подходов по целому ряду щекотливых вопросов и явных, уже сейчас очевидных правовых ловушек, связанных с развитием и адаптацией ИИ в обществе.

Но вот что настораживает: пока ученые спорят о перспективах развития искусственного интеллекта, это направление высоких технологий продолжает активно развиваться в военных целях. Мало кто из западных стран, а особенно США, хотят ограничивать создание систем искусственного интеллекта, которые уже сейчас активно используются для отслеживания глобального информационного пространства. Иными словами, речь идет еще об одной сфере развития человечества, где может быть предпринята попытка создания условий для глобального доминирования. Может быть, имеет смысл прислушаться к мнению ученых и подумать над правовым регулированием в рамках ООН. Или хотя бы начать обсуждать эту тему в ЮНЕСКО. Иначе клонирование и зачатие ребенка от трех родителей, на что получено разрешение в той же Великобритании, покажется детской шалостью.

Глава 13
Электронный апокалипсис по принципу домино

Отбросив дипломатию, США приступили к подготовке глобальной кибервойны в интернете. Так, Пентагон объявил о проведении нескольких тендеров на закупку множества вредоносных программ для уничтожения компьютерных центров вероятного противника. А знаменитое Агентство передовых оборонных технологий (ДАРПА) занялось созданием интерактивной карты мировой сети с военной инфраструктурой вражеских киберобъектов.

Оборонная киберстратегия

Долгое время Вашингтонские политики упорно отрицали разработку глобальных кибербомб, способных взорвать виртуальное пространство входе превентивных ударов по воображаемому противнику. При этом чиновники Пентагона широко рекламировали «оборонную киберстратегию», сводящуюся лишь к «адекватным ответам» в сфере интернет-технологий. Однако недавно Конгресс неожиданно открыл щедрое финансирование на развитие средств масштабного кибернаступления.

Первым прореагировало командование ВВС, представив программу «Возможности ведения военных операций в киберространстве» с первоначальным бюджетом, превышающим 10 миллионов долларов. В ней декларируются цели: «уничтожать, ослаблять, нарушать, вводить в заблуждение, искажать и захватывать компьютерные сети и центры управления противника, устанавливая контроль над киберпространством при помощи заражения и взлома операционных систем, серверов и иных сетевых устройств».

На разработку и реализацию подобного вредоносного программного обеспечения отводится не более года, что говорит о наличии солидного задела.

Вторым в гонку кибервооружений вступило Агентство ДАРПА, разработавшее «План X» с финансированием в 110 миллионов долларов. С помощью этой «кибермиссии» Пентагон собирается анализировать уровень защиты «чужих» кибер-центров, создав уникальную карту «цифрового поля сражений». Здесь в онлайн-режиме будут представлены объекты военной инфраструктуры противника, степень их защищенности и заложенные пентагоновскими хакерами «киберфугасы».

США всячески скрывают информацию о проведенных ранее кибератаках на объекты других стран, хотя хорошо известно, что вирус Stuxnet, разрушивший иранские ядерные центрифуги, был создан в секретных лабораториях Пентагона совместно с Израилем.

Россия, не имея военных киберподразделений, настойчиво требует запретить разработку и применение кибероружия. В комментариях МИД РФ это было однозначно названо «первым витком гонки кибервооружения» с непредсказуемыми последствиями.

Обосновывая новую стратегию наступательных войн в киберпространстве, эксперты НАТО чаще всего ссылаются на китайских хакеров, охотящихся за секретами военно-промышленного комплекса, и азиатских киберпреступников, враждебно настроенных к западному миру. При этом широко распространяются легенды о подготовке всесокрушающих атак на банковскую и биржевую системы с целью вызвать катастрофический мировой финансовый кризис. Не забывают киберспециалисты Пентагона и мифических российских хакеров, якобы периодически взламывающих системы управления нефтегазовых транснациональных монополий. При этом таинственные кибертеррористы не только крадут ценные данные, но и выводят из строя высокотехнологичные серверы ведущих американских корпораций, заражая их мощными вирусами.

На самом деле подобные случаи единичны, и часто интернациональные команды хакеров пытаются лишь снять деньги банковских вкладчиков и держателей кредитных карт в сугубо личных интересах. Скорее всего, полномасштабным коммерческим шпионажем занимаются сами фирмы-конкуренты. Мифы о разрушительных иностранных вирусах, выводящих из строя инженерно-технические операционные системы банков и погружающих американскую экономику в хаос, очень напоминают лживые обвинения Ирака в наличии оружия массового поражения. Ведь всем хорошо известно, что самые грозные «черви» и «трояны» стартуют из калифорнийской Силиконовой долины…

Например, расследование попыток взлома систем безопасности гигантов розничной торговли Target и Neiman Marcus наглядно показало, что это дело рук их конкурентов, а вовсе не загадочных «азиатских хакеров».

Киберцентр АНБ

Штаб-квартира кибернетического центра Агентства национальной безопасности (АНБ) США располагается в Форт-Миде, штат Мериленд. Это небольшой городок из полусотни зданий, населенный десятками тысяч сотрудников и имеющий собственную полицию, почту и пожарное депо. Форт замаскирован под парковую зону, а по периметру среди противотанковых рвов и всяческих электронных ловушек тянутся многометровые высоковольтные заграждения с сотнями телекамер и детекторов движения. Здания и сооружения защищены специальными проводящими сетками, экранирующими любые электромагнитные сигналы.

Еще недавно этим хозяйством вместе с Центральной службой кибербезопасности, Десятым флотом, 24-ой дивизией ВВС и Второй армией руководил четырехзвездочный генерал Александер Кейт. Ныне в его руках находиться Киберкомандование Пентагона, и по мнению этого рыцаря виртуальных плаща и кинжала, информационное противостояние между Востоком и Западом давно уже стоит на пороге глобальной кибервойны.

Под нажимом США и лично Кейта на последнем саммите Североатлантического союза была принята Углубленная политика киберзащиты стран НАТО. Доказывая необходимость принятия этого зловещего документа, возвращающего мир к временам холодной войны, командующий войсками НАТО в Европе американский генерал Филип Бридлав уверял европейских союзников в поистине удивительных вещах. По его словам, разведка Пентагона выявила признаки массированного кибернаступления, предшествующего аннексии Крыма и последующим военным действиям в Донбассе, а также кибернаступления в ходе проведения военной операции.

Параноидальные фантазии Кейта и Бридлава горячо поддерживают вашингтонгские ястребы во главе с сенатором Джоном Маккейном. Из них следует, что секретным российским кибервойскам удалось вывести из строя все коммуникационные системы украинских войск на Крымском полуострове и континентальной части Украины задолго до начала военных действий.

Новая кибердоктрина НАТО предполагает совершенно неадекватные меры противодействия враждебным кибератакам (или просто их признакам) с мгновенным включением всех сил Альянса, включая авиацию, флот и специальные соединения быстрого реагирования.

При этом Киберкомандование Пентагона неоднократно атаковало в виртуальном пространстве своих противников, а АНБ шпионило за гражданским населением в рамках программы PRISM, имея прямой доступ к серверам таких интернет-компаний, как Google, Yahoo, Facebook и Microsoft.

Глаза и уши всемирной паутины

Настоящей «информационной бомбой» стали сведения, рассекреченные бывшим аналитиком АНБ и ЦРУ Эдвардом Сноуденом. Оказывается, что ведомства генерала Кейта имеют «глаза и уши» не только в каждом американском доме, подключенном к Интернету, но и в рядах своих евроатлантических союзников, включая Францию и Германию. Так, на протяжении ряда лет киберразведки АНБ и ЦРУ прослушивали даже телефон канцлера Германии Ангелы Меркель. В конце концов правительство Германии потребовало у резидента ЦРУ из берлинского посольства США покинуть территорию страны из-за его бурной шпионской деятельности, грубо нарушающей все союзнические принципы и договоренности.

На этом фоне довольно странно выглядят попытки Вашингтона, уличенного в шпионаже за своими союзниками, представить себя в виде невинной жертвы кибератак, организованных таинственными иностранными хакерами. Всячески лавируя среди собственных шпионских скандалов, Белый дом все чаще пытается обвинить в кибершпионаже своих политических оппонентов. Так, недавно в списки обвиняемых попал Пекин. По мнению американских спецслужб, хакеры из специального подразделения

Народно-освободительной армии Китая периодически воруют не только американские военные секреты, но и тайны европейских союзников. Белый дом даже предпринял по этому поводу ряд дипломатических демаршей, которые были решительно опровергнуты компетентными органами КНР.

За последние годы вашингтонские конспирологи создали целый клубок «городских легенд» вокруг загадочных кибератак на американские компании и правительственные ведомства. В них иранские хакеры проникают в святая святых ведущих банков, русские свободно скачивают секреты Белого дома, а северокорейские парализуют компьютеры Голливуда.

При этом весьма любопытно, что среди западных аналитиков наблюдаются самые разные взгляды на саму концепцию кибервойны. К примеру, один из авторов кибер-стратегии парижского Института международных и стратегических отношений Максим Пинард полагает, что термин кибервойна весьма не определен и его трудно сопоставить с конкретной реальностью. Признавая сам факт наличия многочисленных сетевых «кибератак», Пинард считает, что они никак не имеют прямого отношения к началу кибервойны. По мнению французского аналитика, здесь крайне трудно выделить противоборствующих противников, наносящих друг другу военно-экономический ущерб на «виртуальном поле боя». Рассматривая известные крупные кибератаки, Пинард настаивает на том, что даже самые организованные и слаженные акции во всемирной паутине никак нельзя считать полноценными военными действиями.

Отмечая несоразмерность частого использования термина «кибервойна», французский эксперт доказывает, что включение североатлантического блока в программу создания углубленной киберзащиты напрямую увеличивает риск начала мировой кибервойны. Его соотечественник, начальник управления киберобороны генштаба Франции, контр-адмирал Арно Кустийер, считает, что любой выход за рамки существующих национальных оборонительных киберстратегий ведет к соблазну нанесения превентивных электронных ударов по радиотехническим средствам противника.

В своих выводах Пинард подчеркивает, что мир уверенно движется к угрожающей милитаризации киберпространства, и при этом самыми уязвимыми являются простые пользователи интернета, которые больше всего пострадают от любых враждебных действий в сети.

Виртуальные кибертеррористы

Среди рассматриваемых в последнее время эсхатологических сценариев не последнее место занимают и действия кибертеррористов в критические моменты земных и космических катаклизмов.

Чаще всего эсхатологи анализируют ситуацию, когда какое-либо масштабное природное бедствие сопровождается совместными атаками хакеров и их соратников с оружием в руках. Здесь события могут развиваться по «принципу домино», когда электронные атаки будут порождать выход из строя сильно ослабленных сетевых центров. Это, в свою очередь, может привести не только к разрушениям важнейших управляющих узлов инфраструктуры, но и к последующим их захватам вооруженными экстремистами.

Компьютерное моделирование ужасающих планетарных катастроф в виде «тектонических штормов» и извержений супервулканов наглядно показывает, что уцелевшие информационные центры будут играть важнейшую роль в борьбе с катастрофой. При этом речь может идти не только о земных, но и о космических катаклизмах. В этом случае такой фактор, как аномальный всплеск солнечной активности, может вывести из строя все радиоэлектронное оборудование спутников связи и управления, породив хаос в работе наземных элементов инфраструктуры. В этот критический момент киберпространство будет как никогда уязвимо для враждебных действий хакеров-террористов.

Несмотря на то, что многие киберопасности эсхатологов кажутся довольно надуманными, нельзя игнорировать тот факт, что значительная часть электронных систем, определяющих жизнедеятельность виртуальной среды, находится под частным контролем. Поэтому недалек день, когда во Всемирной паутине появится нечто, напоминающее интернациональную «киберполицию».

Нельзя пройти мимо и проектов создания «кнопки отключения Сети». Подобные разговоры уже не один год ведут некоторые американские сенаторы, предлагая расширить функции президентского «ядерного чемоданчика». Это явно тот самый случай, когда лекарство может оказаться намного хуже самой болезни…

Новая партия секретных сведений, переданная журналистам немецкого журнала «Шпигель» Эдвардом Сноуденом, в очередной раз шокировала мировую общественность. Оказывается, слежкой за гражданами и главами других стран дело далеко не ограничивается.