Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Квантовые технологии обладают потенциалом для открытия новых глубоких возможностей, позволяя нам ощутить бесчувственное, и позволяя решать проблемы, которые мы никогда раньше не могли решить.

В среде защиты и безопасности следующие два приложения будут иметь особенно важное значение в ближайшей и среднесрочной перспективе:

Во-первых, квантовое зондирование. Квантовые датчики имеют многообещающее военное применение. Например, квантовые датчики могут использоваться для обнаружения подводных лодок и самолетов-невидимок. Квантовые датчики могут использоваться для определения местоположения, навигации и времени (PNT). Такие «квантовые устройства PNT» можно использовать в качестве надежных инерциальных навигационных систем, которые позволяют осуществлять навигацию без необходимости внешних ссылок, таких как GPS. Это может изменить правила игры, например, для подводной навигации на подводных лодках, а также в качестве резервной навигационной системы для надводных платформ в случае потери сигнала GPS.

Первые квантовые датчики уже коммерчески доступны, что делает их наиболее зрелой технологией в области зондирования, связи и вычислений. Более того, ожидается, что гражданский сектор будет стимулировать развитие квантовой связи и вычислений, учитывая огромную потенциальную ценность, которую они имеют для гражданской промышленности. Однако потенциальные приложения квантового зондирования, такие как квантовый PNT и квантовый радар, особенно интересны для военных. Следовательно, именно военные должны финансировать, поддерживать и направлять исследования и разработки в этой области, чтобы эти потенциальные приложения стали реальностью.

Во-вторых, «квантовая угроза», которую представляют квантовые вычисления. Как упоминалось в предыдущем разделе, факторизация целых чисел – это один из типов задач, которые квантовые компьютеры могут решать особенно эффективно. Большая часть нашей цифровой инфраструктуры и практически все, что мы делаем в Интернете – будь то видеоконференции, отправка электронной почты или доступ к нашему онлайн банковскому счету – зашифровано с помощью криптографических протоколов, основанных на сложности решения таких задач целочисленной факторизации (например, RSA алгоритм). Хотя практически пригодные для использования квантовые компьютеры все еще нуждаются в разработке, квантовый алгоритм для решения этих задач и дешифрования нашей цифровой связи, то есть алгоритм Шора, уже изобретен в 1994 году и ждет квантового компьютера, способного его запустить.

Хотя вы можете подумать, что любой графический калькулятор сможет решить эту, казалось бы, простую математическую задачу, на самом деле, самый быстрый суперкомпьютер в мире потребует для ее решения все время жизни Вселенной. Однако квантовый компьютер мог бы решить эту проблему за пару минут.

Квантовая угроза – это серьезная угроза для общества в целом, а также для военных, учитывая важность защищенной связи и надежной информации для обороны и безопасности. Чтобы противостоять ей, придется полностью обновить всю безопасную цифровую инфраструктуру, используя криптографию, которая является «квантовой», то есть защищенную как от квантовых, так и от классических компьютеров. Один из вариантов – дождаться, пока квантовая связь (QKD или квантовая телепортация) созреет, и использовать эту квантовую технологию для защиты от других квантовых технологий. Однако время не на нашей стороне. Технология квантовых вычислений может не только опередить развитие квантовых коммуникаций, но и уже сегодня создает угрозу.

Лучшим вариантом защиты от угрозы является реализация «постквантовой криптографии» (PQC), новых классических (т. е. неквантовых) криптографических алгоритмов, которые не смогут решить даже квантовые компьютеры. В настоящее время Национальный институт стандартов и технологий США (NIST)проводит международный конкурс по выбору алгоритмов PQC, которые будут стандартизированы и приняты во всем мире. Процесс начался в 2016 году, а в июле 2020 года NIST объявил, что у него есть семь окончательных кандидатов.

Можно ожидать, что NIST сделает свой окончательный выбор для стандартизации к началу 2022 года и установит фактические стандарты к 2024 году.

Новые достижения в исследованиях и разработках квантовых технологий могут принести в военную сферу новые захватывающие возможности. Учитывая значительный интерес и финансирование квантовых технологий как со стороны гражданской промышленности, так и со стороны правительств, ожидается, что технология станет зрелой и новые квантовые приложения станут доступными уже в ближайшие пять-десять лет. Однако для того, чтобы вооруженные силы союзников могли действительно воспользоваться преимуществами новых квантовых технологий, важно, чтобы союзники активно участвовали в этой области и руководили разработкой и внедрением квантовых технологий в военных целях. Это должно включать не только взаимодействие с крупными технологическими компаниями, но и, в частности, со стартапами, университетами и исследовательскими институтами, поскольку они имеют жизненно важное значение для инноваций в этих новых технологиях.

Союзные вооруженные силы могут внести значительную добавленную стоимость в прилагаемые усилия, предоставив инфраструктуру для тестирования и проверки (центры тестирования) и доступ к военным операторам – конечным пользователям. Ранние эксперименты с технологиями не только способствуют их дальнейшему развитию, но также позволяют военным ознакомиться с этими технологиями и их возможностями, что поможет облегчить их внедрение в будущем. Более того, активное участие в квантовой экосистеме увеличивает понимание военными потенциальных рисков, связанных с квантовыми технологиями, особенно в киберпространстве.

Университет Джона Хопкинса и Имперский колледж в Лондоне, 26 февраля 2021 г.

Достижения в области биофизических, биохимических и поведенческих технологий начинают превращать научную фантастику в реальность. Эти разработки открывают захватывающие возможности, а также поднимают вопросы в отношении этики и ответственного их использования.

Альянс сталкивается с рядом значительных возможностей в новых и революционных технологиях. Когнитивная биотехнология (СВТ) – это развивающаяся область с широким спектром последствий для экономической и военной конкурентоспособности членов Североатлантического союза. И, как обсуждалось в случае искусственного интеллекта, разработки в этой области потребуют как динамичного внедрения новых технологий, так и сосредоточения внимания на их ответственном управлении.

СВТ – это способность технологий улучшать человеческое мышление, восприятие, координацию и воздействие на физическую и социальную среду. С помощью СВТ наша эффективность, обычно ограниченная пределами физиологии человека, может быть расширена и усилена биофизическими, биохимическими или биоинженерными средствами.

Эта область находится в зачаточном состоянии, но ее значение огромно. Например, в последнее десятилетие ученые объединили сигналы мозга с машинными интерфейсами для создания протезов, управляемых разумом. Совсем недавно они сделали поток информации двунаправленным, создав протезы, которые теперь могут ощущать и отправлять информацию обратно в мозг.

Если люди могут приводить в действие (то есть приводить в движение) машины, а эти машины, в свою очередь, могут приводить в движение людей, то мы вышли за рамки нашей физиологии. Более того, если эти машины мобильны и могут взаимодействовать с разумом на расстоянии, то мы расширили досягаемость за пределы наших физических ограничений.

И наоборот, наше сознание больше не является закрытым: в то время как появляющиеся интерфейсы мозг-компьютер позволяют нам обучать и управлять компьютерами, компьютеры в свою очередь все в большей степени могут заглядывать в наш разум, обучать и улучшать нас. Или, говоря другими словами, пока мы работали над улучшением машин, машины научились улучшать – и, возможно, контролировать – нас.

Когнитивная биотехнология направлена на улучшение человеческого мышления, восприятия, координации и воздействия на физическую и социальную среду.

При рассмотрении широкого спектра использования СВТ можно выделить три широкие области применения – восстановление, повышение и замена.

Восстановление включает в себя реабилитацию когнитивных и биологических нарушений, которые мешают разуму и телу эффективно функционировать. Цель состоит в том, чтобы вернуть способности к базовой функциональности. Приложения оказывать помощь раненым солдатам в восстановлении их физических возможностей; в заживлении черепно-мозговых травм; в лечении посттравматического стрессового расстройства (ПТСР); в восстановлении или (в случае травматического стресса) подавлении воспоминаний; в восстановлении функций принятия решений.

Повышение включает в себя улучшение когнитивных и физиологических функций сверх естественного исходного уровня человека, тем самым вызывая резкие изменения в операционной эффективности, готовности и обучении. Повышение включают сенсорное улучшение (например, улучшение зрения или более острый слух); ускорение обработки информации; ускорение и повышение эффективности принятия решений; повышение эффективности обучения и овладения языком; усиление переносимости физических нагрузок и улучшение выносливости.

То, что верно для индивидуальных способностей, верно и для групп. СВТ можно использовать для повышения возможностей подразделения с помощью распределенного интеллекта, то есть все члены подразделения видят и знают то, что каждый отдельный член видит и знает, тем самым уменьшая «туман войны» и ускоряя принятие решений.

Замена включает усиление (и, возможно, замену) умственных и физических функций за пределы человеческого потенциала. Сенсорные связи можно заменить компьютерными интерфейсами, сделав человеческие способности независимыми от их пяти естественных чувств. Вербальное общение можно заменить загрузкой данных. Физические действия могут быть заменены удаленными роботами или дронами, управляемыми разумом оператора. Это, пожалуй, самая футуристическая форма усовершенствования, большая часть исследований и разработок которой только зарождаются. Важно отметить, что эта форма усиления не устраняет полностью человеческое взаимодействие, иначе это была бы просто еще одна форма автоматизации.

Эта классификация может оказаться полезной при установлении приоритетов для дальнейших исследований, роста инвестиций в технологическое развитие и принятия для оперативного использования. И она также может помочь в установлении принципов ответственного использования с учетом различных уровней технического риска и этической неопределенности трех категорий.

Когнитивные биотехнологии в настоящее время сосредоточены на трех основных областях исследований: биофизических, биохимических и поведенческих. Трудно предсказать будущее этих технологий, особенно потому, что многие из них еще только появляются. Но у них есть потенциал, поэтому в интересах Североатлантического союза необходимо внимательно следить за развитием технологий и приложений, которые с наибольшей вероятностью повлияют или нарушат существующие оборонные конструкции и доктрины. Более того, важно направить начальные инвестиции в те области, которые особенно многообещающие для Североатлантического союза, или те, которые, скорее всего, повлияют на его конкурентоспособность.

Достижения в биофизической области сосредоточены на интерфейсах мозг-компьютер (BCI), которые можно вводить непосредственно в тело человека или с помощью транскраниальной стимуляции постоянным током (tDCS). tDCS – это форма нейромодуляции, в которой используются постоянные токи, подаваемые через электроды на голове, которые можно носить или снимать по желанию. В то время как BCI был первоначально разработан для предоставления вспомогательных технологий (таких как протезы рук и психически контролируемые инвалидные коляски), недавние разработки в двунаправленности позволили повысить восприятие, (например, бионические глаза) или улучшить ситуационную осведомленность человека. Дальнейшее применение этих технологий может привести к мысленному управлению системами самолетов или наземных транспортных средств; управляемым разумом дронам или ракетам; или механизации солдат с помощью экзоскелетов и современных датчиков.

Экзоскелеты могут улучшить физические возможности солдат, позволяя им бегать быстрее, поднимать более тяжелые предметы и снимать нагрузку с тела.

В то же время было показано, что приложения tDCS регулируют сам человеческий мозг, влияя на его исполнительные функции, механизмы обучения, память, языковую обработку, сенсорное восприятие и двигательные функции. Текущая работа с tDCS сосредоточена на выздоровлении от посттравматического стрессового расстройства и лечении психических заболеваний, таких как обсессивно-компульсивное расстройство. Но технология также дает возможность повысить когнитивные и физические способности солдат: легче и быстрее анализировать сценарии; сохранять и восстанавливать воспоминания с большей остротой и скоростью; модулировать восприятие боли; улучшить психологическую самозащиту; а также улучшить мышечную память и двигательные навыки. Однако есть и еще один, достаточно спорный аспект tDCS – это возможность заглянуть в сознание пользователя, отобразить и воспроизвести прошлые воспоминания на внешнем мониторе.

Биохимические исследования были сосредоточены на улучшении физиологии и когнитивных функций человека с помощью лекарств, генетических модификаций и биологических производных. Было показано, что комбинации ноотропных соединений, как природных, так и синтетических, восстанавливают баланс и оптимизируют нейрохимию для улучшения функции и эффективности мозга и нервной системы. Они могут способствовать повышению бдительности и внимания, ускорению времени реакции, выносливости и психологической устойчивости, уменьшению опасения и страхов, а также улучшению групповой динамики и координации. Аспекты восстановления включают лечение депрессии, посттравматического стрессового расстройства, потери памяти и слабоумия.

Поведенческие исследования сосредоточены на модификации и улучшении когнитивных и двигательных функций с помощью алгоритмов обучения, виртуальной реальности и методов биологической обратной связи. Среды виртуальной реальности уже используются при обучении пилотов, экипажей танков и пехоты. Остроту ума можно повысить с помощью алгоритмов обучения и геймификации. Поведение и личные привычки можно изменить с помощью методов обучения с подкреплением. Приложения ориентированы как на улучшение, так и на выздоровление. В работе применяются последние достижения в лечении посттравматического стрессового расстройства и различных поведенческих расстройств.

Демонстрация боевого тренажера – формы лечения посттравматического стрессового расстройства – проводится в Национальном военно-медицинском центре Уолтера Рида в Бетесде, штат Мэриленд, США.

Интеграция когнитивных и физиологических данных пользователя в реальном времени (например, показателей внимания, частоты сердечных сокращений и т. д.) открывает новые возможности для повышения физической и когнитивной деятельности.

Есть несколько этических соображений в отношении СВТ, которые по своей сложности могут превосходить даже ИИ. Прежде всего, это вопрос личного волеизъявления. Если когнитивно-поведенческая терапия способна мотивировать, активизировать и даже контролировать принятие человеческих решений и действия, где заканчивается индивидуальная ответственность? Несут ли солдаты ответственность за свои действия, когда они находятся под воздействием продвинутого СВТ, и при каких условиях?

Соответственно, как Альянс обеспечивает наличие достаточного согласия на использование СВТ для лиц, которым поручено использовать эту технологию? Эти технологии могут быть инвазивными, как физиологически, так и психологически, и могут причинить вред, особенно потому, что мы не до конца понимаем их непредвиденные когнитивные и биологические последствия.

Кроме того, возникнут серьезные проблемы с конфиденциальностью, когда эти технологии войдут в наши умы и смогут увидеть наши самые сокровенные мысли и воспоминания. Каковы пределы таких поисков? И какова защита физиологических и когнитивных данных, и кто может хранить и контролировать их распространение или принимать решения об их удалении? В более общем виде, какие инструменты защиты от возможности контроля над разумом, когнитивного стирания и перепрограммирования мы будем иметь?

Успех Североатлантического союза в области СВТ будет зависеть от хорошо разработанных принципов и практики, касающихся этих этических соображений, поскольку принятие и интеграция этих технологий будет основываться на согласии и принятии их правительствами союзников, а также общества в целом. Как и в случае с ИИ, Альянсу и правительствам-членам необходимо будет разработать принципы ответственного использования, решив такие вопросы, как конфиденциальность, согласие, законность, ответственность и управляемость.

Университет Джона Хопкинса и Имперский колледж в Лондоне. 20 мая 2021 г.

Североатлантический союз сталкивается с рядом проблем в новых областях конфликта. Эти области могут возникнуть в результате внедрения новых и революционных технологий. Например, области космоса и кибернетики возникли в результате разработок ракет, спутников, вычислительной техники, телекоммуникаций и технологий межсетевого взаимодействия. Все более широкое использование социальных сетей, обмена сообщениями в социальных сетях и мобильных устройств открывает новую область: когнитивную.

В когнитивной войне человеческий разум становится полем битвы. Цель состоит в том, чтобы изменить не только то, что люди думают, но и то, как они думают и действуют. При успешном применении когнитивное воздействие формирует и влияет на индивидуальные и групповые убеждения и поведение, способствуя достижению тактических или стратегических целей агрессора. В своей крайней форме оно может расколоть и раздробить все общество, так что у последнего больше не будет коллективной воли противостоять намерениям противника. Противник мог бы подчинить себе общество, не прибегая к прямой силе или принуждению.

Цели когнитивной войны могут быть ограничены короткими временными горизонтами. Или они могут быть стратегическими, с кампаниями, проводимыми на протяжении десятилетий. Одиночная кампания может быть сосредоточена на ограниченной цели – предотвратить проведение запланированного военного маневра или заставить изменить конкретную государственную политику. Несколько последовательных кампаний могут быть запущены с долгосрочной целью разрушить целые общества или союзы, посеять сомнения в отношении управления, подорвать демократические процессы, спровоцировать гражданские беспорядки или сепаратистские движения.

В прошлом веке инновационная интеграция мобильной пехоты, бронетехники и авиации привела к новому и изначально непреодолимому виду маневренной войны. Сегодня когнитивная война объединяет возможности кибернетического, информационного, психологического воздействия и социальной инженерии для достижения своих целей. Она использует Интернет и социальные сети для выборочного и последовательного нацеливания на влиятельных лиц, определенные группы и большое количество персон.

Когнитивное воздействие стремится посеять сомнения, ввести противоречивые нарративы, поляризовать мнения, радикализировать группы и побудить их к действиям, которые могут разрушить или раздробить сплоченное в остальном общество. А широкое использование социальных сетей и технологий смарт-устройств в странах-членах Альянса может сделать их особенно уязвимыми для такого рода атак.

Когнитивная область – это новое пространство конкуренции, выходящее за пределы сухопутной, морской, воздушной, кибернетической и пространственной областей.

Важно отметить, что ложная информация или фейковые новости не требуются для достижения целей когнитивной войны. Досадного правительственного документа, украденного из электронной почты государственного должностного лица, затем анонимно просочившегося на сайт обмена сообщениями или выборочно переданного оппозиционным группам в социальной сети, достаточно, чтобы вызвать разногласия.

Кампания по обмену сообщениями в социальных сетях, разжигающая страсти онлайн-лидеров мнений, может стать причиной вирусных споров. Группы в социальных сетях могут быть мотивированы на организацию демонстраций и выход на улицу. Официальные опровержения или неоднозначные общественные отклики в этих обстоятельствах могут усугубить путаницу и сомнения или укрепить противоречивые нарративы среди определенных слоев населения.

Хотя поддельные учетные записи в социальных сетях и «боты» для автоматического обмена сообщениями могут усилить эту динамику, они не требуются. Недавнее исследование Массачусетского технологического института показало, что одни только эмоции удивления и отвращения делают сообщения вирусными – и обычные пользователи, а не боты, быстро распространяют их.