Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Внедрение ИИ в контексте обороны и безопасности также требует эффективного и ответственного управления в соответствии с общими ценностями и международными обязательствами союзных стран. С этой целью правительства стран НАТО взяли на себя обязательство придерживаться Принципов ответственного использования как ключевого компонента Стратегии НАТО в области ИИ.

Союзники и НАТО обязуются обеспечить, чтобы приложения ИИ, которые они разрабатывают и рассматривают для развертывания, соответствовали следующим шести принципам:

Законность: приложения ИИ будут разрабатываться и использоваться в соответствии с национальным и международным правом, включая нормы международного гуманитарного права и прав человека, в зависимости от обстоятельств.

Ответственность и подотчетность: приложения ИИ будут разрабатываться и использоваться с должным уровнем осмотрительности и осторожности. Для обеспечения подотчетности должна применяться четкая человеческая ответственность.

Объяснимость и отслеживаемость: приложения ИИ будут надлежащим образом понятными и прозрачными, в том числе за счет использования методологий, источников и процедур проверки. Это включает механизмы проверки, оценки и подтверждения на уровне НАТО и/или на национальном уровне.

Надежность: приложения ИИ будут иметь явные, четко определенные варианты использования. Безопасность, защищенность и надежность таких возможностей будут проверяться и подтверждаться в рамках сценариев их использования на протяжении всего жизненного цикла, в том числе посредством установленных НАТО и/или национальных процедур сертификации.

Управляемость: приложения ИИ будут разрабатываться и использоваться в соответствии с их предполагаемыми функциями и обеспечивать: соответствующее взаимодействие человека и машины; возможность обнаружить и избежать непредвиденных последствий; способность предпринимать шаги, такие как отключение или деактивация систем, если такие системы демонстрируют непреднамеренное поведение.

Снижение предвзятости: будут предприняты упреждающие меры, чтобы свести к минимуму любую непреднамеренную предвзятость при разработке и использовании приложений ИИ и наборов данных.

Согласившись принять эти взаимоусиливающие принципы, задача превращается в воплощение их в принципиальные действия. Таким образом, роль НАТО в реализации этих принципов будет включать в себя усилия, которые аналогичным образом затрагивают различные аспекты жизненного цикла технологии. Встраивание принципов ответственного использования в интерфейс разработки ИИ важно, потому что, чем позже они будут рассмотрены, тем сложнее будет обеспечить их соблюдение. Обеспечение подхода на основе полного жизненного цикла также зависит от участия многих заинтересованных сторон, поскольку ответственность распределяется между разработчиками политики, дизайнерами, разработчиками и тестировщиками, а также конечными пользователями, участвующими в разработке и использовании ИИ. Для НАТО это актуально, потому что различные организации играют активную роль в интеграции ИИ.

Общая приверженность этим принципам также имеет практические преимущества, обеспечивая согласованную общую основу как для НАТО, так и для союзников при проектировании и разработке приложений ИИ, а также для поддержки оперативной совместимости. Таким образом, НАТО может способствовать необходимой взаимосвязи между безопасностью, защищенностью, ответственным использованием и оперативной совместимостью. Это видно по принципам.

Применение принципов на практике

Эти устойчивые принципы также лежат в основе обсуждения и принятия более подробных передовых практик и стандартов. Союзники и НАТО могут использовать консультативные механизмы НАТО, а также специализированный персонал и средства НАТО в активной работе для достижения этой цели. Собственные усилия НАТО по стандартизации и сертификации также могут быть подкреплены согласованием с соответствующими международными органами по стандартизации, в том числе в отношении гражданских стандартов ИИ.

В дополнение к передовым методам и стандартам, эти принципы также могут быть реализованы с помощью других механизмов, включая методологии анализа, оценки рисков и воздействий. Кроме того, совместная деятельность НАТО обеспечивает основу для тестирования, оценки и проверки (TEVV) возможностей ИИ в различных контекстах. В частности, опыт НАТО не только в операциях, но и в испытаниях, учениях и экспериментах предоставляет несколько возможностей, с помощью которых союзники и НАТО могут проверить принципы на предмет предполагаемых вариантов использования. Это дополнительно подкрепляется научными и техническими сообществами НАТО, которые работали над такими вопросами, как доверие, взаимодействие человек-машина и машина-машина и многими другими.

В дополнение к существующим мероприятиям реализация Стратегии ИИ также выиграет от сотрудничества с создающейся организацией «Ускоритель оборонных инноваций НАТО для Северной Атлантики» (DIANA). Центры тестирования союзников, связанные с DIANA, могут использоваться для достижения целей, изложенных в определениях принципов. В будущем использование этих центров тестирования может помочь убедиться, что внедрённые и интегрированные ИИ проверены на надежность и отказоустойчивость. Например, чтобы убедиться, что ИИ понятен, надежен центры тестирования могут синтезировать, как системы ИИ работают в различных смоделированных средах и на разных данных тестирования, или обеспечивать независимую валидацию и верификацию для оценки соответствия стандартам, ориентированным на ответственное проектирование.

Посредством принятия принципов ответственного использования ИИ НАТО и союзники направляют публичное послание своему населению и другим государствам, подтверждая непреходящие ценности и обязательства Североатлантического союза в соответствии с международным правом.

Принимая этические аспекты, которые подчеркиваются в этих принципах, НАТО имеет возможность выполнить взятые на себя обязательства. Они включают в себя взаимодействие со стартапами, инновационными малыми и средними предприятиями и академическими исследователями, которые либо не рассматривали возможность работы над решениями задач защиты и безопасности, либо полагают, что пути внедрения слишком медленные или ограничивающие для их бизнес-моделей. В отличие от разработки традиционных военных платформ, интеграция ИИ требует постоянного обновления.

Поскольку враждебные государственные и негосударственные субъекты увеличивают свои инвестиции в новые и прорывные технологии, включая ИИ, более гибкий подход к внедрению становится все более актуальным. В этом контексте, уделяя особое внимание TEVV и совместной деятельности, Стратегия ИИ устанавливает основу для технологических инструментов, позволяющих перехитрить конкурентов и противников. Делая больший упор на гибкость и адаптацию, НАТО может сделать оборону и безопасность более привлекательным сектором для гражданских новаторов, с которыми они могут сотрудничать.

При этом усилия по укреплению трансатлантической инновационной экосистемы также могут служить оплотом против нежелательных иностранных инвестиций и передачи технологий.

Опыт НАТО не только в операциях, но и в испытаниях, учениях и экспериментах предоставляет определенные возможности, с помощью которых союзники и НАТО могут проверить принципы на предмет предполагаемых вариантов их использования. Это дополнительно подкрепляется научными и техническими сообществами НАТО, которые в том числе прорабатывали такие вопросы, как доверие, взаимодействие человек-машина и машина-машина, а также интеграция человек-система.

Безусловно, ускоренное внедрение ИИ зависит не только от технологий, но и в равной степени от талантливых и квалифицированных людей, которые продвигают передовые технологические достижения и интеграцию. НАТО также уделяет внимание другим ресурсам ИИ, в частности, путем разработки Рамочной политики использования данных НАТО. Благодаря действиям по обращению с данными как со стратегическим активом, разработке аналитических инструментов, а также хранению данных и управлению ими в соответствующей инфраструктуре, Политика использования данных устанавливает условия для успешного внедрения Стратегии ИИ.

Помимо взаимосвязи между данными и ИИ, жизненно важное значение будет иметь обеспечение согласованности усилий НАТО в области ИИ и других новых и прорывных технологий, таких как биотехнология, квантовые вычисления и т. п. Поскольку союзники и НАТО стремятся достичь цели Стратегии ИИ, связи между ответственным использованием, ускоренным внедрением, оперативной совместимостью и защитой от угроз имеют решающее значение. Действительно, эти связи будут также использоваться в последующей работе НАТО над другими новыми и прорывными технологиями. В более широком смысле это влечет за собой большую согласованность между направлениями работы над технологиями, понимание того, что будущие технологические преимущества НАТО, а также угрозы, с которыми столкнется Североатлантический союз, зависят от их сближения.

Таким образом, Стратегия НАТО в области ИИ закладывает основу для амбиций НАТО и союзников в отношении других новых и подрывных технологий. Для каждого из них будущее стратегическое преимущество, которое дает инновационная деятельность НАТО, будет проистекать из связей между этическим лидерством, итеративным принятием и интеграцией, которая в том числе предполагает гибкость, оперативную совместимость и доверие.

Мишель еан Амеронген, 3 июня 2021 г.

Учитывая потенциальное значение новых квантовых технологий для обороны и безопасности, НАТО определила квантовые технологии как одну из своих ключевых новых и прорывных технологий. В этой статье делается попытка раскрыть некоторые из интересных будущих приложений квантовых технологий и их значение для защиты и безопасности.

«Те, кого не шокирует, когда впервые сталкиваются с квантовой теорией, вероятно, не могут ее понять» Нильс Бор.

«Если вы думаете, что разбираетесь в квантовой механике, вы не понимаете квантовую механику» Ричард Фейнман.

«Вселенная не только более странная, чем мы думаем, но и более странная, чем мы можем думать» Вернер Гейзенберг.

Три цитаты трех известных квантовых физиков. Можно с уверенностью сказать, что существует широкий консенсус в отношении того, что попытка понять квантовую механику – это не обычная головоломка для воскресного утра. Однако квантовая механика – это не просто ошеломление и пища для энергичных размышлений. На самом деле, хотя мы, возможно, и не в состоянии полностью понять это, технологии, основанные на нашем понимании квантовой механики, уже повсюду вокруг нас.

Транзисторы и полупроводники в компьютерах и инфраструктурах связи являются примерами квантовых технологий «первого поколения». Но лучшее еще впереди. Благодаря более глубокому пониманию квантовых явлений, таких как «суперпозиция» и «запутанность», в настоящее время происходит «вторая квантовая революция», позволяющая разрабатывать новые и революционные квантовые технологии.

Поскольку эти технологии принесут принципиально новые возможности как в гражданских, так и в военных сферах, квантовые технологии в последние годы вызвали значительный интерес со стороны промышленности и правительств. Крупные технологические компании, такие как IBM, Google и Microsoft, тратят сотни миллионов долларов на исследования и разработки в области квантовых вычислений в гонке за «квантовое превосходство». Точно так же правительства признали преобразующий потенциал и геополитическую ценность приложений квантовых технологий, а Соединенные Штаты, Европейский Союз и Китай создали свои собственные исследовательские программы стоимостью более 1 миллиарда долларов.

Не вдаваясь в подробное объяснение квантовой механики, стоит кратко обсудить несколько ключевых основополагающих принципов, которые помогут понять потенциальное применение квантовых технологий.

Квантовые технологии используют физические явления на атомном и субатомном уровнях. В основе квантовой механики лежит то, что в этом атомном масштабе мир «вероятностен», а не «детерминирован».

Это понятие вероятности стало предметом всемирно известных дебатов между Альбертом Эйнштейном и Нильсом Бором на пятой Сольвеевской конференции по физике, состоявшейся в октябре 1927 года в Брюсселе. Конференция собрала 29 самых известных физиков того времени (17 из них позже стали лауреатами Нобелевской премии), чтобы обсудить на тот момент недавно сформулированную квантовую теорию.

В так называемых «дебатах века» во время Сольвеевской конференции 1927 года Нильс Бор защищал новую теорию квантовой механики, сформулированную Вернером Гейзенбергом, тогда как Альберт Эйнштейн пытался отстоять детерминированную парадигму причины и следствия. Альберт Эйнштейн заявил, что «Бог не играет в кости», после чего Нильс Бор возразил: «Эйнштейн, перестань указывать Богу, что делать».

В настоящее время научное сообщество соглашается с тем, что Нильс Бор выиграл дебаты. Это означает, что в нашем мире нет фиксированного сценария, основанного на причине и следствии, но на самом деле все зависит от случая. Другими словами, вы можете знать все, что нужно знать о Вселенной, и при этом не знать, что будет дальше.

Эта новая вероятностная парадигма привела к лучшему пониманию некоторых ключевых свойств квантовых частиц, которые лежат в основе квантовых технологий, в первую очередь «суперпозиции» и «запутанности». Улучшенное понимание этих фундаментальных квантовых принципов – вот что стимулировало развитие квантовых технологий следующего поколения: квантового зондирования, квантовой связи и квантовых вычислений.

В то время как квантовые вычисления вызвали наибольший ажиотаж вокруг квантовых технологий, существует уже целый мир квантового восприятия и квантовой коммуникации. Этот мир – увлекательный и многообещающий.

Квантовые сенсоры основаны на ультрахолодных атомах или фотонах, тщательно управляемых с помощью суперпозиции или запутывания в определенных «квантовых состояниях». Используя тот факт, что квантовые состояния чрезвычайно чувствительны к возмущениям, квантовые датчики могут измерять крошечные различия во всех видах свойств, таких как температура, ускорение, сила тяжести или время.

Квантовое зондирование может изменить нашу технологию измерения и обнаружения. Оно не только обеспечивает более точные и чувствительные измерения, но и открывает возможности для измерения вещей, которые мы никогда раньше не могли измерить. Квантовые датчики могут позволить нам точно узнать, что лежит у нас под ногами с помощью картографирования под землей; обеспечить системы раннего предупреждения об извержениях вулканов; позволить автономным системам «заглядывать» за угол; и предоставить портативные сканеры, которые отслеживают активность мозга человека.

В то время как квантовые технологии могут показаться технологиями далекого будущего, первые квантовые датчики фактически уже представлены на рынке (например, атомные часы и гравиметры). Забегая вперед, мы можем ожидать, что в течение ближайших пяти-семи лет станет доступно больше приложений квантового зондирования, включая устройства квантовой навигации и синхронизации (PNT), а также технологии квантовых радаров в качестве приложений, на которые следует обратить внимание.

Потенциал квантовой связи основан на ее обещании обеспечить «сверхбезопасную» передачу данных, потенциально даже полностью невзламываемую. В настоящее время обмен данными основан на потоках электрических сигналов, представляющих собой «1» и «О», проходящих по оптиковолоконным кабелям. Хакер, которому удается подключиться к этим кабелям, может считывать и копировать эти биты. С другой стороны, в квантовой связи передаваемая информация кодируется в квантовой частице в виде суперпозиции «1» и «О», так называемый кубит. Из-за чувствительности квантовых состояний к внешним возмущениям всякий раз, когда хакер пытается перехватить передаваемую информацию, кубит «схлопывается» до «1» или «О», тем самым уничтожая квантовую информацию и оставляя лишь подозрительный след.

Первое применение квантовой связи называется «квантовое распределение ключей» (QKD), которое использует квантовые частицы для обмена криптографическими ключами. В QKD фактические данные передаются по традиционной инфраструктуре связи с использованием обычных битов, однако криптографические ключи, необходимые для дешифрования данных, передаются отдельно с использованием квантовых частиц. В QKD уже ведутся обширные эксперименты с использованием как наземной, так и космической связи. В 2016 году Китай запустил первый в мире спутник квантовой науки «Micius», который продемонстрировал межконтинентальные QKD «земля-спутник» и «спутник-земля», обеспечив видеоконференцию между Пекином и Веной.

«Квантовая телепортация» станет следующим шагом в квантовой коммуникации. В то время как в QKD криптографические ключи распределяются с использованием квантовой технологии, при квантовой телепортации сама информация передается с использованием запутанных квантовых пар. Наибольшее расстояние, на котором к настоящему времени была достигнута квантовая телепортация по оптиковолоконному кабелю, составляет 50 километров, и в ближайшие годы задача состоит в масштабировании квантовой телепортации. Это необходимо, чтобы обеспечить безопасную связь на больших расстояниях.

Конечная цель квантовой связи – создать «квантовый Интернет»: сеть запутанных квантовых компьютеров, связанных сверхбезопасной квантовой связью, гарантированной фундаментальными законами физики. Однако квантовый Интернет не только требует квантовой телепортации на очень большие расстояния, но и требует дальнейшего развития других важных технологий, таких как квантовые процессоры, всеобъемлющий квантовый Интернет-стек, включая Интернет-протоколы и программные приложения квантового Интернета. Это действительно долгосрочные усилия, и, хотя трудно определить, созреет ли эта технология и когда именно, большинство ученых определяют временной горизонт в 10-15 лет.

Квантовые вычисления значительно увеличат нашу способность решать некоторые из самых сложных вычислительных задач. Фактически, квантовые вычисления отличаются от классических, как классический компьютер отличается от счётов.

Как объяснялось выше, в то время как классические компьютеры выполняют вычисления с использованием двоичных цифр (0 или 1), квантовые компьютеры представляют информацию с помощью квантовых битов (кубитов), которые могут находиться в суперпозиции обоих состояний (О и 1 одновременно).

Поскольку кубиты чрезвычайно чувствительны к внешним возмущениям, чтобы иметь возможность управлять ими, манипулировать ими и использовать их, кубиты необходимо охладить до уровня, чрезвычайно близкого к абсолютному минимуму температуры (или нулю Кельвинов), около 15 милликельвинов. Это холоднее космоса! Фактически, внутри квантового компьютера находится самое холодное место во Вселенной, о котором мы знаем.

Кубиты позволяют квантовым компьютерам выполнять несколько вычислений одновременно, потенциально приводя к огромному увеличению вычислительной эффективности по сравнению с классическими компьютерами. Есть ряд приложений, в которых квантовые компьютеры будут особенно трансформирующими:

– Моделирование физических систем для открытия лекарств и создания новых материалов;

– Решение сложных задач оптимизации в цепочке поставок, логистике и финансах;

– Сочетание с ИИ для ускорения машинного обучения;

– Факторизация целых чисел, позволяющая дешифровать наиболее часто используемые протоколы кибербезопасности (например, RSA, алгоритм асимметричного шифрования, используемый для безопасной передачи данных). Крупные технологические компании, такие как IBM, Google и Microsoft, стремятся к «квантовому превосходству», определяемому моментом, когда квантовый компьютер преуспеет в решении проблемы, которую ни один классический компьютер не мог бы решить за любой возможный промежуток времени.

В октябре 2019 года Google заявила, что достигла квантового превосходства на своем 53-кубитном квантовом компьютере. Однако критики говорят, что проблема, решенная в эксперименте Google, не имела практического значения, и поэтому гонка за квантовое превосходство все еще продолжается.

Современные квантовые компьютеры имеют около 60 кубитов, но дальнейшие разработки быстро сменяют друг друга, а амбиции высоки. В сентябре прошлого года IBM анонсировала план развития своих квантовых компьютеров, включая цель построить к 2023 году квантовый компьютер с 1000 кубитами. У Google есть собственный план по созданию квантового компьютера на миллион кубитов к 2029 году.

Благодаря квантовым компьютерам на 1000 кубитов, так называемым шумным квантовым компьютерам промежуточного масштаба (NISQ), мы уже можем увидеть некоторые ценные практические приложения в области проектирования материалов, открытия лекарств или логистики. Поэтому ближайшие пять-десять лет будут невероятно захватывающими для квантовых вычислений.