Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Если первый этап инновационного процесса НАТО должен быть сосредоточен на создании революционных инновационных технологий, второй этап – это их использование и внедрение в больших масштабах.

Именно здесь организации с первоначальным государственным венчурным капиталом, такие как In-q-tel, NSSIF, Deflnvest и SmartCap могут помочь «привлечь» надежный частный венчурный капитал для обеспечения безопасного финансирования молодых стартапов НАТО, тем самым минимизируя их восприимчивость к прямым иностранным инвестициям. Проблема затрагивает многие стартапы (поскольку они привлекают средства) и влечет за собой негативные последствия. Когда стартапы хотят экспортировать свою продукцию, они не всегда могут этого сделать из-за недружественного иностранного владения и озабоченности по поводу передачи технологий, высказанной правительствами союзников.

Но даже когда подрывные инновации двойного назначения коммерциализируются, превращаются в прототипы и достигают стадии продукта, проблема получения первоначальных контрактов от клиентов (как государственных, так и коммерческих) остается. Деньги – это король для молодых компаний, поскольку у них нет финансовых резервов для работы в длительной перспективе.

Некоторые могут возразить: зачем тратить столько времени на обсуждение стартапов? Традиционные крупные компании по производству вооружений могут быть новаторскими. Зачем прилагать все эти усилия крошечным компаниям, которые не всегда могут добиться успеха?

Причина проста: конкуренция и креативность, порождаемые стартапами, полезны для оборонной экосистемы союзников. Союзные открытые демократии и открытые образовательные модели обеспечивают уровень творчества, на который другие формы правления не способны. Это максимизирует подрывные инновационные усилия и заставляет традиционных игроков (крупные компании) конкурировать с новым, свежим мышлением.

Выступая на семинаре по технологиям, безопасности и финансам в июне 2020 года, заместитель генерального секретаря НАТО МирчаДжоанэ подчеркнул, что «нам необходимо развивать культуру инноваций, становиться более гибкими, иметь более гибкие механизмы управления и осмеливаться идти на риск».

Такой творческий подход – конкурентное преимущество НАТО. Как недавно заметил законодательный орган одного из союзников: «Заинтересованные стороны в сфере обороны должны интегрировать культуру риска, которая является единственным способом обеспечения инноваций в обороне, а также очень быстро внедрять инновации гражданского и двойного назначения».

Если нам удалось коммерциализировать новую технологию, быстро принять ее в качестве прототипа и теперь желать масштабировать, как это можно сделать? Здесь могут сыграть свою роль крупные технологии. Недавно сообщалось, что в первом квартале 2020 года Facebook, Apple, Amazon, Alphabet и Microsoft потратили более 29 млрд долларов США на исследования и разработки (R&D). Это больше, чем весь бюджет НАСА на 2020 год, и на 17 % больше, чем за тот же период прошлого года.

В ноябре 2018 года Исследовательская служба Конгресса США отметила: «В 1960 году на Соединенные Штаты приходилось 69 % мировых НИОКР, при этом только на НИОКР США, связанных с обороной, приходилось более одной трети мировых НИОКР (36 %). Кроме того, федеральное правительство финансировало НИОКР примерно в два раза чаще, чем бизнес США. Однако с 1960 по 2016 год доля США в глобальных НИОКР упала до 28 %, а доля федерального правительства в общем объеме НИОКР США упала с 65 % до 24 %, при этом доля бизнеса увеличилась более чем вдвое с 33 % до 67 %. В результате этих глобальных, национальных и федеральных тенденций доля НИОКР федеральной обороны в общемировом объеме НИОКР упала до 3,7 % в 2016 году».

У крупных технологических компаний есть ресурсы и средства для быстрого масштабирования новых технологий. Они могли бы сотрудничать с успешными стартапами, возможно, через совместные предприятия или государственно-частные партнерства в масштабах всего Альянса. Это позволило бы обеспечить те навыки расширения масштабов, которых не хватает стартапам (например, соблюдение нормативных требований, юридическая поддержка, массовое производство, интеллектуальное производство, защита интеллектуальной собственности), при этом не обязательно приобретая эти молодые компании.

Скептики скажут, что это предоставит крупным технологиям слишком много возможностей для слияний и поглощений и, таким образом, создаст монополистический риск. Возможно, они правы, и очевидно, что необходимо найти стимулы для всех сторон. Но если мы хотим выиграть гонку за внедрение технологий, основанную на либерально-демократических ценностях, необходимо использовать все имеющиеся у нас преимущества.

Чтобы эффективно использовать, адаптировать и масштабировать эти технологии, мы должны помнить о необходимости работать со скоростью актуальности, а не со скоростью утверждения. Это означает новые способы финансирования технологий, взаимодействия с крупными и малыми технологическими фирмами, а также гораздо более гибкие модели приобретения, которые расширяют возможности и стимулируют тех, кто отвечает за оснащение Альянса. Такой культурный сдвиг будет нелегким, но инновации случаются редко.

Поскольку мы смотрим в сторону НАТО 2030 и прислушиваемся к словам Эйзенхауэра о достижении как безопасности, так и платежеспособности, отмечая при этом, что основой военной мощи является экономическая мощь, жизнеспособный инновационный поток, использующий наши сравнительные преимущества, то творческий подход и капитал будут иметь решающее значение для сохранения Североатлантического союза, его технологического преимущества, основанного на общих ценностях союзников.

Лоуренс Аронхим, Александр Кокрон, 19 июля 2021 г.

Альянс сталкивается с растущими конкурентами, и как и предшествующая космическая гонка, конкуренция потребует инноваций в новых прорывных технологиях. На встрече лидеров в Лондоне в 2019 году Североатлантический союз определил семь областей новых и потенциально разрушительных технологий, которые будут «иметь большое влияние на развитие будущего военного потенциала». Это: данные, искусственный интеллект (ИИ), автономное оружие, космос, гиперзвук, квантовая и биотехнология.

Важнейший вопрос заключается в том, как следует определять эти задачи. Начать можно с оценки академическими и правительственными учреждениями текущего уровня развития каждой технологии или области применения. Необходимо описать текущие границы производительности и предложить конкретные пути, которые помогут преодолеть их. Предприятия, филантропы и исследовательские агентства могут создавать и публиковать задачи и призы, чтобы побудить всех участников тройной спирали решить их.

Но вызовы сегодняшнего дня – это только один из видов проблем, которые необходимо решить Североатлантическому союзу необходимо предвидеть проблемы, которые могут возникнуть в будущем в результате изменений в технологиях, обществе, окружающей среде и другие факторы, и подготовиться к ним. В Университете Джона Хопкинса мы стремимся обнаружить проблемы, которые могут возникнуть в ближайшем и далеком будущем. Основываясь на исследовании процесса инноваций, мы считаем, что это предполагает изучение трех различных горизонтов неопределенности: вероятного, правдоподобного и возможного. Все они воплощают разные уровни неопределенности и ставят разные вопросы.

Вероятный горизонт – это взгляды в неопределенное будущее. Он не пытается предсказать, но определяет альтернативные варианты будущего, основанные на долгосрочных тенденциях и факторах разрушения. Эта стратегическая перспектива направлена на выявление проблем, с которыми Североатлантический союз может столкнуться в широком диапазоне возможных сценариев. Например, как выглядит будущее космической медицины и какие проблемы могут там возникнуть?

Напротив, правдоподобный – это взгляд на более близкие горизонты, где направления или темпы технологических изменений можно предвидеть или очертить. В нем рассматривается влияние новых технологий на текущие возможности и ресурсы Североатлантического союза. Например, как мы можем обеспечить безопасную спутниковую связь, если квантовые компьютеры могут легко взломать шифрование?

Министерство обороны США определило гиперзвук как одну из наиболее приоритетных областей модернизации. Гиперзвуковые системы могут совершать длительные полеты в верхних слоях атмосферы – от 80000 до 200000 футов – со скоростью около 5 Махов и выше, и они могут совершать маневры, которые трудно предсказать защитникам.

На вероятном горизонте рассматриваются конкретные, четко определенные проблемы, которые могут быть решены с помощью традиционных инженерных или политических инструментов. Их желаемые результаты ясны и измеримы. Решения либо работают, либо нет. Они «вероятны», потому что вероятность их решения можно рассчитать на основе показателей успешности предыдущих инженерных и политических решений. Например, как сделать сетевые диагностические устройства, чтобы предсказывать опасности для здоровья космонавтов и сообщать об этом летным медикам и центру управления полетами? Обычно это сфера деятельности действующих лиц в рамках тройной спирали.

Возможное, правдоподобное и вероятное взаимосвязаны. Рассматривая все три горизонта, мы можем наращивать возможности и расширять технологические возможности для решения проблем, стоящих перед Североатлантическим союзом сейчас, а также тех, которые могут возникнуть в будущем. Обнаружение проблем является динамичным и двусторонним. Тщательные размышления о будущем позволяют моделировать проблемы, которые могут стимулировать инновации сегодня. А радикальные решения, обнаруженные сегодня (например, секвенирование генов, нейронные сети, блокчейн и т. д.), создают совершенно новые варианты будущего, которые мы должны рассмотреть и изучить.

Используя этот подход, Североатлантический союз может более уверенно ответить на два важнейших вопроса: «Какие наиболее важные проблемы необходимо решить сейчас и в будущем?» и «Какие конкретные задачи мы должны решить, чтобы стимулировать тройную спираль к их решению?» В недавней статье «Вестника НАТО» глава отдела инноваций НАТО описал многочисленные ресурсы, которыми располагает Североатлантический союз для внедрения новаторских инноваций, в том числе «… множество академических институтов мирового уровня, лучших научных исследователей, удивительно творческие стартапы и зрелые, хорошо обеспеченные ресурсами финансово-экономические институты.» Четкая структура для выявления наиболее важных проблем, которые необходимо решить, и постановка правильных задач, способствующих привлечению ресурсов Североатлантического союза для их решения, – это самый надежный способ удержать Североатлантический союз впереди конкурентов в неопределенном будущем.

Эдвард Хантер Кристи, 24 ноября 2020 г.

Североатлантический союз сталкивается с глобальной гонкой за внедрение технологий. Соперничающие державы используют новые технологии для достижения двойной цели повышения экономической конкурентоспособности наряду с расширением военного потенциала. Союзники сталкиваются с рядом проблем, стремясь использовать новые и прорывные технологии. Эти проблемы связаны с обеспечением динамичного внедрения новых технологий и ответственным управлением ими. В основе этих технологий лежит искусственный интеллект (ИИ).

ИИ – это способность машин выполнять задачи, которые обычно требуют человеческого интеллекта – например, распознавание закономерностей, обучение на основе опыта, прогнозирование и т. п. – в цифровом виде или в качестве интеллектуального программного обеспечения, лежащего в основе автономных физических систем.

Как было предложено аналитическим центром RAND в отчете Министерства обороны США об ИИ: «Оценка и рекомендации (2019)», необходимо выделять три широких типа приложений: корпоративный ИИ, оперативный ИИ и ИИ поддержки миссий.

Корпоративный ИИ включает в себя такие приложения, как системы управления финансами или персоналом с поддержкой ИИ, которые развертываются в строго контролируемых средах, где последствия технических сбоев невысоки (с точки зрения непосредственной опасности и потенциальной летальности).

Оперативный ИИ, напротив, может быть развернут в миссиях и операциях, то есть в значительно менее контролируемой среде, где последствия отказа могут быть критически высокими. Примеры включают программное обеспечение для управления стационарными системами или беспилотными автомобилями.

ИИ поддержки миссий, промежуточная категория с точки зрения управления средой и последствий сбоев, включает в себя разнообразный набор приложений, например приложения для логистики и обслуживания.

Эти различия могут оказаться полезными при установлении приоритетов как для политики принятия, так и для принципов ответственного использования ИИ, учитывая различные уровни риска, присущие этим категориям.

Современная волна ИИ сосредоточена на машинном обучении (ML). ML включает в себя разработку и использование статистических алгоритмов для поиска закономерностей в данных. Например, алгоритм классификации можно обучить на большом наборе правильно помеченных примеров, чтобы определить, к какой ранее встречавшейся категории принадлежит вновь наблюдаемый объект. Глубокое обучение – это подмножество машинного обучения, которое использует несколько вычислительных уровней (искусственные нейронные сети с несколькими уровнями) для обработки сложных вычислительных задач распознавания образов или прогнозирования, например сверхточные нейронные сети для обнаружения объектов в изображениях.

ML использует большие наборы точных данных и плохо работает с небольшими наборами данных или с неточными данными. В хороших условиях в широком диапазоне применений ML превосходит людей с точки зрения как предсказательной способности, так и, конечно, скорости. Это основная причина все более широкого внедрения машинного обучения в обширных областях человеческой деятельности.

Для ИИ производственными факторами являются высококвалифицированные специалисты и инфраструктура информационно-коммуникационных технологий (ИКТ) для вычислений и хранения данных.

Хотя данные необходимо «извлекать», а затем «уточнять» перед дальнейшим использованием, их доступность растет с увеличением объема вывода. Данные также являются конкретными, а не взаимозаменяемыми. Для любого конкретного случая использования необходимы конкретные наборы данных, которые точно отражают актуальные наблюдения (или моделирование) из реальной жизни. Чтобы обеспечить прочную отправную точку, оборонным ведомствам союзников необходимо будет предусмотреть дальнейшую оцифровку этих данных. В целом политика в отношении данных должна охватывать всю цепочку создания стоимости, включая сбор, доступ, совместное использование, хранение, метаданные, документацию, контроль качества (включая очистку данных и устранение предвзятости) и процессы, обеспечивающие соблюдение требований законодательства.

Меры по поддержке факторов производства – талантов и инфраструктуры – должны включать надежные кадровые ресурсы и применять политику заключения контрактов для привлечения и развития лучших человеческих талантов. Кроме того, необходимо обеспечить развертывание соответствующих безопасных вычислительных мощностей и хранилищ данных.

Что касается процессов и управления, то передовая практика индустрии программного обеспечения указывает на то, что разработка и поставка решений ИИ должны опираться на гибкие подходы, а не на традиционную модель водопада. («Водопад» – модель процесса разработки программного обеспечения, в которой процесс разработки выглядит как поток, последовательно проходящий фазы анализа требований, проектирования, реализации, тестирования, интеграции и поддержки – прим. авторов).

Успех Альянса в области ИИ также будет зависеть от новых и хорошо продуманных принципов и практик, касающихся надлежащего управления и ответственного использования. Правительства некоторых стран НАТО уже взяли на себя определенные публичные обязательства в области ответственного использования ИИ, в частности, в отношении таких понятий, как законность, ответственность, надежность и управляемость. Параллельно союзники приняли участие в Группе правительственных экспертов по автономным системам оружия летального действия под эгидой Организации Объединенных Наций, что привело к формулированию 11 руководящих принципов.

Важно отметить, что есть веские основания рассматривать работу по внедрению ИИ и работу над принципами его ответственного использования как взаимодополняющие и синергетические. Фактически, существуют главные принципы или определенные цели, которые будут лежать в основе инженерной практики и ответственного поведения государств.

Технические характеристики, необходимые для достижения этих целей, обязательно будут частью этапов проектирования и тестирования соответствующих систем. В свою очередь, соответствующие инженерные работы предоставят возможность улучшить понимание, что приведет к более детальным и более зрелым принципам. Дальнейшая работа в области тестирования, оценки, проверки и валидации TEVV (Test&Evaluation, Validation&Verification) будет иметь важное значение, а также будет поддерживаться соответствующими усилиями по моделированию, в том числе имитационному. Хорошо зарекомендовавшие себя сильные стороны НАТО в области стандартизации помогут определить направления усилий, а также обеспечат оперативную совместимость между силами союзников.

Между тем, всеобъемлющие принципы, разработанные как государствами-членами, и под эгидой ООН в целом, предлагают основу для дальнейших консультаций между союзниками, а также ориентиры относительно существующих национальных позиций.

Зои Стэнли-Локман, Эдвард Хантер Кристи, 25 октября 2021 г.

На встрече в октябре 2021 года министры обороны стран НАТО официально приняли Стратегию искусственного интеллекта для НАТО. Действующие и бывшие сотрудники НАТО, непосредственно участвующие в разработке и реализации Стратегии, описывают ее основные характеристики и цели.

Не нужно заглядывать далеко, чтобы увидеть, как искусственный интеллект (ИИ) – способность машин выполнять задачи, обычно требующие человеческого интеллекта – трансформирует среду международной безопасности, в которой действует НАТО. Из-за своего сквозного характера ИИ будет создавать широкий набор вызовов международной безопасности, затрагивая как традиционные военные возможности, так и сферу гибридных угроз, а также предоставит новые возможности для реагирования на них. ИИ окажет влияние на все основные задачи НАТО, связанные с коллективной обороной, кризисным регулированием и совместной безопасностью.

ИИ будет влиять на все ключевые задачи НАТО, определенные в Стратегической концепции Североатлантического союза от 2010 года, а именно на коллективную оборону, кризисное управление и безопасность на основе сотрудничества.

Поскольку на карту поставлены новые возможности, риски и угрозы процветанию и безопасности, перспективы и опасности, связанные с этой фундаментальной технологией, слишком велики, чтобы любой субъект мог справиться с ними в одиночку. В результате сотрудничество необходимо, чтобы в равной степени снизить угрозы международной безопасности.

Сохранение способности Североатлантического союза сдерживать и защищаться от любого потенциального противника и эффективно реагировать на возникающие кризисы будет зависеть от его способности сохранять свое технологическое превосходство. В военном отношении защита сравнительного преимущества сил союзников в будущем будет зависеть от общей политической и цифровой основ обеспечения оперативной совместимости и соответствия международному праву. Поскольку сочетание человеческих, информационных и физических элементов все больше определяет решающее преимущество в боевом пространстве, взаимодействие становится все более важным. По мере того, как конкуренты и потенциальные противники вкладывают средства в ИИ в военных целях, поддержка того, чтобы союзники разработали общие ответные меры для обеспечения своей коллективной безопасности, будет становиться все более актуальной.

Официально приняв Стратегию НАТО по искусственному интеллекту, союзники взяли на себя обязательство сотрудничать, чтобы противостоять этим самым вызовам как в области обороны, так и безопасности, назвав НАТО главным трансатлантическим форумом. Целью Стратегии НАТО в области ИИ является ускорение его внедрения за счет усиления ключевых факторов, обеспечивающих ИИ, и адаптации политики, в том числе путем принятия Принципов ответственного использования ИИ и защиты от угроз его злонамеренного использования государственными и негосударственными субъектами.

Действуя коллективно через НАТО, правительства стран-членов также обеспечивают постоянное внимание к оперативной совместимости и разработке общих стандартов. Использование ИИ потребует новых усилий для развития и использования инновационного потенциала Североатлантического союза, в том числе посредством новых партнерских отношений. В совокупности эти усилия укрепят способность Альянса продолжать совместные усилия по обеспечению безопасности и взаимодействовать с партнерами и другими международными организациями по вопросам международной безопасности.