Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

В докладе делается акцент на том, что мы живем в мире, когда одновременно происходят революция ИИ, возрождение конкуренции между великими державами, а также между державами и корпорациями и международным сообществом – с одной стороны, и террористическими организованностями – с другой. Эти три фактора угрожают роли Соединённых Штатов как мирового лидера инноваций, бросают вызов американскому военному превосходству и ставят под сомнение национальное интеллектуальное лидерство.

Важнейшее обстоятельство, которое Комиссия учитывает в своей работе, – это принципиальное отличие нашего времени от 40-х годов прошлого века. Атомная гонка и Манхэттенский проект осуществлялись в режиме строжайшей секретности и конфиденциальности. Между тем, ИИ развивается в открытом мире, где значительная часть не только программных, но и аппаратных решений базируется на разработках с открытым исходным кодом.

Кроме того, конкуренция между странами и компаниями происходит в электромагнитной среде. В ней нет границ, а соответственно ни одна страна мира не может вырезать себя из глобальной сети без трагического ущерба для собственной безопасности. В XXI веке реализация ключевых проектов в области национальной безопасности предполагает не полную секретность, а, напротив, полную открытость.

Как известно, Стратегия национальной безопасности США, действующая в настоящее время, предполагает противоборство на пяти полях боя – в воздухе, на земле, на воде, в космическом пространстве и электромагнитной среде и в семи сферах противоборства, включая технологическую.

Конкуренция за первенство в ИИ – это наиболее яркое проявление глобального технологического конфликта, который охватил планету и по своим последствиям, возможно, превосходит традиционные политические, экономические и военные противоборства.

В докладе содержится положение, которое идентично высказываниям президента РФ В. В. Путина: тот, кто выиграет в технологической гонке, в конечном счете, станет победителем и в других. Проигравшие в технологической гонке в лучшем случае перестанут быть великими державами, а в худшем – утратят национальный суверенитет и даже могут превратиться в несостоявшиеся государства.

ИИ – это способность компьютерной системы решать те или иные проблемы, которые в противном случае потребовали бы участия человека. Технологии ИИ развивались на протяжении многих десятилетий. Например, распознавание образов, машинное обучение, компьютерное зрение, понимание естественного языка и распознавание речи – это технологии, берущие свое начало в 50-х годах прошлого века.

Нынешний бум ИИ связан не с прорывами в области программирования и использования принципиально новых, не существовавших ранее вычислительных методов, а со скачкообразным наращиванием мощностей, быстродействия и экономичности аппаратной части, а также с принципиально новой телекоммуникационной связанностью мира, возможностями получения, архивирования и обработки больших данных.

В настоящее время и на ближайшую перспективу реалистичным будет наращивание и повышение эффективности так называемого специализированного или слабого ИИ. В рамках слабого ИИ компьютеры могут достичь превосходства над человеком в части решения вычислительных, алгоритмических, в конечном счете, комбинаторных задач, выполняемых строго по правилам. В рамках подобных задач осуществляется поиск и обработка огромных массивов данных на предмет выявления закономерностей, поиска аномалий и осуществления оптимизации конкретных показателей.

Совершенствование аппаратных устройств, в том числе использующих графические процессоры, позволило на практике все шире использовать машинное обучение как способ решения поставленных перед компьютером задач. Многие исследователи ИИ вплоть до начала XXI века вдохновлялись перспективой создания компьютера, способного выполнять все те же задачи, что и люди. Для такого рода компьютеров используется термин «сильный ИИ» или «искусственногенный интеллект (AGI)».

До настоящего времени не только медиа и университеты, но и многие компании пытаются создать прообразы AGI. Позиция комиссии в том, что вместо расходования ресурсов, времени и способностей на несбыточную, по крайней мере, в среднесрочной перспективе, задачу, гораздо более эффективно сосредоточиться на узких местах слабого или специализированного ИИ.

Уже сегодня слабый ИИ или вычисления на основе больших данных в рамках алгоритмически заданных правил позволяют успешно решать широкий спектр задач в области национальной безопасности, особенно в сфере разведывательного прогнозирования и управления автономными робототехническими системами.

По мнению Комиссии, ИИ не является лишь программноаппаратным устройством, а представляет собой скорее реализацию обширного технологического пакета. Один из основоположников ИИ Эндрю Мур описывает ИИ как «массовую взаимоувязанную коллекцию технологических блоков, математико-формальных методов, телекоммуникационной связи, в совокупности называемых стеком ИИ».

Комиссия в качестве главного фактора развития ИИ и обеспечения американского лидерства видит таланты математиков, разработчиков, программистов. В конечном счете, главным в ИИ являются люди. Соответственно первостепенная задача для обеспечения американского лидерства – создать для людей, занятых разработкой, обслуживанием, эксплуатацией ИИ наиболее благоприятные материальные и иные условия, комфортную среду для проживания, свободного обмена мнениями, работы в тех условиях, к которым они привыкли, и, конечно же, получение вознаграждения и общественного признания. Именно от привлечения талантов и обеспечения им наилучших условий зависит победа США в гонке ИИ.

Исследователи вспоминают, что за последние 70 лет как минимум дважды – в начале 60-х и в конце 90-х годов – обществу казалось, что сильный ИИ уже рядом и скоро станет полноправным партнером человека. Провал ожиданий дважды привел к так называемым «зимам» ИИ, когда из отрасли уходили инвестиции, таланты и т. п.

Сегодняшняя ситуация коренным образом отличается от прошлого. Более того, сегодняшний прогресс ИИ – это в основном не плод новых открытий и достижений, а освоение методов, алгоритмов и теорий, разработанных 30-50 лет назад. Сегодня они приносят дивиденды из-за прорывов в вычислительных мощностях, дешевизне телекоммуникаций, облачных вычислений, появлении больших данных и наступлении Интернета всего.

Именно развитие ИИ будет определять будущее власти. Именно ИИ призван внести решающую роль в достижении экономических конкурентных преимуществ, укрепление обороноспособности и лучшее, чем когда-либо, регулирование общественного поведения. Тот, кто первым обеспечит своему ИИ ощутимое превосходство, получит мантию мирового лидерства. Эта мантия все больше и больше зависит не от наличия или отсутствия у страны ресурсов, не от традиционной военной мощи и даже не от накопленных золотовалютных запасов, а от силы инновационной экономики, уровня развития ИИ, освоения новых, никогда ранее не использованных технологий в самых различных областях.

ИИ – это технология двойного назначения, используемая для военных и гражданских целей (можно выделить и третье назначение – криминальное – прим. авторов). Однако эта простая дихотомия скрывает главное. ИИ, по сути, является программно-аппаратной реализацией функции управления. В быстром сложном мире именно управление определяет не только прогресс, но и, что еще более важно, устойчивость обществ, возможность гибко и даже превентивно реагировать на внешние и внутренние вызовы.

Комиссия полагает, что в ближайшем будущем исход борьбы за лидерство в мире будет определяться не столько в традиционных военно-политических конфликтах, сколько в ходе технологического противоборства, и, что является принципиально новым, будет зависеть от устойчивости государств и обществ к новым вызовам, в том числе тем, которые называются «черными лебедями».

ИИ коренным образом изменит способы и инструменты защиты Америки. ИИ не только позволит более эффективно бороться с киберугрозами, но и за счет обеспечения большей информационной осведомленности и качества управления резко повысит эффективность всех видов вооруженных сил Соединенных Штатов. Возможность обработки больших объемов данных позволит точнее оценивать риски и адекватнее в режиме реального времени реагировать на угрозы. Уже сегодня системы ИИ за счет эффективных способов выявления аномалий позволяют превентивно отражать террористические и криминальные угрозы, а также выявлять слабые сигналы наступающих опасностей.

ИИ изменит методы работы разведывательных сообществ. ИИ позволит при прогнозировании, поиске аномалий и анализе связей в рамках одной задачи использовать терабайты разнородной информации. Анализ с поддержкой ИИ обеспечит более быструю и точную ситуационную осведомленность и на этой основе повысит качество решений.

ИИ будет воздействовать на разведывательное сообщество США еще одним, достаточно необычным образом. Собственниками значительных объемов ценной информации является частный бизнес. Поскольку разведка во все возрастающей степени будет связана с анализом больших данных и ИИ, следует ожидать не только передачи части государственной разведки бизнесу, но и формирования на постоянной основе частно-государственных разведывательных партнерств.

На будущих полях боя военные будут использовать машины с поддержкой ИИ, а также программно-аппаратные и телекоммуникационные средства на базе ИИ, обеспечивающие координацию проведения сложных многодоменных операций.

Наконец, ИИ коренным образом изменит понимание того, что мы называем войной. Традиционная война – это насилие и разрушение. Однако гораздо эффективнее не разрушать, а подчинять. Соответственно, применение ИИ позволит преобразовывать стихийную человеческую деятельность в такой набор операций и действий, который благодаря алгоритмизации становится более выгодным и менее энергозатратным. Такие примеры в нынешнем мире уже есть. Это -Uber, Amazone, Airbnb и т. п. Соответственно, тот, кто сможет предложить более эффективные алгоритмы и одновременно подавить вражеские вычисления, станет лидером. Некоторые считают, что этот аспект внедрения ИИ откроет принципиально новую эру – эру алгоритмических войн.

Алгоритмические войны – это не просто битва искусственных интеллектов или сражение алгоритмов против алгоритмов. Это – не разрушение сайтов и критических инфраструктур как в кибервойнах, а сражение алгоритмов против алгоритмов, управляющих деятельностью и поведением людей на основе их инстинктов, предпочтений и т. п. Вероятно, в ближайшем будущем алгоритмические войны в гораздо большей степени определят сущность конфликтов, нежели традиционные факторы, такие как численность войск, уровень вооружений, диапазон использования оружия. Вычислительные сражения будут определяться превосходством в данных, вычислительных мощностях, общей устойчивостью системы, умением использовать человеческие инстинкты, стереотипы и привычки. Достижение такого будущего потребует разработки принципиально новых оперативных концепций, конструкций и способов ведения конфликтов.

Комиссия также признает, что смертоносные автономные вооруженные системы (LAWS) представляют собой важный аспект использования ИИ. Комиссия стремится понять различные точки зрения на LAWS, а также оценить риски использования этих систем другими государствами и террористическими сетями.

ИИ усиливает и ускоряет существующие угрозы, а также создает новые. Они могут возникнуть из двух аспектов: из того, что противник может сделать с ИИ, а также из непредвиденных последствий собственного использования ИИ.

Комиссия выделяет несколько основных направлений угроз.

1). Эрозия военного преимущества США. По мнению Комиссии, стратегические конкуренты, и прежде всего, Китай и Россия, стремятся максимально широко использовать ИИ, а также LAWS с ИИ в ходе своих военных операций, в рамках гибридных войн и прокси конфликтов для подрыва военного превосходства США и лишения эффективности традиционной американской стратегии сдерживания.

2). Угроза стратегической стабильности. Глобальная стабильность и ядерное сдерживание могут быть подорваны, если системы с поддержкой ИИ позволят отслеживать и наносить удары по ранее неуязвимым целям. Дестабилизация ядерного равновесия в условиях ИИ может подтолкнуть отдельные государства к принятию более агрессивных стратегий, а главное, практических действий, что чревато быстрой и, возможно, неуправляемой эскалацией локальных конфликтов.

3). Неконтролируемое распространение ИИ. По мере того, как платформы, приложения и фреймворки ИИ становятся все более доступными, растет вероятность безрассудного и неэтичного использования ИИ государствами-изгоями, агрессивными государствами и негосударственными, в том числе, террористическими субъектами. Как показывают консультации Комиссии с технологическими компаниями и университетами, уже сегодня агрессоры и преступники вполне могут создать ИИ, базируясь на выложенных в сеть свободных решениях и программах с открытым исходным кодом. Крайне угрожающим, по мнению Комиссии, является принятие решения технологическими гигантами об открытии платформ и фреймворков ИИ как ответ на их критику со стороны общественности и подозрения в злоупотреблении возможностями управления поведением. В результате этих, по большей мере, необоснованных подозрений, враждебные государства, террористы и преступники-одиночки уже сегодня могут создать не только простые, но и среднего уровня платформы, использующие ИИ. Это уже завтра станет огромной угрозой международной стабильности, целостности финансовой системы и безопасности личной жизни американцев.

4). Дезинформация и угрозы демократической системе. ИИ усиливает и без того серьезные угрозы злонамеренного управления поведением через проведение кампаний дезинформаций, а также риски осуществления киберопераций, включая действия «под чужим флагом». ИИ уже сегодня позволяет создавать deepfakes, неотличимые от подлинных фото и аудиоконтента, видеороликов и т. п. Впервые в истории люди оказываются в информационной среде, в отношении которой они не могут быть убеждены, что это реальность, а не создание манипуляторов. Все это может не только поставить под угрозу подведение итогов выборов, но, что гораздо страшнее, создать атмосферу тотального недоверия, дезинформации и агрессивности американцев, усугубить нарастающее разделение общества по обе стороны Атлантического океана.

5). Эрозия личной жизни и гражданских свобод. Новые инструменты ИИ предоставляют государствам несравнимо большие, чем раньше, возможности мониторинга, отслеживания и манипуляции поведением, как собственных граждан, так и граждан других государств. Уже в настоящее время практически на каждого жителя в развитых государствах и значительной части развивающихся имеются цифровые профили, включающие не только профессиональные, идентификационные данные, но и сведения об их поведении онлайн и офлайн, а также чувствительные персональные данные, связанные с убеждениями, религиозной принадлежностью, состоянием здоровья, психики и т. п. Внедрение ИИ в комбинации с системами видеонаблюдения и Интернетом вещей превращают весь цифровой мир в средство копирования любых следов личности и создают предпосылки для полной информационной осведомленности собственников платформ и брокеров данных о поведении, как отдельных граждан, так и любых их совокупностей. В этой связи особую тревогу Комиссии вызывает использование Китаем ИИ для создания систем тотального мониторинга поведения, включая видеонаблюдение. У Комиссии имеются задокументированные данные о том, что китайские системы размещены и работают минимум в 74 странах, включая многие либеральные демократии.

6). Все более опасные кибератаки. ИИ мультиплицирует риски и угрозы кибератак. Уже сегодня есть свидетельства наличия шпионских, боевых киберплатформ, ранее привычно называемых вирусами, управляемых ИИ. ИИ находит слабые секторы в антивирусной обороне и системах информационной безопасности и рассчитывает способ их преодоления. Кроме того, сами по себе суперкомпьютеры и облачные серверы, связанные с ИИ, становятся приоритетной целью для кибератак. По мере того, как весь мир переходит к Интернету всего, где все – от автомобилей до критических инфраструктур – управляется ИИ, именно кибервооружение становится одновременно наиболее разрушительным, экономичным и вероятно доступным видом оружия массового поражения. Комиссия считает, что мир со стратегическим кибероружием не обладает встроенными механизмами предупреждения конфликтов, которые существовали в прошлом, когда обе стороны – США и СССР – знали о так называемом гарантированном ответном ядерном ударе.

7). Новые методы, приносящие новые уязвимости. ИИ станет желанным инструментом для злоумышленников и преступников всех видов и направлений. Они будут не столько разрушать системы ИИ, сколько брать их под управление, либо, в крайнем случае, получать доступ к этим системам, чтобы в нужный момент использовать в своих целях.

8). Опасность непредвиденных чрезвычайных ситуаций. Новые технологии создают дополнительные риски для безопасности и надежности. Относительно бедные и технически неразвитые страны вполне могут пользоваться ИИ по модели SAAS, т. е. «сервис, как услуга». Это может привести к крупномасштабным катастрофам и инцидентам в развивающихся государствах. Что касается Соединенных Штатов, то здесь возникает другая опасность. Поскольку в Интернете все связано со всем, то, несомненно, будут связаны друг с другом и ИИ. Уже сегодня специалисты не вполне понимают ход вычислений, который приводит к тем или иным выводам. Завтра же массовое внедрение ИИ может создать сверхсложную среду, где люди будут неспособны принимать оптимальные решения и раз за разом ошибаться.

Возрастающую технологическую неопределенность порождает комбинация возможностей, рисков и угроз в изменчивой, турбулентной политической, экономической и технологической среде. В обществе существует высокая степень обеспокоенности по поводу последствий использования ИИ, особенно в значительной степени в засекреченной сфере национальной безопасности. В процессе работы Комиссия не раз встречалась с мнениями руководителей бизнеса и правительственных организаций, ведущих исследователей относительно рисков негативного воздействия ИИ на общество, экономику и правопорядок. Комиссия указывает следующие риски.

1. Многие эксперты в области обороны призывают Соединенные Штаты как можно быстрее поставить на вооружение LAWS с управлением ИИ. По их мнению, это позволит Соединенным Штатам оставаться конкурентоспособными в конфликтах с государствами, уже эксплуатирующими LAWS с поддержкой ИИ, а также спасти жизни американцев и сократить жертвы среди гражданского населения. В то же время представители гражданского общества и многие разработчики призывают Соединенные Штаты отказаться от LAWS с поддержкой ИИ, полагая, что в противном случае Америка развяжет гонку киберфизических вооружений, управляемых ИИ, которая может привести к катастрофическим последствиям. Некоторые технические работники, обеспокоенные, что их усилия в части развития ИИ могут быть использованы в военных целях, призвали своих работодателей ограничить сотрудничество с Министерством обороны, а желательно прекратить его вообще. В то же время военные, а также руководители технологических компаний указывают, что важнейшим преимуществом Китая перед Соединёнными Штатами является участие абсолютно всех команд и коллективов разработчиков ИИ в реализации общенациональной программы военного использования ИИ. По их мнению, отказ тех или иных американских специалистов и групп от сотрудничества с Министерством обороны в области ИИ является прямым пособничеством противнику.

2. Технологические фирмы создают комитеты по этике для разработки руководящих принципов работы в области ИИ и Интернета вещей, а также предлагают на законодательном уровне запретить правительству США иметь дело со странами, которые используют ИИ для угнетения своих граждан. Значительная часть американских военных, руководителей технологических компаний выступают за более активное, вплоть до принятия законодательных актов, противодействие Соединенных Штатов китайскому цифровому авторитаризму, который давно уже вышел за пределы Китая и становится, по их мнению, угрозой для всего человечества.

3. Компании и университеты подчеркивают, что изоляционизм и замыкание исключительно на внутренних проблемах США создает стратегическую угрозу, прежде всего, для самих Соединённых Штатов. Технологический бизнес однозначно высказывается за широкое международное сотрудничество, за более активное привлечение талантов и высококвалифицированных специалистов в Соединенные Штаты. Сотрудники национальной безопасности и правоохранительных органов подчеркивают, что новый американский изоляционизм успешно используется Китаем, максимально широко привлекающим компьютерные таланты со всего мира и стремительно развивающим международное сотрудничество в области ИИ.