Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Прогноз Комиссии носит не столько аналитический, сколько нормативный характер. Комиссия описывает будущее таким, каким бы хотелось его видеть, и которое наверняка таким не будет.

Комиссия представляет себе мир, в котором ИИ используется для продления и обогащения жизни, для развития способностей и расширения возможностей для максимального числа американцев. Комиссия надеется, что благодаря целенаправленной работе удастся блокировать наибольшие опасности и снизить риски негативного воздействия ИИ на Америку. Комиссия полагает, что одна из главных миссий ИИ – это освободить людей от тяжелых, однообразных, негативно влияющих на здоровье человека работ. Мы верим, что в будущем мире удастся защитить конфиденциальность данных и оградить их от злоупотреблений. В отличие от сегодняшних опасений, технологии ИИ помогут сделать мир более прозрачным и предсказуемым. Это будет мир, где системы ИИ используются в соответствии с основными ценностями, которыми дорожат американцы. Он будет защищать, а не ослаблять права американцев, закрепленные в конституционных документах.

В то же время не меньше шансов на реализацию имеет и черная сторона будущего. Вполне вероятно, что цифровой авторитаризм перестанет быть прерогативой Китая и союзных ему стран и станет ответом на усиливающиеся экономические, политические, социальные кризисные явления во всем мире. Цифровой авторитаризм вполне может отбросить человечество даже не в средневековье, а гораздо дальше, во времена рабовладельчества и даже кастового строя. Главная опасность ИИ состоит в том, что он мультиплицирует риски тоталитаризма и диктатуры, которые существовали и существуют на протяжении всей человеческой истории. Особое опасение вызывает тот факт, что наряду с системным цифровым авторитаризмом в Китае, отдельные элементы этого антигуманного строя начинают проявляться и в либеральных демократиях по всему миру.

ИИ способен дестабилизировать глобальный мир, покоящийся на взаимном страхе перед применением ядерного оружия. В отличие от ядерного оружия кибервооружения, управляемые ИИ, позволяют уничтожать объекты критической инфраструктуры, экономический потенциал, городские инфраструктуры и население в строго дозированных, заранее установленных масштабах. Соответственно, снимается главное преимущество ядерного оружия как гаранта мира – обязательность взаимного уничтожения. Комбинация развитого ИИ и кибервооружений позволяет агрессорам надеяться на первый победный обезоруживающий удар, после которого противник не только не сможет восстановить политическое и экономическое управление, но и не будет способен нанести ответный киберудар.

Комиссия надеется начать в США широкую национальную дискуссию в части использования ИИ для национальной безопасности. В рамках дискуссии ставится задача сформировать общенациональный консенсус вокруг базовых принципов взаимодействия между ИИ и национальной безопасностью.

I. Глобальное и безусловное лидерство в технологиях ИИ является приоритетом номер один национальной безопасности. Учитывая центральную роль ИИ в будущей экономике, общественной жизни и национальной безопасности, правительство США должно разработать и неуклонно проводить в жизнь на двухпартийной основе инвестиционную стратегию, направленную на увеличение технологического преимущества Америки перед остальным миром в области ИИ.

Глобальное лидерство предоставляет оборонным учреждениям и органам правопорядка США доступ к лучшим технологиям и ставит Соединенные Штаты в наилучшее положение в этой области. Глобальное лидерство создает возможность для активной политики Соединенных Штатов по развертыванию системы международных норм, стандартов и договоров, касающихся ИИ. В то время как американские компании будут продолжать играть ключевую роль в исследованиях, разработках и эксплуатации ИИ, правительство должно нести основную ответственность за финансирование фундаментальных и рискованных исследований в области ИИ.

II. Принятие ИИ как центральной платформы обороны и безопасности является безотлагательным национальным императивом. Главным направлением первоочередного применения ИИ в сфере национальной безопасности является использование ИИ для повышения оборонной и наступательной мощи кибервооружений, сил специального назначения, а также высокотехнологичных войск и подразделений.

Наего базе Комиссия ставит задачу осуществить глубокую модернизацию инфраструктуры обеспечения полной информационной осведомленности и интеллектуального превосходства американских вооруженных сил на поле боя. Военнослужащие должны иметь доступ к самым передовым технологиям ИИ для защиты американского народа, американского образа жизни и союзников США.

III. Руководители частного сектора, должностные лица, отвечающие за обеспечение благосостояния и безопасность американского народа, должны более активно, чем в последние годы, наращивать и повышать эффективность инвестиций в фундаментальные и прикладные исследования по теме ИИ.

Особая роль в значительном увеличении этих инвестиций принадлежит федеральному правительству, включая вооруженные силы и национальное разведывательное сообщество. Они должны брать на себя наиболее спорные рискованные инвестиции и в случае успеха передавать их в частный сектор при условии максимального вклада частного сектора в укрепление американского лидерства в сфере использования ИИ для национальной обороны. Промышленность должна помогать правительству обеспечить американское лидерство, а правительство – не только предоставлять инвестиции, но и формулировать политику ответственного использования ИИ в целях национальной безопасности.

IV. Таланты остаются главным и важнейшим фактором обеспечения лидерства в области ИИ. Комиссия ставит задачу в ближайшие несколько лет осуществить глубокую реформу американской средней школы как основу образовательной системы на базе STEM. Необходимо прямо сказать, что в ближайшем будущем высококвалифицированная миграция имеет важнейшее значение для обеспечения кадрами высоких технологий вообще и ИИ, в частности.

Одни из важнейших преимуществ Америки – это высшее образование и технологический бизнес. Они являются магнитами, притягивающими лучшие таланты в области ИИ со всего мира. Высочайший уровень образования, неограниченное финансирование стартапов, свобода и безопасность, которые может предоставить Америка, позволяет стране приобретать лучшие кадры и, прежде всего, из Китая и России. Дословно в докладе ставится задача «поощрять этот процесс и иметь в виду, что любой специалист – программист, разработчик в области ИИ – приехавший в Америку из Китая, России и других стран цифрового авторитаризма – это не только большой плюс в копилку американского лидерства, но и минус для потенциала стран, откуда они уехали. Необходимо на двухпартийной основе как можно скорее принять дополнительные законодательные решения, облегчающие миграцию в США подобным кадрам и помогающие их обустройству в Америке».

V. Открытая инновационная среда ИИ основывается на принципах свободного исследования, свободного предпринимательства и свободного обмена идеями. В докладе ставится задача и далее использовать ограничения экспорта технологий в «злонамеренные агрессивные страны». При этом такого рода запреты должны быть связаны не только с фактом прямой агрессии, но и с принятием теми или иными странами курса на цифровой авторитаризм, подавление прав и свобод собственных граждан. Комиссия считает, что традиционный экспортный контроль уже недостаточен для поддержания конкурентоспособности США в области ИИ. Вместо традиционного контроля, основанного на формировании списков запрещенных компонентов, правительству стоит рассмотреть вопрос о распространении на экспорт программной, аппаратной, инфраструктурной и производственной компонент ИИ тех же принципов, которые действуют в сфере контроля над экспортом вооружений. Контроль над экспортом вооружений сосредотачивается не на составлении списков товаров, запрещенных к экспорту, а на перечне стран, куда экспорт вооружений запрещен либо непосредственно, либо через государства и компании-посредники.

VI. Американский ИИ должен отражать американские ценности, в том числе безусловное верховенство закона, свободы и равноправия граждан. Для федеральных правоохранительных органов, проводящих расследования с использованием ИИ, это означает, что они должны четко соответствовать конституциональным принципам, надлежащим правовым процедурам, во всех случаях учитывать неприкосновенность личной жизни и отсутствие дискриминации. Для американской дипломатии это означает, что она должна всеми возможными способами противодействовать применению ИИ для установления и укрепления цифрового авторитаризма, подавления свободы личности или нарушения прав граждан. Использование ИИ для цифрового авторитаризма не может быть внутренним делом какой-либо страны. Американские идеалы свободы, демократии и равенства требуют бороться не только за американские ценности в Америке, но и поддерживать борьбу народов против цифровых авторитарных режимов.

За лозунгами об «отстаивании американских идеалов свободы» фактически прячется паника в окружении экс-президента США Д. Трампа из-за взлета исследований ИИ в Китае. Комиссия в своем докладе прямо пишет, что угрожающим выглядит 30-кратное увеличение Китаем финансирования НИОКР в области ИИ за период с 1991 по 2015 годы. Есть все основания полагать, что Китай к 2030 году обойдет Соединенные Штаты по размерам расходов на НИОКР, производство и обслуживание ИИ. Также сокращается лидерство в Америке по такому ключевому показателю, как научные публикации.

Китай начинает резко сокращать отставание от Соединенных Штатов в области коммерческой эксплуатации ИИ. Китайские технологические фирмы готовы стать лидерами в области прикладного использования ИИ, особенно в отраслях электронной коммерции, образования и здравоохранения. Развитие таких китайских фирм, как Baidu, Alibaba, Tencent, iFlytek и Sense time, не только создает угрозу коммерческим позициям американских технологических гигантов, но и проблемы для национальной безопасности США. Эти и другие компании гораздо большую долю средств по сравнению с американскими гигантами расходуют на поддержку лабораторий, работающих в сферах глубокого обучения, нейроподобных компьютеров, прямого интерфейса «мозг-компьютер», а также в сфере дополненной реальности.

Китай фактически создал единый военно-гражданский комплекс ИИ. Концепция «военно-гражданского слияния» провозглашена КПК как главный принцип развития науки, технологий и производства. Китай отказался от какого-либо разграничения между гражданскими и военными разработками и исходит из принципа, что любая технология ИИ имеет военное и гражданское применение.

Китай старается максимально использовать американский опыт особого порядка финансирования прорывных исследований на основе DARPA и IARPA. В частности, именно таким образом китайцы развивают так называемый роевой ИИ, нейроподобные компьютеры, вероятностные компьютеры и стаи автономных роботизированных систем вооружения с центральным ИИ.

Китай пытается конкурировать на мировом рынке талантов с Соединенными Штатами. Поднебесная прилагает активные усилия по привлечению глобальных талантов ИИ. При этом особый упор он делает на перехват талантов из России, Украины, Пакистана, некоторых латиноамериканских стран.

Комиссия делает вывод, что без изменения отмеченных выше тенденций Соединенные Штаты могут допустить ликвидацию отставания Китая в области исследования, разработок и применения ИИ. Это может иметь не только печальные экономические и политические последствия, но и поставить под угрозу национальную безопасность США и глобальную стабильность (риторика военного времени – прим. авторов).

В докладе Комиссии подчеркнуто, что противоборство с Китаем в сфере ИИ представляет собой для Соединенных Штатов самую сложную, чреватую рисками, угрозу со времен соперничества с СССР периода Холодной войны.

Китай уже долгие годы выигрывает от открытого характера академической и коммерческой экосистем США и беззастенчиво крадет интеллектуальную собственность в области ИИ на миллиарды долларов. Американские университеты за последние 15 лет подготовили многих ведущих китайских исследователей ИИ. Многие американские университеты и технологические компании зависят от китайских инвестиций и от взаимодействия с китайскими федеральными органами власти. Начиная с 2005 года десятки китайских компаний, в том числе, все крупнейшие, создали исследовательские лаборатории и бизнес-филиалы в Соединенных Штатах. Американские венчурные капиталисты финансируют ИИ стартапы в Китае, в то время как китайские суверенные фонды инвестируют и скупают лучшие американские стартапы в области ИИ.

Комиссия располагает многочисленными сведениями о конкретных примерах краж интеллектуальной собственности и проведения шпионских программ китайцами против американского научно-технологического сектора. Директор ФБР Кристофер Рей недавно заявил, что Бюро имеет «данные о китайской шпионской активности, расследованием которых занимаются все 56 полевых региональных отделений Бюро. Эти расследования охватывают почти все отрасли или секторы», в первую очередь, ИИ, биотехнологии и интерфейсы «мозг-компьютер». По данным Министерства юстиции «с 2011 по 2018 годы более 90 % дел, открытых по фактам шпионажа на территории США, связаны с Китаем. Также на Китай приходится 2/3 случаев нарушения коммерческой тайны».

Комиссия полагает, что Соединенные Штаты столкнулись со сложной проблемой. С одной стороны, китайским шпионским операциям, а также воровству интеллектуальной собственности надо дать жесткий отпор. В то же время, в ходе предварительных слушаний представители американской промышленности, научных кругов предупреждали, что глубокие человеческие контакты, взаимодействия в части программно – аппаратных средств, цепочек поставок и т. п. не могут быть разорваны без значительных экономических издержек и непредвиденных последствий для экономики США. С этой точки зрения американские университеты, лаборатории и компании могут потерять доступ к важным рынкам и любопытным исследованиям. В долговременной перспективе Соединенные Штаты при разрыве взаимодействия с Китаем могут быть лишены понимания китайских достижений в области ИИ. Кроме того, по мнению бизнеса, уход американских компаний из Китая и разрыв сотрудничества позволит эту нишу заполнить компаниями других стран.

Соответственно решение не может быть однозначным, а выбор не сводится к дилемме: тесное сотрудничество или полный разрыв. Комиссия будет стремиться определить перечень конкретных действий, которые наметят разумный путь вперед при сохранении элементов сотрудничества в условиях лучшей защиты американских интересов.

Соединенные Штаты по состоянию на начало 2020 года сохранили целый ряд преимуществ. Американские университеты остаются ведущими центрами исследований и разработок в области ИИ. В Соединённых Штатах на государственный и частный секторы продолжают работать около 80 % докторов наук по дисциплинам, связанным с ИИ, включая и китайских специалистов. На Соединенные Штаты приходится ¾ из 100 лучших ИИ стартапов в мире в 2019 году. В Соединенных Штатах функционирует в два раза больше стартапов в области ИИ, чем в Китае. Если эту оценку расширить и объединить активы в области ИИ – США, Великобритании, Израиля, Канады, Австралии, Японии и активных европейских стран НАТО, то превосходство американского блока над Китаем и его партнерами выразится соотношением порядка 1 к 7.

Правительственные органы США начинают осознавать критическую важность ИИ для национальной безопасности. Однако большинство правительственных должностных лиц, кого опрашивала Комиссия, полагают, что их работа разворачивается еще достаточно медленно, а эффективным решениям препятствуют бюрократические процедуры, порожденные правительственными стандартами документооборота и отчетности. Комиссия считает, что правительство США пока находится на стадии принятия решений и выпуска документов и не приступило к практической работе по ускоренному развитию ИИ.

В определенной степени недостаточная эффективность работы правительства США в области ИИ связана с тем, что ИИ не соответствует традиционной парадигме технологического развития, движимой федеральными долларами с последующей доработкой за счет ассигнований бизнеса. С ИИ происходит обратное. Министерство обороны в основном адаптирует для национальной безопасности уже имеющиеся решения и технологии, разработанные технологическими гигантами и стартапами.

В результате сложилось противоречие между двумя блоками технологий ИИ. С одной стороны, Министерство обороны и разведывательное сообщество адаптируют для целей национальной безопасности коммерческие решения, базирующиеся на теоретическом заделе 70-90-х годов прошлого века. С другой стороны, университеты, исследовательские лаборатории и стартапы наработали альтернативные и прорывные технологии ИИ. Однако им не хватает финансирования. В настоящее время решающее значение имеет федеральная поддержка не прикладных разработок, как это имеет место в традиционном типе взаимоотношений между правительством и частным сектором, а инвестирование в высокорисковые стартапы, находящиеся на ранней стадии разработки в области ИИ, которыми занимаются университеты и крупные технологические фирмы.

После окончания Холодной войны реальный инновационный потенциал государственных ассигнований из года в год снижается. В настоящее время он сосредоточен на доведении до технологической стадии уже опробованных исследований и разработок. В результате инвестирование происходит в режиме догоняющего финансирования, когда правительство пытается интегрировать ИИ в существующие инфраструктуру и технологии, которым иногда уже несколько десятилетий.

Основа глобальной конкурентоспособности Америки в области ИИ связана с достижением технологических прорывов в федеральных, научных и коммерческих разработках. Технологические НИОКР в Соединённых Штатах уже давно движимы «трехсторонним альянсом» между государственными учреждениями, университетами и частными компаниями. (В том числе, не только технологическими гигантами, но и стартапами). Созданный в период Холодной войны, этот альянс привел страну к глобальному технологическому лидерству и экономическому процветанию, позволил создать и воплотить в жизнь технологические пакеты Интернета, стелс и глобальной системы позиционирования (GPS).

Эти разработки были как минимум на поколение впереди того, чем располагали конкуренты США. Многие из нововведений, прежде всего, связанные с Интернетом и производством микропроцессоров в конечном счете обеспечили абсолютное лидерство американского технологического сектора, беспрецедентный рост его капитализации в начале XXI века. Завершение Холодной войны и война с терроризмом заметно изменили соотношение сил в треугольнике. Государство в основном ушло из сферы прорывных и непарадигмальных (экстраординарных, лежащих вне традиционных научных парадигм) технологических инноваций. Федеральное финансирование НИОКР сокращается из года в год на протяжении десятилетий. В то же время коммерческий сектор, взяв на себя львиную часть ассигнований на исследования и разработки, основное внимание уделяет не фундаментальным исследованиям, подрывным инновациям (меняющим нашу жизнь до неузнаваемости) и непарадигмальным разработкам, а доведению до технологического уровня исследований и разработок, созданных в предыдущие годы, а иногда и десятилетия.

Хотя правительство сохраняет ключевую роль в поддержке фундаментальных научных исследований, а также исследований, прямо относящихся к национальной безопасности, государственные инвестиции в условиях бюджетного дефицита направляются во все менее рискованные, а соответственно все более приближенные к эксплуатационной фазе решения и разработки.

За последние годы урезание ассигнований на НИОКР, в том числе в сфере ИИ, и акцент на удовлетворение текущих потребностей в ущерб перспективе создали ощутимую угрозу для будущего подрывных инноваций в области ИИ. В итоге лидерство Америки может оказаться под угрозой гораздо раньше, чем это представляется политикам, государственным служащим и военным в настоящее время.

Потеря национального лидерства в области разработки ИИ будет означать, что американские военные и разведывательные органы должны будут приобретать аппаратные решения за пределами США и возможно даже в Китае. Это будет означать подлинную трагедию, которую необходимо предотвратить любой ценой.

В докладе Комиссии содержится абсолютно циничный, но объективный вывод о том, что «перед США есть наглядный пример России, Франции, которые когда-то были лидерами в IT технологиях, располагали возможностями производства полного национального стека компьютерных решений, а в настоящее время целиком зависят от США, Китая и иных стран».

ИИ в противовес мнению государственных служащих – это не столько программная часть, сколько аппаратные устройства и телекоммуникационные системы. Только способность страны полностью произвести все три компонента гарантирует ее суверенитет в эпоху ИИ.