Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Как отмечалось выше, ИИ базируется на триадном потенциале: аппаратно-коммуникационной инфраструктуре, программно-алгоритмическом оснащении и больших структурированных и неструктурированных данных, пополняемых в режиме реального времени.

Бесспорно, в отличие от подавляющего большинства научно-технологических кластеров в сфере аппаратно-телекоммуникационной инфраструктуры за последние 30 лет произошли поистине революционные сдвиги. В соответствии с законом Мура, 30 лет происходило экспоненциальное наращивание мощностей компьютеров и пропускной способности телекоммуникационной магистрали при стремительном удешевлении единицы мощности.

Параллельно, Интернет позволил впервые в истории человечества получить, по сути, полные, пополняемые в режиме онлайн архивы поведения, как групп различной размерности, так и отдельных индивидуумов. Причем в последние годы с появлением Интернета вещей эти архивы стали охватывать не только мысли, интересы, желания или действия в интернет-среде, но и любой поступок и более того, движение в физической реальности. Цифровой мир, о наступлении которого возвестил несколько лет назад глава Google Э. Шмидт, – это не только единство виртуальной и физической реальности, но и, прежде всего, мир тотальной осведомленности хозяев платформ обо всех и каждом.

Что же касается программно-алгоритмического оснащения, то, по большому счету, оно представляет собой совершенствование решений и разработок, сделанных еще в XX веке. Это относится и к принципам машинного обучения, и к нейронным сетям, и к распознаванию образов на основе построения полных комбинаторных таблиц, и к анализу структурированной и неструктурированной информации. Поскольку прорывных открытий в прикладной математике в XXI веке не сделано, то соответственно алгоритмическое ядро современного софта сложилось и существовало в основных чертах еще в период разработки программ «Сократ» и соответствующих советских. Просто 30–40 лет назад эти алгоритмы не являлись машиноисполняемыми программами. У компьютеров не хватало мощности для полных комбинаторных вычислений.

В конечном счете, естественно, огрубляя, можно сказать, что ИИ базируется, прежде всего, на возможности вычисления количественных зависимостей и отношений между огромным и все возрастающим числом переменных. В этом сила и слабость нынешнего искусственного интеллекта.

Искусственный интеллект уже сегодня способен гораздо эффективнее человека решать любые комбинаторные, счетные задачи, а соответственно распознавать стабильные образы, искать корреляции между огромным числом переменных, выбирать нужную информацию в огромных массивах данных. Ограничением сегодняшнего, да и завтрашнего искусственного интеллекта, является то, что, будучи порождением математики, он не способен помочь в решении противоречивых и динамических задач, где имеет место переход количества в качество. Математика работает только с непротиворечивыми и количественными системами.

В изложенном нет какого-либо умаления достижений ИИ. В человеческой практике, согласно расчетам исследователей, как видим, 75–80 % задач относится к рутинным, выполняемым, что называется, инстинктивно, на автомате, в рамках наперед заданных условий и норм. В пределе ИИ может успешнее человека решать все эти задачи. Главное, чтобы были сформулированы условия и определены параметры. Даже самый лучший компьютер, обыгрывающий человека в шахматы или в Го, не способен принять решение о том, что пора закончить играть в Го и перейти к иному виду спорта. Люди старшего поколения прекрасно помнят песню В. Высоцкого о поединке боксера и чемпиона мира по шахматам. Вот эта песня для компьютера принципиально непонятна.

Не только в социальных медиа, но и в серьезной научной периодике, в кулуарах правительств, на международных и на закрытых национальных совещаниях вот уже несколько лет множатся обещания, что еще чуть-чуть и ИИ определит, как вылечить рак, сконструирует наиболее экономичный космический корабль или разгадает тайну глобального климата. Однако, внимательные аналитики понимают, что все это надо делить даже не на два, а на гораздо больше.

Бесспорно, мощнейшие комбинаторные возможности ИИ позволяют решать все более широкий круг задач. Однако искусственный интеллект сегодня – это не только маркер прорывных разработок, но и прежде всего, маркетинговая марка. Каждые три-четыре года в информационных технологиях появляется новая фишка, на которую клюют инвесторы и вкладывают миллиарды даже не напечатанных, а генерируемых как электросигналы долларов, евро, юаней и тугриков. Только за последние 10 лет мейнстримом являлись социальные сети, большие данные, экспертные когнитивные системы, типа «Watson», искусственный интеллект. Буквально сейчас продолжается хайпблокчейн-технологий, а в двери стучится сверхновый лейбл Метавселенной. Все эти направления реальны и, бесспорно, серьезно меняют жизнь, бизнес и гражданское общество. Однако все они, несомненно, являются обещаниями, которые исполняются далеко не полностью и сменяются новыми посулами. Пожалуй, лучшей метафорой современного общества является Изумрудный город, где гудвины стараются заработать друг на друге.

В условиях технотупика и безальтернативной стагнации реальной экономики, прикрытой ростом фиктивного капитала в виде курса акций и т. п., ИИ используется всеми лидерами гонки не в реальной экономике, а в управлении обществом, в обеспечении незыблемости устоев глобального Изумрудного города.

В 2019 году Владислав Сурков опубликовал знаковый текст «Долгое государство Путина». Как и следовало ожидать, он вызвал острые горячие дискуссии. Причем, большинство обсуждающих увидели в тексте апологетику действующей власти и попытку подвести под российские, во многом неказистые реалии прочную концептуальную основу.

Однако, вполне может оказаться так, что даже наиболее вдумчивые читатели не вполне поняли глубинный смысл текста. Если совсем коротко, то суть его в том, что высказывается мнение об объективности перехода общества от презумпции выбора к принципу доверия. Доверие идет на смену выбора в том смысле, что, по мнению автора статьи, реального выбора в традиционных демократиях остается все меньше и меньше, а соответственно выбор все больше и больше превращается в фикцию, которая чем-то должна быть заменена. В качестве замены предлагается доверие. Эта конструкция категорически не устроила значительную часть участников обсуждения. Однако проблема состоит вот в чём.

Если мы внимательно посмотрим на тенденции развития, а главное, практического применения наиболее мощных систем искусственного интеллекта, то неизбежно придем к выводу, что он используется в странах-лидерах для если не лишения, то, по крайней мере, существенного ограничения возможностей выбора для граждан этих государств.

Наиболее ярко и выпукло это демонстрирует система Социального кредита в Китае. В настоящее время в Китае развернут мощнейший парк искусственных интеллектов, которые будут обрабатывать информацию, получаемую от сотен тысяч камер наружного наблюдения, десятков миллионов планшетов, смартфонов, компьютеров. Эти системы будут контролировать все электронные платежные транзакции, внимательно наблюдать посредством Интернета вещей не только за онлайн, но и за реальным оффлайн поведением граждан. В зависимости от результатов граждане еженедельно будут получать определенные баллы, своеобразные оценки своего поведения с позиций соответствия целям и нормам китайского общества. На Западе эту систему уже прозвали оруэлловским Большим братом.

Однако по факту это не вполне так. Дело в том, что вся китайская жизнь пропитана конфуцианской традицией с приматом государства, общества, старших в повседневной жизни личности. Без такого примата китайский социум не смог бы выжить на ограниченной естественными преградами территории в течение тысячелетий. В этом смысле ИИ системы Социального кредита – это фактически материализация, а точнее информатизация свой ственных каждому китайцу конфуцианских заповедей.

Общество при суженом выборе – это не только китайская прерогатива, обусловленная исторической традицией. Это – одновременно реальность Соединенных Штатов, Великобритании, а в перспективе и других европейских стран.

Не так давно на русский язык была переведена одна из наиболее влиятельных книг XXI века, работа консультантов Президента США и Премьер-министра Великобритании – К. Санстейна и Р. Таллера – «Nudge. Архитектура выбора». В дословном переводе Nudge – это подталкивание. Фактически речь идет не о подталкивании, а о незаметном или, как пишут авторы, «мягком» принуждении к выбору одного определенного варианта из нескольких.

В настоящее время система Nudge опробуется более чем в 40 странах мира, но наиболее изощренные и эффективные формы разработаны и практически используются именно в США и Великобритании. Это неудивительно. Вот уже как минимум 25 лет население всех экономически развитых стран, и в первую очередь уже упомянутых, ежесекундно через Интернет, а также телевидение мягко принуждается к покупке тех или иных товаров или услуг. Не зря маркетинг и реклама уже давно являются важнейшими секторами экономик многих стран, а в структуре цены товара расходы на принуждение к покупке занимают от 15 % до 40 %.

Кредитная экономика потребительства и поведенческая пассивность неразрывно связаны между собой. Поколения потребителей, сформированные глобальной деструкцией последних 30 лет, когда мировое общество впитало в себя все недостатки капитализма, реального социализма и даже предшествующих формаций, включая феодализм и рабовладение, это – люди, все более и более уклоняющиеся от выбора. Собственно, маркетинг и реклама построены на эксплуатации стереотипов, привычек, элементарных эмоций и желаний. Nudge представляет собой просто следующий шаг в лишении населения как в форме потребительской массы, так и электората, возможности реального выбора. Он, в отличие от традиционного маркетинга, эксплуатирует не только привычки и социальные стереотипы, но и особенности человеческого поведения, групповые инстинкты и свой ственные всем людям в той или иной степени леность и отсутствие желания размышлять и напрягаться.

Позволим себе высказать одну неожиданную гипотезу: широко раздуваемая в 2016 году и позднее история с вмешательством России в выборы в США является отвлекающим маневром от массированного использования технологии Nudge для манипулирования политическим поведением американских избирателей. Дело в том, что в ходе избирательной кампании 2016 года впервые масштабно штабом Д. Трампа были использованы Nudge-технологии. По оценке серьезных аналитиков, именно они склонили в пользу Трампа выбор традиционно демократических штатов «ржавого пояса» и принесли ему победу в коллегии выборщиков, при том, что в общенациональном голосовании он проиграл два миллиона голосов Х. Клинтон.

Американцы, и об этом свидетельствуют серьезные, продвинутые ресурсы, всерьез задумались об опасностях Nudge и о том, что ИИ не когда-то в будущем, а уже сегодня лишает свободы выбора рядовых граждан не только в экономической, но и в политической сферах.

Таким образом, ИИ, как показано на примере Китая и США, используется в первую очередь для нужд социального управления, превращения буржуазных демократий и авторитарных социалистических режимов в техноэкономические алгоритмические общества. В этих обществах население работает, принимает участие в политической жизни и даже организует свою повседневность в соответствии с алгоритмами, которые реализуются через платформы, типа Amazone или Uber, управляемые искусственным интеллектом на основе больших как обезличенных, так и персональных данных.

История, даже всемирная, это – не процесс непрерывного поступательного развития. Эпохи подъема сменяются периодами спада. Сложные продвинутые общества в истории человечества не раз становились жертвой своей сложности и уступали место гораздо более архаическим и неразвитым структурам. Примерами тому не только Римская Империя и Минойская цивилизация в Европе, но и распады китайских империй, исчезновение цветущих государств Бактрии и Согдианы и т. п.

В данный период человечество переживает очередной серьезный кризисный период. Классический капитализм, став глобальным, исчерпал ресурсы своего существования и на наших глазах трансформируется в поле битвы между финансиализмом и алгоритмической техноэкономикой. Все это происходит на фоне уже начавшегося биосферного кризиса, когда каждый год исчезает до 2 % насекомых и 0,5 % других живых существ. Все более неустойчивым становится климат. Непрерывно растет загрязнение окружающей среды, которая уже давно стала общенациональной проблемой для Китая и превращается в серьезный социальный вопрос для российских и американских мегаполисов. Ближайшие годы неизбежно станут временем наложения друг на друга негативных тенденций в области экономики, климата, демографии, биосферы и техноценоза. Эта неизбежность заставляет совершенно по-новому посмотреть на проблемы, в том числе искусственного интеллекта.

Нынешний ИИ, базирующийся на больших данных и традиционной математике, эффективен в условиях пусть быстрого, но стабильного в своих основах мира, мира, где будущее есть в основном продолжение настоящего. Однако мы вступаем в новый мир. В новом мире главными критериями станут выживаемость, надёжность и способность отвечать на экстремальные вызовы. В этом есть значительный шанс для российского общества. Оно традиционно живет в условиях форс-мажора и тектонических сдвигов, поэтому привыкло к режиму выживания. Бесспорно, этот режим мало кому понравится, но, скорее всего, он является неизбежной перспективой. Выживание невозможно без взаимного доверия общества и власти, без создания технологической основы или инфраструктуры выживания общества в форсмажорных условиях. В этой связи недальновидной выглядит идея копирования западных или восточных, например, китайских, лекал в виде цифровизации экономики или попытки догнать уже ушедший поезд традиционного искусственного интеллекта.

В последние годы все чаще в наиболее серьезных, рассчитанных на политический и научный истеблишмент изданиях появляются публикации о необходимости создания альтернативных моделей ИИ, ориентированных не на стабильные условия, а на экстремумы, форс-мажоры и режим выживания. В данном контексте упоминаются такие направления, как переход от чисто дискретных вычислительных устройств к аналого-цифровым, создание интерфейсов компьютер-человек, базирующихся не только на электронном подключении, но и на глубинных особенностях человеческой психики, дополнение двоичной «да-нет» алгоритмики нечеткой логикой, переход от распределенных последовательных к параллельным и многомерным вычислениям. По сути, речь идет о переориентации с парадигмы «компьютер как механизм» на природоподобные технологии, о которых впервые в мире с высокой трибуны было сказано в выступлении Путина на Генеральной Ассамблее ООН еще в 2015 году.

При наличии политической воли, социально-экономических условий, а главное, не показного, а реального доверия и солидарности между властью и населением, именно в России есть наибольшие шансы сделать прорыв в этом направлении. В странах-лидерах гонки в сфере искусственного интеллекта в традиционные направления, базирующиеся на достижениях НТР 70–80-х годов, сделаны слишком большие инвестиции, политические и иные ставки, чтобы отказаться от механической парадигмы и перейти к природоподобной (такие работы активно ведутся в Курчатовском институте). В нашей же стране, где в силу стечения объективных и субъективных факторов, а также случайных обстоятельств, задел традиционных разработок, производственной базы и инфраструктуры полностью исчерпан, можно при наличии воли, желания и единства реализовать имеющиеся не только в России, но и за рубежом разработки и решения по искусственному интеллекту, эффективному в кризисном мире.

2.3. Америка с искусственным интеллектом

Президент России Владимир Путин 19 декабря 2019 года на ежегодной большой пресс-конференции в очередной раз подчеркнул важность продолжения работы в сфере изучения искусственного интеллекта и его возможностей. Напомним, что в октябре 2019 года Президентом РФ была принята Национальная стратегия развития ИИ на период до 2030 года.

По существу, в мире началась беспрецедентная борьба за лидерство в развитии ИИ. Ознакомление со стратегическими документами США (2019 год) по этому вопросу свидетельствует о том, что Соединенные Штаты рассматривают эту борьбу уже как вариант военных действий. Такая ситуация вокруг ИИ безусловно скажется на всем комплексе международных отношений. Она требует комплексного анализа и разработки мер по защите национальных интересов России.

Дональд Трамп, на тот момент Президент США, в феврале 2019 года подписал указ «Американская ИИ-инициатива». Указ Трампа требует наращивать объемы и повышать эффективность ассигнований на ИИ для создания «возможностей, обеспечивающих нашу экономическую и национальную безопасность». Национальный стратегический план в области развития ИИ, подготовленный в 2016 году и обновленный в 2019 году, наметил разумный перечень целей.

Правительство США во исполнение указа Трампа выпустило Стратегическое руководство. В нем подчеркивается центральное значение ИИ для национальной безопасности. Члены Конгресса подали более 30 законопроектов, касающихся ИИ, из которых более трети приобрели силу законов. В соответствии с решениями Конгресса создана специальная межпартийная группа по развитию ИИ. Сотни перспективных проектов, связанных с ИИ, реализуются Министерством обороны. Создан новый орган правительства США – Объединенный Центр ИИ в статусе федеральной службы. Разведывательное сообщество выделило в качестве приоритетных направлений финансирование IARPA исследования в области ИИ. АНБ и Министерство энергетики приняли решения о предоставлении мощностей их объединенной сети суперкомпьютеров для доступа исследователей и разработчиков ИИ к высокопроизводительным вычислительным ресурсам.

21 декабря 2019 года Трамп подписал Закон об американском оборонном бюджете на 2020 год, где разработке ИИ, наряду с гиперзвуковым оружием, технологиями направленной энергии и созданию Космических войск США уделено первостепенное внимание.

Законом США о национальной обороне на 2019 финансовый год в марте того же года в Конгрессе утверждена Комиссия по искусственному интеллекту для национальной безопасности. На неё возложено «рассмотрение методов и средств, необходимых для развития ИИ, машинного обучения и связанных с ними технологий, для всестороннего и успешного решения задач национальной безопасности, обороны и информационного превосходства Соединенных Штатов». Председателем Комиссии стал бывший глава Google, член Бильдербергскогоклуба, миллиардер Эрик Шмидт.

В Комиссию входят технологические предприниматели, руководители университетов, высокопоставленные военные, лидеры разведывательного сообщества, представители основных политических сил Америки. Конгресс дал Комиссии широкий мандат на изучение ИИ через призму национальной конкурентоспособности, выявления технологических преимуществ, определения господствующих тенденций, а также установления реальной картины развития ИИ другими национальными государствами, корпорациями и международными структурами. Комиссия также уполномочена подготовить конкретные предложения по увеличению инвестиций в фундаментальные и передовые исследования, кадры, образование и т. п. Также миссия Комиссии включает прогнозирование будущей эволюции ИИ, тех рисков и возможностей, которые она несет. На данном этапе основное внимание Комиссии сосредоточено на:

– угрозах национальной безопасности со стороны ИИ иностранных, прежде всего, враждебных и конкурирующих с Америкой государств, а также рисков владения ИИ террористическими организациями;

– наиболее полном использовании возможностей ИИ для укрепления обороноспособности США, увеличения осведомленности и качества работы разведки, повышения уровня охраны правопорядка и соблюдения законов;

– взаимосвязи между ИИ, экономической конкурентоспособностью и технологическими достижениями как важнейшими компонентами национальной безопасности;

– этических соображениях и ограничениях, которые необходимо учитывать при развитии ИИ в интересах национальной безопасности.

В ноябре 2019 года Комиссия подготовила промежуточный доклад, который удовлетворяет специальным просьбам Конгресса об информировании относительно реального состояния дел с ИИ в Соединенных Штатах и месте Соединенных Штатов в глобальной гонке развития ИИ. В докладе предпринята попытка спрогнозировать основные возможности, риски и угрозы развития ИИ в контексте национальной безопасности.

В докладе определены пять основных направлений усилий, необходимых для сохранения преимуществ США. К ним относятся:

– продолжение активных инвестиций в исследования и разработки в сфере ИИ;

– рекрутирование молодых американцев в отрасль ИИ, а также привлечение наиболее талантливых математиков, программистов, нейрофизиологов, когнитологов со всего мира в программы ИИ в Соединенных Штатах;

– недопущение законодательных мер, способных сдерживать инновационный потенциал американских компаний – лидеров в сфере ИИ, и создавать на этой основе преимущества для их китайских конкурентов;

– создание системы глобального мониторинга и инвентаризации наиболее многообещающих эффективных решений, фреймворков в области ИИ с обеспечением патентной и юридической собственности субъектов права США на эти достижения;

– продолжение осуществления на государственном, бизнесовом и университетском уровнях сотрудничества в области ИИ между Соединенными Штатами и странамидрузьями, союзниками.