Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Отчасти все эти оценки справедливы. Но представляется, что эта часть крайне мала. Суть игры, когда бы, кто бы и во что бы ни играл, всегда сводится к моделированию или имитации неких реальных процессов, событий, случаев. В этом плане даже фантазийные игры вносили и вносят свой вклад в образование, обучение и формирование социальных навыков игроков.

Бесспорно, и это доказано, игры, способствуя работе в условиях многозадачности, ослабляют концентрацию. Наряду с ростом дисциплинированности, они увеличивают зависимость, а вместе с повышением способности к направленной интуиции негативно сказываются на последовательном, рациональном мышлении. Однако в современном мире нет ничего: даже самого чистого, светлого и хорошего, – без недостатков, тайн и грязи. Поэтому наличие недостатков – отнюдь не аргумент для запрещения или радикального ограничения чего-либо.

Нынешний мир понижательной тенденции организован таким образом, что для поддержки хоть какого-либо прогресса он вынужден действовать по законам женской моды второй половины XX века. Тогда, как минимум – раз в пять-семь лет, сильные мира сего полностью меняли моду, понуждая миллионы женщин по всему миру обновлять свой гардероб.

Накопленный опыт не прошёл даром. Он активно используется собственниками и топами ведущих IT корпораций. Раз в три-четыре года они обязательно выбрасывают на концептуальный рынок что-то новое, стремясь прекратить дискуссии об относительно старом и об ответственности за то, почему это старое не столь блистательно, как обещалось. Благодаря этому уникальному открытию IT компании постоянно получают всё новые и новые инвестиции. При этом про старые инвестиции, благодаря уходу темы в подполье, их уже никто не спрашивает.

Достаточно вспомнить начало «нулевых» годов, связанное с поисковиками, вторую половину тех же «нулевых» – с социальными сетями, первую половину 2010-х – с большими данными, середину десятых – с мессенджерами и коммуникаторами, и начало 2020-х – с искусственным интеллектом. Сейчас с высокой степенью вероятности можно прогнозировать, что новый бум, который обязательно разразится в ближайшие два-три года, будет порождён коммерческим освоением технологий «совмещённой» или слитной реальности.

Совмещённая реальность объединяет реал и виртуал, физическую и электромагнитную среды, аналоговый и цифровой компоненты мира. Если говорить просто, то в совмещённой реальности человек наблюдает не только явления и процессы реального мира, но и тут же, в режиме онлайн, получает исчерпывающую информацию по всем объектам виртуальной реальности.

Виртуальность «вставляется» в реальный мир и, благодаря парадоксам человеческого восприятия, этот мир воспринимается как единое целое – совмещённая реальность (иногда вместо «совмещённая» используется термин «дополненная» реальность). Она потому и совмещённая, что позволяет неотличимо для человеческого восприятия дополнять физическую реальность тем, что не находится в ней, но присутствует как органический элемент естественной реальности.

Уже сегодня совмещённая реальность используется на поле боя, где действуют спецподразделения, оснащённые распределёнными компьютерами со вставными линзами. Они используются как экраны для трансляции, позволяющие обеспечить подавляющее информационное преимущество. Подобные системы используются коммерческой разведкой при проведении переговоров или расследований. Они обеспечивают полную информационную проницаемость контрагента, партнёра или конкурента.

На ближайшие годы намечен выпуск первых игр в масштабе совмещённой реальности. Они быстро создадут рынок, измеряемый десятками, а то и сотнями миллиардов долларов. Главное же, данные игры откроют возможности для создания обучающих курсов самой различной тематики, перехода к платформенному образованию и т. п.

Если обратиться к книгам и фильмам: как художественным, так и документальным, – о закономерностях и темпах развития научно-технического, гуманитарного и социального прогресса, появившимся в СССР, да и на Западе, то несложно заметить их жизнеутверждающий оптимистический и гуманистический характер. Однако поздний капитализм и так называемый финансианализм, восторжествовавший на планете с начала 1990-х годов, извратили и технологический прогресс, и искусственный интеллект. Извращено было и то, что в 1960-е – 1970-е годы называлось бионикой, а сегодня – биотехнологиями.

В настоящий момент имеет место начальная стадия терминального кризиса капитализма. Мир, каким он существовал до 2020 года, с чрезвычайно высокой степенью вероятности не имеет будущего. Более того, рискнем сделать прогноз, что этот мир потребует переосмысления и, в значительной мере, перевооружения как ИИ, так и технологий совершенствования человека. Какой выбор будет сделан, зависит от характера и направленности процессов, которые разворачиваются на наших глазах.

2.6. Искусственный интеллект против Covid-19

Уже в первые недели распространения Covid-19 сначала по Китаю, затем по планете руководители отдельных стран, правительства, международные организации буквально в режиме реального времени начали корректировать свои воззрения на инструменты из арсенала противодействия пандемии. В частности, Совет Европы постарался обобщить передовой опыт использования информационно-коммуникационных технологий и алгоритмических платформ для борьбы с различного рода кризисами. В ходе этой работы Совет запросил мнение ведущих исследователей высокотехнологичных решений, в том числе искусственного интеллекта, не только из Европы, но и из Америки, Азии. Едва ли не наиболее интересный доклад, поступивший в рамках этой работы в Европейский Совет, – это исследование Института Брукингса относительно надежд на ИИ и реальности их реализации, подготовленный одним из ведущих аналитиков Института Алексом Энглером в апреле 2020 года.

Вот принципиальные выводы из этой и ещё нескольких работ, посвященных теме ИИ против Covid-19.

Учёные приходят к непривычным, парадоксальным выводам: по состоянию на начало апреля 2020 года они констатируют, что надежды на ИИ как панацею против кризисов оказались чрезмерно завышенными. Хотя возможно в будущем и произойдут изменения, в настоящее время такие технологические пакеты, как передача данных, телемедицина, традиционные разработанные еще в прошлом веке диагностические инструменты и модели вносят в борьбу с распространением и преодолением эпидемий гораздо больший вклад, чем ИИ.

В результате опроса лиц, принимающих решения, медиков-вирусологов, представителей технологического бизнеса и науки удалось выделить восемь соображений, заставляющих сформулировать скептическое мнение относительно претензий ИИ на роль ведущей технологии современного мира.

Как показал опыт распознавания зарождения и распространения Covid-19, наиболее раннюю и адекватную информацию добыли отнюдь не алгоритмические системы и ИИ, ориентированные на распознавание слабых сигналов, а разведывательные агентства Великобритании и США, получившие сведения от своей агентуры в Китае и в результате отслеживания научных докладов и сообщений экспертами-вирусологами.

Несмотря на все разговоры об алгоритмах и больших данных, ИИ ни в одной стране мира не сделал сколько-нибудь точного прогноза о развитии эпидемии, начиная с первичной стадии в Ухани (Китай) до современной стадии в Европе, Америке и Азии. В решающей степени это связано с тем, что давно и хорошо известно аналитикам и прогнозистам: эффективное предсказание алгоритмическими системами и ИИ результатов того или иного процесса, относительно которого отсутствуют точные и достоверные данные, не только невозможно, но и вредно. При столкновении с плохо определенными проблемами и угрозами лучше действовать на основе опережающего реагирования, чем на основе долгосрочных вычислительных моделей. Для того чтобы модели продолжали работать в будущем, нужно иметь первоклассные, постоянно обновляемые данные, необходимого объема и подробной структуры по различным группам населения, факторам и условиям, связанным с пандемиями или иными катастрофическими процессами.

В ходе эпидемии Covid-19 выяснилось, что в то время, как расчеты ИИ показали свою несостоятельность, лучшие специалисты-эпидемиологи, использующие давно и хорошо известные статистические модели для изучения пандемий, смогли еще в феврале 2020 года сделать достаточно достоверные прогнозы. При этом любопытно, что прогнозы, которые правительствами ряда стран были положены в основу разработки противодействия Covid-19 и базировались на ИИ, оказались несостоятельными. Например, так называемая Манчестерская модель дала по Великобритании и Соединенным Штатам ошибку не на проценты, а в разы. В то же время опытные эпидемиологи, использующие простые математические модели смертности, а такая модель применительно к пандемии оспы датируется 1766 годом, а также модели математической эпидемиологии, созданные в 80-90-е годы прошлого века, которые широко использовались в Южной Корее, на Тайване, ряде других государств, позволили не только сделать достоверные прогнозы, но и разработать на этой основе политику противодействия, которая показала высокую на тот момент эффективность.

По состоянию на начало апреля 2020 года не ИИ, а эпидемиологическая модель Кермака-Маккендрика, разработанная в 1927 году, позволила наиболее точно прогнозировать ход эпидемии. При этом модель требует постоянной коррекции со стороны опытных эпидемиологов. Модель Андерсона Кермака и Уильяма Маккендрика известна сегодня как модель SIR. Эта аббревиатура происходит от английских слов Susceptible – Infected – Recovered, буквально означающих «восприимчивые – инфицированные – выздоровевшие».

Именно старые, проверенные модели и опытные эпидемиологи, а не математики, статистики, специалисты по машинному обучению и программисты ИИ вносят сегодня решающий вклад в борьбу с эпидемией.

Не существует никакой ценности в ИИ и даже в математико-статистических моделях без экспертов и специалистов по форс-мажорным процессам. В последнее время сложилась практика называть ИИ любое использование математических, логических и статистических методов. Это неправильно. Большая часть математико-статистических методов благополучно существовала, когда ИИ не был описан даже в фантастических романах. Главная привлекательная черта ИИ, по мнению эксплуатантов, это – способность в рамках комбинаторных вычислений находить в данных дополнительные глубокие закономерности, на которые не обратили внимание люди. В отличие от моделей ИИ, которые изучают закономерности на исторических данных, и на основании этого прогнозируют процессы, эпидемиологи рассматривают статистические модели лишь как один из способов формулирования и проверки гипотез. Наряду с математическими методами, они широко используют качественный анализ и даже такую ненаучную вещь, как врачебная интуиция.

Использование ИИ для прогнозирования – с одной стороны, и для распознавания процессов и явлений – с другой, по-разному воспринимается эпидемиологами и используется в их практической работе. Недавно журналисты, затаив дыхание, писали: «ИИ предсказал коронавирус», а цифры убеждали политиков в необходимости срочных мер на финансовых рынках, аргументируя это страшными цифрами смертности, которые прогнозировал ИИ.

Хрестоматийный пример: в феврале 2020 года тогдашний президент США Д. Трамп и его медицинские консультанты уверяют общественность, что эпидемии коронавируса в США не будет. Затем к делу подключают один из наиболее мощных ИИ, работающих на оборону и разведку. Получив его ошеломительный прогноз, Д. Трамп выступает и сообщает, что в ближайшие месяцы от коронавируса умрет 150-240 тыс. граждан. Выступление происходит в чрезвычайно напряженной обстановке. Конгресс США решает судьбу $2,2 трлн, которые должны быть эмитированы на борьбу с последствиями коронавируса в американской экономике. После эмоционального выступления Д. Трампа Конгресс голосует – за. На крупнейшие американские банки и корпорации, а также немного на мелкий и средний бизнес и население обрушивается долларовый дождь. После принятия решения о беспрецедентной эмиссии эксплуатанты ИИ выдают новый прогноз и сообщают, что смертность в США не должна превысить 25-30 тыс. человек. Впрочем, прогнозные цифры продолжают сыпаться как из рога изобилия и уже 18 апреля 2020 года, выступая на представлении Программы помощи фермерам, Д. Трамп озвучивает новые цифры – «пандемия коронавируса в США предположительно унесет 60-65 тыс. жизней». Как говориться, любой каприз за ваши деньги.

Сегодня очевидно, никакой самостоятельной, исключительной ценности у ИИ пока нет. ИИ – это не более чем хорошо знакомая по 70-90-м годам прошлого века, а теоретически описанная еще ранее, система поддержки работы экспертов, принимающих или советующих принять решения. В 70-90-е годы прошлого века под названием экспертные системы успешно применялись в Пентагоне и крупнейших американских финансовых корпорациях.

Журналисты, разработчики, собственники технологических компаний и инвесторы постоянно убеждали общество, что ИИ вот-вот превзойдет человека. Они доказывали это победами ИИ над человеком в шахматах и го, а также его триумфом над людьми в конкурсе Jeopardy. Однако они не хотели открыть общественности, финансистам и политикам свою тайну. Она заключается в том, что эти победы были добыты благодаря хорошо известным с середины прошлого века методам распознавания шаблонов на основе комбинаторики и оптимизации. Для того чтобы решить даже простую статичную задачу ИИ нужны тонны предварительных данных с заранее известными результатами. Кроме того, для обучения используется так называемое комплексное вычислительное моделирование. Без комбинаторики и комплексного вычислительного моделирования ИИ ничего не может сделать.

Это объясняет, почему ИИ не смог предсказать динамику и особенности Covid-19. У него просто отсутствовали данные о предыдущих аналогичных вспышках. Covid-19, судя по всему, – это принципиально иная вирусная конструкция, отличающаяся от известных человеку вирусов, порождавших эпидемии (отсюда – непрекращающиеся споры видных учёных об искусственном или природном возникновении Covid-19). Однако разработчики и пользователи ИИ для прогнозирования динамики Covid-19 использовали исторические данные по ОРВИ, гриппу и т. п. Отсюда ошибки и просчеты.

Таким образом, в рамках скептического подхода к ИИ очень важно выяснить, на основе каких конкретных данных ИИ осуществляет прогноз развития пандемии принципиально нового вируса. Хотя инфекционные эпидемии значительно различаются по динамике и проявлению между собой из-за различных характеристик вируса, фактически прогнозы о распространении принципиально нового вируса ИИ строит по прежним данным, характеризующим совершенно другую вирусную картину. ИИ может эффективно прогнозировать и анализировать стандартные и рутинные процессы, однако бессилен в прогнозировании принципиально новых, не имевших аналогов в прошлом процессов. В данном случае ИИ просто не на чем учить.

Многие правительства возложили чрезмерные надежды на ИИ, забыв об уроках IBM Watson. Несмотря на первоначальные надежды, Watson так и не смог стать мощной медицинской системой, самостоятельно диагностирующей онкологические, сердечно-сосудистые и некоторые другие заболевания на ранних стадиях, как на это надеялась IBM. Если бы неудачи в использовании ИИ разбирались столь детально и тщательно, как успехи, то лица, принимающие решения, узнали бы, что основные ошибки Watson делал в тех случаях, когда различные болезни имели примерно схожие симптомы. При этом онкологи и кардиологи задачу диагностики решали на порядки более эффективно, чем Watson. При этом они высоко оценивали Watson как экспертную систему, позволяющую собирать, аккумулировать, структурировать данные и строить различного рода классификаторы и аналитические таблицы, помогающие медикам принять решения.

Уже в ходе текущей пандемии системы наблюдения, в том числе в Китае, увязывающие распознавания лиц с данными тепловизоров и измерения температур, первоначально использовались для выявления людей с подозрением на коронавирус и их изоляции. Однако достаточно быстро было установлено, что сама по себе повышенная температура, особенно в пределах 37.3-37.5 градусов не является значимым фактором при диагностике Covid-19.

Компания Alibaba утверждала, что разработала платформу ИИ, которая использует КТ изображения для надежной диагностики Covid-19. В этой связи Bloomberg сообщал, что компания предлагает это диагностическое программное обеспечение странам ЕС бесплатно. Многие этому очень рады. В настоящее время диагностика Covid-19 осуществляется в рамках так называемой полимеразной цепной реакции (ПЦР). Она требует специализированного оборудования и предусматривает достаточно длительный период получения результата. Alibaba сообщала, что может получить анализ гораздо быстрее, дешевле, с 96 % точностью.

Проблема, однако, в том, что лучшие профессионалы в области ИИ отлично знают, что при использовании машинного обучения точности 96 % достичь очень и очень сложно. Как правило, эксплуатанты ИИ достаточно быстро выясняют, что на практике завышенный процент точности, полученный на учебных данных, недостижим. А соответственно диагностика и прогнозы гораздо более неточны, чем в рекламных материалах. То, что Alibaba утверждала, что ее модель хорошо работает, но при этом она не может раскрыть алгоритмы, является дополнительным аргументом в пользу сомнений и недоверия. При диагностике очень важно не допускать ошибок. Гораздо хуже ошибочно предположить, что человек с Covid-19He болен (это может позволить ему продолжать заражать других), чем предположить, что здоровый человек имеет Covid-19. Неточная диагностика ИИ делает такую ситуацию весьма возможной.

Обстоятельства, в которых развертывается ИИ, также могут иметь огромное значение и последствия для определения, насколько он эффективен. Когда модели ИИ, и это отлично знают инвесторы и финансисты, на которых, прежде всего, рассчитан ИИ, покидают лаборатории, центры разработки и начинают делать реальные прогнозы, они почти всегда ухудшают результаты и производительность по сравнению с их испытаниями у изготовителей. При оценке КТ модель, которая может различать здоровых и тех, кто болен Covid-19, имеет большие шансы потерпеть наудачу, когда столкнется с пациентами, которые больны обычным регулярным гриппом. Соответственно модель будет считать больных гриппом больными Covid-19. Это приведет к еще большей перегрузке учреждений здравоохранения и заметно исказит картину действительного распространения эпидемии и ее интенсивности.

В недавней работе относительно использования ИИ для диагноза злокачественных родинок на основе распознавания образов было на конкретных цифрах, примерах и фотографиях показано, что зачастую модель принимала доброкачественные родинки за злокачественные. При этом если модель использовалась в паре с опытным онкологом, то он быстро распознавал ошибку. Таким образом, было твердо и достоверно установлено, что, как с точки зрения расхода средств, так и времени, экспертная система, где врачу помогает программно-вычислительный комплекс, гораздо более эффективна, чем ИИ как замена человеку.

В ситуациях с высокими ставками от ИИ требуется прогноз, который не только точен, но и позволяет принять адекватное решение человеком в форс-мажорных ситуациях. Это предполагает, что человек должен доверять ИИ и понимать, каким образом он пришел к тому или иному выводу аналитического, а тем более прогнозного характера. Между тем, в значительной степени под воздействием разработчиков ИИ, лицам, принимающим решения, ИИ навязывается как полностью автономная система, принимающая финальное решение. Особенно это характерно сегодня для финансово-инвестиционной сферы, где роботизированные платформы без участия человека ежедневно осуществляют не менее 85 % сделок на суммы в сотни миллиардов долларов.

Это полностью относится и к медицине. Например, уже в ходе нынешней эпидемии ИИ, связанные с распознаванием образов и температурным контролем, использовались для блокировки или напротив разрешения доступа в аэропорты, супермаркеты, аптеки и общественные места. На эти системы потрачены огромные средства, которые могли бы использоваться, например, для поставки медицинской техники. Как показывает опыт, такого рода использование ИИ достаточно быстро разочаровывает лиц, принимающих решения, в силу чрезвычайной неточности диагностики. Подавляющая часть людей с повышенной температурой, которые могли бы быть распознаны как больные Covid-19, просто остаются дома и вызывают к себе друзей, родственников, доставщиков продуктов и т. п. Тем самым ключевая функция – изоляция больных от здоровых – не соблюдается, а дорогостоящие решения оказываются излишними.

Успешное использование ИИ, например, в системе Medicare свидетельствует о следующем. ИИ не должен выносить вердиктов. ИИ способен на распознавание с использованием большого числа данных подозрительных персон, окончательное решение по которым должны принимать не полицейские, а врачи-эпидемиологи.