Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

Wired опубликовал статью «ИИ-эпидемиолог послал первые предупреждения о вирусе в Ухане». Эта статья базируется на том, что компания ИИ BlueDot31 декабря 2019 года сообщила о возможности вспышки нового заболевания. Тем не менее, мягко говоря, это не совсем так. Как сообщила ABCNews, американская разведка предупредила администрацию Д. Трампа о появлении нового коронавируса, вероятно, в результате случайной утечки из лаборатории в Ухани еще в ноябре 2019 года. Кроме того, в открытом доступе в Интернете в конце декабря 2019 года появился видеоролик с обращением китайского врача о появлении опасного нового вируса. Однако Д. Трамп и его администрация никак не среагировали и не предприняли никаких мер по подготовке страны к встрече с грозным вирусом.

В реальности BlueDot совместно с Бостонской детской больницей еще в 2018 году начал работать над принципиально новым проектом. Суть его в том, чтобы с использованием ИИ аккумулировать текстовые, аудио и видео материалы СМИ, интернет-платформ и блогеров, которые касаются вспышек новых и существующих инфекционных заболеваний и в целом обсуждений по поводу болезней. В рамках этой работы был создан комплекс раннего распознавания вирусных опасностей. В данном случае мы имеем пример не фейкового предсказания, а вполне адекватного и эффективного использования ИИ для обработки огромных массивов информации и выделения из них признаков, характеризующих возможность инфекционного заболевания. Это – классический пример использования ИИ по назначению, а именно для распознавания ранних сигналов и опережающего реагирования на них. После получения подобной информации в дело вступают вирусологи.

Таким образом, ИИ, будучи весьма неточным прогнозистом, является неоценимым аналитиком для работы с огромными, разноформатными, в том числе неочищенными данными. В этом случае ИИ не выносил вердиктов и тем более не прогнозировал, а привлекал внимание вирусологов к определенным аномальным явлениям и событиям. А дальше в дело вступали люди. Даже по мере совершенствования ИИ вряд ли он сможет разделять новые, но малоопасные и локальные вспышки заболеваний от ранних стадий глобальных пандемий.

Математики прошлого века в отличие от коммерсантов-компьютерщиков настоящего, особо оговаривали, что математико-статистические методы с использованием известных тогда моделей не могут предсказывать с высокой степенью вероятности редкие, а тем более уникальные или принципиально новые процессы и события. Новых математико-статистических методов не появилось и по сегодняшний день. Если не пытаться навязать ИИ функцию прогнозиста и машины, принимающей финальные решения, а использовать для распознавания (в том числе на основе зашумлённых данных, событий, объектов, субъектов и т. п.), то использование программно-аппаратных средств, ныне называемых ИИ, будет весьма полезным.

Например, в самом начале апреля 2020 года губернатор Калифорнии Гэри Ньюсом использовал BlueDot для распознавания потенциальных источников дальнейшего распространения вируса на основе больших массивов данных, характеризующих не только лиц, проживающих в штате, но и различные характеристики отдельных локаций, вплоть до кварталов, а также санитарного состояния в тех или иных районах.

ИИ использовался губернатором не для прогнозирования хода эпидемии, а для снабжения эпидемиологов, администраторов и финансистов исходными данными для сосредоточения внимания медицинских машин, полиции, волонтеров, финансирования этих мероприятий применительно к конкретным территориям и районам штата. Иными словами, ИИ использовался для того, в чем он силен, а именно для классификации и нахождения новых, неочевидных критериев этой классификации в дополнение к традиционным.

Реализация ИИ, как правило, имеет тревожные последствия второго порядка за пределами решений конкретной задачи, на которую нацелены программно-аппаратные комплексы. Например, предоставление ИИ права строить прогнозы, а тем более принимать решения, предполагает небезопасное накопление особенно чувствительных для людей данных. Широкий, по сути, бесконтрольный доступ к медицинской, лечебной, а в отдельных случаях правовой конфиденциальной информации с одной стороны может передать компаниям-разработчикам недопустимые с точки зрения людей и общества данные, а с другой – является желанной добычей киберкриминала и объектом возможных утечек.

Для информации. 16 апреля 2020 года заместитель помощника директора ФБР по борьбе с киберпреступностью Тоня Угорец заявила, что хакеры, действовавшие в интересах иностранных государств, взломали сети американских компаний, проводящих исследования Covid-19. Она рассказала об этом участникам интернет-дискуссии, организованной вашингтонским Институтом Аспена.

Угорец не уточнила названия хакерских группировок и государств, в чьих интересах действовали киберпреступники: зафиксировано несколько вторжений в сети некоторых учреждений, особенно тех, которые публично заявили о проведении исследований, связанных с Covid-19.

Угорец отметила, что учреждения, которые работают над разработкой перспективной терапии или потенциальной вакцины, безусловно заинтересованы в публичном освещении своей деятельности. Тем не менее, по ее словам, в этом случае такими учреждениями начинают интересоваться «другие государства, заинтересованные в сборе подробностей» проводимых исследований и, возможно, даже в «краже конфиденциальной информации, которой обладают эти учреждения».

Представитель ФБР добавила, что хакерские группировки, поддерживаемые иностранными правительствами, часто атакуют биофармацевтическую промышленность, и подобные атаки только усилились с начала нынешнего кризиса, связанного с пандемией коронавируса.

В мире, где хакеры проникают даже в компьютеры АНБ, передача ИИ для расчетов детализированных данных по медицинской статистике и здравоохранению, само по себе высокорисковое, может превратиться в гигантскую угрозу национальной безопасности, если эти данные окажутся у террористов и злонамеренных государств. Например, активное, но мало результативное использование ИИ для борьбы с коронавирусом уже предоставило в распоряжение не только крупнейших и крупных компаний, но и молодых многообещающих стартапов чрезвычайно чувствительные данные, такие как медицинская статистика, сведения о том, каким образом перемещались в глобальном, страновом и даже городском масштабе люди, с кем они общались, какие места посещали и т. п.

Для справки. Объединившие усилия для борьбы с пандемией корпорации Apple и Google уже к середине мая 2020 года обещали разработать интерфейсы, которые будут доступны всем странам и регионам. Однако планы технологических гигантов беспокоят экспертов, считающих, что технология может дать властям и корпорациям небывалый контроль за гражданами, а анализы и медицинские карточки пользователей могут попасть в руки страховых и фармацевтических компаний, а также преступников и террористов.

Анонсированная корпорациями технология должна работать через Bluetooth-сигналы двух телефонов, которые сохраняют запись о близких и продолжительных контактах. Если у одного пользователя подтверждается коронавирус, система отправляет уведомление его недавним близким контактам – однако имя заразившегося человека не раскрывается.

Именно по этому принципу работает сингапурское приложение TraceTogether, ставшее образцом для всех западных аналогов.

Apple и Google обещают защищать конфиденциальность пользователей – все собранные данные будут храниться в телефоне и не смогут быть переданы никому без согласия пользователя. В отличие от технологий, применяемых в Израиле, Китае, Южной Корее и на Тайване, в этой системе данные GPS-локации не отслеживаются. Они уверяют, что единой централизованной базы данных существовать не будет.

На брифингах с журналистами технологических изданий представители корпораций поясняли: они сделают функцию цифрового отслеживания контактов доступной через обновления в операционных системах – iOS 13 для айфонов и айпадов и GooglePlayServices (элемент Android).

Таким образом, функция становится автоматически доступна всем владельцам телефонов Apple и смартфонов Android с версией 6.0 и новее, – но останется добровольной, как и приложения.

Это решение – ключевой ответ на главную проблему цифрового отслеживания контактов. Для его эффективной работы власти должны следить за большинством населения (60 %, по подсчетам оксфордских ученых). Однако вряд ли больше половины граждан любой страны сами скачают официальное приложение от властей. Зато встроенная в систему телефона функция, которую можно запустить моментально, может быть более популярной.

Apple и Google начали борьбу с пандемией с выпуска программных интерфейсов, которые органы здравоохранения разных стран смогут интегрировать в собственные приложения. Эти интерфейсы будут доступны только официальным ведомствам здравоохранения отдельных стран и регионов. О планах использовать эти разработки уже заявили в Национальной службе здравоохранения Британии.

Уже после этого корпорации выпустят обновления в операционные системы, и тогда отслеживание контактов станет возможным без установки специального приложения. Однако совсем без приложений система работать не будет: операционная система сможет послать сигнал о заражении близкого контакта, но для дальнейших инструкций пользователю нужно будет скачать местное приложение.

В настоящее время многие всерьез рассматривают возможность использовать в целях борьбы с криминалом, оптимизации управления и успешного разрешения чрезвычайных ситуаций китайский опыт социального контроля. Если не принимать во внимание многочисленные научные и медийные публикации на эту тему, то следует констатировать, что в настоящее время не только непонятна эффективность системы социального контроля в Китае, но и роль в этом ИИ и БД.

Создается впечатление, что в реальности система социального контроля – это не про ИИ и БД, а про соединение полицейского государства с системой тотального видеонаблюдения и анализа результатов видеонаблюдения по выбранным китайским руководством критериям. Главным в этом случае является отнюдь не ИИ и БД, а Большой Брат и сплошное видеонаблюдение. При соответствующей мощности сетей компьютеров эта задача решается в рамках программно-алгоритмических методов, разработанных математикой в 60-80-х годах прошлого века. ИИ и БД являются своеобразными маркетинговыми игрушками и одновременно фигурами, отвлекающими внимание аналитиков и публики от подлинной сущности системы социального контроля.

Вывод о том, что ИИ сегодня это – прежде всего, система сбора, накопления и распознавания или классификации тех или иных паттернов, подтверждает опыт компании Palantir. Как известно, Palantir начал эффективно использоваться в разведывательной, полицейской и финансовой деятельности задолго до бума ИИ и БД, в период продажи публике и бизнесу решений в области больших данных как самой продвинутой инновации. Эта же платформа продолжает использоваться сегодня с большим успехом, но теперь именуется изготовителем не как цифровая платформа, а как продвинутая система ИИ.

Возможно, самую серьезную озабоченность при использовании ИИ вызывает предвзятость. Поскольку ИИ в программной части это – прежде всего, машинообученные и глубинные нейронные сети, то предвзятость вносится в его работу некорректными данными. Как правило, защитники ИИ отвергают обвинения в предвзятости данных, например, в отношении женщин, расовых или языковых меньшинств тем, что как в процессе обучения, так и в эксплуатации используются исключительно фактические, достоверные, а не придуманные данные.

Однако разработчики лукавят, либо плохо разбираются в социальных процессах. Социальные процессы отличаются от природных и биологических гораздо более высокой скоростью. Соответственно то, что справедливо сегодня, было ошибочно вчера и наоборот. Таким образом в случае, если в силу тех или иных факторов некая группа меньшинства изменила свое поведение, то это будет иметь мало значения для ИИ. Он был обучен на основе старых данных, т. е. информации о том, что было вчера и изменилось сегодня. Если для анализа такие отклонения как минимум не вредны, а возможно даже и полезны, привлекая внимание к сути дела, то применительно к принятию решений и прогнозированию они делают их предвзятыми. Справедливо сделать вывод о том, что информированный скептик ИИ должен придерживаться предположения о том, что все модели ИИ являются предвзятыми, если специально не доказано обратное.

Несмотря на критические аспекты современного использования ИИ и БД в противодействии пандемии, будущее развитие ИИ и БД представляется оптимистичным и способным оказывать все возрастающую помощь лицам, принимающим решения, экспертам и пользователям. По завершении борьбы с коронавирусом необходимо провести детальный разбор используемых методов анализа и прогнозирования и на основании этого анализа сделать выводы относительно направлений дальнейшего совершенствования ИИ и БД в целях повышения их ценности для лиц, принимающих решения, аналитиков и пользователей.

ИИ и БД являются быстро прогрессирующим технологическим пакетом. Однако властям, общественности и бизнесу необходимо четко отделять реальный функционал ИИ и БД от нарочито оптимистичных его оценок, осуществляемых в маркетинговых и инвестиционных целях.

Итоги использования ИИ против Covid-19 умерят радужные и чрезмерные надежды на ИИ. Его перестанут считать господином мира и светлым будущим всего человечества. Тем не менее нельзя с водой выплеснуть ребенка. ИИ – не просто крайне эффективен, но и заметно превосходит способности и возможности человека в скорости вычисления. Соответственно в тех случаях, когда стоит задача обнаружить в огромных массивах данных те или иные объекты и субъекты, распознать не воспринимаемые на первый взгляд закономерности, оптимизировать по заданным правилам те или иные процессы, ИИ незаменим.

Еще в 1970 году бывший советский разведчик, а затем известный ученый Юлиан Шейнин опубликовал провидческую книгу «Интегральный интеллект». В ней 50 лет назад он описал основные этапы формирования, развития и распространения ИИ, базирующегося на информационно-коммуникационных технологиях, разнообразных, в том числе параллельных и распределенных вычислениях и БД. При этом ИИ, согласно Шейнину, должен быть изначально интегрирован с человеческим интеллектом не только на уровне отдельных личностей и групп, но и целых экспертных сетей. Упор в интегральном интеллекте (именно так назвал Шейнин глобальную человеко-машинную систему – ныне Интернет) должен быть сделан на созидателе, производителе, а не на пользователе и потребителе. Другими словами, интегральный интеллект должен был стать в первую очередь совокупностью экспертных систем поддержки принятия решения, а уж во вторую – поставщиком развлечений, контента, электронной коммерции и т. п.

От того, насколько быстро и искренне лица, принимающие решения, разработчики и пользователи ИИ откажутся от маркетинговых игрушек и сосредоточатся на объединении сильных сторон человека и машины зависит наше Завтра.

2.7. Британская стратегия развития ИИ

Искусственный интеллект может быть одним из самых важных нововведений в истории человечества, и правительство Великобритании считает, что как для экономики, так и для национальной безопасности крайне важно, чтобы страна находилась на переднем крае решения сложных проблем, связанных с расширением использования ИИ.

Великобритания имеет долгую и исключительную историю ИИ – от ранних работ Алана Тьюринга до недавних новаторских открытий DeepMind. С точки зрения ИИ-стартапов и масштабирования, инвестиций частного капитала и представленных докладов конференций, Великобритания находится в верхнем эшелоне стран ИИ во всем мире. Великобритания заняла третье место в мире по частным инвестициям в компании ИИ в 2020 году, уступив только США и Китаю.

Разработанная в 2021 году Национальная стратегия ИИ для Соединенного Королевства подготовит Великобританию к следующим десяти годам и основана на трех предположениях о предстоящем десятилетии:

– Ключевыми факторами прогресса, открытий и стратегических преимуществ ИИ являются доступ к людям, данным, вычислениям и финансам – все это сталкивается с огромной глобальной конкуренцией;

– ИИ станет основным направлением развития экономики, потребуются действия для обеспечения того, чтобы каждый сектор экономики и регион Великобритании получил выгоду от перехода к использованию ИИ;

– Режимы управления и регулирования должны будут идти в ногу с быстро меняющимися требованиями ИИ, способствовать совершенствованию инноваций в Великобритании и защищать безопасность и права граждан.

В течение следующего десятилетия по мере того, как преобразующие технологии будут продолжать изменять экономику и общество Великобритании, в мире, вероятно, произойдут изменения в характере и распределении глобальной власти. Замечено, что в случае ИИ быстрые технологические изменения стремятся нивелировать научно-техническое доминирование существующих сверхдержав, таких как США и Китай. Одновременно более широкие транснациональные проблемы требуют более активных коллективных действий перед лицом глобальной безопасности и процветания.

Имея это в виду, у Великобритании есть возможность в течение следующих десяти лет позиционировать себя как лучшее место для жизни и работы с ИИ; с четкими правилами, применяемыми этическими принципами и нормативно-правовой средой, способствующей инновациям. Великобритания станет одновременно подлинным центром инноваций и наиболее благоприятной бизнес-средой в мире, где государство будет сотрудничать в использовании ИИ во благо, отстаивать международные стандарты, отражающие его ценности, и защищать от вредоносного использования ИИ.

Увеличивая число и разнообразие людей, работающих с ИИ и разрабатывающих его, устанавливая четкие правила дорожного движения и инвестируя во все регионы государства, Великобритания обеспечит, чтобы реальные преимущества ИИ ощущались каждым членом общества. Будь то более точная диагностика с использованием ИИ в NHS (система здравоохранения – прим. авторов), обещание беспилотных автомобилей, безопасные и умные дороги или сотни других преимуществ, которые ИИ может принести для улучшения повседневной жизни.

Цели этой стратегии заключаются в том, чтобы:

1. Произошел значительный рост числа и типов открытий, которые происходят в Великобритании, коммерциализируются и эксплуатируются на месте;

2. Извлечь выгоду из ускоренного роста экономики и повышения производительности благодаря ИИ;

3. Создать самую надежную инновационную систему управления ИИ в мире.

Этицели могут быть достигнуты, если опираться на три основных принципа, лежащих в основе развития ИИ:

1. Инвестирование в потребности экосистемы, чтобы обеспечить больший доступ к данным и вычислительным ресурсам для систем ИИ, а также доступ к финансам и клиентам для развития секторов;

2. Поддержка распространения ИИ по всей экономике для обеспечения выгоды от использования ИИ регионами, странами и предприятиями;

3. Разработка стимулирующей инновации нормативно-правовой базы и системы управления, которая защищает общество и граждан.

Правительственный совет по ИИ сыграл центральную роль в сборе фактических данных для разработки Стратегии, в том числе с помощью дорожной карты, опубликованной в начале 2021 года.

Совет по ИИ был создан в 2019 году для предоставления экспертных консультаций правительству и высшему руководству экосистемы ИИ. Совет по ИИ демонстрирует ключевую приверженность AI Sector Dea 1(сделка по сектору ИИ – пакет поддержки в размере 1 млрд фунтов стерлингов от правительства и промышленности – прим. авторов), объединяя лидеров различных отраслей промышленности, научных кругов и государственного сектора.

В январе 2021 года Совет по ИИ опубликовал «Дорожную карту ИИ», содержащую 16 рекомендаций правительству по стратегическому развитию ИИ. Его центральный призыв состоял в том, чтобы правительство разработало Национальную стратегию ИИ, основываясь на успехе инвестиций, сделанных в рамках AI SectorDeal.

Для руководства реализацией этой Стратегии правительство обновит и усилит роль Совета по ИИ, обеспечив, чтобы он продолжал предоставлять экспертные консультации правительству и высшему руководству экосистемы ИИ.