Текст книги "Цифровая революция. Преимущества и риски. Искусственный интеллект и интернет всего"

IoB связан с несколькими направлениями за пределами формального здравоохранения, ориентированными на интеграцию человеческого тела с технологиями. Авторы доклада рассматривают некоторые из этих концепций, хотя между ними есть много общего и взаимозаменяемого.

Трансгуманизм – это мировоззрение и политическое движение, выступающее за трансцендентность человечества за пределами нынешних человеческих возможностей. Трансгуманисты хотят использовать технологии, такие как искусственные органы и другие методы, чтобы остановить старение и добиться «радикального продления жизни». Трансгуманисты также могут стремиться противостоять болезням, повышать свой интеллект или ноотропы (вещества, которые могут улучшить когнитивные функции).

Бодихакеры, биохакеры и киборги, которым нравится экспериментировать с улучшением своего тела, часто называют себя гриндерами. Они могут идентифицировать себя как трансгуманисты, а могут и не идентифицировать.

Эти термины часто меняются местами в обычном использовании, но некоторые действительно различают их. Бодихакинг обычно относится к модификации тела для улучшения физических или когнитивных способностей. Иногда бодихакинг носит чисто эстетический характер. Например, хакеры вживляют себе рога в голову и светодиодные фонари под кожу.

Другие манипуляции, такие как имплантация микрочипов RFID (англ. Radio Frequency IDentification, радиочастотная идентификация – прим. авторов) в руку, позволяют пользователям открывать двери, оплачивать поездки в общественном транспорте, хранить контактную информацию для экстренных случаев или совершать покупки одним движением руки. Известен случай, когда бодихакер удалил RFID-микрочип из брелка своего автомобиля и имплантировал его себе в руку. Несколько бодихакеров имплантировали устройство, представляющее собой комбинированный беспроводной маршрутизатор и жесткий диск, которое можно использовать в качестве узла в беспроводной ячеистой сети. Иногда бодихакинг носит медицинский характер, например протезирование на 3D-принтере или искусственные поджелудочные железы.

Киборги или кибернетические организмы – это люди, которые использовали устройства для улучшения интеллекта или чувств. Нил Харбиссон, дальтоник, который может «слышать» цвет через антенну, имплантированную в его голову, играющую разные мелодии для разных цветов или длин волн света, признан первым человеком, которого правительство официально признало киборгом, поскольку ему разрешено иметь фотографию в паспорте с имплантатом.

Поскольку IоВ – это обширная область, которая пересекается с самостоятельной модификацией тела, потребительскими товарами и медицинским обслуживанием, понимание его преимуществ и рисков имеет решающее значение.

Развитие интернет-технологий и возможностей подключения позволит большему количеству устройств IoB и IoT подключаться друг к другу с более высокой скоростью.

Сеть мобильной связи пятого поколения 5G может поддерживать около 1 млн устройств на квадратный фут по сравнению с предыдущей сетью 4G, которая может поддерживать около 4 тыс. устройств на той же площади. Ожидается, что Wi-Fi 6, новое поколение технологии Wi-Fi, улучшит возможности подключения, позволив еще большему количеству устройств одновременно передавать данные и взаимодействовать с маршрутизаторами. Спутниковый Интернет разрабатывается для повышения доступности Интернета, в том числе в удаленных районах, путем вывода тысяч спутников на низкую околоземную орбиту.

Некоторые разрабатываемые устройства, такие как контактные линзы с дополненной реальностью или прямой интерфейс мозг-компьютер, могут значительно изменить социальную жизнь, позволяя записывать и воспроизводить все взаимодействия человека. Нейроустройства для чтения мозга и передачи сигналов уже представлены на рынке, но улучшенные технологические интерфейсы мозг-компьютер могут помочь улучшить познание, память и контроль. Чтение и запись мозга, в конечном счете, могут быть использованы для воздействия на мысли людей в доброжелательных или злонамеренных целях.

Компьютерное программное обеспечение по своей природе уязвимо для непреднамеренных ошибок или злонамеренных действий. Слабые места в коде могут быть использованы для кражи информации, собираемой устройством, или манипулировании ею, нарушения его работы или иного поведения, вызывающего непредвиденное или непреднамеренное поведение.

Технологии IoB страдают от тех же направлений атак, что и другие IoT и вычислительные устройства, но устройства IoB имеют повышенные риски в результате слияния нескольких характеристик, включая связь с организмом, тип и объем собираемой информации, а также то, как информация может быть использована.

В 2018 году фитнес-компания Strava опубликовала подробную геолокационную информацию о маршрутах передвижений своих пользователей. Министерство обороны поощряло устройства для отслеживания состояния здоровья в целях борьбы с эпидемией ожирения и провело пилотную программу, в рамках которой фитнес-трекеры получили более 2000 солдат в 2013 году и 20 000 солдат в 2015 году. Карты, выпущенные Strava, были настолько подробными и всеобъемлющими, что потенциально раскрывали скрытые военные базы и лагери американского военного и гражданского персонала, а также образ жизни военнослужащих. После инцидента военные изменили свою политику и больше не разрешают использование фитнес-трекеров.

Это всего лишь один пример того, как бурный рост инноваций и внедрение устройств IoB может представлять угрозу глобальной и национальной безопасности. Некоторые из этих рисков можно предвидеть. Например, врачи рассматривали возможность того, что для убийства вице-президента США Дика Чейни можно было использовать его кардиостимулятор. Оригинальный кардиостимулятор Чейни был оснащен функцией беспроводного мониторинга, которая потенциально могла быть взломана. В 2007 году устройство Чейни было заменено устройством без подключения к интернету.

Возможности подключения устройств к Интернету постоянно развиваются по своему характеру и качеству, и в дальнейшем они будут обеспечиваться такими коммуникационными технологиями, как 5G, Wi-Fi следующего поколения и спутниковый Интернет. Но системы связи, скорее всего, станут мишенью для злоумышленников и хакеров-преступников. Уже было показано, что у новых протоколов Wi-Fi есть недостатки в безопасности; возникли опасения по поводу 5G, особенно с учетом доминирования китайских поставщиков в поставках оборудования и услуг во всем мире; а растущие программы противодействия в космосе могут поставить под угрозу спутниковые системы.

Риски кибербезопасности часто группируются в три категории: по конфиденциальности, целостности и доступности.

Конфиденциальность означает, что данные видны только уполномоченным лицам; целостность означает, что собранные данные не были подделаны; а доступность гарантирует, что данные будут доступны тогда и там, где они необходимы. По состоянию на начало 2019 года Управлению по контролю за продуктами и лекарствами США (FDA) не было известно о каких-либо травмах или смертельных случаях в результате злонамеренной атаки или компрометации подключенных медицинских устройств. Однако уязвимости в этих устройствах могут случайно вызвать физический ущерб или использоваться злонамеренно для причинения вреда или смерти. Например, в имплантируемых дефибрилляторах и инсулиновых помпах существуют две хорошо известные уязвимости медицинских устройств, вызванные плохо реализованными протоколами связи между устройством и системами удаленного мониторинга. Уязвимость была обнаружена в программном обеспечении беспроводной связи обычного имплантируемого кардиовертера-дефибриллятора. Эта уязвимость может позволить злоумышленнику перехватить обмен данными между имплантированным устройством и устройствами клинического программирования или домашними машинами для мониторинга таким образом, чтобы можно было манипулировать данными или вводить ложные (вредоносные) команды в имплантированное устройство.

Физическое устройство, имплантированное или прикрепленное к телу, будет беспроводным образом подключаться к устройству мониторинга, например, смартфону, которое затем будет передавать информацию в облачную службу. Затем данные становятся доступными для внешней стороны, такой как производитель устройства или практикующий врач. Это сочетание аппаратного и программного обеспечения, физических и логических каналов связи и организационных границ вводит множество уровней сложности, каждый из которых подвержен сбоям, ухудшению качества, компрометации и атакам.

Были предприняты попытки каталогизировать уязвимости, обнаруженные в медицинских устройствах. ICSCERT (Группа по обеспечению готовности к кибербезопасности промышленных систем управления), подразделение Министерства внутренней безопасности США, выпускает предупреждения об угрозах для медицинских устройств. Medcrypt, некоммерческая организация в области здравоохранения, ведет онлайн-документ, в котором перечислены все эти рекомендации. По состоянию на июль 2019 года она задокументировала 144 уникальные уязвимости, обнаруженные с 2013 года. Причем количество уязвимостей растет.

Из уязвимостей, обнаруженных в этих устройствах, большинство – 65 % – связаны с аутентификацией пользователя и дефектами кода. Недостатки аутентификации пользователей могут позволить неавторизованным пользователям получать доступ и, например, нарушать конфиденциальность устройства. Дефекты кода относятся к недостаткам программного обеспечения, которые могут позволить злоумышленнику нарушить конфиденциальность, целостность или доступность системы. Хакер может заставить устройство IoВ обмениваться данными с неавторизованными пользователями, манипулировать данными так, чтобы устройство работало некорректно, или просто заставить устройство перестать работать.

В дополнение к кибербезопасности самих устройств, репозитории, в которых хранятся пользовательские данные, также должны иметь достаточную защиту и средства контроля безопасности. Также необходимы важные компромиссы между безопасностью и удобством использования для устройств IoB. Рассмотрим, например, подключенную инсулиновую помпу. Лучшие практики безопасности предполагают, что доступ к устройству будет ограничен только теми, у кого есть надлежащие полномочия на выпуск или изменение инъекций, что часто делается с помощью имен пользователей и паролей или с помощью биометрического входа в систему. Однако у пациента с инсулиновым шоком, скорее всего, не будет времени или возможности для ввода своих учетных данных в устройство.

Устройства IoB собирают и хранят сугубо личные данные, возможно, более личные, чем любой другой тип пользовательской информации, поэтому существует множество рисков для конфиденциальности. Информация о местонахождении пользователей, функциях их организма, о том, что они видят, слышат и даже думают, может быть записана и сохранена. Есть много нерешенных вопросов о том, кто имеет право использовать данные, собранные устройствами IoB, и каким образом.

Сбор данных может поставить под угрозу конфиденциальность пользователей IoB, если не будут приняты меры защиты от неправомерного использования. Сам процесс сбора, включая то, какие данные собираются, как часто, было ли получено информированное согласие (особенно в уязвимых группах населения, таких как несовершеннолетние или заключенные) и то, может ли пользователь остановить сбор данных или перепродажу в любое время, может представлять неотъемлемый риск для конфиденциальности. Потребители IoB, похоже, согласились с необходимостью предоставлять свои данные разработчикам или другим лицам для использования устройства IoB. Однако неясно, получили ли потребители полное представление о том, как их данные собираются и могут быть использованы.

Есть также опасения по поводу долговечности данных, т. е. результаты набора для генетического тестирования или использование определенного медицинского устройства IoB могут идентифицировать кого-либо как носителя генетического заболевания, которое может быть передано его или ее детям, что в один прекрасный день может привести к тому, что этим детям будет отказано в определенной страховке или других льготах. Наконец, еще нет правовых норм о том, кому принадлежат данные, генерируемые любым данным устройством IoB, – пользователю, производителю, поставщику медицинских услуг? Право собственности на данные было давней проблемой в сфере здравоохранения. Специалисты, которые регулируют продажу пользовательской информации сторонним брокерам данных или регулируют работу брокеров данных, только появляются, если они вообще существуют.

По мере того, как IoB становится всё более распространенным, может возрастать физическое или психологическое давление на тех, кто хочет жить своей жизнью с минимальной зависимостью от этих устройств или взаимодействием с ними. Некоторые технологии IoB могут собирать потенциально конфиденциальную информацию помимо самого владельца. Например, устройства дополненной реальности или «умные» слуховые имплантаты предназначены для записи видео и звука. Это может вызвать беспокойство по поводу конфиденциальности у лиц, которых видят или слышат устройства, но которые не дали согласия на сбор их изображений или голосов. Одним из примеров этого явления была реакция на систему дополненной реальности Google Glass, которая вызвала общественный резонанс, что ярко было проиллюстрировано в движении «Остановить киборгов». Использование систем распознавания лиц правоохранительными органами привело к критике по поводу предвзятости систем, а также того, что они используются для классификации людей без их согласия и с ограниченным пониманием, как будет использоваться информация. Аналогичная критика относится к IoB с камерами и другими инструментами, которые можно использовать для записи или идентификации людей.

Хотя значки сотрудников, используемые для доступа к рабочему месту, будут считаться устройствами IoB, существует различие между мониторингом с пассивной обратной связью (например, считыватель бейджей издает звуковой сигнал, и дверь здания открывается, чтобы разрешить вход) и мониторингом с обратной связью, которая является сетевой (например, устройство постоянно отслеживает местонахождение пользователя). Amazon запатентовала технологию браслета, который может отслеживать поведение сотрудников и вибрировать, чтобы подтолкнуть их к повышению производительности. Другие технологии стремятся определить, когда работники хотят спать или отвлекаются от работы. Исследователи создают носимые устройства, которые, как утверждается, отслеживают производительность сотрудника на рабочем месте (например, количество времени, проведенное на работе, перерывы в работе, физическая активность и уровень сна) с точностью около 80 %. Эти возможности могут принести пользу работодателям и сделать сотрудников более управляемыми и эффективными на основе данных, но они могут оттолкнуть работников и нанести ущерб, если персонал считает их навязчивыми и ненужными. Наиболее вероятно, что насильственное внедрение технологии IoB произойдет в системе уголовного правосудия. Суды, тюрьмы или отделения по условно-досрочному освобождению могут оказывать давление или требовать от людей использования устройств IoB.

В докладе исследуется сложная и развивающаяся экосистема IoB, а такжеопределены различные потенциальные преимущества и риски. Множество государственных и негосударственных заинтересованных сторон играют свою роль в этой экосистеме, и каждая заинтересованная сторона может предпринять конструктивные шаги по устранению областей риска. Если эти риски не будут должным образом устранены, медицинские и другие преимущества IoB не будут полностью реализованы.

Устройства IoB собирают конфиденциальную личную информацию, которая может быть использована иностранными противниками, например, для ведения шпионажа. Конгресс и исполнительная власть играют особую роль в защите от подобных рисков.

Если бы события с участием Strava или вице-президента Д. Чейни произошли иначе, последствия могли бы быть огромными. Правительственные ведомства могут принять эти инциденты как уроки, извлеченные из рисков, связанных с IoB, и разработать соответствующие меры реагирования, как это сделало Министерство обороны США. Например, руководство по использованию IoB может быть разработано для высокопоставленных чиновников.

Все сетевые технологии сопряжены с риском кибербезопасности, но чувствительность информации IoB и потенциальные медицинские последствия нарушения или манипулирования IoB вызывают серьезную озабоченность. Правительствам необходимо подумать о том, как реализовать подход к управлению рисками, который устанавливает передовые практики и стандарты кибербезопасности для всего спектра продуктов IoB.

Поставщики медицинских услуг должны учитывать угрозы кибербезопасности, когда они рекомендуют или используют IoB. Для начала медицинские сообщества должны продолжать использовать опыт в области кибербезопасности – например, применяя опубликованные руководящие принципы, которые советуют, как создатькадровые киберресурсы здравоохранения.

Провайдеры также могут пообещать соблюдать Клятву Гиппократа для подключенных медицинских устройств, написанную массовой организацией I Am The Cavalry, которая побуждает медицинских работников и заинтересованные стороны осознавать важность кибербезопасности для пациентов. Точно так же разработчики IoB должны более внимательно относиться к кибербезопасности – например, следуя рекомендациям по кибербезопасности (даже если устройство не является медицинским) и интегрируя соображения кибербезопасности и конфиденциальности с самого начала разработки продукта.

Чтобы устранить риски для конфиденциальности от устройств IoB, следует рассмотреть возможность установления государственных стандартов прозрачности и защиты для данных, которые с них собираются. В нынешнем виде потребители имеют ограниченные возможности, чтобы определить, кто хранит данные об их здоровье и как эти данные используются. Поэтому в качестве отправной точки для регулирования государственные органы могут предпринять шаги пообеспечению большей прозрачности методов сбора данных.

Быстрое развитие IoB создало среду, в которой пользовательские функции могут непреднамеренно использовать IoB, а также существует путаница и отсутствие ясности в отношении его возможностей. Многие технологии IoB еще неподтверждены клинической доказательной базой. Заинтересованным сторонам необходимо исследовать и распространять информацию о реальных преимуществах IoB. Есть также возможности повысить осведомленность об этических последствиях применения IoB, например, за счет дополнительного финансирования исследований, связанных со сбором данных.

Разработчики IoB могут более подробно рассказывать потребителям о рисках кибербезопасности и методах использования конфиденциальных данных, связанных с их продуктами. Наконец, пациенты и пользователи должны осознавать риски, связанные с принятием решений об использовании таких устройств.

По мере развития интеллектуальных устройств в здравоохранении грань между человеком и машиной стирается, что вызывает новые опасения по поводу безопасности носителей IoВ устройств и прав на неприкосновенность частной жизни.

Устройства IoB могут быть подвержены тем же недостаткам безопасности, что и IoT устройства или любая другая технология, которая хранит информацию в облаке. Но, учитывая характер IoB устройств и собираемых ими данных, ставки особенно высоки. Уязвимости могут позволить неавторизованным сторонам взломать устройства, что приведет к утечке частной информации, подделке данных или блокировке доступа пользователей к их учетным записям.

В случае некоторых имплантированных медицинских IoВ устройств хакеры потенциально могут манипулировать ими, чтобы причинить телесные повреждения или даже смерть. Можно имплантировать в глаз искусственный хрусталик для коррекции зрения, но такие линзы также могут однажды начать записывать все, что вы видите. Электронные таблетки с Bluetooth разрабатываются для мониторинга внутренней работы тела, но в итоге они могут транслировать, что человек ел, или принимал ли наркотики. Можно восстановить слух с помощью имплантата, но нужно иметь в виду, что он также имеет возможность записывать данные об окружающей звуковой среде. IoB проблематичен по своей конструкции и вызывает серьезные опасения в отношении кибербезопасности, конфиденциальности и защиты конфиденциальных данных. Наличие устройства, непосредственно прикрепленного к телу, увеличивает потенциальный ущерб, который может нанести взлом или преднамеренный сбой.

Хотя убийство с помощью кардиостимулятора может показаться надуманным, тем не менее, создаются прецеденты для использования данных Интернета тела в уголовных расследованиях. Например, медицинские данные кардиостимулятора использовались для предъявления обвинений в поджоге и мошенничестве со страховкой человеку, который предположительно сжег свой дом в 2016 году. Мужчина утверждал, что пожар начался сам по себе, и что он собрал свои вещи и выбросил их из окна спальни, чтобы спастись. Но кардиолог пришел к выводу, что показания кардиостимулятора, включая частоту сердечных сокращений и сердечные ритмы, делали это маловероятным, учитывая состояние сердца человека. Ссылаясь на нарушение неприкосновенности частной жизни своего клиента, адвокат этого человека потребовал исключить доказательства, но судья постановил разрешить использование данных в суде.

Исследования показывают, что IoB-технологии используются не только в медицине, но и в других сферах, например, в военной. Знаменитое агентство DARPA – Управление перспективных исследовательских проектов Минобороны США – в 2019 году получило из бюджета $65 млн на программу по созданию интерфейса «человек-компьютер», предполагающего имплантацию специального устройства прямо в голову. По замыслу авторов, чип будет стимулировать разные отделы головного мозга, чтобы повысить те или иные характеристики солдата (Илон Маск идёт по пути, проторенному военными). В Пентагоне рассчитывают со временем дать бойцам сверхчувствительность и ускорить их реакцию. Над проектом работают сразу шесть исследовательских групп. Четыре отвечают за улучшение зрения, две – за слух. И это понятно: в современной войне победит тот, кто первым увидит или услышит противника. Мозг военнослужащего собираются напрямую связать с компьютерной сетью, из которой солдаты смогут в режиме реального времени получать информацию о происходящем на поле боя, не отвлекаясь на тактический планшет или рацию.

Таким образом, любая вновь созданная технология не только открывает новые возможности для человечества, но и содержит определенные, иногда значительные, риски и угрозы, в какой бы области эта технология не использовалась.