Текст книги "Все под контролем: Кто и как следит за тобой"

Права воплощениям!

Более ста лет назад первый программист – леди Ада Лавлейс [Lady Ada Lovelance, 1815–1852] написала серию писем Чарльзу Бэббиджу [Charles Babbage], изобретателю первого механического компьютера. В одном известном письме Лавлейс предположила, что настанет день, когда изобретенные Бэббиджем машины смогут мыслить самостоятельно, если будут правильно запрограммированы. В 1950 году один из величайших пионеров компьютерной науки Алан Тьюринг написал исследовательское эссе о том, как однажды компьютеры смогут стать разумными, и предложил тест, при помощи которого люди могли бы определить, разумна машина или нет. С тех пор десятки тысяч ученых посвятили свою жизнь созданию искусственного интеллекта, миллиарды долларов потрачены на достижение этой цели. И только несколько прорывов принесли существенную выгоду некоторым удачливым предпринимателям. Несмотря на это, спустя более чем 150 лет совершенствования технологий, искусственный интеллект по-прежнему остается иллюзией.

Сегодня не утихают грандиозные философские дебаты на тему возможно ли создание настоящего искусственного интеллекта. Они чрезвычайно похожи на дебаты о возможности искусственного полета, развернувшиеся в последний год XIX столетия. Некоторые считали, что это возможно, другие полагали, что это невозможно. Научные журналы публиковали неопровержимые доказательства того, что человек никогда не сможет построить летательный аппарат.[235]235
  Подробная история изобретения самолета и дебаты по поводу возможности искусственного полета можно найти на сервер университета Иллинойса по адресу http://hawaii.psychology.msstate.edu/invent.


[Закрыть] Но пока шли эти дебаты, изобретатели во всем мире неуклонно продвигались к своей цели. Первые попытки создать орнитоптер – машину с машущими крыльями – потерпели неудачу. Стало очевидно, что создаваемая человеком машина, должна использовать другой принцип, нежели простое повторение природы. Ученые стали конструировать планеры и аэродинамические трубы, чтобы изучить природу подъемной силы. В 1903 году конец дебатам положил первый успешный полет на летательном аппарате тяжелее воздуха, совершенный братьями Райт [Orville и Wilbur Wright].

Очень похожие вещи происходили и с искусственным разумом в следующие 50 лет. Подходы, являющиеся сегодня многообещающими, будут усовершенствованы. Другие уйдут в сторону; будут открыты новые.

Рэй Курцвейль [Ray Kurzweil], один из пионеров искусственного интеллекта, основавший несколько успешных компаний, занимающихся ИИ-технологиями, предполагает, что рождение разумной машины произойдет неожиданно, в результате согласованных попыток создать аналог человеческого мозга для хранения в нем информации в качестве резервной копии. В своей вступительной речи на открытии Ближневосточной конференции по информационным технологиям, проводимой Gartner Group в июне 1995 года, Курцвейль обрисовал следующий возможный вариант развития.[236]236
  Ray Kurzweil, «Turing's Prophecy – Machine Intelligence: the First 100 years (1940–2040)», Keynote Address, Gartner Group Middle East Information Technology Conference, Tel Aviv, Israel, 25 июня 1995.


[Закрыть]

• К 1997 году компании, такие как Dragon Systems, выпустят на мировой рынок первую систему распознавания речи с большим словарем – настоящую «голосовую пишущую машинку», которая позволит говорить обычным образом, а компьютеру – записывать сказанное (это уже произошло). В 1998 году компании смогут предложить аналогичную систему, не зависимую от говорящего, и позволят использовать технологию в слуховых аппаратах для глухих (этого пока не произошло).

• К 2005 году «компьютеры смогут влиять на психическое состояние человека, по необходимости помогая справиться с такими расстройствами, как перенапряжение и беспокойство». Люди будут общаться с компьютерами преимущественно устно. Компьютерные дисплеи тем временем уменьшатся до размера очков, которые будет носить подавляющее большинство людей, эти очки будут представлять собой «трехмерный дисплей, перекрывающий обычный визуальный мир».

• К 2011 году компьютеры смогу играть роль людей настолько хорошо, что искусственные люди станут первичным средством обучения: «Вместо того чтобы читать о Конституционном конвенте, студент сможет… подискутировать с моделью Бена Франклина о чрезвычайных полномочиях в военное время, роли судов и других аспектах».

• К 2030 году люди смогут полностью воссоздать структуру нейронной организации человеческого мозга. Технология позволит людям просканировать собственный мозг и использовать «свои персональные компьютеры как персональные устройства резервного копирования».

Курцвейль размышляет далее:

Когда человек будет отсканирован и воссоздан в нейрокомпьютере, человечество задумается: «Кто же этот человек в машине?» Ответ зависит от того, кого спросить. Если спросить человека, находящегося внутри машины, он, несомненно, заявит, что является исходной личностью, прожившей несколько жизней, помещенной в сканер и проснувшейся в компьютере. «Ого! Эта технология действительно работает. Вы должны дать ей попытку!», – скажет он. С другой стороны, исходная личность, подвергнутая клонированию, заявит, что человек внутри машины – самозванец, который просто разделяет с ней память, историю, знакомых, но на самом деле является абсолютно другим человеком.

Тем не менее это происходит, и разумные машины будут созданы в ближайшие 50 лет. А будучи созданными, они поднимут одну не известную доселе проблему. Помещенный в кремниевые пластины разум всегда должен оставаться открытой книгой. Принципиально важно, чтобы этот компьютер ничего не скрывал от своих создателей – ни одного бита данных, ни одного кусочка информации, ни одного варианта расчета. Его память должна быть открыта для просмотра. Человек должен управлять созданными им разумными машинами так же, как Бог управляет людьми.

Не станет ли разум, которому не оставлено ни капли приватности, психически больным? Не получится ли так, что соединение разума и памяти внутри компьютерных банков данных станет настолько сложным, что не сможет быть расшифровано создавшими его людьми без помощи самих разумных машин? Будут ли этичными эксперименты над искусственным разумом, например стирание некоторых участков его памяти и наблюдение за реакцией? Будет ли это действие более этичным, если после его окончания искусственный разум будет возвращен в исходное состояние?

«Аморально или незаконно причинять боль и страдание вашей компьютерной программе? – размышляет Курцвейль. – Законно ли отключать вашу компьютерную программу? Возможно, это незаконно, если вы не сделали резервную копию».

Но эти вопросы – только начало, замечает Курцвейль:

К 2040 году в соответствии с законом Мура[237]237
  Закон Мура не является законом в полном смысле этого слова. Это наблюдение, сделанное основателем фирмы Intel Гордоном Муром [Gordon Moore]. В соответствии с законом Мура, производительность компьютеров по скорости удваивается приблизительно каждые 18 месяцев в результате развития полупроводниковых технологий и вложений в научно-исследовательские и опытно-конструкторские работы.


[Закрыть] обычный серийный персональный компьютер будет в состоянии моделировать разум 10 тысяч человек, каждый из которых будет функционировать в 10 тысяч раз быстрее реального человеческого мозга. Либо он сможет реализовать модель человека с емкостью памяти в 10 тысяч раз больше обычного мозга и работающую в 100 миллионов раз быстрее. Каковы будут последствия такого развития?

Учитывая реальную возможность того, что наши интеллектуальные потомки будут населять описанные Курцвейлем мифические машины в 2040 году, мы должны серьезно подумать о правовом и этическом режиме, в соответствии с которым эти разумные аватары будут функционировать, – если эти аватары действительно являются репликантами человеческого разума, если они думают и сами создают объекты творчества, они должны обладать теми же правами на приватность, что и люди из плоти и крови. С другой стороны, в этом случае произойдет описанный в главе 9 перехват разума. Если же пойти другим путем, то в наших собственных интересах гарантировать права компьютерному разуму: приватность, которую вы сохраняете, однажды может оказаться вашей!

11
Право на личную тайну сейчас!

Преамбула

…Принимая во внимание, что необходимо, чтобы права человека охранялись властью закона в целях обеспечения того, чтобы человек не был вынужден прибегать, в качестве последнего средства, к восстанию против тирании и угнетения…

Статья 12

Никто не может подвергаться произвольному вмешательству в его личную и семейную жизнь, произвольным посягательствам на неприкосновенность его жилища, тайну его корреспонденции или на его честь и репутацию. Каждый человек имеет право на защиту закона от такого вмешательства или таких посягательств.

«Всеобщая декларация прав человека».

Принята и провозглашена резолюцией 217 А (III) Генеральной Ассамблеи ООН от 10 декабря 1948 года (Doc A/810 at 71).[p70]p70
  Процитирован перевод Декларации на русский язык, доступный на сервере ООН в Интернете по адресу http://www.un.org/russian/ documen/declarat/declhr.htm.


[Закрыть]

В XXI веке кампания против свободы и независимости личности разворачивается во всем мире, но наиболее явно это происходит в Соединенных Штатах. Эта кампания реализуется совместно правительством, бизнесом и обычными гражданами. Мы все виновны. Приватности наносятся тысячи смертельных ран. Свободные общества поворачиваются спиной к вопросам приватности на свой страх и риск, ведь приватность – одно из фундаментальных прав, из которого происходят все остальные права человека:

• сама жизнь не может существовать без возможности предотвращать или сдерживать вторжения. Простейшие организмы используют клеточную оболочку для защиты своего тела от вторжений. Мы, люди, при защите своей неприкосновенности и приватности полагаемся на нашу кожу, наши дома, заборы и наше оружие;

• без приватности мышления – свободы, позволяющей нам формировать свое собственное мнение, и секретности, дающей нам возможность хранить наше мнение в тайне до тех пор, пока мы сами не решим высказать его, – не может существовать личность и индивидуальность;

• без приватности коммуникаций не может существовать политической жизни и в конечном счете нормальных взаимоотношений. Люди не смогут вести откровенных разговоров друг с другом, зная, что их слова слышит, а возможно, и записывает кто-то еще. Точно так же, как приватность личности является непреложным условием развития собственного «я», приватность в отношениях между людьми является непреложным требованием для создания длительных дружеских отношений.

Эти определения приватности могут показаться доведенными до абсурда аргументами, содержащимися в обсуждаемой в первой главе статье «Право на приватность». В конце XIX века Уоррен и Брэндис не могли представить, что технологии будут представлять опасность для приватности людей на таком фундаментальном уровне. Расстаться с нашей физической целостностью? Открыть свои мысли? Что за вздор! Более того, сегодня нашему праву быть свободными от вмешательств угрожают как террористы с оружием массового уничтожения, так и правительство, стремящееся найти и уничтожить этих террористов. Угроза нашему праву на тайну мыслей и переговоров исходит со стороны правительств, продавцов и неумолимой техногенизации нашей планеты. Наши личные истории лежат открытыми перед страховыми компаниями. Наши мысли однажды могут быть промоделированы или, скорее всего, украдены мощными компьютерами. Очень сложно, взглянув на любой сегмент экономики, не найти там новых агрессивных нарушений приватности личности.

Технология не нейтральна

Однажды на конференции я встретил студента MTI. Со всей искренностью он заявил мне, что технология нейтральна по отношению к приватности. «Технологии могут использоваться для нарушения приватности, либо они могут использоваться для защиты приватности», – сказал он.

Этот студент из MTI во многом напомнил мне себя самого: я говорил практически такие же вещи, когда был студентом этого института. Аргумент «технология нейтральна» очень удобен для людей, привыкших работать с самыми передовыми в мире технологиями. «Проблема не в технологии, – нравится нам думать, – проблема в способах использования этой технологии людьми!»

Тезис «технология нейтральна» очень удобный, но он неправильный. История полна примерами бесчеловечных проявлений технологий.[238]238
  Jacques Ellul, The Technological Society (New York: Random House, 1967).


[Закрыть] Хотя и возможно использовать технологии для защиты и усиления приватности, тенденция технологического прогресса заключается в обратном. Сложнее, а зачастую и гораздо дороже создавать устройства и услуги, которые защищают приватность людей, чем уничтожать их.

Например, когда я учился на последнем курсе MTI, институт получил очень дорогую электронную телефонную станцию 5ESS. В течение пяти лет цифровые ISDN-телефоны были установлены в институте повсюду. Каждый телефонный аппарат имел небольшой дисплей, более десятка кнопок, раза в два больше лампочек и встроенный микрофон для громкоговорящей связи. Когда я подробнее изучил устройство аппарата, я выяснил, что каждая кнопка и лампочка на нем являются «программными», т. е. любая кнопка и любая лампочка могут быть запрограммированы 5ESS на выполнение любой функции – это лишь вопрос программного обеспечения.

К сожалению, конструкция этих ISDN-телефонов позволяет использовать их в целях, для которых они никогда не были предназначены: установка жучков в офисах университетского городка. Роль жучка играет встроенный микрофон громкоговорящей связи. Обычно, когда вы делаете звонок, не поднимая трубки, красная лампочка рядом с микрофоном сигнализирует о том, что он включен. Но поскольку телефонный аппарат полностью управляется программой, включение микрофона и включение лампочки являются независимыми операциями. Путем перепрограммирования 5ESS можно включить микрофон, не включая световую индикацию. А между тем аппарат мог быть легко сконструирован по-другому, например, чтобы лампочка всегда загоралась при включении микрофона, безо всякого вмешательства со стороны 5ESS. Телефон не был сконструирован таким образом потому, что разработчики из AT &T не рассматривали обеспечение приватности как одну из основных целей разработки.

Существует и обратный пример. Это небольшая видеокамера, которой производитель компьютеров Silicon Graphics комплектует большинство своих настольных рабочих станций. Камера предназначена для организации видеоконференций, она установлена сверху на мониторе компьютера и направлена на пользователя. Обычно затвор камеры управляется программно: запустите программу, и камера начнет передавать видеоизображение. Остановите программу – и она остановится. Но эта камера имеет также и механический затвор – небольшую пластиковую шторку, которой можно закрыть объектив, заблокировав камере обзор. Конечно, камера с пластиковой шторкой более дорога в производстве, чем дешевые видеокамеры без механического блокирующего устройства. Но если вы сидите перед машиной и опустили шторку перед объективом, вы можете быть абсолютно уверены, что камера не в состоянии следить за вашими действиями. Эта шторка – дополнительный элемент конструкции, про который другие производители – увы! – предпочитают забывать.

Одной из проблем, присущих обеспечивающим приватность технологиям, является то, что очень сложно узнать, правильно ли работает технология. Если ваша приватность нарушена, вы можете заметить сигнализирующие об этом симптомы: непрошеная почта или надоедающие телефонные звонки. Вы можете обнаружить свою персональную информацию опубликованной в Интернете. Вы даже можете обнаружить скрытую видеокамеру у себя в спальне. Но нельзя с абсолютной уверенностью утверждать, что ваша приватность обеспечена. Более того, когда нарушение приватности обнаруживается и исправляется, обычно очень сложно узнать, внесены ли изменения технически корректным способом.

Технологии не являются нейтральными по отношению к приватности. Подавляющее большинство технологий нарушают приватность, это заложено в самой их природе. Развитие технологий позволяет более точно описывать, измерять и систематизировать мир вокруг нас. Оно позволяет нам создать глобальное хранилище информации, в котором очень легко осуществлять поиск. Технологии также позволяют осуществлять лучший контроль за недетерминированными процессами, такими как выбор человеком хлопьев на завтрак или политические выборы. Мы игнорируем эту тенденцию на свой страх и риск.

Повестка дня для правительства на XXI век по обеспечению приватности

Законотворчество и правовое регулирование могут стать одними из лучших методик защиты приватности в XXI веке, так же как в XX веке единственным эффективным способом защиты окружающей среды стали законы и правовое регулирование. Если правительство не обеспечит защиту права на приватность личности, бизнесу очень легко (и очень выгодно) будет действовать не в наших интересах.

Тридцать лет назад Соединенные Штаты стояли на пути создания государственной системы защиты приватности. К сожалению, Уотергейт[p71]p71
  Уотергейт [Watergate] – политический скандал, в который оказалась вовлечена администрация республиканцев в 1973–1974 годах. Во время предвыборной кампании в помещении Демократической партии в отеле «Уотергейт» были задержаны взломщики, пытавшиеся установить подслушивающую аппаратуру. По данным некоторых источников они были связаны с комитетом по переизбранию на второй срок президента-республиканца Р. Никсона.


[Закрыть] и ошибки администрации Картера сбили нас с этого курса. В результате мы создали общество, в котором правительственные и бизнес-круги незаинтересованы и не имеют опыта в вопросах обеспечения приватности. Этот недостаток опыта заявляет о себе в первую очередь все возрастающим количеством вопиющих фактов нарушения приватности, которые мы наблюдаем в последние годы. Каждый раз, когда некоторые правительственные агентства или бизнесмены запускают новую программу или услугу, эта программа оказывает косвенное влияние на приватность. Когда общественность узнает об этом, неизменно разражается скандал, иногда сопровождаемый слушаниями в конгрессе или массовыми протестами потребителей. А мы, похоже, не извлекаем уроки из собственного опыта.

Гораздо более правильный подход заключается в создании постоянно действующего федерального контролирующего агентства, основной обязанностью которого стала бы защита приватности. Такое агентство могло бы:

• сдерживать правительство в его постоянном стремлении приносить приватность людей в жертву другим целям и осуществлять на правительственном уровне проверку новых федеральных программ на предмет возможных нарушений приватности до их реализации;

• претворять в жизнь немногочисленные существующие в США законы в области приватности;

• быть хранителем неприкосновенности и свободы личности в мире бизнеса; демонстрировать бизнесменам, как можно одновременно обеспечивать приватность и получать прибыль;

• быть омбудсменом[p72]p72
  Лицо, назначаемое правительством для разбора жалоб частных лиц на государственные структуры.


[Закрыть] американской общественности, пытающимся обуздать самые худшие крайности, созданные нашим обществом.

Подсчитано, что создание такого агентства сегодня обойдется менее чем в 5 миллионов долларов – капля в федеральном бюджете.[239]239
  Прогноз Эвана Хендрикса [Evan Hendricks], председателя Совета по приватности США; издателя Privacy Times.


[Закрыть]

Некоторые активисты приватности высмеивают идею использования правительства для обеспечения гарантий приватности. Правительства, говорят они, повинны в самых крупных нарушениях приватности! Это правда, и именно по этой причине необходимо использовать законодательное решение. В конце концов правительство США было одним из самых крупных загрязнителей окружающей среды. Но это было до того, как конгресс принял множество законов по защите окружающей среды, заставившей правительство сделать свою деятельность более чистой. Законодательный подход эффективен, поскольку правительство США, как правило, выполняет свои законы. Сегодня правительство США является фактически национальной природоохранной полицией, одинаково внимательно контролирующей деятельность как частного бизнеса, так и самого правительства.

Правительства могут сделать чрезвычайно позитивные подвижки в области приватности. В частности правительства могут изменить разработку технологий, влияющих на приватность, как это уже сделано правительствами в Европе. Рассмотрим следующий аспект: все большее количество европейских компаний предлагают бесплатные телефонные звонки, предоставляемые после того, как вызывающий абонент прослушает короткую рекламу. Эта услуга экономит деньги потребителей, даже если представляется как мягкая форма промывания мозгов. Но эти услуги предоставляются по-разному. В Швеции рекламу вынуждены прослушивать как вызывающий, так и вызываемый абоненты, и новые рекламные объявления звучат прямо во время разговора. Однако в Италии омбудсмен по вопросам приватности постановил, что слушать рекламу должен только вызывающий, но не вызываемый абонент.[240]240
  John Tagliabue, «Europe Offering Free Calls, but First, a Word from…», New York Times, 28 сентября 1997, p. AI.


[Закрыть]

В Соединенных Штатах имеет место мощная общественная поддержка мер государственного контроля, в частности, по таким ключевым вопросам, как защита медицинских данных. Например, проведенный в 1993 году Harris-Equifax опрос по вопросам обеспечения конфиденциальности медицинской информации показал, что 56 % американской общественности за «комплексный закон, устанавливающий режим конфиденциальности для индивидуальных медицинских данных» как часть общенациональной реформы законодательства в области здравоохранения. Среди сторонников нового федерального закона о конфиденциальности данных 96 % считают, что закон должен четко установить, кто может иметь доступ к медицинским данным; 96 % считают, что люди должны иметь право проверять свои медицинские данные и должна быть установлена процедура, позволяющая им корректировать и пополнять свои медицинские записи; 94 % опрошенных считают, что вся персональная медицинская информация должна быть отнесена к критичной, а 69 % – считают, что «должен быть создан независимый Национальный медицинский комитет по вопросам приватности [National Medical Privacy Board], который будет проводить слушания, издавать инструкции и претворять в жизнь стандарты».[241]241
  Harris-Equifax, Health Information Privacy Survey, 1993.


[Закрыть] Достаточно интересно, что 65 % главных администраторов медицинских учреждений, которым были заданы аналогичные вопросы, также высказались за федеральное регулирование.

Но даже без федеральной комиссии по приватности мы многое можем сделать.