Текст книги "На заре новой эры. Автобиография отца виртуальной реальности"

Глава 5
Ошибка системы (о темной стороне VR)

Андроид-параноик

После смерти матери я смог выйти из больницы благодаря словосочетанию «Выбор жизни». Но когда я стал подростком, другие словосочетания чуть снова не отправили меня в больницу.

Эллери дал мне свой экземпляр книги «The Human Use of Human Beings» Норберта Винера, когда я поступил в колледж и проявил интерес к информатике. Это абсолютно ужасающая книга, написанная настолько рано, что Винеру пришлось приводить определения базовых терминов. Он сформулировал подход к будущему вычислений, которое назвал кибернетикой.

Винер понимал, что в один прекрасный момент, когда компьютеры целиком и полностью встроятся в дела людей, нам останется лишь воспринимать людей и компьютеры как части одной системы. Сейчас это может показаться очевидным, но в то время это был просто триумф дальновидности[25]25
  Работа Винера была началом «системы» создания работ о программировании, но для появления второй, психоделической части книги, как в «II Cybernetic Frontier» s или «Computer Lib/Dream Machines», было еще слишком рано. – Прим. авт.


[Закрыть].

Винер не был популярен в период зарождения программирования. Его пережили критики, которые писали о нем в нелестных, на мой взгляд, терминах. Каким бы он ни был человеком, и этого я совершенно не знаю, он обладал ясностью ума, которая свойственна любому первопроходцу в области новых идей.

Термин «искусственный интеллект» появился (на конференции в Дартмуте в конце 1950-х годов) в том числе потому, что многих своих коллег Винер раздражал и они были вынуждены предложить альтернативное название, ведь кибернетика начала завоевывать популярность и ассоциировалась с именем Винера. Предложенная ими альтернатива отличалась по смыслу от первоначального варианта.

Термин «искусственный интеллект» отражал качества компьютеров будущего безотносительно людей, предполагая, что компьютеры станут автономными единицами, которые будут существовать, даже если люди вымрут, даже если не останется никого, кто будет за ними наблюдать.

В противоположность ему термин «кибернетика» предполагал только то, что компьютеры и людей нужно рассматривать в контексте друг друга. Он не имел отношения к метафизике.

Винер был прав: «искусственный интеллект» внес путаницу. Ближе к концу книги я вернусь к рассуждениям об искусственном интеллекте, но пока давайте рассмотрим, что мог значить ход мыслей Винера для виртуальной реальности.

Уравнение ужаса

С помощью этого уравнения можно пояснить, что делает работу Винера ужасающей:

Закон Мура

Тьюринг × (Павлов, Уотсон, Скиннер) = Зомби-апокалипсис

Вторая мировая война оставила после себя чувство ужаса; ощущение, что вся деятельность человека может оказаться во власти технологий. Нацисты эксплуатировали новые технологии как кинопропаганду, вовлекая все большее количество людей в индустриализованную версию геноцида. Моя мать, которой едва ли суждено было выжить, была крохотным пикселем на этом сером фоне.

После войны все недоумевали, как такое могло произойти. Может ли это случиться снова? Поймем ли мы, что происходит, в самом начале? И что нам делать потом?

Одиннадцатое определение VR: дисциплина, расположенная в центре вообще всего.

После войны люди стали бояться контроля над сознанием. Психологи Иван Павлов, Джон Уотсон, Беррес Скиннер в разное время продемонстрировали, что с помощью контролируемой обратной связи можно добиться изменений в поведении. Этот же тяжелый металлический привкус паранойи нового времени сразу узнается в работах Уильяма Берроуза, Томаса Пинчона, Филипа Дика и всего направления киберпанка, а на самом деле всей научной фантастики. Все началось с далеких от науки людей, опасавшихся контроля над сознанием, а закончилось хвастовством некоторых ученых о том, как они упивались властью в своих лабораториях.

Некоторые из первых бихевиористов смотрели на всех свысока – словно у них было право заявлять, что других людей можно проектировать в лаборатории или в обществе – как при тоталитарных режимах; создавалось впечатление, что другие подходы к изучению людей не актуальны.

Павлов первым позвонил в колокольчик, когда подопытная собака ела, и доказал, что может вызвать у собаки слюноотделение и не давая ей еды, а только звоня в колокольчик. Уотсон провел жестокий эксперимент «Маленький Альберт». Он пугал младенца, когда рядом с ним находились животные, с целью доказать, что может навсегда заставить человека бояться зверей. А со Скиннера началось официальное применение экспериментального ящика для выработки у лабораторных животных условного рефлекса.

Поп-культура свела бихевиоризм к устройствам. Вы отправляете посты в Twitter ради мгновенного одобрения и внимания, даже если вы президент. У вас капает слюна, как у собаки, которая слышит свисток. Ящик Скиннера стал архетипом. У человека в ящике Скиннера возникает иллюзия контроля, хотя на самом деле это его контролирует ящик или тот, кто находится снаружи.

Здесь нужно обозначить основное различие, и сделать это непросто. Меня отталкивала культура бихевиористов, но не сам бихевиоризм, который мог принести пользу науке. Раньше я думал дрессировать коз, демонстрируя пример полезного применения бихевиоризма, но теперь считаю, что мог бы воспользоваться методиками когнитивно-поведенческой терапии.

В колледже мне не давала покоя проблема, как провести границу между полезной наукой и пугающим упоением властью. В моей голове роились мысли, которые иногда не давали мне заснуть по ночам. «Наука нужна нам, чтобы выжить; кроме того, она прекрасна. Но ученые могут пугать. Наука, если ее утрируют страшные ученые, может нанести ужасный вред. Как можно тогда заниматься наукой, если мы не всегда ее заслуживаем?»

Больше всего в бихевиоризме меня расстраивал налет анти-гуманности, стремление к известности за счет садистских экспериментов. Любую технологию можно использовать, чтобы придумывать новые формы жестокости. Но зачем?

Бихевиоризм не единственная фабрика паранойи. Генетика полезна и подкреплена фактами, но иногда генетики начинают строить основанные на евгенике утопии, ужасно антигуманные и вредоносные. Ученые приняли участие в истреблении моих родных, из-за них мою мать мучили в заключении, как и миллионы других людей.

Если хотите пережить чувство паранойи, схожее с тем, которое испытал я, когда начал изучать информатику, рекомендую посмотреть оригинальную версию фильма «Маньчжурский кандидат». Американского солдата подвергли идеологической обработке не посредством пропаганды, стокгольмского синдрома или других уловок, которые люди практикуют при взаимодействии друг с другом. Этот солдат прошел безжалостную процедуру, сведенную к единственному алгоритму «стимул – реакция». В «Заводном апельсине», а также многих других книгах и фильмах показана обработка сознания по типу экспериментов Скиннера.

Что может быть ужаснее мысли о том, что какой-то тип в белом халате управляет тобой, как персонажем из видеоигры, а ты об этом даже понятия не имеешь?

Фильмы и романы послевоенного периода примерно до конца прошлого века важную роль в контроле над людьми отводили гипнозу и гипотетической сыворотке правды. Но эти сюжеты не были выдумкой! Сотрудники ЦРУ на самом деле давали людям ЛСД – без малейшего их на то согласия – чтобы посмотреть, поможет ли это контролировать человеческое сознание.

Винер высказал мысль, что компьютеры могут стать достаточно мощными, чтобы управлять более сложноорганизованными ящиками Скиннера. Эти ящики будут более эффективны, их будет сложнее распознать, и поэтому они намного страшнее. Если читать Винера вдумчиво, станет ясно, что при наличии достаточно хороших сенсоров, достаточно высоких вычислительных мощностей и при достаточно высоком уровне сенсорной обратной связи можно поместить в ящик Скиннера бодрствующего человека, и он не будет этого осознавать. Винер успокаивает читателя, указывая на то, что сконструировать такое огромное компьютеризированное приспособление и подвести к нему сеть коммуникаций будет настолько сложно, что такая опасность существует лишь в теории.

Биполярные биты

Лишь через несколько месяцев после первых фантазий о компьютерной графике меня настигла тягостная мысль. Она была настолько ужасной, что я выкинул ее из головы сразу, как только она пришла мне в голову; она жгла меня. Но потом, спустя годы, я время от времени снова сталкивался с этой черной мыслью и постепенно пришел к согласию с нею – но об этом дальше.

Мысль была о том, что технология виртуального мира, в сущности, идеальный аппарат для создания совершенного ящика Скиннера. Виртуальный мир мог бы стать самой страшной технологией из всех существующих.

Напомню, что в то время виртуальные миры состояли из спартански сдержанных однотонных линейных изображений и посмотреть на них удавалось в редких случаях, через огромные промышленные приспособления нескольких лабораторий.

Но я много фантазировал, как выглядела бы новая технология, и мне, наверное, это даже снилось. В моих мечтах она была прекрасной, выразительной и чуткой. Она была как картины Босха, музыка Баха и шоколад вместе взятые. Мою руку можно было бы измерить, или она превратилась бы в некий естественный придаток, может быть, в руку, а может, и в крыло. В один прекрасный день я бы пролетел через множество Мандельброта, смог бы программировать с помощью танца, сочинять музыку вместе с друзьями, выращивая воображаемые растения.

Я пришел в ужас от одного слова в этом абзаце – «измерить».

Винер размышлял, как компьютеры могли бы вписаться в мир. До того времени применение компьютеров ограничивалось решением абстрактных формальных задач, взломом секретных кодов или расчетом траекторий ракет. В специальное окно техникам подавали стопки перфокарт. В подобных случаях существует дискретный момент, когда оператор вводит в компьютер входные данные, например зашифрованное вражеское послание, а затем запускает программу и читает данные на выходе. Более того, формальные определения вычисления, данные Тьюрингом и фон Нейманом, впервые были сформулированы на основе этой модели, включающей в себя стадии дискретного ввода, обработки данных и вывода.

Двенадцатое определение VR: технология, которая позволяет заново открыть себя и прочувствовать это.

Но что, если компьютеры будут работать не с перерывом, а все время, взаимодействуя с миром, встраиваясь в него? А ведь именно таким и был прототип, разработанный Айвеном Сазерлендом!

«Кибер» по-гречески означает связь с управлением кораблем. Когда идешь под парусом, нужно постоянно приспосабливаться к изменениям ветра и волн. Айвен хотел наделить свой прототип сенсорами, измеряющими мир, механизмами воздействия на него и встроенным в мир компьютером. Он бы немного напоминал робота-матроса, даже если бы был закреплен на одном месте. Возможно, он мог бы смотреть глазами-камерами, у него могли бы появиться несколько клавиатур для текстового ввода, а затем он выводил бы изображения на экран или, возможно, контролировал аппаратное обеспечение. Потому и «кибернетика».

Такое виденье программирования было представлено в «Космической одиссее 2001 года».

Компьютер HAL находится не в теле андроида, который может ходить; он просто часть окружения. Тем не менее он тут. Компьютер управляет полетом космического корабля и тем, что происходит снаружи.

А теперь рассмотрим ящик Скиннера. Из чего он состоит? Есть измерения существа, к примеру крысы, которая находится в ящике. Нажала ли она на кнопку? Пошла обратная связь. Появится ли пища? Что запускает действие, когда данные получены? Во время первых экспериментов процесс контролировал живой человек, сейчас этим занимается алгоритм.

Компоненты ящика Скиннера и кибернетического компьютера, в сущности, одни и те же. Возможно, это слишком элементарное наблюдение для современности, но во времена моей юности эта связь была ошеломляющим открытием.

Чтобы система виртуальной реальности работала хорошо, необходимо, чтобы она включала в себя самые лучшие технические возможности восприятия человеческой активности. Тогда она смогла бы создать практически любое переживание посредством обратной связи. Может статься, что VR окажется опаснейшим изобретением в истории.

Стойте, перестаньте так думать! Назад! Подумайте о чем-нибудь другом. Научитесь играть на флейте сякухати, поезжайте в путешествие по экзотическим местам, избегайте Мысли.

Глава 6
Путь

Купол завершен

Мне было семнадцать, когда купол был завершен. Мне предстояло получить степень бакалавра по математике, а я уже был помощником учителя в выпускных классах.

Но я боялся, что, возможно, загоняю себя в ловушку, когда учу людей создавать вредные машины. Мне нужно было посмотреть мир и сформировать свою картину.

Словно по сигналу, я познакомился с одним парнем, который говорил, что он поэт из Нью-Йорка. Я никогда не встречал никого, кто говорил о себе так. У него были длинные волосы и козлиная бородка. Он приехал в провинциальную школу искусств подальше от большого города.

Внезапно мне очень захотелось туда поехать. Почему? Отчасти из-за очарования авангардных журналов, которые я читал в библиотеке. Отчасти из-за увлеченности творчеством Конлона Нанкарроу[26]26
  Конлон Нанкарроу был композитором из Мехико. О своих отношениях с ним я рассказываю в книге «Кто владеет будущим?». Он родился в Америке, но позже ему было отказано в американском гражданстве из-за «преждевременных антифашистских убеждений» – он воевал в Бригаде имени Линкольна в Испании во время Второй мировой войны. Конлон изводил перфоленты механического пианино, стремясь достичь полной свободы и точности, так что он был первопроходцем в изучении искусства без границ. Если хотите послушать его музыку, постарайтесь найти старые пластинки 1750 Arch. Более поздние оцифрованные записи кажутся мне суховатыми и упускают главное. – Прим. авт.


[Закрыть], синтезаторами и экспериментальной музыкой. Нет, на самом деле, совсем не из-за этого. Мои родители были в Нью-Йорке художниками просто потому, что им так захотелось. Я должен был пойти по стопам матери.

Деньги стали огромной проблемой. Расценки за обучение в Нью-Йоркской школе искусств по сравнению с Университетом штата Нью-Мексико кусались. Отец взял ссуду под залог купола.

Мы колесили по стране на микроавтобусе этого парня. Я был поражен, какой насыщенной стала зелень ландшафта, когда мы уехали дальше на восток. Когда перед моими глазами появился Манхэттен, я так разволновался, что это было похоже на припадок. Мы не остановились там, а проехали дальше, к маленькому студенческому городку на севере штата.

Я был абсолютно не готов к снобизму. Почти все ребята были из обеспеченных семей. Я читал Торстейна Веблена, которого очень любил читать отец и который написал тот сценарий, по которому эти ребята жили. Любая форма выражения была жалобой. «Рожденные слишком поздно», как говорилось в одной студенческой песенке. Мы были беднягами, тосковавшими по шестидесятым.

Там царила атмосфера яркого, показного расточительства. Редкие шикарные спортивные авто разбивали по вечерам в пятницу в специально подстроенных авариях. В субботу об этом уже рассказывали.

Но при этом всех постоянно тянуло к деланой бедности и страданию. В общагах был страшный бардак, как в самых бедных районах Нью-Йорка тех лет. Мода диктовала жить как рвань. Все были радикалами; любой знал больше остальных о настоящей жизни, настоящей бедности, настоящем страдании.

Дети самых богатых семейств сидели на героине. Это допускалось. Они услужливо поддерживали культ личности друг друга. Один был гениальным поэтом, другой – талантливым кинорежиссером.

Думаю, во всей школе я был единственным, кому приходилось самому зарабатывать на жизнь. Но я так хотел, чтобы они меня приняли. Чтобы относились ко мне как к настоящему творческому человеку. Разумеется, у меня не было ни малейшего шанса. На мне огромными красными буквами было написано: «деревенщина».

Раньше я знал, что у меня есть хоть какие-то, пусть и странные, преимущества. В конце концов, это не меня соседские мальчишки утопили в бассейне. Цвет моей кожи повышал мой статус, пусть не намного, но это тоже имело значение.

Однако я понимал, что этот статус напоминает фрактал; узор повторяет сам себя в любом масштабе, большом или малом. Когда в одной комнате собираются титаны какой-то промышленной области, среди них всегда будет один, кому выпадет роль неудачника – разумеется, в сравнении с остальными. Когда вместе собираются трудные дети из бедных семей, один из них обязательно станет вожаком стаи. Я столкнулся с тем, что снова оказался в самом низу общества.

Это не совсем справедливо с моей стороны, встречал я и вполне разумных студентов. Но в целом все было так, как я говорю.

Киномусор

Хорошим в этом месте было то, что оно предоставило мне первую возможность научиться обсуждать идеи. Студенты обожали посиделки, где они могли казаться интеллектуалами. Самой частой темой разговоров было кино.

Студенческий городок стал оазисом авангардных режиссеров – эксцентричных любителей путешествий, снявших пару-тройку фильмов, всего-то на несколько минут. Этих режиссеров обожали все студенты, в том числе и я. Кто-то вроде Стэна Брэкиджа или Майкла Сноу всегда мог заработать несколько баксов за визит. Показы проводились в старом проржавевшем сарае-времянке, а поесть можно было позже в забегаловке, где музыкальный автомат играл на полную громкость.

(Бог мой, я до сих пор вздрагиваю, когда вспоминаю эту музыку. Каждый раз одни и те же песни. Большинство людей предпочитает слушать музыку времен своей молодости. То ли музыка была плохая, то ли со мной что-то не так, но почти все хиты середины и конца 1970-х казались мне ужасными тогда и кажутся такими до сих пор.)

Мы не просто смотрели авангардное кино, мы говорили. И не просто о фильме, но о «культуре кино». Больше всего на таких посиделках мы любили рассуждать о том, что когда-нибудь жизнь каждого человека превратится в длинный фильм от рождения до смерти, без перерывов. Все будет записываться на пленку.

Я живописал эту идею в борхесовском стиле, сделав акцент на превосходство кино, которое сможет одолеть само время. «Ничего не будет забыто, так что настоящее и прошлое станут менее различимы. Время окажется менее линейным и более размытым, оно расстелется картой и перестанет быть натянутой струной».

Эта небольшая, но пламенная речь помогла мне закрепиться в обществе, пусть и совсем ненадолго. Сокрушительная новизна идеи фильмов обо всем подряд отчаянно манила тем, что приближала к будущему. Будущее было за кино! Собственно говоря, я чертовски польстил всем, кто это слышал, лишь бы меня приняли за своего.

Кинокультура привлекала меня отчасти и тем, что она была для узкого круга посвященных. Нам нравилось, что простые обыватели не знают, кто такая Майя Дерен.

(Этого вы, наверное, не знаете тоже, но именно в том небольшом кружке кинематографистов зародились шаблоны и стили современных музыкальных видеоклипов. В конце концов, те кинолюбители достигли в кино того же влияния, что Стивен Спилберг или Джордж Лукас. Никогда бы не подумал.)

Однажды на прогулке в дурацкую сырую погоду меня поразила ужасная мысль. Запретная мысль. Что, если я предлагал гуманное использование человека? Шок.

Помню, как спросил во время одной напыщенной дискуссии после показа нового фильма братьев Мекас или Джека Смита: «Кто будет ответственным за фильм обо всей человеческой жизни? Кто будет расставлять камеры, подбирать цветовую гамму, переключаться с камеры на камеру?»

Тринадцатое определение VR: идеальный инструмент для идеального, абсолютно разрушительного ящика Скиннера.

«Для фильма нужно множество решений, – продолжал я. – Это настоящая работа. Если каждый человек должен снять всеобъемлющий фильм о собственной жизни, то у него не останется времени на саму жизнь. Фильм поглотит все, что только можно, и наступит стазис, застывшая картинка. Если снимать будет кто-то другой, результатом станет фашизм, потому что этот другой получит контроль над историей, а значит, над всем. Таким образом, не нужно снимать фильм обо всем подряд. Чтобы быть свободными, нужно многое забыть».

Как ни странно, с этим аргументом никто не стал спорить. В нем было что-то параноидальное и неомарксистское – высокомерные юнцы такое любят. Я думал добиться таким образом симпатии. Более того, эта идея казалась важной и потенциально верной. Но вместо этого я получил только мрачные ухмылки. Однако они не поколебали появившееся у меня спокойствие.

Хотя у меня не получилось сформулировать основную мысль, сам аргумент в конечном итоге меня больше успокоил, чем напугал. Я испытывал глубокое чувство вины за то, что не слишком хорошо помнил мать, но теперь отчетливо понял, что стратегия намеренного забывания иногда может послужить единственным путем к свободе.

Я не слишком много получил от занятий, которые официально посещал. Курсы математики и естественных наук были посредственными – но это уже другой вопрос. Не было компьютеров, не было к ним интереса, и я определенно в них не разбирался. Занятия информатикой пришлось оставить. Хуже того, на музыкальном отделении процветали скрытность и жадность, и жуткие причины этого я вскоре понял.

Но перед этим произошло кое-что хорошее.