Текст книги "I, ROBOT Inc."

I, ROBOT Inc.
Сен Сейно Весто

Дизайнер обложки С. Весто

Иллюстратор С. Весто

© Сен Сейно Весто, 2020

© С. Весто, дизайн обложки, 2020

© С. Весто, иллюстрации, 2020

ISBN 978-5-4483-7721-1

Создано в интеллектуальной издательской системе Ridero

Любое использование текста, оформления книги – полностью или частично – возможно исключительно с письменного разрешения Автора. Нарушения преследуются в соответствии с законодательством и международными договорами. For information address: Copyright Office, the US Library of Congress.

© S. Vesto. 2014

© S. Vesto. graphics. 2014—2018

senvesto.com

0919

***

***

Степень разумности всегда определяет степень свободы.

– Кутта Мл.

1

На воротах у входа в ад было написано: «Господи, какая красивая планета». Я вспомнил этот сюжет, когда сидел в приемной, терпеливо ожидая приглашения большого начальства и разглядывая кусок абстрактной грубой живописи на стене прямо перед собой, непонятно как очутившейся в ведомстве военной разведки. Я вспоминал этот сюжет всякий раз, когда дело заходило достаточно далеко, чтобы потерять обычную уверенность в неизбежности светлого лучшего завтра и что после очередного проекта начальства обязательно удастся вернуться назад. Художник так старался остаться непонятным на случай возможной критики, что картина почти получилась. Я закрыл глаза, перестав искать смысл в логике абстрактных пятен холста и по старой привычке сразу отключив сознание.

Времена уже не те, что были раньше. Когда-то, не так уж давно, я начинал как хороший снайпер. Говорили, я был одним из лучших. Наверно, так и было, я делал то, чего сделать больше не мог никто, но кого это теперь волнует. Любая штатная машина со штатным набором программ оформит тебя на весь горизонт обзора еще до того, как ты успеешь принять упор лежа. Они не пахли потом, у них ничего не болело, у них не тряслись руки и они не задыхались от ужаса за свою жизнь, захлебываясь собственной кровью и адреналином, их даже не надо было мыть. Они определяли снайпера по акустическим данным и характеристикам среды, делая это по единственному выстрелу, и могли лежать на одном месте неделями, пока не пойдут мхом. Впрочем, для руководства вся эта философия сводилась к одному и главному достоинству: они не чесали языками. Штабной офицер появился в приемной, и я понял, что приглашен еще до того, как открыл глаза.

Капитан Рамин Далай Циммер был убит выстрелом в голову. Выстрел был сделан с расстояния почти в полторы мили, в условиях, почти исключающих возможность участия человека, показания прилагались. Там была чужая территория, и можно было без показаний догадаться, чьих рук это работа. Уже один этот параметр расстояния мог сказать любому профессионалу, с чем мы имеем дело. Но мы в самом деле этого не знали, как ни старались, а старались мы очень хорошо. Не надо много ума предсказать исход столкновения, когда ты не видишь снайпера противника, но который явно знает больше, чем ему нужно. Хотя открытые военные действия закончились, даже не успев стать формальными, еще до начала было ясно, что эту войну нам не выиграть. Мы больше и не пытались это сделать. Все, что мы хотели, уже просто сохранить равновесие сил. Потом началась другая проблема. Где-то в горах нейтральной территории, которую такой давно никто не считал, на самой последней грани между тем, что будет, и тем, что еще было, осталась боевая единица давно мертвого расчета – штатная механическая модель жизнеобеспечения подразделения снабжения с уже сто лет как устаревшей программой «Acoustic Sniper Detector». Как самурай на вражеской территории, преданный делу, он без всякой связи и поддержки в одиночку вел боевые действия в давно проигранной войне, постоянно провоцируя и грозя нарушить шаткое равновесие сил. По стандартному протоколу использование дистанционной связи исключалось, видно его не было, но по последним данным слышно было очень хорошо. Что он там делал, догадаться было не сложно, по тому как отдельными ночами на чужой территории становилось светло, как днем. Посланный за ним капитан Циммер сделал попытку дать оценку его стараниям, и теперь папка с его заданием лежала на коленях у меня. Спасибо тебе, незнакомый капитан Циммер, за тот жизненный опыт и тот скупой абзац информации, который другим может помочь остаться в живых. После него был еще капитан Краусс – он был тоже убит выстрелом в голову. Потом ушел сержант Деспла – его миссию можно назвать отчасти удавшейся: его никто не убивал. По непонятным причинам не раскрылся парашют, и он умер, так сказать, естественной смертью. Я не хочу сказать, что здесь есть повод для веселья, это показывает, на какой стадии разрешения ситуация пребывала. Я не спрашивал, почему именно я, хотя можно было набрать бригаду кандидатов с гораздо большим практическим опытом как раз в такого рода делах, пути умозаключений начальства иногда еще более удивительны, чем их конечные результаты.

Человек как вид не так уж бестолков, как сейчас принято думать. И, конечно, с самого начала почти разумным машинам просто из здравого смысла меньше всего планировали давать возможность самим решать, когда давить на спусковой крючок, а когда подождать. Это притом, что еще в 2009 году на конференции технических экспертов была признана не очень приятная необходимость полуавтономности таких систем в той или иной форме, включая как поиск и добывание источников энергии, так и самостоятельное определение цели. Военно-морские силы финансировали доклад, где в связи со всё большим возрастанием сложности военных роботов необходимость внимания к их способности принимать самостоятельные решения декларировалась как «абсолютная». Абсолютная необходимость внимания – так они это называли. Любая корпорация вроде «I, Robot Inc.» в своих разработках получала грант на исследования прежде всего – и это всюду проходит красным абзацем – по линии безопасности. Глупые люди там не работают, но кто-то давно сказал, что мы с самого начала где-то ошиблись в выборе куда идти. Ирония ситуации в том, что никто уже не может точно сказать, где проходит та линия безопасности, а где ее уже нет. «…Сегодня робот воспринимается не просто как инструмент для выполнения работы определенного рода, а скорее как неотъемлемая часть подразделения…» Предполагалось, он не должен был восприниматься иначе, чем именно как особо дорогой инструмент для обезвреживания заминированных участков: по запаху определять наличие мин – его просто планировали быть таким. Функция этой неотъемлемой части подразделения была ясна, как день.

«Используя роботов, мы делаем нашу миссию более безопасной».

Я слышал это не один раз. Мы все это слышали. Так оно и было. И дело уже не в том, что кто-то оказался в расчетах оптимистичнее, чем следовало, или пошел в своих желаниях чуть дальше, чем нужно. Все было гораздо сложнее.

Подтаскивать боеприпасы, вытаскивать на себе раненных, определять местоположение чужого снайпера, давать ценные наставления из мыслителей всех народов, рассказывать только свежие анекдоты, выращивать зеленый лук и редиску, готовить и выносить мусор – все это было уже потом, вроде приятного, но не обязательного для солдата дополнения.

Лично для меня жизненной трагедией стало, когда обнаружилась неприятная новость, что этот механический урод из стандартного тренировочного армейского лука стреляет практически так же хорошо, легко и невозмутимо, как я. Что уже граничило даже не с конкуренцией видов – с личным оскорблением. Некоторое облегчение еще приносила мстительная мысль, что разве только реальную лошадь под тот механический зад найти было трудно, и стрельба на полном скаку так и останется нашей чисто человеческой привилегией биологического вида Homo sapiens. Конечно, можно было представить того же механического конкурента верхом на тракторе и как он, гремя и подпрыгивая, во весь опор натягивает тетиву лука, напряженно пытаясь учесть сразу целый список показателей среды, но вряд ли здесь тот горизонт возможностей, о котором спит и мечтает стратегический отдел приемной комиссии ДАРПА.

Потом начались разговоры о мирном сосуществовании разных типов организаций в биоценозе, в том ключе, что вот если мы все-таки решили ввести в этот беспокойный мир еще одного члена экосистемы, то давайте научим его тем же человеческим ценностям – просто научим ценить, что ценно для нас, «быть лучшими гражданами» (цитата дословная), и как всем сразу станет хорошо. Имелась в виду явно только модификация той же общей базовой программы. Кто-то один тогда же сказал единственную стоящую вещь: дайте ему понять человека. При этом нигде так ни разу и не прозвучало разумного обоснования, из чего следует, что то, что ценно для нас, должно иметь ту же ценность для кого-то еще. И однажды тот же член экосистемы не решит, что не слишком ли много беспокойства из-за условностей, которые созданы кем-то другим.

Вот эти разумные, трезвые и в высшей степени гуманистические принципы работали ровно до того момента, пока не стало окончательно ясно, что эту войну нам не выиграть. Никогда. Она просто была нам не по зубам, ни как биологическому виду, ни как случайному недоразумению на витке эволюции. Вымерший вид Человека неандертальского вымирал на протяжении тысячелетий – чего-то не хватило ему, чтобы жить долго и счастливо, как всегда, ума, наверное. Все говорило за то, что у нас столько времени не будет. Хуже всего, что мы не могли понять, с чем имеем дело.

Впервые заподозрили, что что-то не так, когда у операторов беспилотников-«дронов», автоматических летающих модулей, управляемых с земли, стал с устрашающим постоянством проявляться посттравматический синдром. Это у них-то, которым, как предполагалось, просто вменялось в обязанность воспринимать работу как некую разновидность видеоигр и на всё должно было бы по идее наплевать. Очень скоро обнаружилось, что им еще как было не наплевать, настолько, что после работы они начинали окапываться в огороде у себя дома, пугая соседей.

Человек, переживший посттравматический синдром, в каком-то смысле становится выше этого мира. Это не делает его лучше – это делает его другим. Я говорю так уверенно, потому что сам являюсь его результатом. Именно в силу последнего аспекта в далекой древности люди, чувствуя всё на уровне инстинктов, устраивали такого рода испытание тому, кто подавал заявку на роль избранного своего мира. Это была всего лишь лунная тропа, только игра света на поверхности темной воды при стечении особых обстоятельств и исключительных условий, но раз прошедший ее и оставшийся при этом в живых, уже никогда не сумеет вернуться по ней назад.

Ты нигде не упоминаешь, тем более, не вносишь это в докладную записку и всеми силами прячешь на сеансе обследования, если хоть отчасти ценишь свое будущее или что там от него осталось. Об этом не принято рассказывать, но когда вы общаетесь с таким человеком один на один в замкнутом помещении, скажем, пригласив его с порога зайти к себе в дом и разделить завтрак, никогда не следует забывать, что его восприятие вашего дома и всего, что вас окружает и в конечном счете вас самих способно сильно отличаться от того, что видите вы сами. В каком-то смысле, тот же невроз навязчивого состояния, только перенесенный на условия военных действий. То есть симптомы могут быть, могут не быть, на них можно не останавливаться. Собственно, многие так и делают. Я сам так делаю тоже, просто из вежливости. Но на деле все не так просто, никто же не знает, может, он больной на обе корки. Эти люди очень быстро вспоминают, что их учили убивать. В действительности, они никогда и не забывали, в том вся и проблема, что они не могут забыть, как ни стараются, а стараются они очень сильно. И когда однажды до таких людей доходит, что вот это останется с ними навсегда, до самого конца, многим становится страшно. Настолько, что они инстинктивно прячут то, что произошло, на самом дне самого глубокого колодца своей неосознанной памяти и хоронят так, что уже не могут найти. И как показывает клиническая практика, тот зачастую единственный из доступных механизмов защиты сознания нашего вида имеет свою другую черную и еще более страшную сторону. Потому что то, что похоронено там где-то на далеком дне, однажды рано или поздно попытается выбраться на поверхность сознания в изуродованном облике, а если не выберется, то сдвинет весь фундамент сознания, отравляя всё своим ядом гниения.

Две трети опрошенных контингента участников реальных боевых действий подтвердили отчетливое чувство потери и вполне осознанные эмоции, когда происходило разрушение военных роботов при проведении спецопераций и разминировании. Я помню сцену, как одного из них хоронили. Во всех вооруженных силах невозможно было найти ни одного военного робота, у которого бы не было собственного имени. И почти две трети опрошенных заявили, что военные роботы – в целом «хорошие ребята».

Когда стала известной общая статистика суицида в армии, она все еще привлекала внимание только специалистов. Вопрос самоубийств в армии по большому счету никогда не стоял по одной простой причине: его уровень практически всегда был ниже в сравнении с показателем в остальных социальных слоях. Ровно до последнего времени: Национальным Институтом Здравоохранения были проведены исследования, согласно которым на протяжении последнего десятилетия по неизвестным причинам тот же показатель для армии стал превышать на порядок. Они не давали ответов и объяснений, только пытались найти во всех случаях общее. Я не видел, какое отношение статистика самоубийств в армии имела отношение к случаю капитана Циммера и что она делала в его папке, но, видимо, какая-то связь имелась. Возможно, начальство просто надеялось, что кто-то ему это объяснит.

Было опрошено несколько тысяч человек, результаты опубликованы в паре таких специальных изданий, что даже начальство знало о них только в форме частной справки. Полученные данные не касались одного лишь боевого состава в зонах реальных действий. В этом месте Институт был невнятен: самоубийства происходили даже спустя годы после оставления службы и возвращения жизни в мирное течение. «Война – зло», и объяснение в таком русле как послание своего рода протеста здесь проходило с большим скрипом. Хуже всего, что непонятно, чем следовало объяснять те же случаи для никогда не участвовавших в реальных боевых действиях и не сталкивавшихся с проблемой, скажем, последствий взрыва и ударной волны. Список возможных причин, объясняющих то, что давала статистика, сводился к одному общему предусловию, что чаще всего у таких военнослужащих был ранее зафиксирован синдром дефицита внимания либо самому акту суицида часто предшествовал период аффекта, эмоционального всплеска, поводом для которого могли сработать самые разные причины, и, во-вторых, больше всего тот показатель самоубийств был для военнослужащих с более или менее явной готовностью к агрессивности. Что можно было понять: предполагалось, что это как раз тот контингент, в котором нуждалась армия. Вопрос о том, надо ли понимать так, что десятилетие назад, когда тот же показатель был ниже, в армию склонны были идти исключительно последователи Далай-Ламы, так и остался висеть в воздухе.

Уязвимым местом человека и вообще его хваленой технологической цивилизации оказалось то, что до сих пор эта самая цивилизация физически была не в силах создать пулю настолько расторопную, которая бы покрывала расстояние до отдаленного объекта еще до того, как на нее начинали действовать чисто планетарные условия среды. Когда где-то там далеко впереди на пределе видимости находится объект поражения, который на местности даже без всякого камуфляжа почти невозможно разглядеть, уже без всяких приборов ясно, что лететь пуля туда будет больше секунды и что о зачете можно вообще не мечтать, не принимая во внимание стандартный пакет параметров начиная от ветра, атмосферного давления и относительной влажности для конкретной местности до действующей на пулю силы Кориолиса. И это действительно проблема. Если твой объект в самом деле знает свое дело и он под прикрытием, то остается только ждать. И ждать приходится очень долго. Потому что первая аксиома снайпера: выживает тот, кто двигается последним. Речь не идет о моторизованной колонне, речь о том, кого гены наградили терпением больше. Как только объект начинает движение, плюс ко всему сразу добавляется еще параметр дефлексии – учет смещения цели, которую уже можно достать только на опережение. Ты знаешь расстояние до цели и относительную скорость, угадываешь примерное время полета пули, делаешь прогноз на то положение в пространстве и времени, где они оба встретятся, и задерживаешь дыхание. Вероятность того, что это произойдет падает прямо пропорционально расстоянию до объекта, холодности ствола и твоей неспособности работать застывшими пальцами. Шумно разрекламированные и под аплодисменты взятые на вооружение системы автоматического наведения, справлявшиеся со всем этим, ковыряя спичкой в зубах, работали ровно до того дня, пока не стало ясно, как их вводить в заблуждение. А жаль. Эти вообще были способны достать даже цель при относительном движении до 30—40 миль в час.

Затем появился кто-то из отдела гробокопов с другой статистикой, где было черным по белому написано, что в случае, когда кибернетизированная программа сама, на свое усмотрение решала, когда ей, кибернетизированной программе, нужно определять оптимальное соотношение угла обзора и привходящих параметров, чтобы переходить непосредственно от слов к делу, а не человек, раздавленный болью, стрессом, голодом, недосыпанием и прочей чисто человеческой ерундой, то эффективность той же системы в целом составляла свыше 98,6%.

98,6.

Вот это и решило, куда эволюции шагать дальше.

Кто-то из умных сказал однажды, что мы слишком прагматичны, чтобы быть разумными. Мы что-то упустили, и это что-то было важнее остального. «I, Robot Inc.», наверное, были первые, кто усомнился в неизбежности светлого будущего. Пока другие театрально предостерегали, они то самое будущее строили. Их преимущество то, что, чтобы заработать на хлеб, у них нет необходимости заниматься производством пылесосов. Это были та же самая «ДАРПА»11
  DARPA – The Defense Advanced Research Projects Agency, Проектное Агентство Передовых Исследований в Области Обороны, ответственное за разработку новых технологий для целей военного ведомства; официально созданы в 1958, под эгидой президента Дуэйта Д. Эйзенхауэра, США, как ведомство исследований и перспективных проектов, «выходящих за рамки немедленных военных нужд».


[Закрыть], только они не устраивали конференций и не рассказывали вам о научной фантастике. Здесь вообще говорили мало.

Я разглядывал последний снимок расчета: обычная фотография перед отправкой на тот свет с бородатыми парашютистами в обнимку с автоматами при полном камуфляже на фоне военного модуля – кто-то нежно прижимался щекой к его головной части, пялившейся в фотообъектив тяжелым механическим взглядом; прослушивал пару последних видеозаписей давно мертвых людей с обычным бесстыдным трепом хорошо подготовленных к большим неприятностям специалистов, уверенных, что именно их усилиями всё в конце концов как-нибудь образуется, и думал, что и где мы сделали не так. Почему если у нас что-то и получается, то обязательно с такими осложнениями и с рядом таких оговорок, что лучше бы не получалось вовсе. Мы все служим целям гуманизма и интересам Объединенных Наций, как говорит начальство. Но почему я, сколько ни оглядываюсь назад, не чувствую от этого удовлетворения?

Люций Корнелий Сулла, один из законченных мерзавцев, которых знал Древний Рим и история мира, лично проследил за тем, чтобы 10000 рабов получили свободу и в дополнение к ней римское гражданство. Не знаю, зачем я это вспомнил. Озадаченные историки тогда и много позже, рациональным профилем своей работы приученные всё разносить по конкретным полкам, ломали голову над непраздным вопросом какой объем злодеяний необходимо было бы в течение последующей жизни произвести, чтобы хотя бы отчасти заставить побледнеть то, что он сделал. Системы ценного, что-то важное в самой их основе: то, что все-таки у нас не меняется, сколько тысяч лет ни переверни, и что часть из нас еще отличает от мира паразитов.

Экскурсии по последним достижениям человечества в области технологий тоже не состоялось. Тут ничто не ценилось так, как время. Вместо новых технологий на столе лежал стандартный армейский лук. «Возьмете что-нибудь?» – без особой надежды в голосе спросил напоследок сопровождающий. Он выглядел как вождь индейцев на пяти долларах 1899 года: периметр аккредитации был не способен вместить всех перьев его ответственности. Его тоже можно было понять. Обычным в таких случаях снайперским вооружением вроде инструмента калибра.50 здесь пользоваться было нельзя, как в доступной форме показал практический опыт капитана Циммера, не говоря уже о том, что весило это удовольствие 16 килограммов без всех припасов, но и глядеть, как кто-то уходит «туда» вот так, с одним армейским ножом на ремне было тоже не очень хорошо. Взять «что-нибудь» я согласился.