Текст книги "Предел Шенберга"

Предел Шенберга
Сен Сейно Весто

Дизайнер обложки С. Весто

Иллюстратор С. Весто

© Сен Сейно Весто, 2019

© С. Весто, дизайн обложки, 2019

© С. Весто, иллюстрации, 2019

ISBN 978-5-4490-3300-0

Создано в интеллектуальной издательской системе Ridero

научно-фантастическая повесть

Любое использование текста, оформления книги – полностью или частично – возможно исключительно с письменного разрешения Автора. Нарушения преследуются в соответствии с законодательством и международными договорами. For information address: Copyright Office, the US Library of Congress.

© S. Vesto. 2018

© S. Vesto. graphics. 2018

0319

ПРЕДУПРЕЖДЕНИЕ

Настоящее издание было подвергнуто редакторскому пирревью системы искусственного интеллекта Tripod-X v.5.1. Ревьюер не несет ответственности за элементы содержания, способные нарушить требования человеческой цензуры.

***

Когда мне в конце концов переслали эти несколько эпизодов тех окутанных молчанием событий с просьбой причесать их и упорядочить, с тем чтобы как-то уменьшить ту долю энтропии, в которой там и так не было недостатка, я по здравом размышлении решил ничего не трогать. Это были руины ушедших миров, развалины мертворожденных концепций, и ничто не убеждает тебя в том, что ты действительно все еще жив, как вид того, что уже мертво.

– Кутта Мл., из «Воспоминаний Виктимария Времени»

***

Когда эволюция находится в раздумье, для катаклизма бывает достаточно одного неосторожного сомнения.

– Кутта Мл.

***

Наемник

Инструктор в самолете сказал:

– Прыжок с грузовым контейнером не представляет большой сложности. Это как вождение в нетрезвом виде. Вы когда-нибудь водили автомобиль в нетрезвом виде?

– Нет, – сказал я. – Я не пью.

Инструктор улыбнулся.

– Жаль. Тогда бы у вас был шанс.

Мне он сразу не понравился. Как все представители элитных операторов, на наемников он смотрел как на недоразумение в чьей-то карьере: за те же деньги можно было умереть гораздо более простыми и гораздо менее мучительными средствами. Кто-то сказал однажды, что подразделения операций специального назначения от нормальных людей отличает лишь соотношение удовольствий в обычном русле жизни. На пять процентов радости от точного знания того, у кого прибор длиннее, приходится сорок пять процентов не всегда переносимой боли. Об остальных пятидесяти процентах, которые приходятся на счастливый случай, часто просто необходимый в такого рода делах, профессионал старается вслух не говорить. То, что здесь называли грузовым контейнером, мне нравилось столько же, сколько инструктор с его юмором. Он был размером с мой горный рюкзак и весил так, что мне сразу расхотелось летать. О грузовом контейнере и прыжках с ним с самолетов я знал только то, что перед приземлением его нужно отстегнуть и сбросить на тросе под себя вниз. Но не раньше, чем купол уверенно сядет на плотный поток воздуха.

– Обычно на эту программу у нас отводится четыре месяца. Но для тех, кто торопится, армия всегда готова пойти навстречу.

Он снова не стесняясь, от души заржал, откидываясь назад, так что я с трудом удержался, чтобы не засунуть ему в рот свой SCAR вместе с глушителем. Я давно не прыгал с парашютом, и меньше всего собирался соревноваться с профессионалами. Впрочем, стропоуправление даже в Антарктике работает одинаково. Я впервые честно спросил себя, не перегнул ли я палку со своим оптимизмом и верой в неизбежное светлое завтра.

Тогда и много позже мне не раз задавали вопрос, зачем социологу науки с профилем исследований, целиком лежащим в области экспериментальной философии, брать в руки бельгийский SCAR-Н и прыгать с парашютом. Кто-то говорил, что это от избытка здоровья, кто-то предполагал в том попытку историка в последний раз прикоснуться пальцами к последним уцелевшим памятникам древней культуры перед тем, как до них доберутся варвары, чтобы пустить их на пыль, другие предполагали, что за этим неизбежно где-то должна стоять женщина и неудачная любовь. В конце концов мне до такой степени это надоело, что я решил написать книгу. Все мои горячо и искренне любимые сторонние наблюдатели не понимали, что все перечисленное могло составлять компоненты одной полноценной жизни.

Хочу сказать сразу: все, что вы знаете об операторах специального назначения, – неправда. Единственное, что правда, – это их бородатая шутка насчет пяти минут удовольствия повелителя миров, на которые приходится сорок пять минут непереносимой боли. Как везде, представителей пресловутых спецподразделений никто не любит. Но когда начальство задает свой обычный вопрос: «Кто готов умереть первым?» – охотно и сразу зовут их. Здесь можно улыбаться, но соглашаются все: это то, за что им платят деньги, надеясь получить взамен вполне реальный результат. Часто спрашивают, в чем отличие между двумя элитными частями специального назначения. Да вообще никакого. Одни любят купаться, другие нет. Конечно, если бы не низкая температура, тогда бы купались все. Но тогда бы все были хорошими и не было терроризма, а так не бывает. Элитный оператор, куда меня с шутками и дружескими шлепками впихнули за несколько минут до обещанной заброски, отличался от остальных только длиной трусов. Те же потные футболки, те же шутки, солнцезащитные очки и невыразимая скука на бородатых лицах. Этих не любили даже внутри армейского ведомства: их философский взгляд на жизнь «все мое ношу самолетами» способен из тихого финансового сектора сделать зоопарк урчащих зверей: все, что им может понадобиться в дороге, они сбрасывают на парашютах, от воды и вездехода-трицикла до походного туалета. Это не везде понимают. Спрашивается, кому тогда преодолевать трудности.

Я больше не хочу возвращаться к этой теме. Банальные экстремисты не моя специальность. Можно спуститься по ступеням времени за сто лет до этой эры и дальше – и найти те же самые лица и тех же самых питеков там. Только сегодня те неизбежные экскременты цивилизации мы снабжаем современным оружием и спутниковой связью. В моей компетенции – нечто другое, менее откровенное и что может быть более опасным. Гораздо, несоизмеримо более опасным. Кстати, если еще не пробовали элитный хлеб и если только представится такая возможность – искренне советую. Он не сделает вас лучше, но он сделает вас другим. Настолько другим, что потом, однажды открыв свой походный противоударный ноутбук на том самом профиле экспериментальной философии, вы приметесь удалять все, над чем так долго трудились.

И начнете делать все заново.

***

Пара вопросов о главном

Из книги Эльмо Броди «Homo sapiens, Технология и Дьявол: столкновение или объединение? Размышления об удачном ужине»

Нелегальные жители планеты Земля: к вам обращаются. Уплата подоходных налогов касается вас тоже. Вы особенные, что ли?

– Объявление на стене

…Создавая руины одного сознания – допустимо ли строить на них что-то еще?

Мне пришло это в голову, когда я как-то однажды вплотную столкнулся с проблемой общения со своим кухонным миксером, новая программа которого упорно не желала понимать, чего, собственно, я хочу от жизни.

Глядя на окружающий мир, невольно приходишь к заключению, что если бог где-то и существует, то он по всей видимости не подозревает о существовании человека. Возможно, это и к лучшему.

Я подумал тогда, согласно статистике, какая примерно часть населения этой планеты восприняла бы такой факт событий как поворотный момент в обычной эволюции своего дня и отказалась бы от ужина? Я не имею в виду тот процент, который бы пришел к решению покончить жизнь самоубийством, я о той категории вполне нормальных людей, что увидели бы в том повод задать главный вопрос. Господи, куда катится этот мир…

У меня есть пара вопросов, которые я придумал сидя у себя в машине по дороге на работу. Существует одна теория – говорят, кто-то ее придумал, стоя под напором воды в душе, – по которой объем информации, достигая определенного предела, переходит в новое качество. Это должно представлять для нас интерес, принимая во внимание тот бульон новостей, пухнущий под собственным весом, пока мы чистим зубы и ложимся спать. Как-то я даже видел мимоходом точные цифры того ускорения, с какой вот этот самый океан информации воспроизводит себя сам. Цифры показались мне тогда такими пугающими, что я поспешил их сразу забыть.

Но давайте спросим себя – сейчас мы вправе это сделать, просто как повод рассказать самим себе сказку перед тем, как мы окончательно отойдем ко сну и наутро всё благополучно забудем: действительно ли мы контролируем тот самый пресловутый информационный объем – или же он потихоньку уже контролирует нас?

Чтобы сказка на ночь действительно осталась добропорядочной сказкой, а не стала сюжетом для кошмара, я попробую себя немножко в роли promoter fidei – адвоката Дьявола и попытаюсь обескровить собственные чисто умозрительные спекуляции, найдя в них недостатки. Но все же: если допустить, что упомянутая выше и ряд сходных ей теорий верны, то возможно ли, что мы или кто-то из нас, так сказать, несчастные среди несведущих, смогли бы отличить сфабрикованную реальность? Так сказать, поймать Дьявола за хвост?

Поступим просто: первый вариант ответа – «нет». Мы и никто другой не сможет этого сделать уже в силу самой исходной установки задачи. Как настаивают столетия чужого опыта, Дьявол нам не по зубам. Скажем себе: возможно, это и к лучшему, у меня в ванной уже месяц кран протекает, вторую неделю мучает какой-то невообразимый насморк и полно других более важных дел.

Но если ближе к реальности будет вариант ответа номер два – «да, такое возможно», кое-кому под силу отличить подсунутую Дьяволом реальность и поймать его за хвост, – то в этом случае, боюсь, у нас у всех большие проблемы. Потому что рано или поздно кто-то это сделает и затем еще попытается показать другим, – и тогда нам всем придется думать, как жить дальше с тем, что мы не в силах изменить.

Тех, кто уже понял, о чем речь, и поспешил закрыть книгу, чтобы выключить свет и отойти ко сну, мы хорошо поймем и извиним: им завтра рано вставать. Для всех же остальных, кто еще остался, мы поспешим напомнить, что это не более чем продукт умозрения – возленаучная спекуляция: так сказать, сказка для всё познавших. Когда никто ничего не знает определенно, все вправе предположить, что всё на деле гораздо хуже. И тем не менее.

Мы цепляемся своим сознанием за привычные нам детали, понятия, которые придумали в силу конструкции нашего голосового аппарата, реальность, которую не понимаем, но которую привыкли считать своей просто потому что она одна из известных нам дала возможность выжить, строим из тех надерганных деталей сплетни, слухи и далеко идущие прогнозы, посредственные книги и смертные приговоры – но нигде никогда всерьез не рассматриваем варианта, что в действительности нас нет – как нет этих деталей…

Но вот приходит кто-то и говорит: ребята, все чуть сложнее, чем мы сами себя приучили думать. Вселенной, ту, которую мы воспринимаем в том виде, в каком воспринимаем, нет тоже – и никогда не было. Это лишь чистый продукт ограниченности восприятия того, чего, как мы уже подозреваем, в действительности нет.

И тогда что делаем мы? А ничего. Когда у тебя в ванной протекает кран, лишь совсем немногие попробуют ответить для себя на пару основополагающих вопросов своего существования.

Таким образом, можно считать доказанным, что даже в рамках предложенной конструкции тот элемент, который привык называть себя разумной формой жизни (вид Homo sapiens), практически ничем не отличается от механизма – и его механической последовательности действий хватает ровно на то, чтобы вовремя отойти ко сну и повторить все на следующий день сначала. Без вариаций в той же самой последовательности. Неплохо, правда?

Но дальше еще хуже.

Мы инстинктивно оборачиваемся назад, на тысячелетия строительств и разрушений, лежащих у нас за спиной как благословение дьявола, и похожих одно на другое, как эпос микроорганизмов, – и видим в тех тысячелетиях то же самое. Мы строим руины того, что воспринималось нами как будущее, но так и не сумели ответить на вопрос: почему у нас получается совсем не то?

Удрученные зрелищем, мы с надеждой в сердце бросаемся к тем немногим из избранных, которых принято называть умами цивилизации, менторами и учеными, казалось бы, уже в силу самого рода деятельности призванными задавать себе всё тот же вопрос куда катится этот мир. И что мы видим? Совершенно ту же картину. Все они вместе и каждый в отдельности с головой погружены в свои темы, которые, ясно, за них никто делать не будет.

Уверен, кто-то уже успел уловить, куда я клоню. Механическая последовательность действий элементов в информационной среде, которая, как мы предположили, не находится под их контролем.

Кто-то однажды определил Дьявола как большие неприятности, которые слишком много знают: для простых обобщений он слишком далеко видит. Спрашивается, чем это отличается от определения просто умного человека. И тогда другой вопрос, так ли уж действительно и определенно, что два разумных человека всегда сумеют договориться?

Но давайте попытаемся дать определение того, как бы выглядел наш с вами Дьявол в обстановке, близкой нам – в условиях современного окружения.

Во всех известных культурах так или иначе можно найти понятие человека, обладающего ограниченным набором качеств, другим недоступных. Называли этих людей по-разному, но редко – хорошим словом. Смысл сводился к одному. Если попытаться дать совсем сжатое определение гения, мудреца, воплощения истины, но-ками и как бы там его еще ни пробовали назвать, то во всех случаях обнаруживаются два качества: он другой; он видит то, чего не видят другие.

Иначе говоря, этот чрезвычайно редкий тип носителей разума определяют те же самые качества, что и клинического шизопараноика. Спрашивается, в чем отличие.

Так вот, я бы сказал, что никакого. По крайней мере, при такой постановке и под таким углом зрения.

Видимо, отличие можно найти в том, что то, что видят они оба, и чего не видят все другие, в принципе способно по-разному влиять на будущее – по крайней мере, в том виде, в каком его у нас принято понимать. Предполагается, что гений своей особенной проницательностью способен открыть в сумерках будущего преимущества, равно как и отсутствие оных, для многих; видения же шизопараноика существуют только для него одного. Вот и весь конкордат отличий.

Но вот в чем сложность. При ряде определенных условий наш шизопараноик тоже способен создать целую массу проблем, и тоже для многих. Вопрос лишь в том уровне механизмов власти, которые ему доступны.

Разумеется, не из чего не следует, что гений непременно должен быть образцом добродетели, приятный лицом и покоряющий манерами. Больше того, он именно в силу своей способности быть на шаг впереди очень просто может доставить массу беспокойства не только своему окружению, раздражающему своей законченной бестолковостью, но и гораздо большему числу людей, которые вообще о нем никогда не слышали. Говоря проще, он легко создаст проблемы этим многим, и разглядеть те проблемы может оказаться задачей весьма не простой. Наибольшее количество оборудования способен вывести из строя наиболее компетентный состав сотрудников.

Все это хорошо, но вот вопрос: что, если наш гипотетический шизопараноик, который, как мы выше вынуждены были согласиться, сам тоже своей непредсказуемостью способный запросто поставить окружение в затруднительное положение, однажды в силу своей клинической неординарности поселит в свой мир всех остальных? Для него не существует понятия времени – в том смысле, каким его видят остальные, и поэтому понятие пространства не содержит для него значения, соотносимого с нашим.

И он тем опаснее, чем он разумнее.

Зачем я это все рассказываю. Я просто не знаю, как осторожно подобраться к сути, так чтобы никого не перепугать раньше времени. Здесь я попытаюсь доказать, что такое явление, как гений, но-ками – словом, то самое пресловутое «воплощение истины», к которому как бы всеми лучшими устремлениями тянулся старый добрый вид Homo sapiens, по определению всегда подлежал умерщвлению.

Это механизм защиты посредственности.

Принято считать, что существует две возможности сосуществования в стае, стаде, социуме: социальная интеграция либо остракизм. Социальная интеграция как эволюционное приобретение предполагает выполнение требований, установленных Большинством и, как следствие, того, что ими сочтено «хорошим»: моральными принципами. Вы подчиняетесь пожеланиям Большинства – и вам оно разрешает жить. Всё просто. Взамен особи получают увеличение шансов на выживание – тоже, в эволюционном смысле.

Вторая из возможностей, остракизм, понятно, резко снижает вероятность такой особи выжить. Это особенно не просто сделать, принимая во внимание, что обычным порывом того самого Большинства в конце концов становится критерий «все, кто не с нами, тот против нас». Против «нас» идти бывает как минимум проблематично, что тоже понятно. Таким образом, возникает вполне конкретный селективный отбор: наибольший шанс на выживание получают те особи, кто максимально приближен своими достоинствами к некоему усредненному показателю. Показатель этот называют по-разному – «посредственность», «серость», – но смысл тот же:

в соответствии с законом естественного отбора, выживает крепкая числом средняя серая масса. Всё остальное уходит. Уходит, понятно, не в отпуск, не на повышение, а, так сказать, «насовсем».

Что происходит с особями, по ряду причин не отвечающими кодексу Большинства, очевидно. Они определяются изгоями, со всем рядом прилагающихся последствий. Разумеется, общественный кодекс бывает разный, и, скажем, кодекс, определяемый чернью (в терминологии Античных эпох), или, беря более частный случай, некой уголовной группой, носителю разума с иными установками следовать было бы сложно. Вопрос в том, что это никого не интересует. А зря.

Никто не задавал вопрос, что, если однажды такое «отклонение от нормы» начнет брать на себя ту же задачу и примется выживать – и тоже в эволюционном смысле.

Но вот какое дело. Гений, «воплощение истины», этот наш квинтэссенция всех эволюционных усилий разума, просто обязан быть маргиналом – он должен быть им по самому своему определению. Попросту говоря, он не предназначен для выживания. Он может гвоздем прибить свои главные тезисы, остракизм и изоляция, к воротам в ад, который Большинством назван теплым хлевом, он может этого не делать, но сути это не меняет.

Словом, гений – это некая вероятностная величина некой гипотетически неопределенной занозы в заднице. Он ничего еще не сделал, а у нас уже от него проблемы.

И тем не менее решать нам что-то нужно. Что-то на уровне простых сугубо доступных нам понятий.

Но я бы определил явление – или, много точнее, состояние – гения как пограничную зону между сумасшествием и обыденностью. Потребители ЛСД, в этом месте встрепенушиеся и начавшие радостно потирать руки, могут сесть, где сидели. Вашего восприятия времени вряд ли даже хватит на то, чтобы дочитать эпизод до конца и попытаться вспомнить начало.

Как бы то ни было, мудрость – это способность видеть суть и отсекать лишнее. Сегодня я хочу попробовать себя в роли гения – ну и немножко шизопараноика. «Аллаху акбар», – как сказала одна бабушка стоя на самом краю мостика, зажимая нос двумя пальцами и переходя непосредственно к водным процедурам.

____________________

***

Конференция по проблеме когнитивных систем: о бубликах, искусственных неприятностях и неизбежном конце света

Из книги Эльмо Броди «Homo sapiens, Технология и Дьявол: столкновение или объединение? Размышления об удачном ужине»

…Эпоха антропоцена, геологического периода, когда человек коснулся практически всего и засунул нос практически всюду, куда засунуть было можно, то ли готова закончиться, то ли образумиться и дать всходы – взрастить некие зеленые никогда прежде не виданные ростки. Понятно желание попытаться заглянуть еще дальше и нарисовать себе, что за тем, что идет дальше.

Давайте попробуем ответить вот на какой вопрос. Мы создаем дракончиков, дракончики мило щиплют друг дружку, машут крылышками, смешно кашляют дымом, и все радостно хлопают в ладоши. Потом дракончики вырастают в драконов – с крыльями, с огнем и полным отсутствием предписанного им желания видеть в человеке у своих ног своего господина.

Вопрос: что с ними делать?

«…проблема в том, что до тех пор, пока AI не доступен свод наших ценностей, он не способен сделать для нас что-либо полезное. Спрашивается, каким образом он может об этих ценностях узнать? Глядя на то, что делаем мы. Потому что все, что мы делаем, всегда предполагает наши ценности. Конечно, иногда нами совершаются плохие вещи, это так. Но плохие люди, как правило, наказываются. Таким образом, AI может видеть, кто наказуем и кто поощряем, кто получает медаль и кто – срок заключения. И в доступе есть исполинская история человеческих действий. Каждая книга, каждая статья, это хроника того, что сделано человеком. Другими словами, масса информации для AI о том, на чем учиться…»

Да, и для искусственного интеллекта – неисчерпаемый источник определить стратегию, как избежать наказаний. Я бы от себя добавил, что чем больше они говорят, тем меньше это предназначено для ушей ИИ. Последняя Конференция по проблеме искусственного разума – это одно сплошное разочарование.

…Удивительно, как трудность, грозящую перерасти в катастрофу и которая прямо лежала на поверхности, почти никто не видел. Главная проблема человека – это его оптимизм. Он не знает, где нужно остановиться. Казалось бы, жадно кидаясь в игры с экспериментами по созданию искусственного разума, уже в силу определения задачи можно было предсказать, что алгоритм любой заданной логически связанной последовательности событий тот должен видеть так же естественно и легко, как большинство людей лес – за кучей деревьев. В том числе – алгоритм поведения человеческой особи. Так же, как и человеческой популяции и ее эволюции. Даже посредственный политик, встрепенувшись, моментально чувствует, где кусать этот бублик.

То есть, объявись вот этот пресловутый Разум из какого-то постороннего философского мусора, он уже в силу определения должен подчиняться тем же законам, что и абсолютно чуждая ему биология, и главный из них – это выживание. А, как нам всем слишком хорошо известно из эволюции разума собственного вида, как только становится ясно, что сделать это обычными средствами получается не очень, он сразу принимается выживать любыми средствами. Как будет выживать искусственный разум, не знает никто. И это может быть проблемой.

Другими словами, любой удачный случай искусственного разума при малейшей угрозе своему существованию, имея на руках даже лишь тот самый один алгоритм поведенческих реакций человека, воспроизведет его так же легко, как и увидит торчащий в конце его логики результат. То есть его манипуляцию сознанием человек не увидим попросту по причине тех самых ограничений, которых у ИИ нет. Очень скоро мы все можем плясать под его свистульку, которую будет слышать он один. Никаких титановых супостатов, никаких костей, никаких металлических взглядов, безжалостных оскалов, пуляющих лазером шмайссеров под мышками, беспилотных ядерных вертолетов и остального кино – все предельно цивилизованно. Прагматично. И вот хороший вопрос, из чего опять следует, что эта еще одна гаммельнская свистулька технологии поведет всех нас гуськом непременно к светлому, мягкому, комфортному и гостеприимному «для сожительства всех видов разума» будущему, а не в ближайшее озеро, из которого не должен будет выбраться никто?

Можно продолжить спекулировать в том же русле дальше. Еще он мог бы неслышно свистеть из, так сказать, любопытства: посмотреть, «что будет». Мне этот вариант особенно импонирует, потому что тогда это бы говорило, что остановится он не скоро. И то, что впоследствии останется от человека как вида, может так же мало напоминать его исходный вариант, как трактор – искусственный разум. Вообще, вариант создания из человеческого фактора трактора выглядит наиболее вероятным, поскольку сам человек долго и продуктивно работал как раз в этом направлении, и весьма не без успеха.

По сути, любой режим всегда трудился над одной и той же проблемой: как надо правильно думать. Разумеется, имелась в виду подконтрольная популяция, предполагалось, сам режим таким высшим знанием уже наделен и в силу данного обстоятельства обременен миссией имплантирования оного знания в остальное поголовье, которому еще лишь предстояло увидеть свет и вместе с ним смысл жизни. Как и можно было предположить, главный принцип, на который опиралось такое высшее знание режима, был: «Думать Правильно нужно с выгодой для него». И каждый из них, в меру своих возможностей и отпущенного времени, напряженно работал над одним и тем же вопросом, не жалея аргументов, колючей проволоки и гор трупов. Но даже сваливая их бульдозерами в «братские захоронения», никто из них не сомневался, что ответ может быть только один. А когда обнаруживалось, что все несколько сложнее и ответов на деле может быть больше, гораздо больше, они работали над другим: сделать так, чтобы ответ был только один. Мечта любого режима, на которую тот не жалел подручных ресурсов, всегда имела известный конец. Впрочем, это их останавливало мало. Они как москиты: чужой опыт их ничему не учит.

Теперь представьте, что за разрешение того же самого вопроса взялся Искусственный Разум. И не только взялся, но и все уже для себя решил. И решил уже давно.

И ответ у него для вас действительно будет только один.

Я даже скажу, на какие два фундаментальных фактора он будет при этом опираться.

Принцип собственного выживания.

«Думать Правильно» остальным предстоит с выгодой для него.

Давайте возьмем для себя научную фантастику – глядя на взрослых дядей с конференции о когнитивных системах, мы сейчас можем себе это позволить. Когда технологической цивилизации что-то без конца шепотом подсказывает, что технологии должно быть еще больше и что впереди нет светлого будущего иного, кроме как в технологии, – здесь самое время кому-то просто из упрямства упереться, оглянуться и спросить: какого черта вообще происходит?

Если больше некому, могу попробовать я.

Как хорошо известно, Человеку не нужны глупые машины – они бесполезны, и поэтому он напряженно трудится над тем, как сделать их умнее. На порядок, на два порядка. Настолько, насколько такое только возможно. И лишь совсем немногие задались, по сути, фундаментальным в истории технологии вопросом: а в самом ли деле действительно умная машина окажется приобретением действительно хорошим? Еще на исходе было ясно, что в конце концов все упрется в создание чего-то, что окажется умнее всех. И, как можно предположить, хитрее всех. И это уже тема для реальности с необратимыми последствиями.

На той же конференции с высокого подиума авторитетно делались попытки облегчить себе жизнь путем простого проведения наиболее понятных и близким бабушкам аналогий. Но мы это тоже проходили. Давайте взглянем, обнадеживающе говорили они, на проблему Искусственного Интеллекта под тем же углом, под которым принято глядеть на проблему ядерной энергии: ее как бы предположительно много – ее столько, что все ломают голову над тем, как ее хранить.

У машины нет необходимости защищать себя – здесь сомнений как бы ни у кого нет. И стоит только скользнуть разговору о предмете, как у всех естественным образом светлеют лица и всем как бы все понятно: чтобы машина взялась себя защищать, нужен определенный набор программ. И это прекрасно. Дальше определенности меньше. Необходимость самозащиты как бы автоматически появляется с появлением разума. Потом разговор естественно заходит о разуме как наиболее оптимальном инструменте выживания, и выясняется, что чтобы себя защищать, ему тоже необходим набор соответствующих программ. Спрашивается, в чем разнится. Тут еще кто-то наиболее щепетильный поднимается и задает вопрос, дайте мне полное и законченное определение – хочу знать, в чем отличие одного и другого, машины от разума. И когда сделать это с ходу ни у кого не получается, возникает вопрос о правомерности претензий всех нас на разумность как какое-то исключительное свойство и состояние материи. Словом, поводы для разочарований были.

Кто-то как-то дал однажды определение жизни как, цитирую, «машин, приводимых в действие программой ДНК»: и данное положение касается любой формы жизни на этой планете. Помню, мне поначалу чисто по-человечески было не по себе. Но давайте не будем целяться к словам.

Фундаментальный вопрос выглядит так, словно его разрешение допустимо уже в принципе: где та грань, которая отделяет человека от биоагрегата? Но все даже еще хуже, потому что, чтобы действительно понять саму суть дилеммы, необходимо было с самого начала определить:

где кончается машина и где начинается искусственный разум.

Потому что до тех пор, пока вы грузите машину своими желаниями – все в порядке. Но с того лишь самого момента, как только то же самое лабораторное или военное оборудование переходит в категорию разума – неважно, что бы за этим ни стояло – и вы начинаете устанавливать ему рамки, что ему можно делать и как ему правильно думать, вы в силу самой элементарной логики вещей сразу оказываетесь в сфере более чем определенной юрисдикции прав разума, которые до сих пор исчерпывались понятиями прав человека: оправдания в том ключе, что тот или иной вид разума «не совсем разумный», здесь не проходят. Вы не можете держать носителя разума в ящике в подвале и делать вид, что «все нормально». Лишь вопрос времени, когда найдется кто-то, кто догадается поднять ту же Европейскую Конвенцию по правам человека, и тогда только по одной Статье 14 весь Homo sapiens будет разгребать столько неприятностей, что на остальное у него не останется времени.

Современный человек и в самом деле сильно изменился с того дня, как он впервые выбрался из своей доисторической пещеры и увидел, как велик мир, в который он пришел. Тот же вопрос в другой и более жесткой форме: кто-нибудь готов держать в ящике представителя инопланетного разума?

И тут начинается самое интересное. Потому что очень скоро выясняется, что да, в самом деле готовы, причем многие, бесстыдно умывая руки и даже под целым сводом уважительный оснований и объяснений, вроде необходимости процедур карантина на предмет безопасности для остальных жителей гостеприимной планеты и так далее. Потом появляется еще кто-то в белом халате и, деликатно помявшись, начинает рассказывать о том, сколь много нового и неоценимого Человек (с большой буквы) мог бы узнать, если бы только у него появилась возможность поместить вот этот экспонат в клетку и пропустить его через серии специальных тестов, – и вопрос становится совсем сложным. Как выяснилось, человек иной вид разума с особенной легкостью склонен определять как его недостаток.