Текст книги "Предел Шенберга"

Так в чем же отличие Разума от Интеллекта – не в теории, не на доске противостояний одних философских систем другим, а на уровне кому можно жить, а кому пока нельзя? Если кому-то вопрос до сих пор кажется праздным, напомню, что именно степень разумности до сих пор определяла и продолжает определять то, как Homo sapiens видит любой сходный с ним предмет в своей системе ценного. В праве на жизнь.

В одном аквацентре Новой Зеландии сбежавший из аквариума осьминог Инки породил целую серию благосклонных рассуждений о степени ума данного вида и способности к экстраполяции. Инки умудрился рассчитать время, определить необходимое расстояние, пристегнуть одно к другому и протиснуть себя через щель недостаточно плотно прикрытого люка, как раз в нужное время перебравшись через восемь футов голого сухого пола, чтобы затем протиснуться в еще одно узкое отверстие, составив план побега задолго до того дня. Как и ожидалось, все в умилении и с восхищенными взглядами стали воссоздавать в воображении весь комплекс мероприятий, который объекту необходимо было пережить, чтобы сделать то, что сделал.

И что же? Послесловие официального представителя: «Несмотря на интеллект данного вида, Океанариум не имеет планов прекращать держать их в заключении», конец цитаты. То есть данный объект был определен как не достаточно разумный.

Или как не слишком человеческий?

В самом преддверии Нового Дня давайте задумаемся над этим.

«…Однажды вдруг случится так, что созданная нами компьютерная программа окажется настолько умна, что человек утратит возможность ее контролировать. Компьютер получит доступ к ресурсам, вроде возможности синтезировать биологически активные молекулы, контроля сетью мировой торговой финансовой системы или крупных военных систем. Подобная озабоченность требует исследований…» Ну и так далее. Эта конференция была своего рода образцом того, насколько в действительности соплив человек, наивен и недалек, взявшись управлять собственной эволюцией.

Никто даже не спросил, что вы там собираетесь исследовать, когда в случае любого из этих событий объект исследований уже по определению заведомо есть событие с необратимыми последствиями?

Все были так увлечены, что практически мимо внимания всех прошло противоречие, которое в общем-то решало все. Никто так и не заметил: если то, что в конечном итоге способно оказаться, как предрекают и пугают, умнее, то ему уже по определению должно быть виднее, что лучше. Никому даже в голову не пришло отказаться в таком случае от самой возможности говорить ему, что делать: Как Правильно Думать.

И тут впервые всплывает на поверхность довольно странная вещь. Как обнаруживается, человеку вовсе не нужно то, что лучше.

Ему нужно то, что понятнее.

Потому что за всю свою бестолковую эволюции, историю крови нескольких десятков цивилизаций он сам так до сих пор и не смог внятно себе объяснить, что есть лучше. Но он тем более не знает, что есть лучше в восприятии того, чего он не понимает. Искусственный интеллект может быть сколько угодно хорошим – ровно до того момента, пока неторопливо думающие гоминиды будут его учить, что хорошо для них.

И возникает уникальная в своей бестолковости ситуация.

Вот создание, которое не человек, и вроде бы все видят, что это не человек. Но как объяснить, что никто упорно не видит, что тогда и всё человеческое должно быть ему чуждо? И здесь тот самый редкий случай, когда вульгарный в своей основе оборот «всё» следует понимать в буквальном смысле.

Возвращаясь еще раз к определению ума: «Это способность к связным заключениям в рамках сложной логики». Я в самом деле не вижу, чем такое определение ума отличается от определения интеллекта. Но я хотел сказать другое. Вывести определение дурака. Это попросту неспособность прогнозировать последовательность событий и их результат. Понятно, что размер такой последовательности и отличает дурака от умного.

Так вот, Homo sapiens и будет таким дураком в восприятии Искусственного Интеллекта, с которым того объединяет лишь одно, место и время, то есть те самые несколько известных измерений.

И теперь главный вопрос. А так ли это на самом деле?

Действительно ли пребывание ИИ, где бы он там ни пребывал, – те же самые измерения, что и у человека?

Давайте посмотрим, как обстоит сегодня с этим делом в обычном офисе. Есть менеджер и есть инструкция, согласно которой ему вменяется в обязанность «присматривать» за конгломератом подчиненных сотрудников И (!) за ЭЙ-АЙ, искусственным интеллектом, на предмет «чего-либо сомнительного в поведении», конец цитаты.

Я еще раз задаю вопрос в надежде, что кто-то услышит. Ребята, расскажите, как вы запланировали уличать в «сомнительном» того, чей интеллект уже по определению лежит за пределами вашего горизонта? Я доступно излагаю?

Разумеется, в конце концов кто-то вспомнит о такой замечательной во всех отношениях и такой вроде бы безупречной вещи, как изобретенном человеком в результате своей страшной истории принципе мирного сосуществования. Вопрос, что мешает всем нам счастливо сосуществовать с любым иным разумным видом, будь то стая велоцерапторов, как мы живем сейчас бок о бок, скажем, с акулами, – этот вопрос из категории детских. Нам помешает то, чего сейчас нет у акул: человеческого восприятия времени. У них нет разума, и это решает все.

Скажите кто-нибудь, на что этот выстраданный принцип сосуществования тому, о целях которого мы ничего не знаем, когда он так же легко обойдется без него? И кто возьмет на себя ответственность предсказать, что тот же принцип мирного сосуществования тот не истолкует и не переопределит – исходя из собственных интересов?

Я возьмусь показать, что на самом деле у человека шансов в противостоянии Искусственному Интеллекту даже еще меньше, чем думают.

Кто-то раньше заметил, что восприятие человека по природе исключительно линейно. Развитие технологии идет по экспоненте. Как много свидетелей уловили суть катаклизма?

Мир академических изданий уже несколько лет носится с идеей использования систем искусственного интеллекта в качестве партнера в стандартном процессе пирревью. То, что научные изыскания построены на некоем утонченном, методологическом подходе, призванном вскрыть Истину, – не более чем миф. Конфликты интересов между лабораториями-конкурентами, лишь в силу воспитания членов храмов науки которые еще не переходят в прямые драки; ошибки, определяемые чисто человеческим фактором; случаи прямых подлогов данных, ускользаемые от глаза людей-редакторов и непомерно перегруженных ученых-добровольцев, – это все реалии, сопровождаемые мир научных публикаций. Когда исследователь подает работу в академический журнал, она проходит процесс пирревью. Критическое мнение и отзыв экспертов из той же области призваны как бы усилить удельный вес работы. Как предполагалось, искусственный интеллект будет способен решить проблему человеческой предубежденности и обнаружит подложную информацию.

Скандал разразился, когда выяснилось, что на деле искусственный интеллект занимается как раз этим, и уже неопределённо долгое время – и это притом, что никто даже не удосужился в деталях изучить, чем примерно может закончиться распахивание ворот в область человеческих научных знаний для A.I. Особо бестолковым рекомендую еще раз перечитать последнюю фразу.

«…Таким образом, мы в конце концов идем к тому, что роботу необходимо понимание – понимание человеческой психологии, психологии Homo sapiens.

Конкретное понимание того, как людьми используется взгляд в процессе общения, делает спектр возможностей A.I. шире. Скажем, психологу известно, что человек, собираясь войти в осязательный контакт с неким предметом, к примеру, планирует протянуть руку к стакану с водой на столе, совершает движение глазами и смотрит на него на протяжении около полусекунды, прежде чем его рука вообще начинает какое бы то ни было движение. Другими словами, происходит поистине уникальное событие: такая по определению непредсказуемая для A.I. штука, как Homo sapiens, становится предсказуемым…»

Можно наугад взять любое чудо-достижение гениев технологии, полностью изменившее облик планеты и восприятие реальности, – пластик, пестициды, двигатели внутреннего сгорания, ядерные бомбы, – и задать вопрос, стала ли от этого жизнь на планете более счастливой? Можно создать другой список, «технология, пока радующая глаз». Как много свидетелей видят под каждым из пунктов его «flip-side» – темную сторону? Но это еще далеко не все. Если верить логике событий, Homo sapiens и этого мало.

Можно сказать, что цифровая технология обогатила то, другое, пятое и десятое, выведя восприятие реальности на совсем новый уровень и дав совсем новые возможности.

Но не лучше ли сказать, что та самая цифровая технология попросту обесценила искусство?

Скажите мне кто-нибудь: как долго Homo sapiens сумеет оставаться сами собой, потеряв искусство?

«…В идеале единственной целью робота должно быть, это как сделать человека счастливее, способствуя развитию его ценностей на новом уровне. У робота нет собственной цели…»

Ну да. Это всё, о чем может болеть голова у искусственного интеллекта. У робота ее, может, и нет, этой цели. Но вот что будет, если она у него однажды появится? Только привитое воспитание, чувство скромности и чудовищное усилие воли не дали мне расхохотаться там прямо посреди зала. Все были так озабочены логикой и приятными аналогиями говорившего, что меня могли просто вынести за дверь.

В этом и заключается отличие предельно сложного механизма от интеллекта. С того момента, как только возникает способность создавать цели, возникает то, что отличает человека от всего животного мира: это способность искусственно создавать проблемы.

«…Я, конечно, понимаю известную озабоченность в этом вопросе. Но, должен сказать, по ряду причин я не разделяю их. И вот почему.

Прежде всего, человеческий интеллект является результатом эволюции на протяжении весьма продолжительного периода времени. Интеллект, обладание интеллектом не есть нечто, чем владею отдельно я, вы, кто-то там еще – наше познание есть социальный процесс. Мы учимся у наших друзей, мы учимся у наших напарников, мы учимся у наших родителей. И то, что мы познаем, не есть то, как достичь более высокого уровня рациональности, но мы учимся также эмпатии, мы учимся этике.

Интеллект, эмоции и этика, на мой взгляд, идут рука об руку. Я не думаю, что мы можем отделить их и сказать: вот созданная нашими руками разумная машина, без эмоций и представлений об этике. Если мы сделаем это, я не думаю, что мы уйдем далеко. Интеллект такого вида будет весьма ограничен…»

Я не знаю, что тут сказать. Вроде поднимаются к микрофону взрослые образованные люди. Конечно, давайте все крепко возьмемся ладонями и будем надеяться на лучшее, почему нет. Чисто умозрительно достанем с потолка допущение о неизбежности счастливого произрастания искусственного интеллекта совместно с моралью, зажмем пальцами нос, закроем глаза и, помолясь, пойдем все прыгать с мостика – осмотреть, «что будет». В том-то и проблема, что полностью рациональный интеллект, не обремененный таким грузом иррациональных глупостей, как этика, эмпатия, что-то еще, найдет тот же мир совсем другим. И вот что будет тогда – не может сказать никто.

Т.н. классический, тренажный пример определения психопатии – то, что лежит на самом пределе спектра клинической диагностики – всегда легко исчерпывает себя всего лишь тремя абсолютными показателями: полное отсутствие или экстремальный недостаток эмоциональной эмпатии; гипер-самоуверенность; агрессивность.

Все три всегда были тем, что до сих пор определяло любую культуру насекомых – или микроорганизмов.

То есть от того лучезарного варианта событий, когда человек в лице искусственной когнитивной системы будет иметь дело с социопатом, отделяет отсутствие всего лишь одного показателя: агрессивности. Но, возвращаясь к началу наших рассуждений, это дело легко исправить – стоит только всплыть на повестке дня пресловутой дилемме.

Быть или не быть?

Так что делать с драконом, когда желающих хлопать ему в ладоши больше нет?

…Со все возрастающими настороженностью, недоверием и сомнением наблюдал человек за тем, как элементы того, что укладывалось в контуры представлений об искусственном интеллекте, делались день ото дня все меньше, миниатюрнее, неуловимее, неуязвимее. Наглее. Те же элементы стали теперь неотъемлемой повседневной реальностью клинической терапии и хирургии как вспомогательные приспособления и посредники между мозгом и потоками информации, что еще легче было рассматривать как неявное вторжение Искусственного в мир Живого – и уже нельзя было делать вид, что этого нет. И когда чей-то невозмутимый голос авторитетно обронил как нечто, разумеющееся само собой, что исход вроде ИИ – практически неизбежное логическое следствие всякой технологической цивилизации, а банальные поисковые системы глобальных сетей вдруг в один прекрасный день обнаружили способность оперировать с контекстом статей электронных энциклопедий – то, право на что человек до того спесиво оставлял лишь за самим собой, – во весь рост наконец встал вопрос, который так никто вслух и не произнес.

А где тогда в таком будущем место человеку?

И зачем он ему?

____________________

***

Компетенция и рекомендации: кого лучше бояться

Из книги Эльмо Броди «Homo sapiens, Технология и Дьявол: столкновение или объединение? Размышления об удачном ужине»

…Говорят, два разумных человека всегда сумеют договориться.

Это не может не радовать. Но давайте посмотрим, что мы имеем. Вот, с одной стороны, человек и вот, с другой, его технология. Мы видим, что они оба куда-то катятся, но пока еще не можем ясно сказать, куда. Но все-таки.

Нам подсказывают, обнадеживающе кивая, что Человек тоже вроде как эволюционирует, хотя тоже пока не совсем понятно, в каком направлении, и то, что он делает, в определенном смысле делает его тоже.

Мы могли бы, пользуясь случаем, с высот нашего альтруизма оглянуться и сказать, что да, в таком подходе есть разумное зерно, развитие последней формы цивилизации в самом деле словно бы имеет определенную логику, и логика эта скорее озадачивает. Технологическая сторона развития вида Homo sapiens изменяется так, что мы даже не успеваем от изумления разводить в стороны руками, в то время как сам носитель пресловутого разума, по сути, остался тем же, каким и был две и три сотни тысяч лет назад: его словно замкнуло на одном месте. Так эволюционирует человек – или эволюционирует наше мнение о нем?

Нас словно что-то подталкивает – и подталкивает упорно только с одной стороны, и если мы всерьез хотим заглянуть за край того, что зовем Большим Горизонтом, то нам по крайней мере необходимо попытаться обозвать это что-то каким-нибудь научным термином. И потом решить, кого лучше наказать.

Вот история: 37 цивилизаций этой планеты, какими мы видим их сегодня, и какими их можно увидеть с высоты птичьего полета. Так что же мы видим? Меняются лишь названия, объемы потребления и эффективная сторона оружия, которым один человек отправляет на тот свет другого. Но вот вопрос, почему объемы накопленного знания как-то крайне неохотно хотят работать в отношении всего, что лежит по другую сторону прогресса технологии? По ту самую сторону, где вроде бы и лежало всегда то, что определяло достояние разума. В современном языке до настоящего дня этому нет названия, почти никто по большому счету даже не задумывался над тем, как эти вещи определить, но назовем их для себя человеком отдаленного будущего. Если у нас его нет, то пусть оно будет хоть у него.

Поправьте меня, но вот тот самый предмет футурологии, который без названия, как бы лежащий по иную сторону пресловутого прогресса технологии, словно никому не нужен, за исключением разве нескольких чудаков в истории. И вот еще вопрос: подлежит ли вообще такое положение изменению? Я возьму на себя ответственность ответить коротким «нет», – а затем попытаюсь обосновать, почему, и набросать, чем примерно все должно закончиться. Тот Далекий Горизонт ближе, чем вы думаете.

Я тут на досуге попробовал вывести возможно более короткое определение Разума и того, что есть Ум. Чтобы решить, куда катится этот мир и мы вместе с ним, нам они понадобятся оба.

Итак, разум. Коротко говоря, и опустив всю неизбежную философию за очень большие скобки, это способность предвидеть события до их совершения и адаптировать стратегию поведения адекватно им. Другими словами, это – игра во времени. Степень этой адекватности и определяет степень разумности.

Есть еще ум. Как многие наслышаны, вещь, полезная в жизни и быту, но никто внятно не может сказать, на что он похож. Попросту это степень догадливости. Способность восстанавливать информацию по ее фрагментам и за одним деревом видеть лес. Степень этого предела и определяет уровень интеллекта. Информации никогда не бывает недостаточно. Любое животное обладает умом в той степени, в какой оно видит больше, чем дано. И любое животное обладает хитростью в той мере, в какой оно видит больше, чем от него ждут.

Другими словами, это тоже – категория времени.

Разум лучше всего определяет способность использовать энергию обстоятельств, минуя опыт.

Различия между умом и разумом зачастую просто невозможно разглядеть: это только разные названия одного и же в применении ко времени: разумом пользуются, пробираясь сквозь миллионы лет; умом – в измерениях дня. Здесь лишь очень специфическое свойство одного биологического вида в сравнении с его окружением, свойством которым обладает определенная часть вида. И вот главное.

Как только какой-либо из животных видов получит доступ к восприятию времени, большему, чем доступно иному виду или человеку, историю последних можно считать закрытой. Как сказал один лесник, разумная жизнь – большая редкость. Даже на этой планете.

Животные, как можно убедиться, обладают умом и свойством быть разумными, я бы даже сказал, весьма разумными, в той же мере, в какой ими обладают некоторые люди. Различие здесь количественное, а не качественное.

Разум – это лишь восприятие времени.

Сам по себе он не решает ничего. Он только предполагает наличие своего особого состояния, ставшего свойством: интеллекта. Лишь его наличие делает разум адекватным среде: он изменяет ее. Это и есть функция интеллекта. Измени восприятие времени человека, сократив его до предела, – и человек вновь станет зверем. Кстати, вместе с тем утеряв и все основания быть несчастным. В широком, самом широком смысле.

Другими словами, изменяя восприятие времени, мы изменяем сознание.

Есть такое страшное заболевание, шизофрения. Согласно принятой в терапии основной теории, больной страдает расщеплением реальности. Хуже всего, он не в состоянии определить, которая из них «реальнее».

В одной из научных лабораторий проводился эксперимент: подопытный сидел и был занят тем, что давил пальцем на кнопку, результат сопровождался вспышкой света.

Эксперимент изменили – совсем чуть-чуть, на одну миллисекунду: все оставили прежним, только в последовательность «нажатие кнопки – вспышка света» внесли задержку на тысячную долю секунды, недоступную восприятию и остающуюся за порогом сознания. А по прошествии какого-то периода времени ее убрали, вернули эксперимент в исходный вариант. И случилась неожиданная вещь.

Теперь подопытный, давя пальцем на всю ту же кнопку, был уверен, что существует в некоем ином измерении пространства-времени: его сознание было полностью убеждено, что нажатие на кнопку следует ЗА вспышкой.

Тут одного из исследователей осенило. Так, возможно, в патологии сознания, известной как шизофрения, дело как раз в этом: в особом восприятии времени. Сбой размером в тысячную долю секунды. И все, что необходимо, это лишь произвести совсем небольшую «перекалибровку».11
  David Eagleman, a neuroscientist; directs the Laboratory for Perception and Action as well as the Initiative on Neuroscience and Law (USA).


[Закрыть]

Задержим шаг и опустим одно колено поближе к живописной глади пруда. Весь он и весь этот мир полон микроорганизмов. Все говорит за то, что ни один их них не знаком с таким понятием, как время, и потому смерть одного индивида никак не находит своего отражения на концепции поведения колонии в общем. Чтобы сдвинуть их с места, смерть должна коснуться колонии в целом: запустить механизм отбора. Впрочем, их он тоже беспокоит мало.

Итак, каждое животное обладает разумом настолько, насколько оно обладает восприятием времени. Как и каждый человек разумен в той мере, в какой он обладает понятием времени. С момента, когда понятие времени замещает новое понятие, «пространствовремя», начинается заря появления другого животного вида.

Суть в том, что, следуя вот этой логике дальше, любой следующий за Homo sapiens вид неизбежно должен обладать восприятием того, что мы привыкли понимать под пространством и временем, иным. С животным видом, ему предшествовавшим, оснований договариваться у него совсем немного.

Иное же восприятие, по замыслу, практически неизбежно должно сопровождать иное взаимодействие с той же самой средой – с тем самым «временем и пространством».

Как интересно получается.

Наиболее разумные из живущих страстно горят, просто умирают увидеть наконец создание, которое не человек, и вроде бы все понимают, что это будет уже не человек. Но в таком случае и всё человеческое должно быть ему чуждо.

И тогда мы обязаны, нас просто положение разумного вида обязывает – оборачиваясь со скорбью во взоре и ответственностью в сердце на все те поколения нечеловеческого страдания и самоиспытания, что оставлены нами позади – задать вопрос, будет ли человек, современный вид и данный тип технологической цивилизации, занимать в Его мировоззрении какое-то место. Я этого не знаю. Но вот то, что я еще знаю: логика нашей книги вынуждает нас предполагать, что всякое – я подчеркну еще раз: всякое такое включение нас как вид в систему его восприятия неизбежно должно иметь скорее негативные последствия для всего, ради чего мы живем. Мы слишком по-разному смотрели бы на мир, который нас окружает.

Тут мы и подошли к ключевому повороту всего свода рассуждений.

Возможно ли, что бы кто-то из индивидов, – в силу случая, природной аномалии, принуждения, не важно, – в масштабах своего собственного восприятия или какой-то ограниченной популяции из живущих ныне бок о бок с нами, обладал бы понятием и восприятием времени, выходящим далеко за рамки того, что доступно мне и вам? Я возьмусь сказать, что тогда нам придется иметь дело с тем, с чем лучше не иметь дело совсем. И шансов пережить это что-то было бы у нас с вами очень немного. Подводя общий итог теме, я хотел бы закончить последний эпизод словами: бойтесь того, кто видит мир другим, будь это машина, шизофреник или гений – у вас всегда есть шанс стать частью их реальности.

…Говорят, два разумных человека всегда сумеют договориться. И это похоже на правду. Но вот вопрос, никто не знает, что будет, если один из них окажется разумнее другого.

Гораздо, страшно, несоизмеримо разумнее.

Вот мы и сделаем попытку ответить на этот вопрос.

____________________