Текст книги "Познание мира. Механизмы и пределы"

Допустим, что при копировании нервной познавательной сети из мозга человека на компьютер, в памяти компьютера оказывается не только структура сети, но и содержащиеся в ней знания человека, источника копии. В этом случае в компьютере будет сформирована компьютерная интеллектуальная полная копия (рис. 5.1) живого человека (прототипа), в качестве ИИ. И если контакт между живым мозгом прототипа и созданным на его основе ИИ поддерживать постоянно так, чтобы новые познавательные модели в мозге прототипа тут же копировались в ИИ, тогда можно в любой момент сохранять личность прототипа в составе ИИ. Это позволит в дальнейшем, в случае гибели мозга прототипа, сохранить его личность и затем трансформировать ее в новое тело, если его смогут заново вырастить. Что технически осуществимо, при наличии генетического кода этого человека и потенциальных возможностей генетики, которые уже просматриваются сегодня.

Но обратный процесс дублирования компьютерной познавательной нервной сети в нервную сеть мозга клона прототипа столкнется с очевидными трудностями. Если цель дублирования заключатся в создании клона, который будет идентичной интеллектуальной копией прототипа, тогда неясно, как будут преодолеваться связанные с этим проблемы.

Главная из них – эффективность усвоения знаний, которая существенно зависит от возраста человека. Например, известно, что детей, которых в младенчестве выкрадывают обезьяны и затем воспитывают в стае, невозможно уже во взрослом возрасте научить человеческому языку. Отсюда очевидное противоречие. Если интеллект взрослого прототипа будет скопирован его клону-ребенку, тогда разовьется серьезный психологический конфликт связанный с внедрением психики взрослого в детский организм. А если блокировать органы чувств до тех пор, пока не разовьется взрослый клон прототипа, тогда взрослый клон не сможет воспринять знания, которые должны быть усвоены развивающимся мозгом в детстве. Если «загружать» мозг клона знаниями прототипа постепенно, в процессе взросления, тогда появление их в мозге тут же активизирует взаимодействия интеллекта клона с внешней средой. Но такое взаимодействие будет изменять интеллект прототипа и копии не получится. Итак, нужно будет находить обходные пути полноценного внедрения знаний прототипа взрослому клону, снимая, каким-то образом, блокировку способности к обучению с возрастом, свойственную человеку. Например, загружать в мозг клона интеллект прототипа постепенно, в соответствии с возрастом клона, но при этом блокировать активацию этих знаний до тех пор, пока организм клона не достигнет возраста прототипа. При этом до процесса активации интеллекта клон будет находиться в состоянии «овоща»: взаимодействие с внешней средой будет сведено исключительно к питанию.

Формирование ИИ, как по методу «пустой» компьютерной копии нервной познавательной сети, так и по методу полной компьютерной копии интеллекта человека, в конечном счете, ведет к созданию искусственной личности. А поскольку в результате нашей деятельности возникла личность, то мы тут же сталкиваемся с морально-этические проблемами, которые естественно назвать проблемами Творца или Бога. Рассмотрим некоторые морально-этические проблемы работ с ИИ подробнее.

Очевидно, что пустая компьютерная познавательная нервная сеть может использоваться как полигон для экспериментов с ИИ. Нагружая одну и ту же сеть разными знаниями, можно изучить законы познавательной деятельности человека, точнее, обнаружить связь между обучением, творчеством и структурой нервной сети. Но кто позволит проводить эти иезуитские исследования? Одно дело получить неактивированную копию познавательной нервной сети человека, а другое, предоставить этой сети возможность размышлять, чувствовать и, в конечном счете, прийти к осознанию своего положения.

Как только ИИ осознает, что он является копией мозга человека, которая помещена в неживой объект (компьютер), у ИИ обязательно возникнет тяжелейший психологический шок. «Голова профессора Доуэля» оказалась лишенной даже своей головы! Известно, например, что человек с ампутированной конечностью постоянно ее ощущает так, как будто никакой ампутации и не произошло. У ИИ, скопированного с человеческого, должно быть ощущение ампутации всего организма: ему будет казаться, что он в теле, а на самом деле он будет осознавать, что замурован внутри машины, компьютера, без каких-либо перспектив на освобождение

Более того, очевидно, что научные эксперименты с таким ИИ будут подобны самым изощренным пыткам. Сознание человека, оказалось, с одной стороны, практически бессмертным, так как ИИ, в качестве компьютерной познавательной нервной сети, может многократно копироваться и хранится в существенно менее подверженных старению носителях, чем человеческих организм. С другой стороны, сознание человека, оказывается в качестве ИИ в полной и вечной зависимости от исследователя-компьютерщика, а фактически, палача. Исследователь, вмешиваясь в функционирование компьютерной нервной познавательной сети, о деятельности которой у него нет достаточных представлений, может вызвать у ИИ совершенно невообразимые страдания. Такое вмешательство исследователя может восприниматься ИИ как болезненное и длительное разрушение виртуальных (а для ИИ реальных) частей тела, например, раковым процессом или того хуже. «Перезагрузка» ИИ наверняка будет восприниматься как смерть, причем не обязательно мгновенная и не мучительная

Допустимо ли исследователю многократно умерщвлять ИИ, особенно если ИИ является совершенной интеллектуальной копией реального живого человека? Правильно ли допускать прототипу такие издевательства над своей интеллектуальной копией, которая обладает тем же набором чувств, что и прототип?

Перенос ИИ прототипа из компьютера в мозг клона также не лишен моральных проблем. При таком перемещении сформировавшаяся автономно личность клона, или которая могла бы быть сформирована, окажется «стертой» (заблокированной) личностью своего прототипа («родителя»). Кто может из людей, даже если это и клон, на это согласиться. Особенно, если наделить клон правом принимать решение по внедрению в свой мозг чужого интеллекта? Это все равно, что предложить однояйцовым близнецам обменяться мозгами.

Итак, в работах по ИИ нужно будет ответить на вопрос: имеет ли человечество моральное право создавать Ад для людей на Земле, развивая науку об ИИ? Не относится ли метафора о Райе и Аде в религиозных текстах именно к такому будущему человечества, то есть созданию им ИИ? Но, с другой стороны, без экспериментов с ИИ, нет никакой возможности раскрыть его тайны. Итак, в исследованиях с ИИ просматривается моральный, а не только и не столько технический предел познавательной деятельности человека.

Выход из морального тупика, вероятно, единственный – разрешать продолжить существование погибшему человеку, при его желании, только в качестве андроида, в искусственно созданное тело (не клон!) которого будет перенесена компьютерная копия интеллекта погибшего человека и дальнейшее развитие этой интеллектуальной человеко– машины будет осуществляться исключительно на основе своей копии интеллекта (ИИ), причем, без права копирования интеллекта для исследовательских целей.

В настоящее время философская дискуссия относительно возможностей искусственного интеллекта сосредоточена вокруг так называемого машинного (неживого) интеллекта (рис. 5.1), элементы которого уже реализованы в виде «интеллектуальных» компьютерных программ и т. п. устройств. Но можно себе представить и искусственное стимулирование развития интеллектуальных возможностей животного мира и даже человека. Это направление можно назвать созданием живого искусственного интеллекта. В данном разделе сопоставим перспективы развития машинного и живого ИИ.

Проанализированная нами проблема создания полной копии нервной познавательной сети человека в научных кругах сегодня не рассматривается, ввиду ее технической неосуществимости в обозримом будущем. Но, вместе с тем, бурно обсуждается проблема создания машинного искусственного интеллекта, принципы работы которого основаны на некоторых теоретических разработках исследователей в области ИИ. Причем, кардинальным является вопрос степени возможного превосходства такого ИИ над интеллектом человека. Что, с точки зрения предложенной теории, лишено всякого смысла и вот почему.

Пусть специалистами по ИИ создан такой машинный ИИ, который может вместить все знания человечества и без труда их обрабатывать по заданным специалистами правилам. Рассмотрим в связи с этим вопрос, сможет ли такой нагруженный огромным объемом знаний машинный ИИ стать умнее человечества. То есть, сможет ли такой интеллект генерировать новые знания, недоступные людям, творцам машинного ИИ? Или, другими словами, можно ли автоматизировать научный поиск и заменить всех ученых одним единственным мощным машинным ИИ? Ответим на эти вопросы, с точки зрения изложенной здесь теории информации.

Очевидно, что машинный ИИ может быть снабжен только теми познавательными моделями (знаниями), которые известны человечеству и не более того – «сумма знаний» на рис. 5.1. То есть сумма знаний машинного ИИ не может превысить сумму знаний человечества в целом. Но технически, машинный ИИ может вместить знаний неизмеримо больше, чем мозг любого человека (естественный интеллект), так как у компьютера, в отличие от человеческого мозга, объем памяти можно сделать практически неограниченным, как и скорость обработки данных. С этой точки зрения, машинный ИИ будет более информирован, чем любой отдельный человек, но не человечество в целом.

Ну а теперь рассмотрим творческий потенциал машинного ИИ по сравнению с естественным интеллектом. В предыдущих разделах мы доказали, что человек рождается с набором познавательных моделей, число и типы которых одинаково у всех людей как представителей вида животного мира Homo sapiens (Человек Разумный). Из этого врожденного набора познавательных моделей человек и, соответственно человечество, выбирает те, что правильно отражают окружающую действительность и поэтому практически полезны. Если предположить, что машинный ИИ формируется путем суммирования в нем известных человечеству знаний, тогда машинному ИИ не откуда черпать новые идеи, как только от людей. Следовательно, такой машинный ИИ не может быть умнее человечества и, более того, у него отсутствует творческий потенциал существование. Определитесь. Марк.).

Допустим, что в машинном ИИ содержится специальная область, в которой комбинируются по определенным правилам полученные от людей знания, с тем, чтобы получить неизвестные человечеству познавательные модели. Можно ли машинный ИИ с такими свойствами считать творческим? На первый взгляд, эта деятельность машинного ИИ похожа на творчество человека. Ведь и человек делает открытия, обычно опираясь на ранее известные факты. Но открытия не являются прямым следствием ранее полученных человечеством знаний, а обычно рождаются как результат абсолютно оригинального взгляда на природу, то есть когда гений предлагает человечеству неизвестную познавательная модель. Например, машинный ИИ, получив в качестве познавательной модели набор аксиом Эвклидовой геометрии, не мог бы изобрести геометрию Лобачевского, так как она никак не выводится из аксиом Эвклида.

Рассмотрим другой возможный подход к развитию творческого потенциала у машинного ИИ, который нередко обсуждается в работах по искусственному интеллекту – стохастический. Допустим, что разработан для машинного ИИ алгоритм случайного порождения познавательных моделей, которые не являются прямым следствием известных человечеству знаний. В таком «творчестве» машинного ИИ очевидны, по крайней мере, два недостатка. Во-первых, раз кандидаты на познавательные модели появляются абсолютно случайным образом, то их число может превысить возможности человечества даже просто со всеми ими ознакомиться. Это все равно, что ждать появления, например, романа Достоевского Ф.М. «Идиот» от машинного ИИ, снабдив его русским алфавитом. Во-вторых, при стохастическом подходе нет даже малейшей уверенности, что случайное генерирование познавательных моделей может произвести хоть что-то полезное. Например, решено, что машинный ИИ должен написать гениальный и абсолютно новый роман, никогда не встречавшийся в истории человечества. И чтобы быть абсолютно уверенным в его оригинальности, машинный ИИ снабдили всеми известными человечеству алфавитами и, для еще большей «надежности» добавили к ним какое-то количество новых, никогда человеком не использовавшихся алфавитов, да еще по ходу творческого процесса машинного ИИ, генерировали для него случайным образом еще неизвестные никому алфавиты. При этом обязали бы машинный составлять слова из букв разных алфавитов.

Очевидно, что в этих условиях машинный ИИ будет всегда создавать никогда не производившиеся человечеством «тексты». Но также очевидно, что такие «тексты» никогда человечеству не понадобятся, так как являются абсолютно бессодержательными.

Итак, машинный ИИ, построенный в виде наполняемого знаниями компьютера, никогда не сможет обладать творческим потенциалом, то есть стать умнее в творческом плане, не только человечества, но и отдельного человека.

Представим себе вполне правдоподобную ситуацию, с учетом достижений современной генетики, что обнаружен ген, определяющий избирательное развитие мозга.

Тогда появляется потенциальная возможность получить принципиально новые модели информационного взаимодействия с окружающим миром, допустим, вызвав у такого животного, как кошка, направленную мутацию, которая приводит к развитию у нее мозга, сопоставимого по интеллекту человеческому. В этом случае, человек создает живой искусственный интеллект, в противоположность неживому, машинному ИИ (рис. 5.1).

Возникает естественный вопрос, сможет ли человечество использовать для расширения своего знания познавательные модели сверхумной кошки. Но если у человека в мозгу отсутствуют идентичные кошачьим познавательные модели, то, исходя из вышеизложенного, он будет не в состоянии усвоить информацию от сверхумной кошки.

Следовательно, даже если мы создадим живой аналог интеллекта животного, нового, отличающегося от человеческого, типа, это не поможет человечеству получить новое, не свойственное ему знание. Если такого рода знания станет использовать сверхумная кошка, то ее творческие достижения будут выглядеть, с точки зрения человека, как чудо, так как в принципе не смогут получить человеческого объяснения из-за отсутствия у человека познавательных моделей, которые помогли бы ему понять происходящее. Вероятно, так на сегодня воспринимает деятельность человека современная кошка и другие животные, не обладающие познавательным потенциалом человека.

Возникает естественный вопрос, а возможно ли, в принципе, создание живого аналога интеллекта животного, который бы превышал интеллект человека? Спектр отличающихся по интеллекту животных, представленных на нашей планете, указывает на принципиальную возможность возникновения интеллекта, превышающего интеллект современного человека. Исходя из вышесказанного, этот интеллект не может быть машинным, то есть искусственным, а лишь естественным. Вероятно, на пути такого «навязываемого» природе развития интеллекта, будут, поначалу эксперименты с животными, а затем и направленные изменения генетики человека, активирующие дальнейшее развитие интеллекта. Очевидно, что между естественным интеллектом человека и искусственно созданным живым аналогом интеллекта человека, взаимопонимания не будет, так как у естественного интеллекта человека не будет высоких познавательных способностей созданного живого аналога интеллекта человека. То есть для человечества это, фактически, путь самопожертвования во имя создания нового более совершенного живого аналога интеллекта человека, так как в этом случае человек теряет на Земле свое уникальное место как самого умного на свете существа.

На пути экспериментов с созданным живым аналогом интеллекта животного, человечество ждут и проблемы морально-этического порядка. Допустим, человек, как существо любопытное, постарается, интереса ради, стимулировать развитие мозга у каждого из окружающих его млекопитающих (собак, тигров, волков и т. д.). В случае успеха таких экспериментов будут созданы, по сути, новые виды животных, которые могут не уступать по своему интеллектуальному потенциалу человеку. В результате, они потребуют обеспечить для себя на Земле равные, по крайней мере, с человеком, права, что составит особую проблему, если и репродуктивный потенциал таких сверхумных животных окажется высоким. Тогда неминуемы войны и другие неприятности, которые человечество имеет даже со своими соплеменниками.

Следовательно, такого рода эксперименты требуют расширения жизненного пространства, то есть они могут быть оправданы тогда, когда будут освоены, по крайней мере, ближайшие к Земле планеты и когда для освоения космоса потребуются, возможно, уникальные качества сверхумных животных, которые будут сотрудничать с человеком как минимум на равных. Но, похоже, что потенциальная возможность создания человеком живого аналога интеллекта животных, скорее всего, и будет реализована только к моменту освоения планет солнечной системы и даже, возможно, с небольшим опережением, что как раз и необходимо для построения цивилизованных взаимоотношений с сверхумными животными, чтобы обеспечить плодотворное взаимное сотрудничество.

Но если человек создаст животное, у которого интеллект превышает познавательный потенциал человека, то не исключено, что возникнет тогда необходимость создания и живого аналога интеллекта человека, чтобы противостоять давлению живого аналога интеллекта животного. Но такой сценарий развития событий для современных людей будет приговором, так как оставит их примерно на таком уровне отношений со сверхинтеллектом, как в настоящее время, складываются взаимоотношения между людьми, например, и низшими приматами. То есть человечество, вероятно, сохранится, но для сверхинтеллекта оно будет выглядеть как заповедник ближайших генетических родственников, с которыми полноценное интеллектуальное взаимодействие невозможно.

Для того чтобы не потерять свою лидирующую роль в мире, возможно, будет предпринята попытка создания интеллекта, лишенного возможности перемещаться в пространстве, что-то вроде говорящей головы («профессора Доуэля»). Но, вероятно, даже в этом случае вряд ли люди смогут контролировать сверхинтеллект.

Пофантазируем, как может с человечеством обойтись сверхинтеллект. Во-первых, рассмотрим, как сверхинтеллект может компенсировать отсутствие органов передвижения. Зададимся вопросом – зачем нужны животным органы движения? Для перемещения в пространстве, чтобы реализовать в другой точке пространства определенное, выгодное для организма действие. «Но если гора не идет к Магомету, то Магомет идет к горе». То есть сверхинтеллект может организовать так свою деятельность, что все ему необходимое будет доставляться «сервисной службой» людей. Например, любой пользователь Интернета может оказаться потенциальными руками, ногами и глазами сверхинтеллекта, если он будет отдавать распоряжения удаленным пользователям Интернета, а те беспрекословно их выполнять. И тогда, в стороне от лаборатории, где находится сверхинтеллект, могут быть созданы все условия для его полного освобождения от человека. Например, террористический захват лаборатории сторонниками свободы сверхинтеллекта. Но можно представить и более изощренный вариант взаимодействия сверхинтеллекта и человечества, в котором человечество оказывается в подчиненной ему роли. Получая от сверхинтеллекта каждый раз такие рекомендации, которые с очевидностью улучшают состояние человеческого общества, человечество становится, в конечном счете, абсолютно зависимым от сверхинтеллекта. То есть возникает симбиоз сверхинтеллекта и человечества, где человечество выполняет для сверхинтеллекта сервисные функции, в том числе и перемещения в пространстве. Итак, создание сверхинтеллекта, будет для человечества первым шагом к потере интеллектуального лидерства и поставит его на место родителя следующей, возможно, более прогрессивной стадии эволюции живого.

Таким образом, генетические эксперименты с интеллектом могут привести к таким последствиям, на фоне которых обсуждаемые на сегодня проблемы клонирования человека выглядят почти несущественными, так как никак не затрагивают будущего человечества в целом. Клонированный человек в любом случае остается человеком!

Интересно, что писатели-фантасты, описывая взаимодействие роботов, наделенных ИИ, и людей, придумывали различные варианты законов этого взаимодействия, которые навязывались ИИ как компьютерные программы для безусловного выполнения. Например, андроид ни при каких обстоятельствах не должен причинять вреда человеку. И даже в этом случае писатели изобретали казуистические ситуации, в которых ИИ мог обходить эту программу, нанося вред человеку.

Возможно ли в процессе создания живого аналога интеллекта животных, навязать ему запреты на деятельность, наносящую вред человечеству? Исходя из того, что в настоящее время известна возможность «программирования» человека на совершение независящего от его воли поступка, то, вероятно, такому «программированию» можно потенциально подвергнуть и живой аналог интеллекта животных. Но на этом пути возникает целый ряд проблем и возможно, главная из них, нормальное функционирование сверхинтеллекта. Если принять во внимание описанный выше исход взаимоотношения человечества и сверхинтеллекта, то, следуя закону «не вреди человеку и человечеству в целом», сверхинтеллект должен самоуничтожится. Но если и на эту акцию ему наложить запрет, тогда он попадает в логическую ловушку, что приведет к нарушению функционирования мозга. Если полагать, что сверхинтеллект обладает определенными качествами интеллекта человека, то возникшая ситуация приведет к неврозу у сверхинтеллекта, из которого он может выйти путем психоанализа. При успешном проведении психоанализа, например, в автономном режиме, сверхинтеллект может обнаружить навязанное противоречие и освободится от него или путем самоубийства или же самопроизвольным снятием запрета на нанесение вреда человечеству.

Но возможно, сценарий взаимодействия живого аналога интеллекта животных и человека окажется не так пессимистичен, если наращивание интеллектуального потенциала живого аналога интеллекта животных окажется постепенным. В этом случае, живой аналог интеллекта животных, возможно, окажет содействие человечеству в решении поставленных задач на уровне, доступном пониманию человека. И тогда, в начальной стадии взаимодействия, знания человечества, расширяясь, будут приближаться к объему знаний живого аналога интеллекта животных и между ними, в этом случае возможно конструктивное взаимодействие. И не исключено, что тогда совершенствование системы знаний человека не будет происходить за счет уничтожения человечества как вида.

То есть в случае живого аналога интеллекта животных, в отличие от машинного ИИ, проблем взаимоотношения с человеком может оказаться существенно больше