Текст книги "Философские проблемы развития искусственного интеллекта"

1.3. Искусственный интеллект: игры закончились?

Человечество по-разному относилось к искусственному интеллекту. В 50–60-е годы XX века им увлекались.

Было написано много фантастических романов с действующими героями-машинами, в частности, знаменитый цикл «Я – робот» Айзека Азимова. Знаменитым этот цикл сделали «три закона роботехники». Вот, как они формулируются:

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам [1].

Последующие вариации писателей-фантастов на тему, следует ли робот этим законам или нет, разделили машин на «послушных», то есть следующих этим законам, и «непослушных» – нарушающих их. Тогда, в начале пути создания искусственного интеллекта, люди были уверены, что машины просто не могут принести им вред, ну, по крайней мере, если не сломаны.

В последнее время, однако, были сделаны открытия, которые изменили доверчивое отношение человечества к машинам. Клонирование животных, замена органов на копии на 3D-принтере, появление всемирной паутины постепенно начали пробуждать в людях осторожность. Вместе с осторожностью росло недоверие, а захочет ли такое совершенное произведение человеческого гения играть по правилам создателя? Вспоминаются такие персонажи прошлого, как Франкенштейн, многочисленные романы и фильмы о восстании машин. Один из последних фильмов «Из машины» (Ex Machina) демонстрирует уже совершенно иной тип робота, чем роботы Азимова. Это умный, беспощадный, быстро обучающийся, похожий на человека биомеханизм, который способен переиграть создателя. Он не просто не выполняет законы роботехники, он ставит себя на первое место, борясь за свое существование и используя, в первую очередь, человеческие слабости. У биороботов нет эмоций, но благодаря внешнему сходству с человеком они вполне могут их изображать. Это внушает страх: появилось кто-то или что-то столь похожее на человека и одновременно для него опасное.

Ученые, работающие в области создания и программирования искусственного интеллекта, также забеспокоились. Т.В. Черниговская – специалист в области нейронауки, теории сознания и психолингвистики пишет об искусственном интеллекте: «…Сегодня уже стоит бояться того, что, если у искусственного интеллекта появится сознание, наши планы, скорее всего, с его планами не совпадут» [2, 8].

Посмотрим, в чем человечество уже проиграло машине? Первое – это скорость. Обученная машина играет в шахматы быстрее человека. Соревнования проводили на протяжении долгого времени, и результаты изначально были разные, но вот Deep Blue, наконец, обыграл Гарри Каспарова. Конечно, болельщики Каспарова могут утешиться тем, что машина специально была «заточена» под гроссмейстера и «знала» о нем все: его ходы, стили игры и так далее. К тому же, компьютер не устает и не нервничает. Его не останавливает сложность игры, давление окружения, статуса и ответственности, эмоциональное состояние.

Человек проигрывает и по физиологическим характеристикам. Понятно, что машина гораздо более, чем человек, устойчива к некачественной еде, плохой экологии и отсутствию воздуха.

Черниговская отмечает, что программы побеждают уже не только шахматную логику. В таких «творческих» и спонтанных играх, как го и покер также одержаны победы (AlphaGo и AlphaZero в го и Libratus в покере) [2, 8]. И это происходит как раз не потому, что машины способны распознать «покер фэйс» противника. Им это и не нужно, просто они лучше играют.

«Скоростные лифты» научно-технического прогресса конца ХХ и начала ХХI века, которые подняли нас до уровня мира, объединенного в единое целое, сделали доступным многое, например, как изготовить бомбу «из ничего». Возникает вопрос, а меняется ли так быстро, как технологии, наше сознание, которое может притормозить угрозу изготовления бомбы в кружке «умелые руки»?

Исследователь цивилизационных изменений А.П. Назаретян предостерегает, что сегодняшние темпы технического развития еще не предельны. В недалеком будущем скорость изменения может возрасти до бесконечности. Серия расчетов, проведенных независимо исследователями Австралии, России и США, показала, что прыжок случится около середины ХХI века. Произойдет «беспрецедентная по значению глобальная полифуркация». [3, с. 755]. Этот вывод получен путем перенесения в будущее логарифмического закона ускорения, который характеризует важные этапы в истории биосферы и антропосферы земли на протяжении 4 млрд лет. Такое стремительное ускорение получило название «сингулярность» – бесконечное возрастание мощи техники за бесконечно малое время. Сингулярность может полностью изменить ход жизни на земле. Поэтому, чем выше мощь технологий, тем более совершенные средства внутренней человеческой регуляции необходимы для сохранения общественного равновесия.

А.П. Назаретян анализирует, как человечество преодолевало предыдущие кризисы: «По мере того, как мощь орудий и демографическая плотность возрастали, культура совершенствовала средства сублимации агрессии для адаптации к растущим разрушительным возможностям» [3, с. 758]. То есть человечество старалось различными путями осознавать и контролировать те мощные изобретения, которые оно творило. И главное из них – поддержание мира. Некоторый спад внешней агрессии на политической арене в конце ХХ века, который так порадовал специалистов по исследованию цивилизаций, сменился новым скачком в стремлении развязать «маленькую победоносную войну» в первом десятилетии ХХI века. Во время приближения к точке сингулярности, когда время, за которое происходят научно-технические прорывы, стремится к нулю, а сами изменения – к бесконечности, стремление к любой войне может стать последним моментом перед тем, как во всем мире «выключат свет». В этой ситуации возникает запоздалый, но правомерный вопрос: бесконечна ли способность человеческого сознания к внутренней регуляции? Или по-другому: так же ли она бесконечна, как бесконечна способность «искусственного интеллекта» к обучению самоусложнению?

Еще одним опасным фактором, который может усилить приближение планетарной катастрофы, исследователи считают ослабление генетического отбора. Если сравнить, какое количество детей доживали до взрослого возраста в начале ХХ века и в начале ХХI, получится неутешительная для естественного отбора, хотя и гуманная картина. В Англии начала прошлого века в семьях с тремя-пятью детьми до 28-летнего возраста в среднем доживал один ребенок. А что происходит сейчас? Современная медицина спасает многих, даже рождающихся с тяжелыми наследственными заболеваниями. Природе не позволяют «включить» естественный отбор, и это гуманно, но сам человек считает себя в праве изменять природу так, как ему удобно. Появляются генномодифицированные продукты. Химическое воздействие на мир возрастает, некоторые виды животных и рыб существуют только в искусственной среде обитания. Овощи и фрукты растут на земле, подвергнувшейся неоднократным химическим атакам пестицидов. Экологические катастрофы, отходы производства меняют климат нашей планеты. Наконец, подходят к концу запасы пресной воды. Кажется, что в таких условиях в будущем человеку трудно будет обойтись без вмешательства генной инженерии, которая вплотную займется усовершенствованием и приспособлением его к новой окружающей среде. А разрешение такого вмешательства сразу разворачивает нас лицом к возможному созданию биороботов и «людей-машин». Придется устанавливать, где в них начинается и заканчивается человеческое. Современная фантастика уже с удовольствием обсуждает такие возможности. Так Ханну Райаниеми, доктор наук в области теории струн, написал фантастический роман «Квантовый вор», где в качестве главного героя показывает человека, способного перемещаться в любом теле, пригодном для помещения его разума. Даже внутри робота или другого человека, если они позволяют подавить собственное сознание [9]. Фактически речь идет уже не о человека как таковом, а о его сознании, путешествующем в скафандре из компьютера или биокомпьютера по космосу. Мир «Квантового вора», в отличие от мира роботов Азимова, перестает быть «человекомерным». А Т.В. Черниговская замечает, что «человекомерность» исчезает уже сейчас. «В научном обороте появились единицы измерения, несопоставимые с человеческим телом физически, например, наносекунды, нанометры» [2, 9].

Совсем недавно мы впервые «познакомились» с маленьким симпатичный летающим аппаратом, который называется «квадрокоптер». И не успели мы к нему привыкнуть, как его запретили к использованию. Ведь эта маленькая «игрушка» способна нанести увечье или даже убить человека. А кто будет виноват? Особенно, если это случайность. Купить квадрокоптер с камерой, «недорогой и хороший», через Интернет возможно и сейчас. Вероятно, нетрудно найти информацию по созданию к нему небольшой пушки. Вопросы о праве, морали и этике в этом случае необходимо не только поднимать, но и дорегулировать, так как внутри мира машин нашей человеческой этики просто не существует. Возможно, следует вспомнить законы роботехники, усовершенствовать их и внедрять в программу создаваемого «искусственного интеллекта». Правда, никто не сможет гарантировать нам, что с помощью новых технологий не будет создан «суперинтеллект», способный обойти все внедренные запреты.

Страх человека перед таким развитием событий можно считать в какой-то мере экзистенциальным, так как мы и машины слишком разные. Но даже, если мы напишем, внедрим и будем всячески контролировать кодекс законов искусственного интеллекта, останется еще один важный вопрос, который не оставит нас как человечество в покое. Если мы доверимся «искусственному интеллекту», полностью «переложим» на него свои дела и обязанности, с чем мы сами останемся? Как продолжим тренировать свои тела и умы?

Уже сейчас есть поколения интернет-зависимых людей, у которых происходят изменения в мозге, сравнимые с изменениями алкоголиков и наркозависимых. Можно приводить много причин, почему современному человеку общение в сети больше нравится, чем живое. Например, очень многие люди в виртуальной коммуникации воплощают свои надежды и мечты, не решаясь реализовать их в реальности. Удовольствие от общения переносится в интернет, где появляются новые виртуальные друзья и целые сообщества. Интернет-коммуникация помогает удовлетворить социальные потребности и одновременно избегать трудностей, которые могли бы возникнуть от реального контакта. Кстати, такой контакт постепенно становится и не нужным, иногда даже опасным. И реальность для таких людей отмирает. Современные «затворники» не выходят из дома вообще или выходят только ночью. В Японии их стало так много, что они получили свое название – «хикикомори». В некоторых городах Японии их число достигло 10 % и более. Ответы на вопрос, почему эти люди не выходят из дома, самые разные. От «ненавижу других», до «мне и так хорошо». Исследователь темы Хироюки Ота пишет о хикикомори: «Они не ищут работы на протяжении многих лет, им не удается установить отношения с другими людьми, обзавестись семьей» [7]. Действительно, хикикомори не только не общаются с чужими людьми на улице, но зачастую не разговаривают даже с родителями. Молодой японец 27 лет заперся на кухне и перестал пускать туда родителей, те построили себе новую кухню и продолжают его кормить. Многие специалисты считают, что таких людей следует лечить. Примерно так же, как и интернет-зависимых, тех, кто полностью перешел в виртуальный мир и остался там.

В компьютерном поле игры, которое так притягивает зависимых от него людей, тоже есть смоделированные «вызовы» и трудности, но они отличаются от реальных. Они также могут требовать ловкости, знания, умения – тех качеств, которых пока еще ожидает от человека реальная жизнь. Но человек, сидящий за компьютером, не рискует своей жизнью, а только, возможно, здоровьем и деньгами, если он играет в компьютерные игры профессионально. А в реальном мире есть опасность быть отвергнутым или умереть. С дальнейшим техническим совершенствованием компьютерных игр виртуальный мир становится разнообразнее и в какой-то мере удивительнее реального. В ММОРПГ – массовой многопользовательской ролевой игре – игроки встречаются с различными персонажами, иногда делают их друзьями или врагами и проживают такие события, которые трудно себе представить в реальности. С другой стороны, многие из тех качеств, которыми участники «блещут» на разных уровнях сложности в игре, применить в жизненной практике невозможно. Однако развивает ли наш разум поле игры? Становимся ли мы лучше, играя в компьютерные игры?

Немецкий философ, основатель философской герменевтики Х.-Г. Гадамер писал об игре и беседе как об аналогиях понимания. Так как именно в игре участники сосредотачиваются на предмете игры и забывают о себе. Игра не получается, если игрок «тянет на себя одеяло», переигрывает или не пасует мяч другим игрокам. Только, если большинство участников сосредоточено на общем предмете игры или общей теме беседы, возможно наилучшее творческое понимание [6].

В увлечении виртуальной игрой человек любит, ненавидит, дружит и враждует с искусственными персонажами. Они могут собираться в группы, как в жизни, дружить с кем-то и против кого-то, коллективно исключить мешающего, «нелюбимого» игрока. Социальная жизнь перемещается таким образом в виртуальный мир. Фактически, с усложнением игры возрастает и мощь «искусственного интеллекта» и его влияние на человека. Похоже, мы снова имеем дело с двумя «встречными» тенденциями: ростом и усложнением «искусственного интеллекта» и «ослаблением» реальной активности человека. А ведь исследования показывают, что люди, используя искусственные возможности, еще не научились использовать полностью свой собственный мозг. Т.В. Черниговская начинает беседу с молодыми учеными, которые приходят к ней «заниматься мозгом»: «В голове у нас сложнейшая нейронная сеть, которую невозможно себе представить. Если вытянуть в одну линию все нейроны, которые находятся в голове – не у Энштейна, а у обычного человека, – получится страшная цифра 2,8 млн. км» [2, 9]. Когда мы перекладываем на машину свои трудности и таким образом облегчаем себе жизнь, мы забываем, что эволюционное развитие человечества шло как раз через трудности. И именно препятствия приводили к качественным эволюционным скачкам.

Что же нам делать? Остался ли одним из возможных путей для нашего развития путь совершенствования собственных возможностей, использования собственных ресурсов? Ведь, хотя обученная машина и переигрывает шахматиста или игрока в покер, обучение машин происходит принципиально иначе, чем обучение людей. Элисон Гопник – профессор психологии и философии в Калифорнийском университете сравнивает обучение детей и обучение искусственного интеллекта [4]. Она выделяет два способа обучения: «восходящий» и «нисходящий» по аналогии эмпирического и рационального методов в истории философии. В первом случае обучение машины начинается похоже на чувственное восприятия мира человеком: «фотоны и колебания воздуха, которые воспринимаем все мы» [4, с. 61]. Информация попадает в компьютер в виде точек цифрового изображения или аудиозаписи звука. Затем из этих данных компьютер выделяет ряд элементов, которые можно обобщить и идентифицировать как единый объект окружающего мира. Этот восходящий подход связан с идеями английского эмпиризма и И.П. Павлова. Ученые придумали способ, позволяющий компьютерам находить закономерности в таких данных по принципу работы нейронов. Идея нейронной сети переживает изменения в настоящее время и успешно «работает» на коммерческие цели. По этому методу устроены Google и Facebook.

Элисон Гопник считает, что с увеличением объема перерабатываемой информации, с лучшими вычислительными возможностями «нейросетевые системы могут обучаться гораздо более эффективно, чем мы могли когда-то предполагать» [4, с. 61]. То есть, восходящий метод развивается.

Другой, «нисходящий», метод знаком нам через рационалистический метод познания Рене Декарта. И даже еще ранее у Платона мы видим эту модель познания как «припоминания» Платона. В диалоге «Менон» ученик Сократа уже знает решение математической задачи, и философ побуждает его вспомнить. В рационалистической системе Декарта знание также присуще человеку с рождения. Этот метод также не стоит на месте в своем развитии. «В 2000 году этот принцип пережил второе рождение в виде вероятностного или байесовского моделирования» [4, с. 62]. В случае обучения машины по этому методу разработчики формируют и закладывают в нее абстрактные гипотезы о мире, и машина использует то, что в нее заложено, чтобы построить прогнозы, как будут выглядеть данные, если верны эти выдвинутые гипотезы. Системы пересматриваются в зависимости от наблюдаемого результата.

Гопник считает оба метода несовершенными. «Восходящий подход» в машинном обучении позволяет выявлять значимые признаки для решения поставленных задач определенного типа. Для этого нейронная сеть должна пройти процесс самообучения. Она изучает миллионы сообщений из огромных баз данных. И тут машины сталкиваются с трудностями, с которыми не сталкиваются при обучении люди. Так в «восходящем методе» компьютеру для различения усатых и мохнатых лиц требуется миллионы упорядоченных объектов. То есть для формирования «поля сравнения» в компьютер должны быть заложены миллионы изображений усатых людей и миллионы изображений мохнатых животных, чтобы компьютер начал систематически различать их. «После интенсивного обучения компьютер наконец может узнать кошку в изображении, которое он никогда не видел. Однако то, как он это делает, совершенно не похоже на процесс обобщения у человека» [4, с. 62]. Некоторые изображения не будут отмечены компьютером как кошки, а некоторые пятна, наоборот, будут таковыми считаться. Если мы сравним на этом этапе обучения способность и быстроту схватывания информации компьютером с возможностями ребенка, то оказывается, что малышу достаточно всего нескольких примеров, чтобы различить «усатого дядю» и животное.

В «нисходящем» подходе вместо тысячи примеров для выявления закономерностей ученые пользуются общей схемой действий, которая теоретически может привести к достижению определенного результата. Метод, названный по имени статистика и философа ХVIII века Томаса Байеса, объединяет данную модель с теорией вероятности, используя так называемый «байесовский вывод». «Вероятностная порождающая модель показывает, насколько вероятно то, что вы увидите какую-то структуру в данных, если верна гипотеза» [4, с. 63]. Этот метод подходит для того, чтобы научить машину учиться так, как это делают люди. Разработчики закладывают в машину определенный принцип отбора. Но для формулировки такого принципа требуется огромная предварительная работа.

К тому же в пользу человека и его способностей говорит и то, что оба описанные метода работают для узких и точно сформулированных задач. Это значит, что машина, обыгравшая Гарри Каспарова, не сыграет в покер. Элисон Гопник замечает: «С восходящим алгоритмом компьютеру не нужно понимать что-нибудь про кошек, чтобы начать учиться, но ему нужно очень большое количество данных» [4, с. 64]. «Нисходящий метод» помогает быстро обучиться на малом количестве примеров и делать более широкие обобщения. Однако при использовании этого метода требуется много предварительной работы, чтобы сформулировать правильный набор гипотез. А ребенок творит легко. Специалисты по психологии развития детей убедились, что «дети комбинируют лучшее от каждого подхода и затем продвигаются гораздо дальше» [4, с. 64]. Если добавить к этому уверенность в том, что людям свойственны творческие прорывы, и они могут рассуждать на темы, выходящие далеко за границы их собственного опыта, то в споре «человек – машина: кто кого?» появляется вполне оптимистичный перевес в сторону человека. Недаром Энштейн сказал: «Фантазия – это единственное наше оружие в борьбе с реальностью» [5]. Великий мыслитель имел в виду творческую способность человека совершать экскурс или «прыжок» в неизведанное. В конце концов, это люди изобрели все те машины, которых теперь сами и опасаются. По мнению философов ХХ века Хайдеггера и Гадамера, такая направленность в будущее или в неведомое возможна благодаря особому характеру понимания. Человек является «брошенной проекцией»: как спроецированное, его понимание внутренне связано с будущим, откуда и разворачиваются новые возможности. Понимание также является обусловленным наследием прошлого, которое человек, в силу своей конечности, воспринимает как традицию и в которой постоянно находится. Так, Хайдеггер доказывает, что любая интерпретация (даже научная) зависит от конкретной исторической ситуации интерпретатора. Не существует интерпретации без предрассудков, так как интерпретатор не может освободить себя от своей собственной фактичности. Он онтологически обусловлен всегда уже имеющейся временной ситуации как горизонтом, внутри которого все то, что он понимает, имеет для него первоначальное значение. Каждый шаг понимания является шагом, основывающимся на бесконечности «пред-данной» интерпретатору исторической традиции. Хайдеггер говорит о понимании как об «опережающем наброске». Этот набросок, однако, может быть развернут, что и становится одной из бесконечного количества интерпретаций [6, с. 317]. Как раз в таком творческом моменте и проявляется человеческая уникальность. «Историческое бытие никогда не исчерпывается знанием себя. Всякое знание-себя вырастает из исторической пред-данности» [6, с. 357]. Равенство всех возможных интерпретаций обеспечивается своеобразием каждой из них. И одновременно ролью интерпретатора как творца, обладающего уникальным взглядом именно из своей исторической ситуации.

Вместе с прояснением роли исторической традиции и историчности интерпретатора центр дискуссии был перенесен с техники понимания, которая ставит правильное понимание в зависимость от метода, к пониманию как «событию», которое по самой своей природе является одновременно эпизодичным и транссубъективным. Оно эпизодично в том смысле, что каждый отдельный акт понимания является моментом в жизни самой традиции, которой «подчиняются» и интерпретатор, и текст. И оно транссубъективно, так как связано с бесконечностью предшествующей данной ситуации истории.

Если вернуться к современным исследованиям нашего понимания мира, практически все исследователи сходятся на том, что фантазия или воображение являются основными доводами в пользу человеческой силы. У ученых достаточно мало данных о том, как появляются творческие рассуждения, выводящие новые закономерности. Но в этом человек обгоняет машину безусловно. Возможно, именно в воображении заключена таинственная сила, оставляющая далеко позади новые варианты «искусственного интеллекта», усовершенствование которого связаны более с количественными характеристиками. А вот умение нашего мозга продуцировать качественно новые выводы, выходящие за пределы достигнутых им к моменту понимания знанию и опыту, сразу ставят машину на отведенное ей человеком место – место послушного помощника.

Литература

1. https://ru.wikipedia.org/wiki/Три_закона_роботехники 2. Черниговская Т.В. Искусственный интеллект научился блефовать. Атомный эксперт. – 2018. – № 1 – С.8–9.

3. Назаретян А.П. Мегаистория и ее «загадочная сингулярность» // Вестник российской академии наук. – 2015. – Т. 85. – № 8. – С. 755–764.

4. Гопник Элисон. Машина, будь человеком! В мире науки. – 2017. – № 8/97. – С. 60–64.

5. URL: http://www.vothouse.ru/points/albert-einstein_citaty.html

6. Гадамер Х.-Г. Истина и метод. Х.-Г. Гадамер – М.: Прогресс, 1988. – 704 с.

7. URL: https://inosmi.ru/world/20130919/213096465. html

8. Платон. Менон. Перевод С.А. Ошерова. – По изданию: Платон. Собр. соч. в 4-х томах. Том 1. – М.: Мысл», 1990–1994. – ISBN 5–244–00385–2, ISBN 5–244–00451–4

9. Райаниеми Ханну. Квантовый вор. – СПб: Фантастика Книжный Клуб, 2013. – 384 с. – ISBN: 978–5-91878–080–0