Текст книги "Взгляд со звезд"

В ожидании пришествия ИИ

Сейчас компьютеры меняются: из прозрачных и предсказуемых систем они превращаются в непредсказуемые и плохо управляемые «черные ящики». Возможно, это знак того, что мы живем в доисторический период, после которого начнется эра настоящего искусственного интеллекта.

Как только компьютеры были изобретены, они сразу же значительно превзошли людей по вычислительной мощности. Позднее они начали обыгрывать людей в шахматы, научились распознавать наши лица и понимать наш язык. Но в глубине души большинство из нас до сих пор не верит, что мы имеем дело с настоящим разумом. Мы смотрим на них и чувствуем, что в них чего-то не хватает, что на самом деле мы не взаимодействуем с настоящим интеллектом.

Причина заключается в том, что на фундаментальном уровне вычислительные процессы являются прозрачными и предсказуемыми.

Компьютер, который обыграл человека в шахматы, не является ИИ. Компьютер, который проиграл в шахматы, а затем с помощью «мыши» нанес человеку смертельный удар током – вот это ИИ.

Краткую историю развития ИИ можно разделить на два периода. В ходе первого крайне идеалистично настроенные исследователи пытались улучшить логические операторы программ и эксплуатационные характеристики техники и тем самым создать настоящий разум. Иными словами, они пытались играть роль бога. После того как японский проект по созданию компьютеров пятого поколения потерпел неудачу, люди обнаружили, что достичь заявленных целей в обозримом будущем невозможно. Поэтому исследования ИИ сместились в сферу баз данных и знаний: это была стратегия создания интеллекта методом перебора комбинаций с помощью огромных объемов накопленной информации. В 1990-х подобные исследования поначалу привели к усилению экспертных систем; когда-то я участвовал в разработке подобной системы для паровых турбин. Я четко помню, как мы строили базу знаний; эксперты, которые участвовали в этом проекте, резко помрачнели, увидев, что весь их профессиональный опыт можно свести к паре строчек программного кода. Однако уверенность быстро вернулась к ним: они поняли, что на основе разработанных правил компьютеры ничего не добьются и в лучшем случае станут тренажерами для новичков. Они считали, что в случае возникновения серьезных проблем для ремонта турбины понадобятся специалисты-люди. История доказала их правоту. Подобную строгую операционную логику (вне зависимости от того, насколько сложным был процесс поиска) нельзя назвать «интеллектом»; очень сложно симулировать человеческий опыт с помощью базы данных.

Но времена меняются.

Оглядываясь назад, я понимаю, что чем больше я работал, тем сильнее начинал бояться компьютерных систем. Система DOS 1980-х, возможно, была примитивной, но она, кроме того, была безопасной, поскольку вела себя очень просто и делала то, что ты ей приказывал. Все ее действия находились в границах предсказуемости. В то время операционные системы обладали более высокой степенью прозрачности. Говорят, что отдельные, очень терпеливые люди могли прочесть весь исходный код DOS и очистить его от самых крошечных ошибок. Но операционные системы развивались с головокружительной скоростью, и простые командные строки превратились в прекрасные и замысловатые графические интерфейсы. Подобные системы постепенно становились все более похожими на «черные ящики». Они начинали действовать непредсказуемо. Казалось, что компьютеры в одночасье превратились из невинных детей в опытных заговорщиков. Теперь подобные системы стали полностью непрозрачными. Мы можем лишь подчиняться им; никто не знает, какие мысли текут в их темных ядрах. Иногда мне кажется, что жужжание жесткого диска сервера – это басовитый злой смех и что горящие сетевые индикаторы мигают, словно многочисленные злобные глаза. Отладка подобных «лабиринтов» в «железе» и «софте» является таким же раздражающим и безнадежным процессом, как и ползание по склизким кишкам монстра. Иногда тестирование программы занимает больше времени, чем ее написание, особенно если это программа, которая отслеживает действия пользователей в Сети.

Я должен признать: все это – чистая психология. Система DOS необязательно более стабильна, чем Windows 2000 или XP, не говоря уже о строгих, твердых и надежных, как скала, операционках DCS на основе Unix, которые используют на атомных электростанциях. Но по мере эволюции компьютеров люди невольно начинают думать, что утратили контроль над чем-то. Если говорить об операционных системах, то так думает не только огромное число пользователей, но и сами разработчики. Один инженер из Microsoft однажды сказал, что разрабатывать Windows – все равно что падать в темное, липкое болото; как ни барахтайся, ты все равно уходишь на дно. Пытаться контролировать всю ситуацию в целом – это просто безумие.

Возможно, это признак того, что наступает заря эры искусственного интеллекта.

Вне зависимости от того, какую среду мы выбираем – DOS, Windows, Unix или Linux, – поведение программы является прозрачным и предсказуемым. Если вы просто потратите достаточное количество человеко-часов, то чисто теоретически сможете понять схему работы любой программы. У вас получится написать мониторинговую программу, которая будет точно записывать каждое действие других программ, создавая полный отчет о процессе обработки данных. Даже случайные числа, созданные программами, можно предсказать, потому что современные функции генерации случайных значений выдают числа не вполне случайным образом. И если удастся добиться случайности, ситуация не очень сильно изменится, поскольку вычислительный процесс по-прежнему останется прозрачным. Пока я программировал экспертную систему для паровых турбин, меня просили записывать логический процесс, который использует система, а также то, как работает функция поиска в базе знаний. Эксперты по паровым турбинам считали данное занятие невыносимо скучным, и нам, программистам, приходилось просматривать огромные папки распечаток, с древовидными диаграммами на каждой странице.

Но по мере развития технологий компьютерные системы становятся все более непрозрачными и непредсказуемыми. Хотя количественные изменения еще не перешли в качественные, добавление новой, не-фон-Неймановской архитектуры к новым программам – такой, как эволюционные алгоритмы, – возможно, станет тем событием, которое приведет к прорыву на новый уровень.

Это создает еще одну фундаментальную проблему: является ли человеческий интеллект по своей сути непредсказуемым? В природе хаотичная система является классическим примером крайне большого и непредсказуемого набора феноменов. Возможно, одной из таких хаотичных систем является мозг? Если интеллект действительно появляется в ходе взаимодействия бесчисленного количества нейронов, тогда ответ на этот вопрос – «нет». Хотя в нашем мозге столько же нейронов, сколько звезд в Млечном Пути, взаимодействия подобного вида по-прежнему остаются прозрачными и предсказуемыми; в теории кто-то мог бы понаблюдать за деятельностью мозга и записать каждую мысль. Но кто знает, какая именно непредсказуемость скрывается за этим огромным числом взаимодействий? В своей книге «Новый ум короля. О компьютерах, мышлении и законах физики» Роджер Пенроуз[19]19
  Роджер Пенроуз (р. 1931) – британский математик и физик, доктор философии, возглавляет кафедру математики в Оксфордском университете. Лауреат Нобелевской премии по физике. В книге «Новый ум короля» (1989) касается гипотез квантового сознания и обосновывает несостоятельность создания ИИ.


[Закрыть] утверждает, что компьютеры по природе своей не способны симулировать человеческий интеллект.

Предназначение науки состоит в том, чтобы сделать природу прозрачной и предсказуемой, но искусственный интеллект двигается в противоположном направлении, и это пугает. Заря эпохи ИИ станет кошмаром для человечества, однако мы – неутомимо и с энтузиазмом – продолжаем приближать этот день. Такова природа человека. Ведь, в конце концов, ни мужчинам, ни женщинам не нравятся партнеры, которые являются полностью предсказуемыми. Нас привлекает возможность создать то, что лучше нас, нечто непредсказуемое – даже если в результате мы умрем от удара током после партии в шахматы.

Стоит лишь взглянуть на Watson, суперкомпьютер компании IBM, и станет ясно, что мы живем в доисторический период, за которым настанет эпоха искусственного интеллекта.

Опубликовано на сайте Guokr.com

11 февраля 2011 г.

Сто тысяч и одна Земля

Младенцы, несомненно, слабее детенышей других животных. Жеребенок может встать на ноги и ходить без посторонней помощи всего через десять минут после рождения, но младенцы остаются в колыбели в течение очень длительного времени, и если в этот период о них никто не заботится, они погибнут. Сами по себе люди никогда не выберутся из колыбели. Этот феномен связан с требованиями эволюции; человеческий мозг так велик, что его будет сложно наращивать после полового созревания, поэтому его нужно создать заранее. Иными словами, все младенцы рождаются недоношенными.

Если мы считаем человеческую цивилизацию младенцем, то она тоже рождена до срока. Скорость развития цивилизации гораздо выше, чем у эволюции, и, на самом деле, человечество вошло в современную эпоху, обладая мозгом и телом примитивных людей. Это подводит нас к страшному вопросу: если внешний мир не будет о нас заботиться, не останется ли цивилизация людей навеки в своей колыбели?

Сейчас этот вариант кажется возможным.

В отдаленном будущем, когда люди станут вспоминать временной период от середины XX века до настоящего времени, все великие события, которые казались нам столь судьбоносными, бесследно исчезнут, перемолотые в пыль жерновами истории, и важными будут только два события, которыми мы пренебрегли: во-первых, в этот период человечество впервые вышло из колыбели, и, во-вторых, затем оно сделало шаг назад. Значимость этих двух событий невозможно переоценить. 1961 год – год, когда Гагарин отправился в космос, возможно, превратится в новую отправную точку для человечества, заменив собой дату рождения Христа; но упадок, который наступил в сфере космических исследований после посадки «Аполлона» на Луне, стал для человечества более мощной травмой, чем наше изгнание из Эдема.

Период с конца 1950-х по начало 1970-х войдет в анналы как «золотой век». В течение всего трех лет после запуска первого искусственного спутника в космос отправился первый космонавт, и еще через семь лет люди уже ходили по Луне. В то время людей волновали большие и далекие цели; они верили, что лет через десять они доберутся до Марса, и даже высадка на Европе, спутнике Юпитера, не казалась им чем-то невозможным. Незадолго до того был даже разработан смелый проект «Орион»; в соответствии с ним предполагалось запустить в космос корабль, который приводили бы в движение взрывающиеся последовательно атомные бомбы. Этот космический корабль смог бы доставить более десяти космонавтов на внешние планеты Солнечной системы.

Но вскоре финансирование программы «Аполлон» прекратилось, и запланированные полеты на Луну были отменены. Таким образом, исследования космоса, словно камень, подброшенный с поверхности Земли, добрались до верхней точки своей траектории, ненадолго замерли в ней, а затем стремительно упали. В декабре 1972 года «Аполлон-17» совершил последнюю посадку на Луне, и это стало важным поворотным моментом: впоследствии появились космические станции и космический шаттл, было запущено много искусственных спутников, способствовавших развитию экономики, и люди отправили зонды к другим планетам, однако качество полетов в космос незаметно изменилось; человечество перевело взгляд со звездного неба на землю. До «Аполлона-17» полеты в космос были попыткой человечества выбраться из колыбели; позднее оно просто делало свою колыбель более уютной. Космические проекты были приведены в соответствие с требованиями экономики, и на смену благородного духа исследований пришел дух предпринимательства. Человеческому сердцу подрезали крылья.

Но можно ли сказать, что люди действительно мечтали покинуть колыбель? Скрытым импульсом, который привел к волне космических исследований в середине XX века, была «холодная война». Каждая из сторон боялась врага и мечтала превзойти его. Освоение космоса стало политической демонстрацией силы. На самом деле человечество и не думало о том, что космос станет его новым домом.

Теперь Луна снова стала пустынным миром, и от людей там не осталось и следа. Проекты русских и американцев организовать пассажирские полеты в космос оказались утопией, а «славные планы» Европы по исследованию Солнечной системы были отложены в долгий ящик. Никаких славных событий не происходит. После того как космические шаттлы отправились на свалку, американцы, которые когда-то ходили по Луне, потеряли даже возможность отправлять людей на околоземную орбиту.

Почему все произошло именно так? Причины, которые мы можем придумать, связаны с технологиями и экономикой.

Прежде всего, давайте изучим причины, которые имеют отношение к технологиям. Человечество сейчас, несомненно, не обладает технологиями, которые необходимы для крупномасштабных проектов в Солнечной системе. Если говорить о создании двигателей, самой базовой и самой важной сфере космических полетов, то здесь человечество по-прежнему находится на этапе двигателей на химическом топливе, а для межпланетных перелетов понадобятся атомные двигатели, которые появятся еще нескоро. Ракеты и корабли на ядерном топливе по-прежнему можно встретить только в научной фантастике.

А теперь посмотрим на экономические причины. На данном уровне технологий отправка на околоземную орбиту груза с определенной массой стоит столько же, сколько и золото той же массы. Если нужно отправить груз на Луну или на другие планеты, расходы возрастают в десять, сто и более раз. Все средства, вложенные в подобные проекты, будут в течение долгого времени приносить очень маленькую прибыль. Посадка «Аполлона» на Луне, например, стоила 26 миллиардов долларов, то есть более ста миллиардов долларов в современных деньгах. Однако в ходе этого полета было добыто всего лишь две тонны лунной породы (конечно, полученные в ходе данной программы результаты в области гражданских технологий также принесли огромную пользу, однако ее сложно оценить, и поэтому она не может служить решающим фактором в процессе принятия решений).

В общем, освоение космоса – это огромный риск как с экономической, так и технологической точки зрения. Принять тот факт, что космос – наш новый дом, и поставить на карту судьбу человечества – это риск, на который правительства не пойдут.

Причины, перечисленные здесь, довольно веские; они выглядят неопровержимыми, и поэтому определили политику людей в отношении космоса и привели к упадку космических проектов.

Но давайте посмотрим на проекты, которые человечество финансирует в настоящее время и которые, как полагают, позволят человечеству выжить: на проекты по защите окружающей среды.

Если посмотреть на них через призму технологий, может показаться, что космические полеты и защита окружающей среды коренным образом отличаются: первый проект – напряженный, высокоскоростной, связанный с приключениями, и подразумевает использование суперсовременных технологий, в то время как второй – это милое общественно полезное дело, связанное с озеленением, и хотя для него иногда нужна техника, он кажется гораздо более простым, чем первый.

Но это лишь ощущение, а реальность такова: если мы хотим достичь выбранных целей по защите окружающей среды, нам нужно создать технологии, которые превосходят те, которые нужны для крупномасштабных межпланетных перелетов.

Если мы хотим защитить окружающую среду, то сначала должны понять ее, как она устроена в глобальном масштабе. Экосистемы Земли запредельно сложные, и ученые приложили огромные усилия на исследование всех деталей, но человечество еще не понимает их принципы и законы. О таких системах, как погода, изменения крупных групп животных и взаимодействия между ними, человечество знает очень мало. Возьмем, к примеру, глобальное потепление: климат планеты становится более жарким или нет? И если да, то связано ли потепление с деятельностью людей? В отличие от пропагандистов, ученые не могут дать точного ответа на два этих главных вопроса, поэтому борьба с глобальным потеплением скорее похожа на политическое движение. Можно без преувеличения сказать, что знания людей о поверхности Земли не настолько полные, как знания о поверхности Луны, а вскоре, возможно, уступят и нашим знаниям о поверхности Марса.

Если говорить о действиях, то для того, чтобы защищать окружающую среду – например, для того, чтобы заменять нефть возобновляемыми источниками энергии, перерабатывать промышленные и городские отходы, сохранять биоразнообразие и восстанавливать леса, – для всего этого нужны сложные технологии, многие из которых могут быть сложнее тех, которые необходимы для перелетов внутри Солнечной системы.

Но главный технологический барьер в деле сохранения среды состоит не в этом. Мировые войны и хаос остались далеко в прошлом, и в истории человеческого общества начался период длительного мирного развития, особенно в странах третьего мира и на неосвоенных территориях. Государства с высокой скоростью развития имеют общую цель: достичь экономического уровня западных стран и обеспечить условия для комфортабельной современной жизни. Сегодня эта цель кажется достижимой. При данных темпах развития лет через пятьдесят большинство неразвитых зон, в том числе такие страны третьего мира, как Китай и Бразилия, смогут догнать Запад в том, что касается экономики.

Но люди упускают из виду вот какой факт: если весь мир будет жить так, как развитые страны – США и страны Европы, понадобится в четыре раза больше ресурсов, чем те, которые есть на планете.

Если мы хотим достичь наших целей, связанных с защитой природы, не обрушить экосистему Земли и обуздать величайшее вымирание видов со времен мелового периода, недостаточно просто уменьшить объем вредных выбросов. Даже если все цели Копенгагенских соглашений будут достигнуты, экосфера все равно затонет, словно «Титаник» на верхушке айсберга.

Есть только один выход – остановить развитие. Но это невозможно: ситуация, при которой в одних регионах люди будут бездельничать и наслаждаться комфортом современной цивилизации, в других – прозябать в нищете, противоречит основным ценностям человечества. Кроме того, в мире политики данная идея обречена на провал.

Не следует забывать и о внезапных изменениях среды, вызванных неантропогенными факторами. Условия жизни на Земле колеблются, просто человеческая цивилизация появилась слишком недавно, чтобы это заметить. Каждое такое колебание значительно изменяет параметры среды и может сделать планету непригодной для жизни. Например, последний ледниковый период закончился всего десять тысяч лет назад, и если начнется еще один, континенты окажутся под слоем снега и льда; сельское хозяйство во всем мире рухнет, и современное общество, вместе с его огромным населением, будет уничтожено. А крупномасштабные изменения среды в долгосрочном периоде почти неизбежны – настолько, что они с большой вероятностью могут произойти в самом ближайшем будущем. По сравнению с ними современные методы защиты природы похожи на кружку с водой, которой кто-то хочет потушить пожар.

Если человеческая цивилизация хочет выжить в долгосрочном периоде, вне зависимости от изменений среды под действием природных или антропогенных факторов, то она должна перейти от пассивного поведения к активному: ей нужно изменять природную среду в глобальных масштабах. Например, уже разработано много планов по замедлению парникового эффекта: в частности, предполагается создавать огромные, работающие на солнечной энергии паровые установки, которые будут увеличивать слой облаков, распыляя на большой высоте испарившуюся морскую воду. Другой план предусматривает создание зонтика площадью в три миллиона квадратных километров в точке Лагранжа между Землей и Солнцем. Каждый из этих планов – гиперинженерный проект, равных которому не было в истории; нечто подобное могли бы творить боги. Для данных проектов потребуются технологии, которые вполне органично смотрелись бы в научно-фантастическом произведении, но их уровень опять же гораздо выше, чем у тех, которые нужны для перелетов внутри Солнечной системы.

Существуют сложности и не связанные с технологиями: если мы посмотрим на защиту окружающей среды через призму экономики, то обнаружим, что защита природы, как и освоение космоса, требует колоссальных инвестиций и не принесет значительной прибыли в краткосрочном периоде.

Но если сравнить вложения людей в защиту природы с инвестициями в освоение космоса, то окажется, что первые на порядок больше вторых. Например, в соответствии с китайским двенадцатым пятилетним планом, мы вложим 3 триллиона юаней в защиту природы, но на исследование космоса мы потратим лишь около 30 миллиардов. В других странах ситуация практически такая же.

Солнечная система обладает огромными запасами ресурсов: на восьми планетах и в поясе астероидов находятся большие количества сырья, необходимого для развития человечества – от воды до металлов и радиоактивных материалов. Если исходить из того, что Земля может обеспечить не более 100 миллиардов человек, то ресурсов Солнечной системы хватит на сто тысяч Земель.

Теперь мы должны взглянуть в лицо фактам: человечество отказалось от этой сотни тысяч Земель в космосе и собирается просто существовать на этой Земле, а его методом выживания будет защита окружающей среды – проект столь же сложный, масштабный и рискованный, как и освоение космоса.

Освоению космоса, как и защите окружающей среды, нужен технический прогресс, и освоение способствует этому прогрессу. До программы «Аполлон» у США не было никаких технологий, необходимых для высадки на Луне; большая часть их была создана в ходе проекта. Технология расщепления атомных ядер уже существует, поэтому в ходе создания атомных двигателей для космических кораблей люди не столкнутся с непреодолимыми барьерами. И хотя мы еще не научились контролировать термоядерный синтез, препятствия к этому лежат в области техники, а не теории.

Мы должны учесть и тот факт, что корабли, долетевшие до Луны сорок лет назад, находились под управлением компьютеров, мощность которых в тысячу раз меньше, чем у iPhone 4.

Освоение космоса будет сильно напоминать эпоху Великих географических открытий, и в том числе нас ждут долгие перелеты к неизведанным планетам – чтобы создать в космосе условия для существования людей и улучшить свою жизнь. Эпоха Великих географических открытий началась с открытия Колумбом Нового Света. Путешествия Колумба финансировала Изабелла, королева Испании (точнее, королева Кастилии, поскольку в то время независимой Испании не существовало). Обеспечить флот всем необходимым оказалось нелегко, и, по слухам, для этого королеве даже пришлось заложить свои драгоценности. Сегодня мы понимаем, что это было очень умное, хотя и рискованное, вложение средств – настолько, что некоторые люди утверждают, что история мира началась с 1500 года, ведь только тогда люди узнали, как выглядит Земля целиком.

Сейчас мы находимся на пороге второй эпохи Великих географических открытий. Нам повезло гораздо больше, чем Колумбу, ведь он, даже после долгого плавания по Атлантическому океану, так и не увидел Новый Свет. В то время его, должно быть, одолевали сомнения. А новый мир, который хотим изучить мы, можно увидеть, подняв голову. Просто никто не хочет вложить деньги в эту экспедицию.

Если рассматривать цивилизацию в целом, то она, возможно, будет похожа на младенца, который не в силах выбраться из колыбели без помощи родителей.

Однако – в космической перспективе – родителей у цивилизации людей нет. Человечество – сирота во вселенной, и поэтому мы должны сами о себе позаботиться.

Опубликовано в новогоднем спецвыпуске Modern Weekly,

2012 г.