Текст книги "Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин"

Бутл Роджер
Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин

В книге упоминаются социальные сети Instagram и/или Facebook, принадлежащие компании Meta Platforms Inc., деятельность которой по реализации соответствующих продуктов на территории Российской Федерации запрещена.

Переводчик В. Скворцов

Редактор Е. Лозовик

Руководитель проекта Е. Киричек

Дизайн обложки В. Цанава

Корректоры Н. Казакова, Н. Ерохина

Верстка О. Щуклин

Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

Copyright © Roger Bootle 2019

© Издание на русском языке, перевод, оформление. ООО «Альпина ПРО», 2023

* * *

Предисловие к русскому изданию
О российских разработках в области искусственного интеллекта

Андрей Комиссаров, Директор направления «Развитие на основе данных» Университета 2035

В 2022 году случилась подлинная технологическая революция. Она была связана прежде всего с искусственным интеллектом (ИИ), а конкретно с появлением нейросетей, способных создавать изображения и видео из словесных запросов. Такие нейросети, называемые генеративными, буквально за несколько месяцев принялись вытеснять с рынка представителей привычных профессий – цифровых художников, 3D-моделлеров, монтажеров, дизайнеров и многих других. Под ударом оказались даже фотографы и фотомодели, когда генеративные нейросети научились отрисовывать «людей», неотличимых от реальных. При этом созданные нейросетями изображения не были обременены правами и не нуждались в указании копирайтов или выплате роялти.

В одной из наиболее консервативных, казалось бы, сфер, а именно в области образования, ИИ-революция также не осталась в стороне. Цифровые двойники, неотличимые от оригинала, начали активно выступать по телевидению, читать лекции и даже взаимодействовать с аудиторией. Собираемый в образовательных средах цифровой след в виде аудио на лету транскрибировался в текст одними нейросетями, распознавался другими, анализировался на эмоциональную тональность третьими и сравнивался с содержанием лекций спикера четвертыми. (Кстати, этому посвящена еще одна любопытная книга издательства «Альпина» – «Искусственный интеллект в образовании».)

Алгоритмы на основе искусственного интеллекта становятся обязательным элементом самых разных процессов в экономике страны, и понимание того, как они работают, превращается в одну из основных составляющих цифровой грамотности.

Примечательно, что, в отличие от многих технологических направлений в области ИИ, наша страна не выступает в роли догоняющего, а уверенно предлагает собственные инновационные решения на самом пике прогресса.

В этой книге читатель найдет отдельную главу, посвященную российским разработкам в области ИИ, написанную на основе материалов дирекции сервисов «Развитие на основе данных» Университета 2035 – одного из ведущих исследовательско-внедренческих центров в области искусственного интеллекта.

Предисловие
Искусственный интеллект и экономика

Идея написать эту книгу возникла следующим образом. За последние три года я столкнулся с массой ошеломляющих прогнозов, предупреждавших о надвигающихся экономических и социальных потрясениях, которые вызовут широкое распространение роботов и новые достижения искусственного интеллекта. Вдобавок я встретил за это время множество людей, включая бизнесменов, которые были серьезно обеспокоены этими прогнозами, порой до панического состояния. Похоже, что среди тех, кто по-настоящему озабочен данной проблемой, есть множество людей, сотрудников ведущих фирм, имеющих дело с робототехникой или приложениями искусственного интеллекта. Наверняка их тоже волнует предполагаемое негативное влияние новых интеллектуальных технологий на человечество, но они не осмеливаются публично высказывать подобные опасения из-за возможных последствий для своей карьеры[1]1
  Опубликовано в газете The Daily Telegraph 16 августа 2018 г.


[Закрыть].

Для меня очевидно, что обсуждаемая ситуация может стать одной из величайших экономических проблем нашего времени, которая, кроме всего прочего, обещает породить и крупнейшие социальные пертурбации. Похоже, что она способна оттеснить на второй план остальные наши заботы. Джим Аль-Халили, профессор физики в Университете Суррея и президент Британской научной ассоциации (British Science Association), недавно без обиняков заявил, что быстрое развитие искусственного интеллекта создает для нас проблемы, значительно более серьезные, чем любые из тех, с которыми когда-либо сталкивалось человечество, включая изменение климата, мировую бедность, терроризм, угрозы пандемий и резистентность к антимикробным препаратам[2]2
  Опубликовано в газете The Financial Times 6 сентября 2018 г.


[Закрыть]. Независимо от того, прав ли Аль-Халили насчет, скажем, сравнительной опасности таких вещей, как изменение климата и терроризм, все равно роботы и искусственный интеллект выглядят в его словах явлением откровенно угрожающим. И все же, несмотря на все сказанное выше, многие люди (в том числе, что интересно, и сам профессор Аль-Халили) считают, что интеллектуальные машины обладают исключительно большим потенциалом в пользе, которую приносят человечеству новые технологии.

Итак, независимо от того, является ли это воздействие нового поколения машин разрушительным или благоприятным для нас, я захотел разобраться в том, что именно происходит сейчас с роботами и искусственным интеллектом, и рассмотреть, каковы могут быть последствия их дальнейшего развития и применения. Эта книга стала результатом моих исследований.

Я провел больше года, погрузившись с головой в специальную литературу, и теперь могу сказать, что достаточно хорошо разбираюсь в данной теме. Однако читателей не должно беспокоить то, что приобретенные знания превратили меня в этакого технического всезнайку, которому нет дела до всего остального. Будьте уверены, я не отошел от своих ориентиров. Мне волей-неволей пришлось начать изучение новой области без багажа технических знаний. Должен признаться, на самом деле все было еще хуже. До того, как меня захватило чтение литературы по искусственному интеллекту, мои дети считали меня кем-то вроде воинствующего технофоба. И я уверен, что сотрудники Capital Economics (компании, которую я основал) охотно согласились бы с таким утверждением. Моей единственной компетенцией было знание экономики: всю жизнь я проводил в изучении различных экономических проблем и их последствий.

Это не давало мне каких-либо преимуществ в понимании технических вопросов, лежащих в основе этой темы. Признаюсь, иногда меня совершенно сбивало с толку и даже обманывало многое из того, о чем ведут речь технические эксперты. Сейчас я, пожалуй, готов утверждать, что достиг приемлемого уровня понимания, но до этого я долгими часами корпел над всевозможными научными трудами, изо всех сил пытаясь понять, что именно хотят сказать эксперты в области робототехники и искусственного интеллекта.

Могло ли само отсутствие предварительных технических знаний дать мне какие-то косвенные преимущества? (Недостатки их отсутствия, понятное дело, очевидны.) Не уверен, но возможно. По крайней мере, я находился в том же исходном положении, что и большинство читателей, которые, как и я когда-то, ощущают растерянность, сталкиваясь с этой темой.

Действительно, стоит где-нибудь появиться словам «роботы» и «искусственный интеллект», как мы погружаемся в пучину технической терминологии. Читать о современных технологиях – все равно что окунуться в море священных текстов, доступных пониманию лишь жрецов и книжников, пусть это и жрецы науки. Вы рискуете захлебнуться в потоке вольных трактовок, противоречивых концепций, примитивной экстраполяции, непонятного жаргона, и все это при полном отсутствии связей с реальностью, в замкнутом лабиринте, где единственным светом в конце туннеля представляется аура мнимой неизбежности.

И все-таки в мире технологий сейчас происходит нечто поистине удивительное. Причем дело здесь не только в росте цифровизации или в развитии нанотехнологий, биотехнологий, 3D-печати и прочего, но и в том, куда движется развитие роботов и искусственного интеллекта. В этом коктейле технологической революции из всех ингредиентов выделяется именно искусственный интеллект. Он может стать величайшим благом, но также и наибольшей угрозой как для отдельных людей, так и общества в целом, ибо он, похоже, настолько глубоко проникает во все сферы жизни человечества, что всерьез затрагивает фундаментальные вопросы о том, кем мы, люди, являемся и в кого мы можем превратиться в будущем.

Моя задача состоит не только в том, чтобы выдержать поток технического словоблудия и помочь читателям не утонуть в нем, но, что еще важнее, спасти крупицы истины среди моря гиперболы и невнятной философии, дабы выразить понятным языком возможные перспективы, ожидающие нас на нынешнем отрезке глобальной истории.

Эти перспективы выглядят весьма разнообразными. Эксперты по искусственному интеллекту не ограничиваются в своей работе чисто техническими задачами. По сути, их деятельность распространяется на все сферы экономики, социальную структуру, политику и даже смысл жизни. В процессе исследований и разработок они делают умозаключения, которые одновременно сбивают с толку и пугают всех – от отдельных людей до гигантских корпораций и национальных правительств.

И первые, и вторые, и третьи зачастую пребывают в глубоком замешательстве, не зная, что и думать о проблемах, которые становятся реальными, не говоря уже о том, что делать, непосредственно столкнувшись с ними. Именно здесь могут пригодиться знания, образование и опыт экономиста. По крайней мере, я на это надеюсь. В конце концов, главным судьей должен стать именно читатель.

Необходимо подчеркнуть, однако, что в этой книге вы не найдете полной информации о технических деталях или сути робототехники и искусственного интеллекта. Читателям, которые хотят узнать непосредственно о подобных вещах, придется искать подробные сведения в других местах. Я гораздо больше пишу здесь об экономических последствиях повсеместного внедрения роботизации и искусственного интеллекта. Я пытаюсь объяснить суть этих последствий каждому, на кого они рано или поздно повлияют; иначе говоря, мне хотелось бы внести ясность в вопросы о том, как относиться к этим событиям, какой выбор стоит перед нами при разном развитии событий. Откровенно говоря, эти вопросы настолько важны, что в данном случае «мы» буквально означает «мы все».

Приходится признать, что рассматриваемые здесь вещи так сложны и переплетены со многими реалиями нашей жизни, будущее которых неизвестно, что как бы ни разъясняли эту тему, полной определенности тут быть не может. Когда мы вглядываемся в будущее, разглядеть каждую деталь невозможно, и все же лучшее, что мы можем сделать, – это убрать пелену с глаз и постараться как можно лучше понять, что за образы встают перед нами.

Как и в случае с моими предыдущими книгами, я не думаю, что глубинная неопределенность будущего является оправданием для того, чтобы ничего не говорить и не делать. В конце концов, каждый из нас должен принимать какие-то решения в жизни, а они в значительной степени зависят от взгляда на будущее. Это относится как к частным лицам, так и к бизнесу и правительствам. Мы не можем избежать сомнений, но не можем и откладывать все решения до тех пор, пока все не разъяснится. Как обычно, мы просто должны сделать все, что в наших силах.

В процессе исследования и написания книги я взаимодействовал с людьми, которым хотел бы выразить слова благодарности. Профессор Роберт Алибер, доктор Энтони Куракис, Джулиан Джессоп, Гэвин Моррис, Джордж де Немескери-Кисс, доктор Дэнис О‘Брайен, доктор Алия Самохвалова, Кристофер Смоллвуд, Мартин Уэббер и профессор Джеффри Вуд любезно прочли различные версии исходного текста и дали свои профессиональные комментарии. Я очень благодарен им всем, а также участникам круглого стола в Вене в декабре 2018 г., организованного и проведенного австрийским банком ОeKB.

Мне очень повезло, что среди моих коллег оказалась младший научный сотрудник Монели Холл-Харрис, которая значительно облегчила мою работу по подготовке книги. Многие члены команды Capital Economics любезно предоставили данные и диаграммы, а некоторые сообщили мне важные замечания по содержанию рукописи, в частности Эндрю Кеннингем, Марк Прагнелл, Вики Редвуд, Никита Шах и Нил Ширинг. Кроме того, я благодарен всей компании Capital Economics в целом за разрешение вставить в данную публикацию результаты некоторых исследований, обнародованных ею за последние годы, в частности по темам, рассматриваемым в главе 1.

Мой секретарь Холли Джексон внесла неоценимый вклад в создание печатной версии текста, а также постоянно направляла мою деятельность в Capital Economics и все остальное, с чем я был связан, в нужное русло.

И последнее, но не менее важное: я признателен своим близким за то, что они в очередной раз вынуждены были мириться с моей рассеянностью и поглощенностью работой над новой книгой.

Мне следует также подчеркнуть, что никто из вышеперечисленных лиц или кто-либо другой, упомянутый на последующих страницах, не несет ответственности за те или иные возможные ошибки или упущения, содержащиеся в тексте. Ответственность за это лежит исключительно на авторе.

Роджер Бутл

Лондон, март 2019 г.

Пролог
Эпоха мыслящих машин

«Никакой это не звездный крейсер “Галактика”. Это разрушение Рима в чистом виде!»

Дэвид Гункель[3]3
  См. Gunkel, D. (2018) Robot Rights, Cambridge, MA: The MIT Press, p. ix.


[Закрыть]

«Самым печальным аспектом современной жизни является то, что наука накапливает знания быстрее, чем общество приобретает мудрость».

Айзек Азимов[4]4
  См. Asimov, I. and Shulman, J.A. (1988) Asimov's Book of Science and Nature Quotations, New York: Grove Press.


[Закрыть]

Бурлящий поток энтузиазма по поводу роботов и искусственного интеллекта изливает на нас множество технических подробностей о том, как новая индустриальная революция изменит нашу жизнь. Нужно ли добавлять, что никто не может сказать точно, будет ли очередное преобразование благоприятным или неблагоприятным для человечества. То, что я узнал от компьютерных специалистов, представляет собой смесь двух совершенно разных взглядов: во-первых, это идея о том, что всем нам в будущем угрожают сущие кошмары, включая бедность, потерю самоуважения или даже полное уничтожение человеческой расы, когда разумные, но бесчеловечные роботы – плод нашего собственного интеллекта – захватят власть на планете; во-вторых, это утопическая мечта о том, что нынешняя технологическая революция освободит человечество от тяжелой работы и сделает нас всех богатыми, как Крез.

Рассматривая возможные последствия использования роботов и искусственного интеллекта, многие писатели, обладающие достаточными техническими знаниями, всерьез погружались в изучение макроэкономики и государственной политики. Возьмем, к примеру, слова мыслителя Калума Чейза, долгое время размышлявшего над проблемами искусственного интеллекта:

«…поскольку машины будут эффективнее людей, которых они заменили, и в особенности, поскольку они продолжат совершенствоваться с экспоненциальной скоростью. Но по мере того, как все больше и больше людей станут безработными, последующее падение спроса превысит снижение цен, вызванное [возросшей технологической] продуктивностью. Экономический спад практически неизбежен, и он грозит стать настолько серьезным, что необходимо будет что-то с этим сделать»[5]5
  См. Chace, C. (2016) The Economic Singularity, London: Three Cs Publishing, p. 208.


[Закрыть].

Похожие взгляды были сформулированы ведущими предпринимателями в сфере технологий, включая Билла Гейтса, основателя Microsoft, и целым рядом выдающихся ученых, включая покойного сэра Стивена Хокинга, знаменитого исследователя черных дыр[6]6
  Билл Гейтс заявил по этому поводу следующее: «Сразу во многих видах занятости мы сейчас переступили тот порог, за которым человеческий труд необратимо сменится автоматизированным». И далее: «Результатом может стать одновременное искоренение целых крупных направлений работы, включая складские работы, вождение автомобиля, уборку помещений». Процитировано в газете The Financial Times 25/26 февраля 2017 г. Покойный сэр Стивен Хокинг замечает в том же духе: «Если машины производят все, что нам нужно, результат будет зависеть от того, как вещи будут распределяться. Каждый смог бы наслаждаться роскошной жизнью в свободное время, если справедливо разделить богатство, произведенное машинами; с другой стороны, большинству людей угрожает страшная нищета, если владельцы машин станут успешно лоббировать законы, противодействующие разумному перераспределения богатства. Пока что, похоже, наблюдается тенденция ко второму варианту, при котором развитие технологий приводит к постоянно растущему неравенству». Процитировано у Барри Браунстайна (Barry Brownstein) в программе «CapX» 21 марта 2018 г.


[Закрыть].

Тем не менее целый ряд прагматически настроенных специалистов (по общему признанию, в основном из числа экспертов по искусственному интеллекту), похоже, уверены в том, что угрозы подобного рода явно преувеличены. Экономические и социальные изменения, с которыми мы сталкиваемся (и столкнемся в будущем) в результате распространения роботов и искусственного интеллекта, либо ничем не примечательны, либо окажутся продолжением того, что мы испытываем непрерывно со времен первой промышленной революции, и будут весьма полезны для человечества. Некоторые даже полагают, что призрак злобного торжества искусственного интеллекта, разбуженный малообразованными лжепророками, появился лишь в результате безобразно раздутой шумихи, напоминающей известный скандал прошлого вокруг предполагаемой компьютерной ошибки 2000 г.,[7]7
  Ошибка, о которой идет речь, – так называемая ошибка Y2K, предполагаемый сбой в компьютерных системах в момент перехода 1999 г. в 2000 г., в результате чего должно было «обнулиться» множество данных, имеющих принципиальное значение в мировом масштабе. Ничего подобного на самом деле не произошло. – Прим. перев.


[Закрыть] который в конечном счете оказался совершенно неоправданным и быстро исчез без следа.

Пять взглядов на наше будущее

Так что, мягко говоря, перспективы нашего будущего – это нерешенный вопрос. Противоречивые взгляды на то, как будет выглядеть человеческая жизнь в условиях полного доминирования искусственного интеллекта и роботов в промышленности и в быту, можно кратко резюмировать следующим образом:

• ничего особенного;

• в корне плохо;

• очень хорошо;

• просто катастрофа;

• перспектива вечной жизни.

Основная цель данной книги – найти ориентиры среди множества вариантов развития общества. Я не могу и не должен пытаться превозносить собственную точку зрения еще до начала спора, поэтому оставляю обсуждение первых трех возможных перспектив для следующих глав. Однако мне необходимо кое-что вкратце сказать о четвертом и пятом пункте из вышеприведенного списка.

Любому, кто не знаком с литературой по обсуждаемой теме, формулировки, которые я выбрал для описания четвертой и пятой концепции будущего, а именно «катастрофические» и «перспектива бессмертия», покажутся преувеличенными. Однако каждый, кто когда-либо копался в такой литературе, не увидит в моих словах решительно никакой гиперболы. Технари утверждают, что как только искусственный интеллект достигнет уровня развития человека, появление мыслящих машин со сверхчеловеческими способностями окажется практически неизбежным. Цифровой мозг можно «клонировать» без ограничений, и в отличие от человеческого мозга его производительность можно ускорять и ускорять…

Это наводит на мысль, что революция, вызванная изобретением искусственного интеллекта, станет, возможно, последним достижением человечества. Как только мы добьемся появления интеллектуальных устройств, превосходящих человеческий разум, у искусственного интеллекта появится возможность произвести на свет еще более великий разум, который неподвластен нашему пониманию, и мы не сможем контролировать его. И так далее и тому подобное. Для этих новых форм интеллекта мы будем не только неполноценными, но и бесполезными существами, возможно, даже обузой. Почему бы «им» тогда просто не уничтожить нас? Покойный сэр Стивен Хокинг сказал в 2014 г. во время своего интервью на BBC: «Разработка полноценного искусственного интеллекта может означать конец человечества»[8]8
  Об этом сообщает Рори Селлан-Джонс (Rory Cellan-Jones), корреспондент BBC, 2 декабря 2014 г.


[Закрыть].

В том же духе выдающийся кембриджский ученый лорд Мартин Рис, королевский астроном[9]9
  «Королевский астроном» – традиционное звание директора Гринвичской астрономической обсерватории (Royal Greenwich Observatory) в Великобритании; вышло из официального употребления в 1972 г., но продолжает употребляться неформально. – Прим. перев.


[Закрыть], назвал момент, когда искусственный интеллект достигнет сверхразумного состояния, «нашим последним часом». Он в принципе считает период доминирования человеческого разума в мире лишь кратковременным явлением[10]10
  Он пишет: «…при любом определении понятия „мышление“, объем и интенсивность умственной деятельности, на которые способен органический мозг человеческого типа, в далеком будущем станут ничтожными по сравнению с возможностями искусственного интеллекта. Кроме того, биосфера Земли, где органическая жизнь развивалась, по сути, в тепличных условиях, для продвинутого искусственного интеллекта не будет оставаться, как для нас, единственной благоприятной средой. Трудно поспорить с тем, что предпочтительной ареной для его развития скорее станет межпланетное и межзвездное пространство, где производители роботов будут иметь самые неограниченные возможности для строительства и где небиологический мозг сможет развивать идеи, далеко выходящие за рамки нашего воображения, подобно тому, как сегодняшняя теория струн непостижима, скажем, для мышей». Опубликовано в газете The Daily Telegraph 23 мая 2015 г.


[Закрыть].

Гипотетический момент, в который некая форма искусственного интеллекта станет умнее людей, часто обозначается в литературе как точка «сингулярности». Как только (и если) это произойдет, последствия такого техногенного взрыва, скорее всего, затронут жизнь огромного числа людей. Мюррей Шанахан, профессор когнитивной робототехники в Империал-колледже в Лондоне, передал взгляды целого ряда экспертов по искусственному интеллекту в цитате, которую мы приводим ниже:

«Можно провести следующую аналогию: сингулярность в истории человечества имела бы место в том случае, если бы экспоненциальный технический прогресс привел к драматическим изменениям в обществе, вследствие которых человеческие отношения в нашем сегодняшнем понимании подошли бы к концу. Признанные социальные институты – экономика, правительство, закон, государство – не смогли бы уцелеть в их нынешнем виде. Даже самые элементарные человеческие ценности – неприкосновенность жизни, стремление к счастью, свобода выбора – отменились бы сами собой»[11]11
  См. Shanahan (2015).


[Закрыть].

Тем не менее мир сингулярности не обязательно должен оказаться столь недружелюбным для человечества. Напротив, для Рэя Курцвейла, «верховного жреца» энтузиастов искусственного интеллекта, очевидно, что все получится как раз наоборот. Он предвкушает слияние между людьми и искусственным интеллектом, позволяющее нам успешно «загрузить» самих себя в нематериальные формы бытия и тем самым обеспечить людям вечную жизнь[12]12
  Курцвейл – фигура яркая и неоднозначная, но он далеко не одинок в своих прогнозах. Подобное же видение мы находим у Джона Брокмана. Он пишет: «Если наше будущее будет долгим и процветающим, нам необходимо разработать системы искусственного интеллекта в надежде преодолеть планетарные жизненные циклы в некой гибридной форме между биологическими существами и машинами. Так что для меня в долгосрочной перспективе не стоит вопрос типа „или мы, или они“». См. Brockman, J. (2015) What to Think About Machines That Think: Today's Leading Thinkers on the Age of Machine Intelligence (New York: Harper Collins Publishers), p. 15.


[Закрыть]. (Предполагается, что такой взгляд на будущее должен показаться нам более позитивным, верно? Не знаю, не уверен. Может быть, вам понравится, но лично меня перспектива быть навечно загруженным в какую-то форму искусственного интеллекта не очень привлекает.)

Для людей вроде меня, даже без всякой перспективы загрузки и вечной жизни, познакомиться с возможностями искусственного интеллекта и судьбой человечества после наступления сингулярности – значит окунуться в мир научной фантастики. Тем не менее в эпилоге я продемонстрирую, что не отвергаю такие идеи. Да и как я мог пройти мимо них? Если уж некоторые из величайших научных умов нашего времени, такие как сэр Стивен Хокинг и лорд Рис, восприняли подобные перспективы всерьез, едва ли я имею моральное право просто их проигнорировать.

И все-таки я глубоко осознаю разрыв между гипотетическим миром сингулярности, выглядящим как научная фантастика, и современными достижениями робототехники и искусственного интеллекта, которые влияют на экономику здесь и сейчас. Нынешние изменения в данной области требуют правильной реакции как со стороны компаний, так и со стороны частных лиц, преследующих свои собственные интересы, не говоря уже о правительствах, смыслом деятельности которых является достижение и поддержание общественного благополучия.

Как перспектива сингулярности должна влиять на эти решения и вообще должна ли? Ответ на это, среди прочих, формулирует Джон Брокман, «культурный импресарио», связанный со многими ведущими мировыми учеными и мыслителями в области искусственного интеллекта. Он полагает, что на текущие решения всех участников нынешних событий грядущие революционные изменения могут оказать заметный эффект. В частности, Брокман пишет: «Не нужно быть сверхразумным интеллектуальным существом, чтобы понять, что мчаться неподготовленным, сломя голову, навстречу крупнейшему событию в истории человечества, было бы просто глупо»[13]13
  См. Brockman, J. (2015) What to Think about Machines That Think, New York: HarperCollins, pp. 45–46.


[Закрыть].

Ему вторит Стюарт Рассел, профессор компьютерных наук Калифорнийского университета, заявляющий, что не готовить себя к эпохе сингулярности было бы самонадеянным или даже откровенно безответственным решением. Расселу принадлежит следующая цитата: «Если бы мы получили радиосигнал от более продвинутой инопланетной цивилизации, сообщающей, что они прибудут сюда через 60 лет, сомнительно, чтобы вы просто пожали плечами и сказали: “Эх, еще 60 лет дожидаться…”. Особенно если бы у вас были дети»[14]14
  Процитировано в Brockman 2015, p. 362.


[Закрыть].

На самом деле, я категорически не согласен с этой точкой зрения. Я бы не стал спешить с принятием серьезных решений после получения радиосигнала. Во-первых, я захотел бы убедиться, что сообщение действительно пришло от инопланетной цивилизации, и мне было бы интересно узнать, как звучит оригинальная запись сигнала, чтобы заранее знать, как правильно анонсировать его действия или прогнозировать события. Но, если бы это было первое, совершенно неожиданное сообщение, конечно, такой записи вероятно бы не было, что само по себе настораживает. В этой ситуации я бы, например, сразу вспомнил, что 30 октября 1938 г. знаменитая трансляция Орсоном Уэллсом радиоверсии антиутопического романа Герберта Уэллса «Война миров», в котором прозвучало сообщение, что пришельцы с Марса якобы вторглись в Нью-Джерси, напугала тысячи американцев и вызвала всеобщую панику.

Затем, если бы я решил, что этому посланию можно верить (разумеется, исключив из рассмотрения обоих Уэллсов, Орсона и Герберта), то задался бы вопросом о том, что именно мы можем сделать. Стоит ли готовиться к войне или планировать дружескую встречу? И еще: предположим, что в сообщении сказано, что инопланетяне прибудут через 200 лет, или даже через 500 – короче говоря, через какое-то время, пусть бы и через неделю. То, что мы должны сделать, будет радикально отличаться в зависимости от того, насколько близким или отдаленным предполагается появление космических пришельцев.

Это я пишу к тому, что люди, которые утверждают, что сингулярность уже близка, не являются всезнающими существами из какой-то более развитой, чужой цивилизации; они скорее приверженцы «культа сингулярности» здесь, на Земле. И несмотря на весь их энтузиазм или даже принципиальную возможность осуществления этой концепции существует немало веских аргументов (которые я рассмотрю в конце книги) в пользу того, что они ошибаются (и расскажу почему).

Большое значение здесь имеют временные масштабы. Верующий в возрастающую и непреодолимую мощь искусственного интеллекта лорд Рис, которого я цитировал ранее, предполагает, что машины, вероятно, захватят власть «в течение нескольких столетий». Допустим, он совершенно прав; однако и в этом случае если наступление эпохи сингулярности отдалено от нас настолько, насколько лорд Рис считает вероятным, то вполне возможно, что человечество погибнет гораздо раньше, например, от последствий ядерной войны, падения гигантского астероида, пандемии или бог знает от чего еще. Предположим однако, что нам все-таки удастся дожить до того пафосного момента.

В космическом масштабе несколько сотен лет могут выглядеть буквально мгновением, но для людей, ответственных за разработку и проведение в жизнь государственной политики, не говоря уже о каждом из нас в отдельности, этот срок может показаться бесконечностью. Внимание общества, направленное исключительно на проблему сингулярности, сбило бы с толку людей, принимающих решения, касающиеся повседневных проблем здесь и сейчас. Более того, эти повседневные проблемы, вероятно, будут оставаться с нами долгие годы. На самом же деле «повседневное» может легко сделаться «вековым» и даже «вечным», растянутым на тысячелетия. Формировать нашу жизнь и общественную политику сейчас так, чтобы подготовиться к сингулярности в какой-то неопределенный момент в будущем, было бы крайне дорогостоящим решением, чтобы не сказать – настоящим безумием. Хуже того, нерешенные сегодняшние проблемы легко могут заслонить в перспективе очевидные достижения роботов и искусственного интеллекта, делая нас неподготовленными и уязвимыми к тому, что находится непосредственно перед нашими глазами.

Итак, в предисловии к своей книге я принимаю одно важное решение. Обсуждение мира сингулярности со всеми ее последствиями я оставляю на самый конец. (Вы, если хотите, можете считать, что именно тогда случится и все прочее, скажем, Апокалипсис и осуществление пророчества о вечной жизни.) Все остальное в книге относится к предшествующему, точнее, попросту, к теперешнему миру, в котором роботы и искусственный интеллект хоть и становятся более значимыми в технике и быту, но человеческая раса еще не порабощена ими и тем более не уничтожена. Да, и еще – мы не загружены в киберпространство.

Сказанное вовсе не означает, что мы должны преуменьшать и тем более игнорировать изменения, которые роботы и искусственный интеллект производят в экономике и общественных отношениях. Эти изменения, конечно, будут весьма существенными. Мы можем идти – или не идти – навстречу сингулярности, но, несомненно, мы движемся в сторону экономики искусственного интеллекта. Эта книга о том, что означает такая экономика для человечества.