Текст книги "Будущее без работы. Технология, автоматизация и стоит ли их бояться"

Искусственный интеллект для многих первопроходцев этой области всегда был лишь механическим средством достижения этой человеческой цели. Как выразился влиятельный философ Джон Сёрл, единственная цель ИИ – это «мощный инструмент в изучении разума». Хилари Патнэм, еще один выдающийся философ, полагал, что область искусственного интеллекта должна оцениваться исключительно по тому, научила ли она нас чему-нибудь важному… о том, как мы думаем»[170]170
  Putnam H. Much Ado About Not Very Much // Daedalus. 1988. № 1 (117). С. 269–281.


[Закрыть]. Вот почему многие исследователи искусственного интеллекта в то время считали себя учеными-когнитивистами, а вовсе не компьютерщиками[171]171
  См.: Haugeland J. Artificial Intelligence. С. 5; Boden M. Philosophy of Artificial Intelligence. Oxford: Oxford University Press, 1990. С. 1.


[Закрыть]. Они воображали, что работают в области гораздо более масштабного проекта – понимания человеческого мозга[172]172
  Там же.


[Закрыть].

Однако сейчас приоритеты меняются. По мере ускорения технического прогресса стало ясно, что подражание человеческому интеллекту больше не является единственным путем для развития способностей машин. Сейчас многие исследователи заинтересованы не столько в понимании человеческого интеллекта, сколько в создании хорошо функционирующих машин. Более того, исследователи, которые по-прежнему хотят разобраться в человеческом интеллекте, привлекаются для достижения более прагматических целей. Возможности машин, созданных прагматиками, вызвали интерес у крупных технологических компаний – Google, Amazon, Apple, Microsoft и других. У них есть доступ к огромным объемам данных и вычислительным мощностям, и на них работает масса талантливых исследователей, поэтому эти компании взяли на себя ведущую роль в развитии ИИ, задавая рамки этой области и меняя ее приоритеты. Должно быть, многим из них стремление к пониманию человеческого интеллекта все больше кажется эзотерической деятельностью ученых-фантазеров. Чтобы не выпадать из контекста, многие исследователи (даже те, кто склоняется к пуризму) должны все теснее сотрудничать с этими компаниями и учитывать их коммерческие амбиции.

Возьмем, к примеру, DeepMind – британскую компанию, разработавшую AlphaGo. В 2014 году Google приобрел ее за шестьсот миллионов долларов, и теперь в ней работают ведущие умы в области ИИ: их переманивают из ведущих научных отделов такими зарплатами, которые заставили бы краснеть их бывших коллег, – в среднем по 345 тысяч долларов в год на одного сотрудника[173]173
  Metz C. A.I. Researchers Are Making More Than $1 Million, Even at a Nonprofit // New York Times. 2018. 19 апреля.


[Закрыть]. В заявлении о целях компании говорится, что она пытается «понять интеллект», что на первый взгляд предполагает, что она может быть заинтересована в разгадке тайн человеческого мозга. Но, приглядевшись повнимательнее к ее реальным достижениям, вы увидите, что на деле она придерживается совершенно иной цели. Ее машины, такие как AlphaGo, являются «разумными» только в том смысле, что они обладают большими способностями, в некоторых случаях даже удивительными – но они не думают и не рассуждают, как люди.

Вспомним и о виртуальных ассистентах, таких как Алекса от компании Amazon, Сири от Apple и Кортана от Microsoft. Мы можем задавать им простые вопросы, как если бы мы общались с людьми, и они отвечают относительно убедительным человеческим голосом (в 2018 году Google опубликовала демонстрационную запись Duplex, своего виртуального ассистента, который позвонил в парикмахерскую, чтобы записаться на прием, – администратор понятия не имела, что она разговаривает с машиной, настолько реалистичной была ее интонация и «мычание» в трубку)[174]174
  Leviathan Y., Matias Y. Google Duplex: An AI System for Accomplishing Real-World Tasks over the Phone. 2018. 8 мая. URL: https://ai.googleblog.com/ (дата обращения: 08.2018).


[Закрыть]. Однако какое бы сильное впечатление ни производили подобные системы и как бы они ни походили на людей, они не проявляют интеллекта, подобного человеческому. Их внутренняя работа не похожа на работу мозга. Они не обладают сознанием. Они не думают, не чувствуют и не рассуждают так, как люди.

Уместно ли тогда вообще называть эти машины «разумными»? Пожалуй, не совсем. В большинстве случаев мы полагаемся на это слово или его синонимы, потому что других подходящих терминов у нас нет. Но, поскольку мы в основном используем эти слова, говоря о людях, пожалуй, неправильно использовать их и для рассуждений о машинах. Философы назвали бы это «категориальной ошибкой», под которой подразумевается использование слова, предназначенного для одной категории вещей, для обозначения другой: так же, как мы не ожидаем, что морковка будет говорить, а мобильный телефон – сердиться, нам не стоит ожидать, что машина будет обладать «интеллектом» или «разумом». А как еще мы можем их описать? Когда область искусственного интеллекта только зарождалась и у нее еще не было названия, высказывалось предложение назвать эту область исследований «вычислительной рациональностью». Этот термин может быть не столь захватывающим или провокационным, как «искусственный интеллект», но он, вероятно, лучше подходит, поскольку именно это и делают эти машины: они используют вычислительную мощность для поиска в огромном океане возможных действий наиболее рационального.

Снизу вверх, а не сверху вниз

Во многих отношениях нынешняя прагматическая революция в сфере искусственного интеллекта напоминает другую интеллектуальную революцию, произошедшую в последние полтора столетия и сформировавшую наше представление об интеллектуальных возможностях другой машины – то есть человека.

Ведь до настоящего времени люди, вооруженные своим интеллектом, остаются самыми способными машинами в мире. Долгое время преобладало религиозное объяснение этих способностей: они исходили от Бога – от чего-то еще более разумного, чем мы, создавшего нас по своему образу и подобию. Как, в конце концов, могла существовать такая сложная машина, как человек, если ее не создало нечто умнее нас? Уильям Пейли, теолог XVIII века, предлагал представить себе, как мы идем по полю. Если мы наткнемся на камень, лежащий в траве, говорил он, мы можем решить, что он был там всегда, но если мы найдем наручные часы, мы так не подумаем. Такое сложное устройство, как часы, не могло существовать здесь с начала времен, утверждал он. В какой-то момент талантливый часовщик должен был придумать и изготовить его. Все сложные вещи, которые мы находим в природе, полагал Пейли, подобны этим часам: единственный способ объяснить их происхождение – это найти их создателя, часового мастера, который, находясь вне поля нашего зрения, как предполагает, так и располагает.

Сходство между этими богословами и пуристами ИИ поразительно. И те, и другие интересовались происхождением способностей машин, первые – человеческих, вторые – созданных человеком. Те и другие считали, что эти машины должен намеренно создавать разум, похожий на их собственный, – так называемый разумный проектировщик. Для теологов это был Бог, для пуристов ИИ – они сами. И те, и другие были убеждены, что творения должны быть подобны своему создателю. Как в Ветхом Завете Бог создал человека по своему образу и подобию, исследователи ИИ пытались построить свои машины – по своему[175]175
  См.: Paley W. Natural Theology. Oxford: Oxford University Press, 2008; Genesis 1:27. URL: http://biblehub.com/genesis/1–27.htm.


[Закрыть].

В общем, и теологи, и специалисты в области ИИ считали, что выдающиеся способности могут возникнуть только из чего-то, что напоминает человеческий интеллект. По словам философа Дэниела Деннета, и те и другие считали, что компетенции могут возникнуть только из понимания, что лишь разумный процесс может создать исключительно способные машины[176]176
  Эти параллели и доводы, схожие с моими, можно прочитать в: Dennett D. From Bacteria to Bach and Back. London: Allen Lane, 2017; Dennett D. A Perfect and Beautiful Machine: What Darwin’s Theory of Evolution Reveals About Artificial Intelligence // Atlantic. 2012. 22 июня. Пока я в течение ряда лет формулировал мысли, находился под влиянием рассуждений Деннета о связях между эволюцией, естественным отбором и машинным обучением.


[Закрыть].

Однако сегодня мы знаем, что богословы ошибались. Люди и их способности возникли не потому, что их слепил кто-то умнее. В 1859 году Чарльз Дарвин доказал обратное: творческая сила – это восходящий процесс бессознательного замысла. Дарвин назвал это «эволюцией путем естественного отбора», простейшее объяснение которой требует от вас принять только три вещи: во-первых, что между всеми живыми существами есть незначительные различия; во-вторых, что некоторые из этих различий могут быть благоприятны для их выживания; и в-третьих, что эти различия передаются по наследству. Не было никакой необходимости в разумном проектировщике, непосредственно формировавшем события; только эти три факта могли объяснить все проявления замысла в естественном мире. Вариации могут быть крошечными, а преимущества – ничтожными, но, если оставить мир в покое на длительное время, эти вариации, ничтожные в каждом конкретном моменте, будут накапливаться в течение миллиардов лет и создадут ослепительную сложность. По выражению Дарвина, даже самые «сложные органы и инстинкты» были «усовершенствованы не при помощи средств, превосходящих человеческий разум, хотя и аналогичных ему, а путем кумуляции бесчисленных незначительных вариаций, каждая из которых была полезна для ее обладателей»[177]177
  Дарвин Ч. Происхождение видов путем естественного отбора // Сочинения. Т.3. М.: Издательство АН СССР, 1939. С. 635.


[Закрыть].

Идеи естественного отбора и разумного замысла кардинально различаются. «Настоящий часовщик способен к предвидению, – писал Ричард Докинз, один из крупнейших исследователей Дарвина. – Он разрабатывает шестеренки и пружины и продумывает их взаимное расположение, держа в уме будущую цель. Естественный отбор – слепой, бессознательный, автоматический процесс, открытый Дарвином <…> не держит в уме никакой цели. У него нет ни ума, ни глаза ума. Он не строит планов на будущее. У него нет никакого видения, никакого предвидения, вообще никакого зрения. Если и можно сказать, что в природе он играет роль часовщика, то часовщик этот – слепой»[178]178
  Докинз Р. Слепой часовщик. Как эволюция доказывает отсутствие замысла во Вселенной. М.: АСТ: CORPUS, 2015. С. 10.


[Закрыть].

Часовщик из рассказа Пейли обладал совершенным зрением и предвидением, но дарвиновский процесс естественного отбора не имеет ничего подобного. Он не обращает внимания на то, что делает, и бездумно натыкается на сложность на протяжении миллиардов лет, а не сознательно создает ее в одно мгновение.

Прагматическая революция в ИИ требует от нас аналогичного поворота в рассуждениях о том, откуда берутся способности созданных человеком машин. Сегодня наиболее способные системы – не те, что спроектированы сверху вниз разумными человеческими существами. Подобно эволюции, открытой Дарвином столетие назад, замечательные способности могут возникать постепенно из слепых, бездумных, восходящих процессов, которые совсем не похожи на человеческий интеллект[179]179
  Подобный довод выдвигает Дэниел Деннет в работе. См.: Dennett D. A Perfect and Beautiful // From Bacteria to Bach.


[Закрыть].

Глава 4. Недооценка Машин

В 1966 году, во время первой волны искусственного интеллекта, исследователь Джозеф Вайзенбаум объявил о создании ELIZA, первого в мире чат-бота – эта система «сделает возможными определенные виды естественного общения между человеком и компьютером»[180]180
  Weizenbaum J. ELIZA – A Computer Program for the Study of Natural Language Communication Between Man and Machine // Communications of the ACM. 1966. № 1 (9). С. 36–45. Система получила название в честь цветочницы Элизы Дулитл из пьесы Джорджа Бернарда Шоу. Изначально она говорила с сильным лондонским акцентом, но постепенно «училась говорить все лучше и лучше» и в результате смогла быстро войти в высшее столичное общество.


[Закрыть]. Сначала Элиза была предназначена выполнять роль психотерапевта: «пациент» будет ей что-то говорить, а система – комментировать высказывания, из чего сложится беседа. Однако Вейценбаум не хотел, чтобы его воспринимали всерьез. Он, казалось, подшучивал над тем, насколько предсказуемы психотерапевты, повторяющие с глубокомысленным видом заявления пациента. Элиза, писал он, была просто «пародией».

Но как только Элиза заработала, события приняли неожиданный оборот. Система произвела на своих пользователей гораздо более сильное впечатление, чем ожидал Вейценбаум. Некоторые практикующие психиатры, ознакомившиеся с ней, полагали, что она сможет быть «готова к клиническому применению» после небольшого усовершенствования. Когда Вейценбаум пригласил свою собственную секретаршу, прекрасно знавшую, как устроена Элиза, испытать систему, после короткого начального обмена репликами она повернулась к нему и попросила покинуть комнату: она хотела провести некоторое время наедине с машиной. Вейценбаум был потрясен. Несколько лет спустя он писал, что этот опыт «заразил» его «фундаментальными вопросами, [от которых] я, вероятно, никогда не избавлюсь… о месте человека во Вселенной»[181]181
  См. полный рассказ об Элизе и последствиях ее применения в: Weizenbaum J. Computer Power and Human Reason. San Francisco: W. H. Freeman, 1976.


[Закрыть].

Вейценбаум не ожидал от Элизы многого, потому что знал, что, хотя внешне эта система может казаться разумной, на самом деле она не мыслит и не считает себя психотерапевтом. «Я думал, что один человек может помочь другому научиться справляться со своими эмоциональными проблемами только в том случае, если помощник сам участвует в этих переживаниях», – писал он[182]182
  Там же. С. 6.


[Закрыть]. Но, отвергнув свою систему на этих основаниях, Вейценбаум недооценил возможности того, что создал.

Когда несколько десятилетий спустя началась революция прагматиков и исследователи стали систематически создавать машины, работающие совсем не так, как люди, ошибка Вейценбаума стала повторяться гораздо чаще и приводить к более серьезным последствиям. Исследователи искусственного интеллекта, экономисты и многие другие специалисты снова и снова попадали в ловушку возможностей новых машин, которые больше не создавались ради копирования какой-то якобы незаменимой черты человеческого интеллекта.

Разочарование

Влиятельная группа критиков из числа исследователей ИИ полагает, что революция прагматиков скорее стала источником разочарования, чем поводом для торжества. Возьмем их реакцию на шахматный триумф Deep Blue над Гарри Каспаровым. Ученый и писатель Дуглас Хофштадтер назвал эту победу «переломным событием», но счел ее чем-то, «не имеющим отношения к тому, что компьютеры становятся разумными»[183]183
  Цит. по: Weber B. Mean Chess-Playing Computer Tears at Meaning of Thought // New York Times. 1996. 19 февраля.


[Закрыть]. Машина IBM вызывала у него «слабый интеллектуальный интерес», потому что «грубый способ работы шахматных программ не имеет ни малейшего сходства с подлинным человеческим мышлением»[184]184
  Hofstadter D. Just Who Will Be We, in 2493? / Indiana University, Bloomington. 2003. Долгая история разочарования, испытанного Хофштадтером, блестяще описана в: Somers J. The Man Who Would Teach Machines to Think // Atlantic. 2013. Ноябрь.


[Закрыть]. Философ Джон Сёрл расценил Deep Blue как «отказ от искусственного интеллекта»[185]185
  «Единственным исключением являются вещи вроде Deep Blue, которые обладают огромной вычислительной мощностью, но не имеют вообще никакого отношения к искусственному интеллекту. Они не пытаются подражать людям на уровне обработки информации. <…> В определенным смысле Deep Blue – это отказ от искусственного интеллекта, потому что эта программа говорит не „мы попытаемся сделать то, что делают люди“, а „мы просто попытаемся превзойти их при помощи грубой силы“». Полная цитата содержится в книге: Feigenbaum G. Conversations with John Searle. Libros En Red, 2003. С. 57, 58.


[Закрыть], а Каспаров с ним фактически согласился, обозвав машину «будильником за десять миллионов долларов»[186]186
  Kasparov G. The Chess Master and the Computer // New York Review of Books. 2010. 11 февраля.


[Закрыть].

Или возьмем Watson, другую компьютерную систему IBM. Ее претензия на известность заключается в том, что в 2011 году она появилась на американской шоу-викторине Jeopardy! и победила двух чемпионов. Хофштадтер и в этом случае согласился, что у системы была «впечатляющая» производительность, но добавил, что она «абсолютно пустая»[187]187
  Цит. по: Herkewitz W. Why Watson and Siri and Not Real AI // Popular Mechanics. 2014. 10 февраля.


[Закрыть]. Сёрл в редакционной статье Wall Street Journal едко заметил: «Watson не поняла, что выиграла в Jeopardy!»[188]188
  Searle J. Watson Doesn’t Know It Won on “Jeopardy!” // Wall Street Journal. 2011. 23 февраля.


[Закрыть] Машина не захотела позвонить родителям, чтобы рассказать, как хорошо выступила, или сходить в паб, отпраздновать победу с друзьями.

Как мы увидели в предыдущей главе, Хофштадтер, Каспаров, Сёрл и все те, кто делает подобные наблюдения, правы. Несмотря на бесконечные заявления компаний и обсуждения в средствах массовой информации «искусственного интеллекта» или «машинного интеллекта», то, что создается сейчас, не является реальным интеллектом. Такие пуристы, как Сёрл и Хофштадтер, хотели использовать исследования ИИ, чтобы решить загадку интеллекта человеческого, разгадать тайну сознания и понять разум, – и все же самые способные современные машины мало что могут сказать о том, как функционирует человек. Неудивительно, что они разочарованы.

Само по себе это ощущение небеспочвенно. Проблемы начинаются, когда разочарование переходит в пренебрежение. Некоторые критики, по-видимому, считают, что, раз новейшие машины мыслят не так, как разумные люди, они не представляют собой ничего особенного – и это приводит их к систематической недооценке возможностей машин.

Такой подход объясняет, почему критики часто оказывались в ловушке паттерна интеллектуального уклонения. Когда автоматизируется какая-то задача, которую, по их мнению, могут выполнять только люди, они отвечают, что эта задача не была точным отражением человеческого интеллекта, и указывают на совершенно другую задачу, которая еще не автоматизирована, утверждая, что именно в ней и заключается суть человеческого интеллекта. Религиозные лидеры иногда подвергаются критике за то, что определяют «Бога» как нечто, что наука в настоящее время не может объяснить, как «Бога белых пятен»: Бог был силой, создавшей ночь и день, пока астрономия не смогла объяснить их; Бог был создателем всех живых существ, пока не оказалось, что они – результат эволюции. Здесь мы имеем дело с подобным текучим стилем определения, «интеллектом белых пятен», где разум определяется как то, что машины в настоящее время не могут сделать. Осознание этой ловушки необязательно защищает вас от попадания в нее. Хофштадтер, например, был хорошо осведомлен об этом явлении и остроумно определил его как «теорему» области ИИ: «Искусственный интеллект – это то, что еще не было создано»[189]189
  Hofstadter D. Gödel, Escher, Bach: An Eternal Golden Braid. London: Penguin, 2000. С. 601: «Существует теорема о прогрессе в сфере искусственного интеллекта: когда удается сделать программу, соответствующую некой функции разума, люди перестают ее считать важной составляющей „реального мышления“. Ядро разума непременно находится в следующей задаче, которую еще не перевели в программу. Эту теорему впервые изложил мне Ларри Теслер, поэтому я называю ее теоремой Теслера: „искусственный интеллект – это то, что еще не было сделано“».


[Закрыть]. И все же, описав это заблуждение, он сам поддался ему.

Еще в 1979 году, задавшись вопросом, появится ли когда-нибудь шахматная программа, которая «сможет победить кого угодно», Хофштадтер твердо ответил: «Нет. Могут появиться программы, способные обыграть в шахматы кого угодно, но они будут не только шахматными программами. Это будут программы общего интеллекта, и они будут такими же темпераментными, как и люди. „Хочешь сыграть в шахматы?“ – „Нет, мне надоели шахматы. Давайте поговорим о поэзии“. Возможно, именно такой диалог вы могли бы вести с программой, способной победить всех»[190]190
  Там же. С. 678.


[Закрыть]. Другими словами, Хофштадтер считал, что для успешной шахматной системы необходим человеческий интеллект. Почему? Потому что он был пуристом и считал, что «игра в шахматы внутренне опирается на ключевые аспекты человеческой природы», такие как «способность интуитивно отделять зерна от плевел, способность проводить тонкие аналогии, способность к ассоциативным воспоминаниям»[191]191
  Hofstadter D. Staring Emmy Straight in the Eye – And Doing My Best Not to Flinch // Virtual Music: Computer Synthesis of Musical Style / ed. David Cope. MIT Press, 2004. С. 34.


[Закрыть].

Однако, как мы уже видели, Deep Blue доказал, что это заблуждение: для блестящей игры в шахматы не требуются ни волшебство, ни интуитивное умение отделять зерна от плевел. Но вместо того чтобы признать ошибку, Хофштадтер прибег к уловке «интеллекта белых пятен». Эти машины «просто обгоняют людей в определенной умственной деятельности, которая, как мы думали, требует интеллекта, – писал он после того, как Deep Blue выиграла свою первую игру против Каспарова. – Боже мой, раньше я думал, что в шахматах нужно думать. Это не значит, что Каспаров не является глубоким мыслителем, просто при игре в шахматы вы можете обойтись без глубоких размышлений, как вы можете летать, не хлопая крыльями»[192]192
  Weber B. Mean Chess-Playing Computer Tears at Meaning of Thought.


[Закрыть]. Изменив свою точку зрения, Хофштадтер стал отрицать, что способности, необходимые для игры в шахматы, в конце концов, являются «существенной составляющей» человеческого интеллекта[193]193
  Впрочем, несколько лет спустя он уступил, остроумно заметив, что ему «пришлось испить чашу смирения» в связи с его предсказаниями о шахматах и признать ошибку: Hofstadter D. Staring Emmy Straight in the Eye – And Doing My Best Not to Flinch. С. 35.


[Закрыть].

Или возьмем самого Каспарова, главного героя этой истории о шахматного противостоянии человека и машины. В книге «Человек и компьютер», где он рассказывает о матчах с Deep Blue, он тоже определяет эту ловушку: «Едва придумав способ научить компьютер выполнению какой-то „интеллектуальной“ задачи – например, игре в шахматы на уровне чемпиона мира, мы тут же приходим к мысли, что это не является настоящим проявлением интеллекта»[194]194
  Каспаров Г. Человек и компьютер. Взгляд в будущее. М.: Альпина Паблишер, 2018. С. 328.


[Закрыть]. И ровно так он сам и поступил. За семь лет до поединка с Deep Blue Каспаров с апломбом заявил, что машина никогда не сможет победить такого человека, как он, поскольку она никогда не сможет быть таким человеком, как он: «Если компьютер может победить чемпиона мира, то он может читать лучшие книги в мире, писать лучшие пьесы и знать все об истории, литературе и людях. Но это невозможно»[195]195
  Цит. по: Leithhauser B. Kasparov Beats Deep Thought // New York Times. 1990. 14 января.


[Закрыть]. Тогда для Каспарова победа в шахматы была неотделима от всего остального, что делает нас такими, какие мы есть. И все же после матча он заявил, что «Deep Blue… был умен настолько, насколько умен ваш программируемый будильник»[196]196
  Каспаров Г. Человек и компьютер. Взгляд в будущее. М.: Альпина Паблишер, 2018.


[Закрыть]. Как и Хофштадтер, он изменил мнение, решив, что победа в шахматы вовсе не является признаком человеческого интеллекта.

Эта привычка переставлять стойку ворот бесполезна, потому что она приводит критиков к недооценке возможностей будущих машин. Да и вообще возникает вопрос, насколько уместен столь пренебрежительный тон. Что такого удивительного в человеческом интеллекте? Почему мы ставим человеческое мышление, каким бы поразительным оно ни было, выше любого другого подхода, способного наделять машины замечательными возможностями? Конечно, сила и тайна человеческого разума должны вызывать у нас благоговейный трепет. Возможно, еще долго мы не будем полностью понимать, что происходит у нас в головах. Но разве конструкция машин, пусть и непохожих на людей, но способных их превзойти, не вызывает не менее волнующего чувства удивления? Каспаров может отмахнуться от Deep Blue, обозвав его дорогим будильником, но этот будильник загнал его в угол. Разве внутренняя работа этой машины не должна изумлять нас так же, как работа мозга, пусть она и далека от нашей удивительной анатомии и физиологии?

В конце концов, именно так чувствовал себя Дарвин, когда понял, что возможности человеческой машины возникли без участия чего-то похожего на человеческий интеллект[197]197
  См.: Dennett D. From Bacteria to Bach and Back. London: Allen Lane, 2017. С. 36.


[Закрыть]. Он не был злобным человеком, не стремился окончательно лишить мир флера волшебства или таинственности своей теорией естественного отбора, не предусматривающей места для Создателя. Как раз наоборот. Рассмотрим заключительные слова книги «Происхождение видов»: «Есть величие в этом воззрении, по которому жизнь с ее различными проявлениями Творец первоначально вдохнул в одну или ограниченное число форм; и между тем как наша планета продолжает вращаться согласно неизменным законам тяготения, из такого простого начала развилось и продолжает развиваться бесконечное число самых прекрасных и самых изумительных форм»[198]198
  Дарвин Ч. Происхождение видов путем естественного отбора // Сочинения. Т.3. М.: Издательство АН СССР, 1939. С. 675.


[Закрыть].

Это не занудное метафизическое сочинение. Представление Дарвина о жизни без Творца обладает «величием» и выражается почти религиозным чувством благоговения. Возможно, однажды мы почувствуем то же самое и по отношению к нашим нечеловеческим машинам.

Общий искусственный интеллект

Древнегреческий поэт Архилох однажды написал: «Лиса знает много секретов, а еж – один, но самый главный». Исайя Берлин, который нашел эту таинственную строку в сохранившихся обрывках из поэзии Архилоха, как известно, использовал ее как метафору для различения двух типов людей: тех, кто знает немного о многом (лисы), и тех, кто знает много о малом (ежи)[199]199
  См.: Berlin I. The Hedgehog and the Fox. New York: Simon & Schuster, 1953.


[Закрыть]. В наших рассуждениях о людях и машинах мы можем переформулировать эту метафору. На данный момент машины – это ежи, каждый из которых очень силен в какой-то чрезвычайно специфической, узко определенной задаче – например, Deep Blue в шахматах, или AlphaGo в игре го, – но совершенно бесполезен для других задач. А люди – это гордые лисы, теперь машины могут легко побить их в некоторых видах деятельности, но люди все еще могут превзойти их во многих других.

Для многих исследователей ИИ интеллектуальный Святой Грааль заключается в создании машин, которые станут лисами, а не ежами. По их терминологии, они хотят создать «общий искусственный интеллект» (ОИИ) с широкими возможностями, а не «узкий искусственный интеллект» (УИИ), который может выполнять только очень конкретные задания[200]200
  Различение между ОИИ и УИИ сравнивают с различением, которое Джон Сёрл проводит между «сильным ИИ» и «слабым ИИ». Но это не одно и то же. ОИИ и УИИ отражают широту возможностей машин, а термины, предложенные Сёрлом, касаются вопроса о том, думают ли машины как человек («сильный ИИ») или нет («слабый ИИ»).


[Закрыть]. Именно это интересует таких футурологов, как Рэй Курцвейл и Ник Бостром. Однако эти усилия пока не увенчались успехом, и для критиков недостижимость ОИИ стала еще одним поводом для скептического отношения к возможностям машин. Среди пуристов существует мнение, что только ОИИ является «реальным» ИИ и что без этих общих возможностей машины никогда не станут «настоящими соперниками» людей в выполняемой ими работе[201]201
  Bostrom N., Yudkowsky E. The Ethics of Artificial Intelligence // Cambridge Handbook of Artificial Intelligence / ed. K. Frankish. Cambridge: Cambridge University Press, 2011.


[Закрыть].

Говорят, что создание ОИИ станет одним из поворотных моментов в истории человечества – возможно, главным. Идея заключается в том, что если машины будут обладать «общими» возможностями и окажутся способны выполнять широкий спектр задач лучше, чем люди, то создание еще более способных машин станет для них лишь вопросом времени. В этот момент, как полагают, произойдет «интеллектуальный прорыв»: машины будут бесконечно совершенствоваться по сравнению с теми, что были раньше, а их возможности будут расти в постоянно ускоряющемся потоке рекурсивного самосовершенствования. Считается, что этот процесс приведет к появлению машин со «сверхразумом»; некоторые называют его «сингулярностью». Такие машины станут «последним изобретением, которое придется породить человеку», писал Ирвинг Джон Гуд, оксфордский математик, представивший возможность такого интеллектуального прорыва: все, что человек может изобрести, смогут улучшить машины[202]202
  Good I. J. Speculations Concerning the First Ultraintelligent Machine // Advances in Computers. 1966. № 6. С. 31–88.


[Закрыть].

Перспектива появления таких чрезвычайно способных машин с ОИИ беспокоит Стивена Хокинга («это может означать конец человечества»), Илона Маска («это опаснее, чем Северная Корея») и Билла Гейтса («не понимаю, почему некоторых людей это не беспокоит»), хотя их опасения не всегда одинаковы[203]203
  Cellan-Jones R. Stephen Hawking Warns Artificial Intelligence Could End Mankind // BBC News. 2014. 2 декабря; Gibbs S. Elon Musk: AI “Vastly More Risky Than North Korea” // Guardian. 2017. 14 августа; Rawlinson K. Microsoft’s Bill Gates Insists AI is a Threat // BBC News. 2015. 29 января.


[Закрыть]. Один из страхов заключается в том, что людям, ограниченным в своих возможностях сравнительно черепашьим темпом эволюции, будет очень трудно не отставать от машин. Другая причина заключается в том, что эти машины, возможно, сами того не желая, могут начать преследовать цели, противоречащие целям людей и, в конце концов, нас уничтожат. Один мысленный эксперимент, например, представляет себе ОИИ, которому поручено производить скрепки настолько эффективно, насколько это возможно; история заканчивается тем, что он превращает «сначала всю землю, а затем все бо́льшую часть космоса в производственные мощности по производству скрепок» и, стремясь достичь поставленной цели, безжалостно вытесняет людей[204]204
  См.: Bostrom N. Ethical Issues in Advanced Artificial Intelligence // Cognitive, Emotive, and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence / eds. G. Lasker, W. Wallach, I. Smit. International Institute of Advanced Studies in Systems Research and Cybernetics, 2003. С. 12–17.


[Закрыть].

Эксперты расходятся во мнениях относительно того, сколько времени может пройти, прежде чем мы действительно окажемся в таких условиях. Одни считают, что до появления ОИИ осталось несколько десятилетий, другие говорят, что несколько веков; одно недавнее исследование пришло к маловероятному выводу, что это произойдет в 2047 году[205]205
  Friend T. How Frightened Should We Be of AI // New Yorker. 2018. 14 мая.


[Закрыть]. Сегодня мы действительно видим некоторые небольшие шаги в направлении «общих» возможностей, хотя это всего лишь очень ранние и примитивные примеры. Например, для своего портфеля инноваций DeepMind разработала машину, способную конкурировать с людьми в 49 различных видеоиграх компании Atari. Единственная информация, которую получает эта машина, – это пиксельная модель на экране компьютера и количество очков, которые она выиграла в игре; тем не менее, она смогла научиться играть в каждую отдельную игру, зачастую достигая такого уровня, на котором она была способна соперничать с лучшими игроками[206]206
  Mnih V., Kavukcuoglu K., Silver D., et al. Human-level Control Through Deep Reinforcement Learning // Nature. 2015. № 518. 25 февраля. С. 529–533.


[Закрыть]. Это своего рода общая способность, столь привлекательная для энтузиастов ОИИ.

Подобные разговоры об «интеллектуальных прорывах» и «сверхразуме» могут быть захватывающими. Но в рассуждениях о будущем труда значение ОИИ сильно преувеличивается по сравнению с УИИ. Для исследователей искусственного интеллекта отсутствие ОИИ – важный недостаток; но в экономике оно является гораздо менее значимым ограничением для автоматизации, чем принято считать. Например, если конкретная работа заключается в выполнении десяти задач, есть два способа, с помощью которых прогресс в ИИ может заставить ее исчезнуть. Один из них заключается в создании ОИИ, способном самостоятельно выполнять все десять задач; другой предполагает изобретение десяти различных УИИ, каждый из которых способен выполнять только одну из связанных с ней задач. Наше увлечение ОИИ и созданием машин, которые обладают общими способностями, похожими на человеческие, рискует отвлечь нас от того, насколько мощными могут быть машины без ОИИ. Нет необходимости строить единую машину по образцу человека, которая сможет в одночасье вытеснить много работников. Постепенного накопления целого ряда машин, обладающих узкими, но впечатляющими способностями, будет достаточно для выполнения индивидуальных задач, которыми сейчас занимаются люди. Короче говоря, думая о будущем труде, мы должны остерегаться не одной всемогущей лисы, а целой армии трудолюбивых ежей.

Вернемся к экономистам

Революция прагматиков в ИИ имела серьезные последствия и для экономистов. В последние несколько лет она подорвала гипотезу ОЛМ.

Когда в 2003 году Дэвид Отор и его коллеги впервые представили гипотезу ОЛМ, они сопроводили ее списком «нестандартных» задач. Авторы были уверены, что эти задачи будет нелегко автоматизировать – однако сегодня с большинством из них это можно сделать. Одной из них было «вождение грузовика», но уже год спустя Себастьян Трун разработал первый беспилотный автомобиль. В списке фигурировало «составление юридических документов», однако автоматические системы документооборота в настоящее время широко распространены в большинстве крупных бюро. Считалось, что «медицинской диагностике» тоже ничто не угрожает, но сегодня машины могут обнаруживать проблемы со зрением, выявлять рак и многие другие болезни[207]207
  Autor D., Levy F., Murnane R. The Skill Content of Recent Technological Change: An Empirical Exploration // Quarterly Journal of Economics. 2003. № 4 (118). С. 129–333. Еще одной «нерутинной» задачей в списке значилось «формулирование/проверка гипотез». Система AlphaFold, разработанная DeepMind для прогнозирования трехмерной структуры белков, служит хорошим примером прогресса.


[Закрыть].

Десять лет спустя Отор и один его коллега отнесли «принятие заказов» к числу «нестандартных» задач. Но в том же году рестораны Chili’s и Applebee’s в США объявили об установке ста тысяч планшетов, благодаря которым клиенты могли делать заказы и оплачивать их без помощи официанта; их примеру последовали McDonald’s и другие сети. Даже некоторые весьма своеобразные задачи поддались натиску автоматизации. Всего несколько лет назад заявлялось, что будет трудно автоматизировать «распознавание птицы за доли секунды», но сейчас такая система уже существует – это программа Merlin, разработанная учеными-компьютерщиками в Корнеллской лаборатории орнитологии в США.

Конечно, вполне резонно усомниться в том, что эти задачи были полностью автоматизированы. В настоящее время все еще существуют болезни, которые диагностические системы бессильны интерпретировать, и птицы, которых Мерлин не может идентифицировать. Современные автомобильные системы «автопилот» все еще требуют человеческого внимания. Но важно отметить направление движения: многие «нестандартные» задачи теперь находятся в пределах досягаемости машин, что было немыслимо до самого последнего времени[208]208
  См.: Там же. Autor D., Dorn D. The Growth of Low-Skill Service Jobs and the Polarization of the US Labor Market // American Economic Review. 2013. № 5 (103). С. 1553–1597. Autor D. Why Are There Still So Many Jobs? The History and Future of Workplace Automation // Journal of Economics Perspectives. 2015. № 3 (29). С. 3–30. Technology and Employment: Tasks, Capabilities and Tastes. DPhil diss. Oxford University, 2016. Этот раздел опирается в том числе и на мою статью: Re-Thinking the Capabilities of Technology in Economics // Economics Bulletin. 2019. № 1 (39). С. A30.


[Закрыть].

Что же пошло не так с предсказаниями? Проблема заключается в том, что гипотеза ОЛМ пренебрегла революцией прагматиков. Экономисты считали, что для выполнения поставленной задачи компьютер должен следовать правилам, которые четко сформулировал человек, – т. е. в основе машинных возможностей должно лежать нисходящее применение человеческого интеллекта. Возможно, так оно и было в первой волне развития искусственного интеллекта. Но, как мы видели выше, теперь это уже не так. Современные машины могут научиться выполнять задачи самостоятельно, выводя собственные правила снизу вверх. Уже не имеет значения, что людям трудно объяснить, как они управляют автомобилем или распознают стол; машины больше не нуждаются в их объяснениях. А это значит, что теперь им под силу взять на себя множество «нестандартных» задач, которые когда-то считались вне пределов их досягаемости.

Из этого вытекает очевидное следствие: экономисты должны переписать свои истории о технологиях и работе. Набор задач, все еще выполняемых людьми, сузился больше, чем они могли предсказать. И в последних работах ведущих экономистов такой пересмотр уже начался. Растет понимание того, что традиционные предположения о возможностях машин больше не выдерживают критики, что в делении на «рутинные» и «нестандартные» задачи есть какой-то изъян. Тем не менее экономисты нередко все еще предлагают сохранить это первоначальное деление, просто корректируя и обновляя его, вместо того чтобы полностью отказаться от гипотезы ОЛМ.