Текст книги "Идиот или гений? Как работает и на что способен искусственный интеллект"

По мнению Рэя Курцвейла, компьютерная эпоха стала реальным повторением экспоненциальной притчи. В 1965 году один из основателей Intel Corporation Гордон Мур сформулировал закон, который стали называть законом Мура: количество компонентов чипа компьютерной микросхемы удваивается примерно каждые два года. Иными словами, размер (и стоимость) компонентов экспоненциально снижается, а вычислительная скорость и объемы компьютерной памяти экспоненциально растут.

Книги Курцвейла полны графиков, подобных графикам на рис. 5, и его прогнозы о будущем ИИ основаны на экстраполяции тенденций к экспоненциальному прогрессу в соответствии с законом Мура. Курцвейл отмечает, что при сохранении текущих тенденций (а он полагает, что они сохранятся) компьютер стоимостью 1000 долларов “достигнет мощности человеческого мозга (10¹⁶ вычислений в секунду) … примерно в 2023 году”[76]76
  Kurzweil, Singularity Is Near, 494.


[Закрыть]. В этот момент, по мнению Курцвейла, для создания ИИ человеческого уровня нужно будет просто осуществить обратное проектирование мозга.

При обратном проектировании мозга необходимо достаточно хорошо разбираться в его устройстве, чтобы его скопировать, или хотя бы использовать основные принципы работы мозга, чтобы воссоздать его разум на компьютере. Курцвейл считает обратное проектирование практическим подходом к созданию ИИ человеческого уровня и ожидает, что он будет применяться в ближайшем будущем. Большинство нейробиологов категорически не согласно с ним, ведь сегодня о работе мозга известно очень мало. Однако аргумент Курцвейла опять же опирается на экспоненциальные тенденции – на этот раз на прогресс в нейробиологии. В 2002 году Курцвейл написал: “Тщательный анализ соответствующих тенденций показывает, что в ближайшие тридцать лет мы поймем принципы работы человеческого мозга и получим возможность воссоздать его способности в искусственных веществах”[77]77
  R. Kurzweil, “A Wager on the Turing Test: Why I Think I Will Win”, Kurzweil AI, April 9, 2002, www.kurzweilai.net/a-wager-on-the-turing-test-why-i-think-i-will-win.


[Закрыть].

Немногие нейробиологи согласны с таким оптимистичным прогнозом для их области науки – а возможно, с ним не согласен никто из них. Но даже если мы сможем создать машину, работающую по принципам мозга, как она узнает все, что нужно знать, чтобы считаться разумной? В конце концов, у новорожденного ребенка есть мозг, но пока нет того, что мы назвали бы интеллектом человеческого уровня. “Сложность [мозга] в основном определяется его взаимодействиями со сложным миром, – соглашается Курцвейл. – Следовательно, необходимо будет обеспечить искусственный разум образованием, подобно тому, как мы обеспечиваем образованием природный разум”[78]78
  Ibid.


[Закрыть].

Само собой, получение образования может занять долгие годы. Курцвейл полагает, что этот процесс можно значительно ускорить. “Современная электроника уже обрабатывает информацию в десять миллионов раз быстрее, чем электрохимическая нервная система человека. Как только ИИ освоит основные человеческие речевые навыки, он сможет совершенствовать эти навыки и расширять свои общие знания, быстро читая человеческую литературу и поглощая информацию, которая содержится на миллионах интернет-сайтов”[79]79
  Ibid.


[Закрыть].

Курцвейл не говорит, как именно все это случится, но уверяет нас, что для создания ИИ человеческого уровня “мы не станем программировать человеческий разум связь за связью, как гигантскую экспертную систему, а сконструируем сложную иерархию самоорганизующихся систем, основанную в основном на обратном проектировании человеческого мозга, а затем позволим ей получить образование… в сотни, если не в тысячи, раз быстрее, чем со сравнимым процессом справляются люди”[80]80
  Ibid.


[Закрыть].

Часто книги Курцвейла “Эпоха духовных машин” (1999) и “Сингулярность уже близко” (2005) вызывают одну из двух противоположных реакций: восторженную поддержку или снисходительный скепсис. Читая книги Курцвейла, я пребывала (и по-прежнему остаюсь) во втором лагере. Меня совсем не убедили ни многочисленные экспоненты, ни аргументы в поддержку обратного проектирования мозга. Да, компьютер Deep Blue победил Каспарова в шахматах, но в большинстве других областей ИИ не дотягивает до человеческого уровня. Прогнозы Курцвейла о том, что ИИ сравняется с нами всего через пару десятилетий, кажутся мне до смешного оптимистичными.

Большинство знакомых мне людей настроено столь же скептически. Мнение большинства специалистов по ИИ прекрасно выражено в статье журналистки Морин Дауд, которая описывает, как знаменитый стэнфордский исследователь ИИ Эндрю Ын при упоминании о Курцвейле закатил глаза и сказал: “Всякий раз, когда я читаю «Сингулярность» Курцвейла, глаза у меня закатываются сами собой”[81]81
  M. Dowd, “Elon Musk’s Billion-Dollar Crusade to Stop the A. I. Apocalypse”, Vanity Fair, March 26, 2017.


[Закрыть].

С другой стороны, у Курцвейла много сторонников. Его книги, как правило, становились бестселлерами и получали положительные отзывы в серьезных изданиях. В журнале Time о “Сингулярности” написали: “Это не маргинальная теория, а серьезная гипотеза о будущем жизни на Земле”[82]82
  L. Grossman, “2045: The Year Man Becomes Immortal”, Time, Feb. 10, 2011.


[Закрыть].

Идеи Курцвейла оказали особенно сильное влияние на технологическую сферу, где люди склонны верить в экспоненциальный прогресс технологий как способ решения всех общественных проблем. Курцвейл не только занимает пост технического директора в Google, но и вместе с другим футуристом и предпринимателем Питером Диамандисом основал Университет сингулярности (SU), “трансгуманистический” аналитический центр и инкубатор стартапов, который иногда выполняет роль летнего лагеря для технологической элиты. Задача SU состоит в том, чтобы “обучать, вдохновлять и помогать лидерам применять экспоненциальные технологии для решения важнейших проблем человечества”[83]83
  From Singularity University website, accessed Dec. 4, 2018, su.org/about/.


[Закрыть]. Одним из учредителей SU выступает Google. Сооснователь компании Ларри Пейдж активно поддерживает проект и часто читает лекции на программах SU. Кроме того, SU спонсируют и несколько других крупных технологических компаний.

Дуглас Хофштадтер стал одним из тех, кто – снова меня удивив – занял промежуточную позицию между скепсисом и тревогой по поводу сингулярности. Его насторожило, что в книгах Курцвейла “самые причудливые фантастические сценарии оказались перемешаны с прогнозами, сомнений в которых не возникает”. Когда я позволила себе не согласиться с этим, Хофштадтер отметил, что теперь, по прошествии нескольких лет, становится очевидно, что Курцвейл сделал много безумных предсказаний, но многие его предсказания, как ни странно, уже сбылись или сбудутся в скором времени. К 2030-м годам “«трансляторы опыта»… [будут] загружать весь поток своего сенсорного опыта, а также неврологические корреляты своих эмоциональных реакций во Всемирную паутину”?[84]84
  Kurzweil, Singularity Is Near, 316.


[Закрыть] Звучит бредово. Но в конце 1980-х годов Курцвейл, опираясь на свои экспоненты, предсказал, что к 1998 году “компьютер победит чемпиона мира по шахматам… и в результате мы разочаруемся в шахматах”[85]85
  R. Kurzweil, The Age of Spiritual Machines: When Computers Exceed Human Intelligence (New York: Viking Press, 1999), 170.


[Закрыть]. В то время этот прогноз тоже показался многим бредовым. Но он оправдался на год раньше, чем предсказал Курцвейл.

Хофштадтер замечает, как хитро Курцвейл использует уловку, которую Хофштадтер называет “уловкой Христофора Колумба”[86]86
  D. R. Hofstadter, “Moore’s Law, Artificial Evolution, and the Fate of Humanity”, in Perspectives on Adaptation in Natural and Artificial Systems, ed. L. Booker et al. (New York: Oxford University Press, 2005), 181.


[Закрыть], намекая на песню Айры Гершвина “Все смеялись”, где есть строчка “Все смеялись над Христофором Колумбом”. Курцвейл цитирует высказывания выдающихся людей прошлого, которые в свое время катастрофически недооценили развитие и влияние технологий. Приведу несколько примеров. Генеральный директор компании IBM Томас Уотсон в 1943 году сказал: “Думаю, во всем мире можно продать от силы компьютеров пять”. Один из основателей Digital Equipment Corporation Кен Олсен в 1977 году заявил: “Людям вовсе не нужны домашние компьютеры”. Билл Гейтс в 1981 году сказал: “640 000 байт памяти должно хватить всем”[87]87
  Все цитаты взяты из книги Kurzweil, Age of Spiritual Machines, 169–170.


[Закрыть]. Уязвленный своей ошибкой насчет компьютерных шахмат, Хофштадтер не торопился отвергать идеи Курцвейла, какими бы безумными они ни казались. “Как и победа Deep Blue над Каспаровым, все это дает нам пищу для размышлений”[88]88
  Hofstadter, “Moore’s Law, Artificial Evolution, and the Fate of Humanity”, 182.


[Закрыть].

“Футурологом” быть хорошо. Можно писать книги с прогнозами на десятки лет вперед, точность которых никак не скажется на вашей репутации – или показателях книжных продаж – здесь и сейчас. В 2002 году был создан сайт Long Bets, который помогает держать футурологов в узде. Long Bets – это “арена для конкурентных, ответственных прогнозов”[89]89
  From Long Bets website: longbets.org/about.


[Закрыть], позволяющая прогнозисту делать долгосрочный прогноз с конкретной датой, а оппоненту – оспаривать этот прогноз. При этом оба они делают денежные ставки, а выигрыши выплачиваются, когда проходит дата прогноза. Первым прогнозистом на сайте стал предприниматель Митчелл Капор, который занимается разработкой программного обеспечения. Он сделал пессимистичный прогноз: “К 2029 году ни один компьютер – или «машинный интеллект» – не пройдет тест Тьюринга”. Капор, который основал успешную компанию по производству программного обеспечения Lotus и давно выступает за расширение гражданских свобод в интернете, хорошо знал Курцвейла и пребывал в лагере “отчаянных скептиков” в вопросе о сингулярности. Курцвейл согласился стать оппонентом Капора в этом публичном пари. По его итогам 20 000 долларов перейдут в “Фонд электронных рубежей” (в число основателей которого входит Капор), если победит Капор, или в Фонд Курцвейла, если победит Курцвейл. Тест для определения победителя состоится до конца 2029 года.

Когда Капор и Курцвейл заключили это пари, им – в отличие от Тьюринга – пришлось точно описать, как именно будет работать их тест Тьюринга. Они начали с нескольких необходимых определений. “Человек – это биологическая человеческая личность в понимании 2001 года, разум которого не усовершенствован при помощи машинного (то есть небиологического) разума… Компьютер – это любая форма небиологического разума (аппаратное и программное обеспечение), которая может включать любые формы технологий, но не может быть ни биологическим Человеком (усовершенствованным или нет), ни биологическими нейронами (при этом использование небиологических моделей биологических нейронов допустимо)”[90]90
  From Long Bets website, Bet 1: longbets.org/1/#adjudication_terms.


[Закрыть].

В условиях пари также говорится, что к оценке теста привлекут троих судей, которые будут беседовать с компьютером и тремя людьми – “референсами”. Все четверо кандидатов будут пытаться убедить судей, что они люди. Судей и участников для сравнения выберет “комитет теста Тьюринга”, в который войдут Капор, Курцвейл (или их представители) и еще одно лицо. Вместо пяти минут каждый из четырех кандидатов будет целых два часа беседовать с каждым из судей. По окончании всех интервью каждый судья вынесет свой вердикт (“человек” или “машина”) для каждого из участников. “Компьютер будет признан прошедшим «Тест Тьюринга по выявлению человека», если Компьютер обманет двух или более из трех Судей, заставив их подумать, что он человек”[91]91
  Ibid.


[Закрыть].

Но это еще не всё:

Кроме того, каждый из трех Судей Теста Тьюринга поставит каждому из четырех Кандидатов оценку от 1 (человек с наименьшей вероятностью) до 4 (человек с наибольшей вероятностью). Компьютер будет признан прошедшим “Тест Тьюринга по ранжированию”, если медианная оценка Компьютера окажется равна медианной оценке двух или более Людей-Референсов Теста Тьюринга или превысит ее.

Компьютер будет признан прошедшим Тест Тьюринга, если пройдет и Тест Тьюринга по выявлению человека, и Тест Тьюринга по ранжированию.

Если Компьютер пройдет Тест Тьюринга, описанный выше, до конца 2029 года, победителем пари будет признан Рэй Курцвейл. В ином случае победителем пари будет признан Митчелл Капор[92]92
  Ibid.


[Закрыть].

Ого! Довольно строго. У Жени Густмана не было бы шансов. Я должна (осторожно) согласиться с такой оценкой Курцвейла: “На мой взгляд, не существует набора хитростей или простых алгоритмов (то есть методов, которые были бы проще тех, что лежат в основе человеческого разума), который позволил бы машине пройти должным образом подготовленный тест Тьюринга, если она не обладает полноценным интеллектом человеческого уровня”[93]93
  Kurzweil, “Wager on the Turing Test”.


[Закрыть].

Капор и Курцвейл не ограничились разработкой правил для своего пари и написали по статье, перечислив причины, по которым каждый из них считает, что победа будет за ним. В статье Курцвейла приводятся аргументы из его книг: экспоненциальный прогресс вычислительных технологий, нейробиологии и нанотехнологий, который в совокупности позволит осуществить обратное проектирование мозга.

Но Капора эти аргументы не убеждают. Он заостряет внимание на том, как (человеческие) физические тела и эмоции влияют на когнитивные способности человека. “Восприятие окружающей среды и [физическое] взаимодействие с ней не меньше когнитивной деятельности определяет наш опыт… [Эмоции] устанавливают и формируют границы мыслимого”[94]94
  M. Kapor, “Why I Think I Will Win”, Kurzweil AI, April 9, 2002, http://www.kurzweilai.net/why-i-think-i-will-win.


[Закрыть]. Капор уверен, что, не имея эквивалента человеческого тела и всего, что оно дает, машина никогда не сможет узнать все необходимое для прохождения строгого теста Тьюринга, который разработали они с Курцвейлом.

Я уверен, что в основном люди познают мир эмпирически. Чтение книг лишь углубляет знания… Если человеческое знание, особенно знание об опыте, по большей части остается скрытым, то есть никогда не получает непосредственного выражения, найти его в книгах невозможно, а следовательно, подход Курцвейла к приобретению знаний окажется несостоятельным… Проблема заключается не в том, что знает компьютер, а в том, чего он не знает и не может знать[95]95
  Ibid.


[Закрыть].

Курцвейл отвечает, что согласен с Капором в вопросе о роли эмпирического обучения, скрытого знания и эмоций, но полагает, что к 2030 году виртуальная реальность станет “совершенно реалистичной”[96]96
  R. Kurzweil, foreword to Virtual Humans, by P. M. Plantec (New York: AMACOM, 2004).


[Закрыть], а потому позволит воссоздавать физический опыт, необходимый для обучения развивающегося искусственного интеллекта. (Добро пожаловать в Матрицу.) Более того, этот искусственный интеллект получит созданный методом обратного проектирования искусственный мозг, ключевым компонентом которого будут эмоции.

Вы, как и Капор, скептически относитесь к прогнозам Курцвейла? Курцвейл утверждает, что вы просто не понимаете экспоненциальный рост. “По большому счету, суть моих разногласий с критиками сводится к тому, что они говорят: Курцвейл недооценивает сложность обратного проектирования человеческого мозга или сложность биологии. Но я не думаю, что недооцениваю сложность этой задачи. Думаю, это они недооценивают силу экспоненциального роста”[97]97
  Цит. по: Grossman, “2045”.


[Закрыть].

Скептики указывают на пару пробелов в этом аргументе. В последние пятьдесят лет в сфере аппаратного обеспечения компьютеров действительно наблюдался экспоненциальный прогресс, но есть множество причин полагать, что в будущем эта тенденция не продолжится. (Курцвейл, конечно, это оспаривает.) Однако важнее тот факт, что в сфере программного обеспечения компьютеров экспоненциального прогресса не наблюдалось: вряд ли можно утверждать, что современные программы экспоненциально сложнее, или ближе к мозгу, чем программы, создававшиеся пятьдесят лет назад, или что такая тенденция вообще существовала. Утверждения Курцвейла об экспоненциальных тенденциях в нейробиологии и виртуальной реальности тоже часто оспариваются.

Однако, как отмечают адепты сингулярности, порой сложно увидеть экспоненциальную тенденцию, когда она в разгаре. Если посмотреть на экспоненциальные кривые вроде тех, что приводятся на рис. 5, Курцвейл и его сторонники полагают, что сейчас мы находимся в моменте, где кривая поднимается очень медленно, и прогресс кажется нам поступательным, но это заблуждение: впереди нас ждет взрывной рост.

Станет ли текущая весна ИИ, как утверждают многие, предвестником грядущего взрыва? Или это просто промежуточная остановка на медленной кривой поступательного развития, которая еще как минимум сто лет не приведет к появлению ИИ человеческого уровня? Или это очередной пузырь ИИ, который скоро лопнет, после чего начнется новая зима искусственного интеллекта?

Чтобы разобраться в этих вопросах, нужно внимательно рассмотреть ряд ключевых способностей нашего уникального человеческого разума, таких как восприятие, речь, принятие решений, рассуждения на основе здравого смысла и обучение. В следующих главах мы увидим, насколько далеко ИИ зашел в воссоздании этих способностей и оценим его перспективы до 2029 года и далее.

Часть II
Смотреть и видеть

Глава 4
Что, где, когда, кто и почему?

Взгляните на фотографию на рис. 6 и скажите мне, что вы видите. Женщина гладит собаку. Военнослужащая гладит собаку. Военнослужащую, которая только что вернулась с войны, встречает собака, а рядом лежат цветы и летает воздушный шарик с надписью “Добро пожаловать домой!”. На лице военнослужащей написаны сложные чувства. Собака радостно виляет хвостом.

Когда был сделан этот снимок? Скорее всего, в последние десять лет. Где он был сделан? Вероятно, в аэропорту. Почему военнослужащая гладит собаку? Вероятно, она была в длительной командировке, повидала многое – и хорошее, и плохое, – очень скучала по своей собаке и теперь рада вернуться домой. Возможно, собака символизирует все, что для нее есть “дом”. Что случилось до того, как был сделан этот снимок? Вероятно, военнослужащая вышла из самолета и прошла через зону безопасности аэропорта в зал прилетов, где собрались встречающие. Ее друзья и близкие обняли ее, подарили ей цветы и шарик, а потом отпустили собачий поводок. Собака подскочила к военнослужащей, которая положила на пол все, что держала в руках, и опустилась на колени, осторожно прижимая ленточку от шарика ногой, чтобы он не улетел. Что случится дальше? Вероятно, она встанет на ноги, возможно, смахнет слезы, поднимет с пола цветы, шарик и ноутбук, возьмет в руку поводок, а потом вместе с собакой, друзьями и близкими пойдет в зону выдачи багажа.

Рис. 6. Что вы видите на этой фотографии?

Когда вы смотрите на эту фотографию, на самом базовом уровне вы видите чернильные точки на бумаге (или пиксели на экране). Ваши глаза и мозг берут эту сырую информацию и за несколько секунд каким-то образом превращают ее в подробную историю, в которой описываются люди, предметы, отношения, места, чувства, мотивы, а также прошлые и будущие действия. Мы смотрим, видим и понимаем. Более того, мы знаем, на что не стоит обращать внимания. Мы не включаем в историю множество видимых на фотографии деталей, которые не имеют для нее значения: узор ковра, висящие ремни на рюкзаке военнослужащей, заколки у нее в волосах, пристегнутый к лямке рюкзака свисток.

Мы, люди, обрабатываем огромный объем информации почти мгновенно, но практически – или совершенно – не сознаем, что и как при этом делаем. Если вы не слепы с рождения, обработка зрительной информации на разных уровнях абстракции главенствует в вашем мозге.

Безусловно, способность описывать фотографию (или видео, или идущую в прямом эфире трансляцию) таким образом станет одним из первых навыков, которых мы будем ждать от общего ИИ человеческого уровня.

С 1950-х годов исследователи ИИ пытались научить компьютеры понимать визуальные данные. На заре ИИ казалось, что достичь этой цели относительно нетрудно. В 1966 году Марвин Минский и Сеймур Пейперт – выступающие за символический ИИ профессорá MIT, которых вы помните из первой главы, – предложили организовать “Летний проект по зрению” и дать студентам “сконструировать значительную часть зрительной системы”[98]98
  S. A. Papert, “The Summer Vision Project”, MIT Artificial Intelligence Group Vision Memo 100 (July 7, 1966), dspace.mit.edu/handle/1721.1/6125.


[Закрыть]. Один историк ИИ описал проект так: “Минский нанял первокурсника и поставил ему задачу на лето: подключить телекамеру к компьютеру и научить машину описывать то, что она видит”[99]99
  D. Crevier, AI: The Tumultuous History of the Search for Artificial Intelligence (New York: Basic Books, 1993), 88.


[Закрыть].

Студент не добился впечатляющих результатов. Хотя после этого летнего проекта подобласть ИИ, называемая компьютерным зрением, значительно продвинулась вперед, создание программы, которая могла бы смотреть на фотографии и описывать их так же, как это делают люди, по-прежнему не представляется возможным. Зрение – и умение смотреть, и умение видеть – оказалось одной из самых сложных из “простых” вещей.

Чтобы описывать визуальную информацию, прежде всего необходимо распознавать объекты, то есть узнавать в конкретной группе пикселей на изображении конкретный объект категории, такой как “женщина”, “собака”, “воздушный шарик” или “ноутбук”. Как правило, мы, люди, быстро и легко справляемся с распознаванием объектов, так что поначалу казалось, что не составит большого труда научить этому и компьютер, но не тут-то было.

Рис. 7. Распознавание объектов: легко для человека, сложно для компьютеров

Что такого сложного в распознавании объектов? Допустим, нужно научить компьютерную программу распознавать собак на фотографиях. На рис. 7 показаны некоторые сложности этой задачи. Если на входе программа получает просто пиксели изображения, то первым делом ей необходимо понять, где среди них “собачьи” пиксели, а где “несобачьи” (например, пиксели фона, теней, других объектов). Более того, разные собаки выглядят по-разному: у них разные окрасы, формы и размеры, они могут смотреть в разных направлениях, освещенность на изображениях может значительно различаться, собаку могут частично перекрывать другие предметы (например, решетки, люди). К тому же “собачьи” пиксели могут сильно напоминать “кошачьи” – и вообще “звериные”. При определенном освещении даже облако на небе может быть очень похоже на собаку.

С 1950-х годов сфера компьютерного зрения неизменно сталкивалась с этими и другими проблемами. До недавних пор исследователи компьютерного зрения в основном разрабатывали специализированные алгоритмы обработки изображений для выявления “инвариантных признаков” объекта, по которым его можно опознавать, несмотря на описанные выше сложности. Обработка изображений совершенствовалась, но способности программ по распознаванию объектов по-прежнему не могли сравниться с человеческими.