Текст книги "Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей"

Демис Хассабис

“Работа над играми – это тренировка. Игры не являются конечной целью; мы хотим построить общие алгоритмы, которые можно будет применять к реальным задачам".

Соучредитель и генеральный директор компании DEEPMIND

Шахматный вундеркинд Демис Хассабис начал профессионально программировать и разрабатывать видеоигры в 16 лет. После окончания Кембриджского университета 10 лет основывал успешные стартапы, ориентированные на создание видеоигр и симуляций, основал компанию по производству видеоигр Elixir Studios. После получения докторской степени по когнитивной нейробиологии в Университетском колледже Лондона работал в MIT и Гарварде. Его исследование механизмов, лежащих в основе воображения и планирования, вошло в десятку лучших научных достижений 2007 г. по версии журнала Science.

Член Королевского общества искусств и Королевской инженерной академии, награжден серебряной медалью. В 2017 г. попал в список 100 самых влиятельных людей мира. Награжден орденом Британской империи за заслуги в науке и технике, получил премию Малларда и звание почетного доктора в Имперском колледже Лондона. В 2016 г. созданная в DeepMind программа AlphaGo победила чемпиона мира по игре в го Ли Седоля.

Мартин Форд: В юности вы увлекались шахматами и видеоиграми. Это повлияло на вашу карьеру в области ИИ и на решение основать DeepMind?

Демис Хассабис: С детства я мечтал стать чемпионом мира. Постоянно стремился улучшить свою игру, поэтому много думал о том, откуда мозг берет идеи для ходов. Какие процессы там происходят после хорошего хода или промаха? Позднее заинтересовался нейробиологией.

Шахматы много значат для ИИ. Идея компьютерной версии шахмат увлекала таких пионеров ИИ, как Алан Тьюринг и Клод Шеннон. В 8 лет на деньги, полученные за победу на шахматном турнире, я купил свой первый компьютер. И написал программу, имитирующую игру реверси. Это более простая игра, чем шахматы, но я использовал для нее те же идеи, например алгоритм альфа-бета-отсечения, которые первопроходцы ИИ применяли в своих шахматных программах. Фактически это была моя первая попытка написать программу с ИИ.

Следующим этапом стало написание коммерческих видеоигр. Одна из ключевых тем многих моих игр, от Theme Park (1994) до Republic: The Revolution (2003), – это симуляция. Игрокам предоставляется изолированная среда с персонажами, созданными на базе ИИ, реагирующими на различные действия.

Я считаю, что игры тренируют ум. Например, шахматы было бы полезно ввести в школьную программу, потому что они учат решать проблемы, планировать и в принципе прививают навыки, которые могут пригодиться в других областях. Возможно, все эти вещи я понимал подсознательно, когда основал DeepMind и начал использовать игры как среду обучения для ИИ-систем.

Перед этим я прослушал курс computer science в Кембриджском университете. Тогда, в начале 2000-х гг., мне не хватало идей для начала работы над сильным ИИ. В результате я получил степень доктора нейробиологии, многое узнал о памяти и воображении – вещах, которые захотел перенести в машину.

М. Ф.: То есть вас с самого начала интересовал сильный ИИ?

Д. Х.: Именно так. Еще подростком я знал, чем хочу заниматься. Все началось с моего первого компьютера. Для меня это был волшебный инструмент: большинство машин дополняют физические возможности человека, а эта машина расширяла умственные способности.

Меня до сих пор восхищает, что для решения научной задачи можно написать программу, запустить ее и уйти спать. А утром получить готовый ответ. Естественно возникают мысли о следующем шаге: сделать машины, которые сами предлагают решения проблем.

М. Ф.: Компаний, которые специализируются именно на сильном ИИ, немного. Потому что нет бизнес-модели, позволяющей быстро получать доход. Как с этим справилась DeepMind?

Д. Х.: Мы с самого начала были компанией, нацеленной на разработку сильного ИИ, что осложнило поиск инвесторов. Наш тезис состоял в том, что технология общего назначения найдет сотни самых удивительных применений. Поэтому необходимость сначала собрать группу талантливых исследователей выглядела оправданной. В мире не так много людей, которые могли бы внести свой вклад в такую работу. В 2009–2010 гг., когда мы только начинали, можно было насчитать менее 100 человек. Вопрос был в том, сможем ли мы продемонстрировать четкий и измеримый прогресс.

В 2009 г. никакой шумихи вокруг ИИ не было. Более того, за последние 30 лет на эту тему было дано столько обещаний, которые окончились ничем, что получить первоначальное финансирование было невероятно трудно. Но у нас были сильные аргументы. Во-первых, мы опирались на новые достижения в нейробиологии и понимании мозга. Во-вторых, собирались делать обучающиеся, а не традиционные экспертные системы. В-третьих, для ускорения разработки должно было применяться эталонное тестирование и симуляции. Мы смогли объяснить, почему ИИ не улучшался в предыдущие годы. Кроме того, наши методы работы требовали больших вычислительных мощностей, которые как раз в это время стали доступными.

В конце концов, нам удалось убедить достаточно людей, но направление, которое мы собирались разрабатывать, на тот момент было немодным. Его не одобряли даже в научных кругах, занимающихся ИИ, и вообще переименовали в «машинное обучение». Удивительно, как быстро все это изменилось.

М. Ф.: В итоге вы обеспечили финансирование и независимость компании. Почему вы продали ее Google?

Д. Х.: Мы не планировали продавать компанию, отчасти потому, что без продукта она не представляла ценности ни для одного крупного корпоративного бизнеса. У нас была бизнес-модель, которую мы не успели реализовать, и система компьютерного самообучения DQN (deep Q-network). К 2013 г. завершилась наша работа в Atari. Ларри Пейдж услышал о нас от одного инвестора, и мы неожиданно получили электронное письмо от вице-президента научного подразделения компании Google Алана Юстаса.

До момента продажи прошло некоторое время, потому что мне нужно было многое взвесить. Но в итоге я убедился, что ресурсы Google – их вычислительные мощности и возможность создать большую команду – ускорят выполнение нашей миссии по разработке сильного ИИ. Дело было не в деньгах: инвесторы были готовы увеличить финансирование.

Ларри и другие сотрудники Google также увлечены ИИ и предоставили нам автономию в том, что связано с направлениями исследований и с нашей культурой; они согласились создать совет по этике, касающийся наших технологий. Кроме того, мы смогли остаться в Лондоне, что для меня было очень важно.

М. Ф.: Почему вы предпочли Лондон Кремниевой долине? Это связано с вами лично или с компанией?

Д. Х.: И со мной, и с компанией. Я родился и вырос в Лондоне и люблю этот город. Соседство Кембриджа и Оксфорда я считал конкурентным преимуществом. Причем тогда в Европе не было ни одной ставящей по-настоящему масштабные цели исследовательской компании, что давало нам высокие перспективы найма. К 2018 г. в Европе появилось несколько компаний, но мы были первыми, кто провел глубокие исследования в области ИИ. И мне кажется, что в таком деле должны принимать участие представители разных культур.

М. Ф.: Вы открываете лаборатории в европейских городах?

Д. Х.: Мы создали небольшую лабораторию в Париже, две лаборатории в Канаде – в Альберте и Монреале. После объединения с Google у нас появился офис в городе Маунтин-Вью, штат Калифорния.

М. Ф.: Насколько близко вы сотрудничаете с остальными ИИ-командами в Google?

Д. Х.: Над различными аспектами машинного обучения и ИИ в Google работают тысячи людей, которые занимаются как прикладными вопросами, так и исследованиями. Разумеется, все руководители групп знакомы друг с другом, и когда возникает такая необходимость, организуется сотрудничество. В отличие от остальных групп, DeepMind занимается исключительно сильным ИИ. У нас разработан долгосрочный план, базирующийся на данных о сути интеллекта и средствах его достижения, которые предоставляют нейробиологи.

М. Ф.: О вашей программе AlphaGo снят документальный фильм[14]14
  https://www.alphagomovie.com/


[Закрыть]. Думаю, она дает решения всем играм для двух игроков с открытой информацией. Планируете ли вы перейти к играм со скрытой информацией?

Д. Х.: Скоро выходит новая, улучшенная версия программы AlphaZero. Действительно, можно сказать, что мы разработали универсальное решение для игр типа шахмат, го, сеги и т. п. И пора делать следующий шаг. Сейчас мы работаем над стратегической игрой для ПК StarCraft со сложным игровым пространством. Там нет статичного набора фигур, как в шахматах, потому что игроки строят свои юниты. Кроме того, присутствует скрытая информация, так называемый «туман войны». Игрок не видит фрагментов экрана, пока не исследует эту область.

Работа над играми – это тренировка. Игры не являются конечной целью; мы хотим построить общие алгоритмы, которые можно будет применять к реальным задачам.

М. Ф.: До сих пор вы в основном сочетали глубокое обучение и обучение с подкреплением. Это правда, что вы считаете обучение с подкреплением способом достижения сильного ИИ?

Д. Х.: Да, это так. Это очень мощный метод, но его нужно объединять с другими. Обучение с подкреплением известно давно, но применялось оно только для решения модельных задач из-за трудностей масштабирования. Во время работы в Atari мы добавили к нему глубокое обучение, которое отвечало за обработку экрана и моделирование среды игры, и подошли к решению более крупных задач в программе AlphaGo и системе DQN. Все эти вещи лет десять назад считались невозможными.

Мы одна из немногих компаний, которые относятся к обучению с подкреплением серьезно, потому что основываемся на представлении о нем в нейробиологии. Речь идет о так называемом обучении на основе временных разностей, или TD-обучении (temporal difference learning). Оно реализуется благодаря системе выработки дофамина. Синтезирующие дофамин нейроны в случае ошибок снижают уровень его выработки, что заставляет в будущем избегать подобных ситуаций, то есть учиться на ошибках. В ответ же на положительные стимулы выработка дофамина увеличивается. Это принцип работы мозга – единственного известного нам примера интеллекта. Возможно, существуют и другие пути, но с точки зрения биологии кажется, что достаточно научиться масштабировать обучение с подкреплением.

М. Ф.: Но ведь когда ребенок учится говорить или познает мир, ни о каком обучении с подкреплением речи не идет. Это обучение без учителя – наблюдение или случайные взаимодействия с окружающей средой.

Д. Х.: Ребенок учится множеством способов: обучение с учителем реализуется при помощи родителей, учителей или сверстников, а экспериментируя с окружающим миром, дети учатся без учителя. Когда ребенок получает похвалу, это уже обучение с подкреплением. Мы работаем над всеми тремя вариантами. Обучение без учителя чрезвычайно важно. Вопрос в том, существует ли внутренняя, эволюционно заложенная мотивация, которая в конечном итоге обеспечивает вознаграждение при обучении без учителя? Есть доказательства того, что сам процесс получения информации воспринимается мозгом как вознаграждение. Имеет место также поиск новизны. Новые впечатления приводят к выработке дофамина.

М. Ф.: Я почувствовал, как глубоко вы интересуетесь нейробиологией и computer science. Сказывается ли это на подходах, которые используются в DeepMind?

Д. Х.: Да, я получил образование в обеих областях. В компании DeepMind больший упор делается на машинное обучение. При этом самая большая группа, возглавляемая профессором Принстонского университета Мэттом Ботвинником, состоит из нейробиологов.

Проблема в том, что нейробиология – обширная область, и если специалист по машинному обучению обратится к ней по какому-либо вопросу, он просто запутается в огромном массиве информации. Многие говорят, что исследования ИИ базируются на нейробиологии, но не могут объяснить, как это происходит. Существуют две крайности. В проекте Blue Brain делаются попытки смоделировать мозг на уровне коры…

М. Ф.: Это проект, который возглавляет Генри Маркрам?

Д. Х.: Да. Там пытаются реконструировать колонки кортекса. Это может быть интересно с точки зрения нейробиологии, но, на мой взгляд, это не самый эффективный путь к созданию ИИ. Все происходит на слишком низком уровне. Мы же в DeepMind пытаемся понять мозг на уровне систем и алгоритмов, которые он реализует, и возможностей, функций и представлений, которые он использует. Нас не интересует точное устройство человеческого мозга. Нет никакой причины создавать компьютерную модель, точно копирующую, например, образование новых нейронов гиппокампа. Но очень интересно, каким способом реализуются функции, за которые он отвечает: эпизодическая память и ориентация в пространстве.

М. Ф.: Самолеты летают, как и птицы, но при этом им не приходится хлопать крыльями.

Д. Х.: Прекрасная аналогия. Да, можно сказать, что мы в DeepMind как бы пытаемся понять принципы аэродинамики, наблюдая за полетом птиц, чтобы потом абстрагироваться от деталей этого полета и создать самолет. До изобретения аэродинамического профиля были только безуспешные попытки использовать деформируемые крылья. Мы поняли, что мозг масштабирует обучение с подкреплением, и ведем разработки в этом направлении. Важно научиться сужать пространство поиска. Этот момент часто упускают специалисты в области ИИ, игнорирующие нейробиологию.

М. Ф.: Недавно в DeepMind смоделировали нейроны решетки, отвечающие за пространственную ориентацию. Это случай, когда одна и та же базовая структура естественным образом возникает как в мозге, так и в искусственных нейронных сетях.

Д. Х.: Это одно из наших крупнейших достижений за последний год. Нам написали Эдвард и Мэй-Бритт Мозер, которые в свое время получили Нобелевскую премию за открытие нейронов решетки. Они предположили, что эти нейроны дают оптимальный способ представления пространства при вычислениях. Теперь нейробиологи проверяют, статичны ли эти нейроны или модифицируются в структуру на ходу, что лучше всего подходит для самообучающейся системы.

Кроме того, недавно на базе наших ИИ-алгоритмов мы создали новую теорию о том, как может работать префронтальная кора головного мозга. Я думаю, со временем работа ИИ-алгоритмов заставит нас по-другому посмотреть на устройство мозга, поскольку является хорошим аналитическим инструментом для экспериментов. Через сравнение ИИ-системы с человеческим мозгом можно изучать природу сознания, творчества и сновидений.

М. Ф.: Вы считаете, что есть общие принципы интеллекта, не зависящие от среды, в которой он возникает?

Д. Х.: Именно так. Определение этих общих принципов даст ключ к пониманию человеческого мозга.

М. Ф.: Каким образом ваши достижения смогут применить на практике в ближайшем будущем?

Д. Х.: Вы уже пользуетесь множеством приложений. Это и машинный перевод, и анализ изображений, и компьютерное зрение.

Компания DeepMind начала работу над такими вещами, как оптимизация энергии в центрах обработки данных Google. Система преобразования текста в речь WaveNet теперь есть в помощнике Google во всех телефонах на платформе Android. ИИ применяется в системах рекомендаций, магазине Google Play и может в фоновом режиме экономить заряд аккумулятора в телефонах Android. Все эти вещи используются каждый день. И я думаю, что это только начало.

Надеюсь, через некоторое время мы начнем сотрудничать со сферой здравоохранения. Например, уже сейчас в известной британской офтальмологической больнице Moorfields мы диагностируем макулодистрофию по результатам сканирования сетчатки. Результаты первого этапа нашего партнерства опубликованы в журнале Nature Medicine. Они показывают, что наша ИИ-система интерпретирует результаты сканирования с беспрецедентной точностью. К тому же она дает рекомендации по лечению более 50 заболеваний глаз на уровне ведущих мировых экспертов. Существуют и другие команды, выполняющие аналогичную работу для таких заболеваний, как рак кожи. Думаю, что в течение следующих пяти лет наша работа сможет принести еще много пользы.

Но больше всего меня радует, что ИИ вот-вот начнут применять для решения научных проблем. Мы работаем над изучением механизма сворачивания белка, значит, сможем проектировать материалы и создавать лекарства. ИИ уже используют для анализа данных с Большого адронного коллайдера, для поиска экзопланет. Существует множество массивов данных, структуру которых экспертам определить трудно, и можно озадачить этим вопросом ИИ. Надеюсь, благодаря этому в следующем десятилетии нас ждут научные достижения в фундаментальных областях.

М. Ф.: Какие препятствия нужно преодолеть на пути к сильному ИИ?

Д. Х.: Эти вещи мы определили с самого начала работы DeepMind. Во-первых, это получение абстрактных, концептуальных знаний с последующим переносом обучения. Люди достаточно легко переносят свои знания из одной области в другую. Человек, получив задачу нового для себя типа, не начинает изобретать велосипед, потому что может использовать уже имеющиеся знания и опыт из других областей. Компьютерные системы в подобных случаях требуют множество данных и работают крайне неэффективно. Это нужно исправить.

Во-вторых, требуется улучшить понимание естественного языка, а также скопировать, используя новые техники, то, что умели делать старые системы ИИ, например символьные манипуляции. Прорывом станет решение именно этих проблем.

М. Ф.: Когда сильный ИИ появится, будет ли он обладать сознанием?

Д. Х.: Я надеюсь, что ответ на этот вопрос появится в процессе работы. Но с моей точки зрения, сознание и интеллект разобщены. Одно без другого вполне может существовать.

М. Ф.: Сильный ИИ может стать разумным зомби?

Д. Х.: Возникает философский вопрос, как об этом узнать, если машина ведет себя так же, как и мы? Если воспользоваться бритвой Оккама, получится, что если некто демонстрирует такое же поведение, как и я, и сделан из того же материала, то можно предположить, что он чувствует то же самое, что и я. Но машина сделана из другого материала. И в этом случае уже нельзя безоговорочно применить бритву Оккама. Может быть, в некотором смысле машины сознательны, но на уровне чувств мы этого не ощущаем, потому что они сильно отличаются от нас.

М. Ф.: То есть вы верите в возможность сознания у машин? Что это не биологический феномен.

Д. Х.: У меня нет подобных предубеждений. Пока мы не знаем ответа. Вполне может оказаться, что в биологических системах есть что-то особенное. Например, сторонник гипотезы квантового сознания сэр Роджер Пенроуз считает, что создание сильного ИИ невозможно. Но я надеюсь, что путь, по которому мы идем, даст понимание о том, что такое сознание и где оно находится.

М. Ф.: Какие риски, на ваш взгляд, связаны с сильным ИИ? Илон Маск говорил о «призывах демона» и экзистенциальной угрозе. Много об этом писал и Ник Бостром, который, насколько я знаю, входит в совет экспертов DeepMind. А что об этом думаете вы?

Д. Х.: Я много говорил с ними об этих вещах. И как это всегда бывает при личных беседах, проявились различные нюансы высказываний, которые изначально казались не тем, чем стали.

Лично я работаю над ИИ, потому что считаю, что это принесет пользу человечеству. Позволит раскрыть наш потенциал в науке. Любая технология сама по себе нейтральна. А будущее зависит от того, как мы, люди, решим ее использовать и распределить выгоды.

Сложностей много, но они больше напоминают геополитические проблемы, которые нужно решать обществу. Ник Бостром беспокоится о технических вопросах, таких как проблема контроля и проблема выравнивания. Мне кажется, что говорить об этом пока рано и нужны дополнительные исследования, ведь обсуждаемые системы появились недавно.

Пять лет назад все эти вопросы вообще были чисто философскими. Теперь у нас есть AlphaGo и зарождаются другие интересные технологии. На текущей стадии нужно делать обратное проектирование этих вещей и экспериментировать с ними, создавая инструменты визуализации и анализа. Это позволит лучше понять, как функционируют эти «черные ящики» и как мы интерпретируем их поведение.

М. Ф.: Уверены ли вы, что мы справимся с опасностями, которые несет сильный ИИ?

Д. Х.: Когда эти системы перестанут быть «черным ящиком», мы разберемся, как ими управлять. Я уверен, что через инженерные эксперименты можно решить многие проблемы, о которых беспокоится Ник Бостром. Теория и практика должны идти рука об руку. Это не значит, что я не вижу поводов для беспокойства. Но я предпочитаю заниматься актуальными проблемами. Такими, как тестирование систем, которые мы внедряем в продукты. Конечно, некоторые из долгосрочных проблем настолько сложны, что возникает желание думать о них уже сейчас, задолго до того, как появится реальная необходимость искать их решение.

М. Ф.: А что вы думаете об автономном оружии? Вы очень откровенно высказывались об использовании ИИ в военных целях.

Д. Х.: В DeepMind мы считаем, что приложения ИИ должны оставаться под контролем людей и применяться в общественно полезных целях. То есть мы за запрет разработки и развертывания полностью автономного оружия и выражали эту точку зрения разными способами, в том числе подписали открытое письмо и поддержали обращение FHI.

М. Ф.: Но ведь химическое оружие все равно применяется, несмотря на запрет. Из-за соперничества между странами ситуация может начать развиваться в другом направлении. Например, в Китае активно работают над ИИ. Стоит ли волноваться о том, что они получат преимущество в этой сфере?

Д. Х.: Я не считаю, что имеет место гонка вооружений. Мы знаем всех исследователей и много сотрудничаем. Статьи публикуются открыто, и, например, мне известно, что холдинг Tencent создал клон AlphaGo. Но если в будущем возникнет необходимость в координации и, возможно, даже регулировании, это должно быть на международном уровне и принято всеми. Иначе регулирование просто не сработает. Но эта проблема связана не только с ИИ. Есть множество других проблем, которые нужно решать на глобальном уровне, например проблему изменения климата.

М. Ф.: Как ИИ повлияет на экономическую ситуацию? Ждет ли нас рост безработицы и неравенства?

Д. Х.: До сих пор ИИ не очень сильно влиял на экономическую ситуацию, по сравнению с влиянием технического прогресса в целом. Но со временем ИИ многое изменит. Некоторые верят в новую промышленную революцию, сравнивая ИИ с электричеством. Но пока невозможно однозначно сказать, что нас ждет. Мы можем оказаться в мире изобилия благодаря росту производительности. Здесь главное, чтобы плодами прогресса смогли воспользоваться все. Пусть этими вещами занимаются экономисты.

М. Ф.: Да, мне тоже кажется, что проблема в основном сводится к распределению благ и что значительная часть населения окажется за бортом. Это сложнейшая политическая задача – создать новую экономическую парадигму, которая будет работать для всех.

Д. Х.: Именно так. Хотя рост производительности предсказывают уже в течение ста лет. Мой отец в университете изучал экономику. И рассказывал, что в конце 1960-х гг. многие всерьез задавались вопросом, что люди будут делать в 1980-х гг., когда наступит изобилие и исчезнет необходимость работать. Но мы работаем до сих пор, причем не менее усердно.

М. Ф.: То есть вас можно назвать оптимистом? Ведь вы считаете ИИ одной из лучших вещей, которые когда-либо случались с человечеством, при условии, что этой технологией сумеют разумно распорядиться.

Д. Х.: Именно поэтому я работаю над этим всю жизнь. Мне кажется, что не появись ИИ, мир развивался бы не в лучшую сторону. Разумеется, перед нами множество проблем, требующих решения, таких как изменение климата, болезнь Альцгеймера или очистка воды. Некоторые вещи со временем будут становиться только хуже. Я не понимаю, как мы сможем организовать глобальную координацию, получить избыточные ресурсы или придумать варианты решения актуальных проблем. Но в целом я оптимистично смотрю на будущее, потому что нас ждут такие технологии, как ИИ.