Текст книги "Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин"

Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин
(сост. Элисон Джордж, Дуглас Хэвен)

Machines that Think. Everything You Need to Know about the Coming Age of Artificial Intelligence

© New Scientist, 2017

© Оформление, ООО «Издательство АСТ», 2019

* * *

Авторы-составители

Элисон Джордж, редактор серии Instant Expert для журнала New Scientist.

Редактор – Дуглас Хэвен, технологический журналист и консультант New Scientist. Работал главным технологическим редактором в New Scientist и выпускающим редактором в BBC Future Now.

Авторы научно-популярных статей

Ник Бостром – директор Института будущего человечества Оксфордского университета и автор книги «Искусственный интеллект. Этапы. Угрозы. Стратегии» (2014). Написал рубрику «Что случится, если ИИ станет умнее нас?» из главы 8.

Нелло Кристианини – профессор по искусственному интеллекту в Бристольском университете (Великобритания), а также автор учебников по машинному обучению (в том числе Kernel Methods for Pattern Analysis (2004)). Участвовал в написании глав 1, 2, 3 и 5.

Джон Грэм-Камминг – программист, начинающий специалист по криптоанализу и автор книги The Geek Atlas (2009). В 2009 году успешно запустил кампанию по принесению извинений Алану Тьюрингу со стороны правительства Великобритании. Участвовал в написании главы 1.

Питер Норвиг – директор по исследованиям в Google и соавтор книги «Искусственный интеллект: современный подход» (1994). Бывший глава Подразделения вычислительной техники в исследовательском центре «Амес» NASA. Участвовал в написании глав 1, 2, 5 и 6.

Андерс Сандберг – исследователь Института будущего человечества Оксфордского университета; изучает маловероятные, но существенные риски вследствие внедрения новых технологий. Написал рубрику «Может ли программа страдать?» из главы 8.

Тоби Уолш – профессор искусственного интеллекта в Университете Нового Южного Уэльса (Австралия). Автор книг «Оно живое! Искусственный интеллект от умного пианино до роботов-убийц» (2017) и «2062: время машин» (2018). Написал параграф «Пять причин, почему сингулярности не бывать».

Также благодарим следующих авторов:

Салли Ади, Гилад Амит, Джейкоб Арон, Крис Баранюк, Кэтрин де Ланге, Лиз Эльзе, Найл Ферт, Ник Флеминг, Аманда Гефтер, Дуглас Хэвен, Хэл Ходсон, Вирджиния Хьюз, Кирстин Кидд, Пол Маркс, Джастин Маллинс, Шон О'Нил, Сэнди Онг, Саймон Паркин, Самит Пол-Чоудхури, Тимоти Ревелл, Мэтт Рейнольдс, Дэвид Робсон, Авива Руткин, Вики Тюрк, Прю Уоллер, Джон Уайт и Марк Застроу.

Введение

Искусственный интеллект (ИИ) – один из главных трендов нашего времени. За последнее десятилетие компьютеры обучали решению все более сложных задач. Теперь они способны выполнять множество вещей, которые ранее казались присущими только человеку. Успех ИИ не стоит на месте. Машины активно покоряют многие области, начиная от идентификации людей в толпе, управления автомобилем на загруженной автомагистрали и заканчивая победами над лучшими игроками в го – игре, которая многие годы казалась чем-то недостижимым для ИИ, – и на этом достижения не заканчиваются. Иногда компьютеры выполняют работу лучше людей. В большинстве своем машины работают быстрее, дольше и никогда не устают.

Конечно же, идея разумных машин совершенно не нова. Без малого 75 лет мы пытались создать компьютеры, способные продемонстрировать хоть толику нашего интеллекта. А концепция автоматов, похожих на человека, и вовсе родилась столетия назад. Мы очарованы собой и своим интеллектом, и нет ничего удивительно в нашем желании наделить «искрой человечности» машины.

Сравнение искусственного интеллекта с человеческим вызывает как радость, так и беспокойство. Насколько похожим на нас станет ИИ? Сможет ли он нас заменить, лишить работы, превзойти в играх и творческих начинаниях, придающих смысл нашей жизни? Общественные деятели во главе со Стивеном Хокингом и Илоном Маском дошли до того, что стали строить предположения о конце света, спровоцированном ИИ, при котором сверхразумные машины будущего растопчут нас в погоне за своими непостижимыми целями. Маск говорит, что, развивая ИИ, мы «вызываем дьявола».

Всеобщее волнение показывает, насколько глубоко в нашем сознании засели опасения о будущем ИИ. Конечно же, наше будущее вряд ли будет схоже с сюжетами фильмов-катастроф. Однако стоит готовиться к тому, что нас ждут еще менее понятные и более удивительные события.

Мы уже сталкивались с технологическими «пузырями», например бум и крах доткомов в конце 1990-х. Шумиха вокруг ИИ – и миллиардные вложения в профильные компании по всему миру – сравнима с напряженным ажиотажем в первые дни появления Интернета. Однако сейчас все иначе. Нам стоит готовиться к колоссальным переменам во всех аспектах нашей жизни, начиная с взаимодействия с устройствами и заканчивая принципами функционирования общества. Есть и те, кто полагает, что ИИ сможет изменить даже понимание того, что значит быть человеком.

Мы уже стоим на пороге еще больших технических и этических проблем, и эта книга расскажет вам все, что нужно знать об ИИ. Собрав воедино мысли ведущих исследователей и лучшее из журнала New Scientist, мы познакомим вас с мнением и деятельностью тех, кто формирует наше будущее, и расскажем об их прогнозах. Читайте эту книгу, если хотите узнать о надеждах и страхах тех, кто стоит на передовой ИИ. Ведь ИИ, как сказал один из пионеров отрасли, – это последнее изобретение, которое нам осталось создать.

Дуглас Хэвен, редактор

1. По нашему подобию

Проблема создания разумных машин

Мы давно подозревали о том, что интеллект не является сугубо человеческим качеством, и вот уже более 75 лет мечтаем о создании машины, рассуждающей и обучающейся не хуже человека. С расцветом компьютерных вычислений стало казаться, что мы близки к своей цели, однако создание машины по нашему образу и подобию оказалось куда сложнее, чем мы думали.

Что такое искусственный интеллект?

Область ИИ – это наука и техника создания машин, способных действовать разумно. Здесь возникает сложный вопрос: а что такое «разумность»? В большинстве случаев «неразумные» машины уже в разы умнее нас. Но мы не называем компьютерную программу «умной» только потому, что она умеет умножать длинные числа или отслеживать тысячи банковских операций. Мы воспринимаем это как данность. А слово «умный» мы оставляем для описания уникальных человеческих качеств: узнавания знакомого лица, маневрирования на дороге в часы пик или освоения музыкального инструмента.

Почему же так сложно создать машину, которая сможет выполнять эти действия? Обычно программист знает, какую задачу будет решать запрограммированный им компьютер. Но в случае с ИИ перед программистом стоит другая задача – научить компьютер действовать правильно, при этом не зная, как именно.

В реальном мире неопределенность может принимать различные формы. Например, в лице соперника, мешающего вам достичь желаемой цели, в форме последствий принятых решений, которые не очевидны сразу (если вы пытаетесь уйти от столкновения на дороге, не убедившись в безопасности маневра), или в качестве новой информации, поступающей в процессе выполнения задачи. «Умная» программа должна уметь обрабатывать все новые данные и многое другое.

Чтобы приблизиться к человеческому интеллекту, системе нужно смоделировать не только задачу, но и саму ситуацию, при которой эта задача может возникнуть. Она должна улавливать окружающую среду и реагировать на нее, при необходимости изменяя и корректируя собственные действия. О разумности системы можно говорить только тогда, когда машина научится принимать правильные решения в ситуации неопределенности.

Философские истоки искусственного интеллекта

Предпосылки к искусственному интеллекту появились задолго до первых компьютеров. Еще Аристотель описывал формальный механический аргумент, названный силлогизмом, который позволял нам делать заключения на основании суждений. Одно из его правил разрешало следующий аргумент:

Некоторые лебеди – белые.

Все лебеди – птицы.

Поэтому некоторые птицы – белые.

Данная форма аргумента – некоторые Л являются Б, все Л являются П, поэтому некоторые П являются Б – может применяться к любым Л, Б и П. Эта схема позволяет сделать правильное умозаключение вне зависимости от исходных данных. На основании формулы Аристотеля можно выстроить механизм, который может действовать разумно и без подробного «справочника по человеческому интеллекту».

Предположение Аристотеля подготовило почву для более широкого исследования природы искусственного интеллекта. Однако лишь в середине XX века компьютеры стали достаточно «умны» для проверки гипотез. В 1948 году Грей Уолтер, исследователь из Бристольского университета, создал сеть автономных механических «черепашек», которые могли двигаться, реагировать на свет и были способны к обучению. Одна из них, по имени Элси, реагировала на окружающую обстановку снижением чувствительности к свету по мере разрядки аккумулятора. Столь сложное поведение делало ее непредсказуемой, на основании чего Уолтер проводил аналогию с поведением животных.

В 1950 году британский ученый Алан Тьюринг пошел еще дальше, заявив, что однажды машины научатся думать, как люди. Он предположил, что если компьютер способен поддержать разговор с человеком, тогда мы, «из вежливости», должны признать, что компьютер умеет «мыслить». Этот критерий оценки «разумности» позже стал известен как тест Тьюринга.

Что такое тест Тьюринга?

В своей работе «Вычислительные машины и разум», опубликованной в философском журнале Mind в 1950 году, Алан Тьюринг утверждал, что однажды компьютеры научатся думать, как люди. Но даже если это и случится, то как мы обо всем узнаем? Тьюринг полагал, что машина может считаться разумной в случае, если ее реакцию нельзя отличить от человеческой.

Тьюринг ссылался на свой метод определения разумности машины под названием «игра в имитацию». В предлагаемом им тесте экзаменаторы общаются с человеком и машиной письменно через экран компьютера или телетайп. Таким образом, экзаменатор мог идентифицировать своего собеседника (человек или машина) только по общению. Если экзаменатору не удавалось отличить машину от человека, то такая машина считалась разумной.

В 1990 году нью-йоркский филантроп Хью Лебнер предложил приз в 100 000 долларов за первый компьютер, который сможет пройти тест Тьюринга, и учредил ежегодную награду в размере 2000 долларов за лучшую систему из существующих. С тех пор сумма выросла до 4000 долларов. Пока что ни один бот не получил главный приз премии Лебнера.

Концепция теста Тьюринга понятна всем, кто имел дело с искусственным интеллектом (например, цифровым персональным помощником Siri от Apple или онлайн-чат-ботом). В настоящее время Siri еще далека от успешного прохождения теста. Временами чат-боты способны обмануть людей, но ограничения даже самых лучших из современных ИИ приводят к тому, что их быстро разоблачают. И все же Тьюринг предсказывал тот день, когда искусственный интеллект станет неотличимым от человеческого.

Алан Тьюринг и расцвет компьютерных вычислений

Идеи Алана Тьюринга перевернули весь мир. Он заложил прочную основу для революционного развития современных компьютеров и информационных технологий, а также сделал дальновидные прогнозы по искусственному интеллекту, мозгу и даже биологии развития. Тьюринг также возглавлял разработку решений важных криптоаналитических задач для союзников во время Второй мировой войны.

Чтобы оценить всю важность достижений Тьюринга, стоит узнать, как ученый смог решить одну из самых сложных математических головоломок своего времени и параллельно заложить фундамент для появления всех компьютеров. Истоки ИИ неразрывно связаны с расцветом вычислительной техники.

Первый компьютер

До Второй мировой войны слово «компьютер» обозначало человека (часто – женщину), который выполнял вычисления вручную или с помощью механической счетной машины. Эти человеко-компьютеры были неотъемлемой частью промышленной революции и часто выполняли монотонные вычисления, например для создания книг логарифмических таблиц.

Но в 1936 году Тьюринг, которому на тот момент было всего 24 года, заложил основы для уже знакомого нам типа компьютера и таким образом сыграл ключевую роль в технологической революции. И все же целью Тьюринга не было создание модели современного компьютера. Ученый хотел решить сложную задачу с помощью математической логики. В середине 1930-х годов Тьюринг бесстрашно взялся за решение так называемой Entscheidungsproblem, или «проблемы разрешения», опубликованной математиком Давидом Гильбертом в 1928 году.

К тому времени математики находились в поисках фундаментальных основ, а Гильберт хотел узнать, можно ли считать все математические выражения, вроде 2 + 2 = 4, «разрешимыми». Другими словами, математики пытались понять, существует ли пошаговая процедура, определяющая истинность или ложность любого отдельно взятого математического выражения. Это был фундаментальный вопрос. И хотя мы можем с уверенностью признавать истинность выражения 2 + 2 = 4, интерпретация более сложных логических выражений не так проста. Взять, к примеру, гипотезу Римана, сформулированную Бернхардом Риманом в 1859 году, которая выдавала определенные прогнозы о распределении простых чисел в ряде натуральных. Математики предполагали истинность данной гипотезы, но не могли ее доказать.

Обнаружение предложенной Гильбертом пошаговой процедуры означало бы возможность потенциального создания машины, которая могла бы дать математикам точный ответ на любое логическое выражение. Можно было бы решить все важнейшие математические проблемы. Возможно, тогда это не было столь очевидным, но Гильберт пытался отыскать компьютерную программу. Сегодня его пошаговая процедура называется «алгоритмом». Однако в 1930-х годах не существовало ни компьютеров, ни программ, и Тьюрингу пришлось самостоятельно разработать концепцию вычислений для решения «проблемы разрешения».

В 1936 году Тьюринг опубликовал работу, в которой был представлен четкий ответ на вопрос Гильберта: процедуры для определения истинности или ложности любого математического выражения не существует. Более того, многие из важнейших нерешенных проблем в математике являются неразрешимыми. Это оказалось хорошей новостью для математиков-гуманистов, для которых этот вывод значил, будто бы их никогда не смогут заменить машинами. Но в своей работе Тьюринг представил нечто большее, чем просто решение проблемы Гильберта: в процессе он смог вывести теоретические основы работы современных компьютеров.

Прежде чем тестировать предположение Гильберта, Тьюринг должен был сформулировать эту самую пошаговую процедуру и понять, какое устройство могло бы ее выполнить. Ему не требовалось создавать саму машину – достаточно было понять теоретические принципы ее работы.

Для начала он придумал машину, которая могла считывать символы с перфоленты (см. рис. 1.1). Вы подаете в машину перфоленту, а она изучает символы и на основании заложенных правил принимает решение о своем следующем действии. К примеру, такое устройство могло сложить два числа, записанных на перфоленте, и вывести на ленту результат операции. В дальнейшем это устройство получило название «машина Тьюринга». Но поскольку каждая машина Тьюринга имела собственный свод правил (то есть фиксированную программу), она не годилась для тестирования гипотезы Гильберта.

В 1930-х годах Алан Тьюринг придумал новый тип машин, который смог бы последовательно считывать символы с перфоленты. После принятия решения на основании своих внутренних правил устройство выполняло одно из пяти действий: передвигало ленты вправо или влево, удаляло символ, дописывало новый символ или останавливалось. Такое устройство получило название «машина Тьюринга».

Тьюринг также предположил, что даже саму перфоленту можно использовать для программирования действий машины – то есть базовой версии программного обеспечения. Такая схема получила название «универсальная машина Тьюринга» и стала основой всех современных компьютеров.

Рис. 1.1. Тьюринг так никогда и не построил свою теоретическую вычислительную машину, но она послужила основой для всех современных компьютеров

Тьюринг понял, что можно создать машину, которая сначала будет считывать процедуру с ленты, а затем использовать эту информацию для определения своих внутренних правил. Таким образом, машина станет программируемой и способной к выполнению тех же действий, что и отдельно взятая машина Тьюринга с фиксированным набором правил. Такое гибкое устройство, которое мы называем «универсальной машиной Тьюринга», и является компьютером.

Почему так? Процедура, записанная на ленте, является аналогом компьютерной программы. Универсальная машина Тьюринга загружает программу с ленты на свое устройство – именно это мы и делаем с программами на жестком диске. Сейчас ваш компьютер используется в качестве текстового процессора, а через минуту он превращается в музыкальный плеер.

Пределы вычислений

После изобретения Тьюрингом теоретического компьютера он смог ответить на вопросы: что такое «вычисляемость»? Что может и не может делать компьютер?

Для опровержения гипотезы Гильберта Тьюрингу нужно было найти лишь одно логическое выражение, которое компьютер не смог бы однозначно трактовать как истинное или ложное. Поэтому Тьюринг сформулировал конкретный вопрос: сможет ли компьютер проанализировать программу и решить, способна ли она «остановиться» или же будет выполняться вечно, до своего отключения? Другими словами, истинен или ложен факт, что программа остановится? Ответ оказался следующим: нет, не сможет. Таким образом, он пришел к выводу, что процедуры Гильберта не существует, и «проблема разрешения» была решена. Фактически вывод Тьюринга заключался в том, что существует бесконечное множество задач, которые компьютер не сможет выполнить.

Пока Тьюринг сражался с проблемой разрешения, американский математик Алонзо Чёрч использовал истинно математический подход к ней. Чёрч и Тьюринг опубликовали свои работы почти одновременно. Работа Тьюринга определяла понятие «вычисляемости», в то время как Чёрч делал упор на «эффективную вычислимость». Оба термина являются равнозначными. Результат их трудов – тезис Чёрча – Тьюринга – лежит в основе нашей концепции пределов вычислений и создает прямую связь между эзотерическим вопросом из математической логики и компьютером на вашем столе или в кармане.

Даже несмотря на существенный прогресс в развитии компьютеров, они до сих пор ограничены пределами, описанными Чёрчем и Тьюрингом. И пускай современные компьютеры в разы мощнее габаритных машин 1940-х годов, они до сих пор способны выполнять только тот же набор задач, что и универсальная машина Тьюринга.

Искусственный мозг

Тьюринг также активно интересовался мозгом. Он был уверен, что мозг ребенка можно смоделировать на компьютере. В 1948 году Тьюринг написал доклад, в котором изложил свою теорию. В процессе написания данной работы он вывел первое описание искусственных нейронных сетей, которые теперь используют для моделирования нейронов.

Его работа оказалась пророческой. К сожалению, доклад не публиковался до 1968 года (через 14 лет после смерти ученого), поскольку директор Национальной физической лаборатории Чарльз Галтон Дарвин охарактеризовал его как «школьное сочинение». Доклад Тьюринга описывал модель мозга, основанную на простых блоках обработки данных – нейронах, которые имеют два входных значения и одно результирующее. Нейроны соединяются в хаотичном порядке и образуют обширную сеть взаимосвязанных блоков. Сигналы, передаваемые по коммутаторам, идентичны синапсам мозга и состоят из единиц и нулей. Сегодня эта модель называется «логической нейронной сетью», но Тьюринг называл ее «неорганизованной машиной типа A».

Машина типа A не могла ничему научиться, поэтому Тьюринг воспользовался ей в качестве основы для обучаемой машины типа B. Машины типа B были идентичны типу A с той лишь разницей, что места соединений между нейронами содержали переключатели, которые можно было «обучить». Обучение сводилось к указанию переключателю включиться (сигнал мог передаваться по синапсу) или выключиться (сигнал блокировался). Тьюринг предположил, что такая схема подойдет для обучения нейронных сетей.

После смерти ученого его идеи были заново открыты, придуманные им простые бинарные нейронные сети отлично подошли для обучения. В частности, они могли научиться распознаванию простых шаблонов (например, формы О и Х). Нельзя не упомянуть о более сложных нейронных сетях. Они заняли центральное место в дальнейших исследованиях ИИ и обусловили успех всех направлений, начиная от беспилотных автомобилей и заканчивая системами распознавания лиц. За всем этим стоял метод, известный как «символическое рассуждение».

Тьюринг: прерванная жизнь

Алан Тьюринг по праву считается одним из величайших умов XX века. Журнал Nature называл его «одним из лучших научных умов всех времен». С такой оценкой сложно не согласиться.

По сути Тьюринг стал отцом информатики. Своей усердной работой и аналитическими знаниями он помог союзникам выиграть Вторую мировую войну. Тьюринг задавал фундаментальные вопросы о природе разума и его связи со структурой мозга. К концу своей жизни ученый взялся за серьезные исследования в области биологии, работая над математической теорией морфогенеза (например, как леопард получает именно такой окрас). Его работы заложили основу новой области биологии, которую признали и начали исследовать только сейчас. Однако столь многогранный, выдающийся и глубокий ум был потерян в 1954 году – Тьюринг покончил с собой после обвинения в «грубой непристойности» за открытую гомосексуальность, которая в то время была запрещена в Великобритании.

Тьюринг умер, когда компьютеры находились в зачаточном состоянии: Фрэнсис Крик и Джеймс Уотсон только открыли структуру ДНК, а искусственный интеллект еще не получил своего названия. Достижения Тьюринга были малоизвестны до 1970-х годов – отчасти из-за гомосексуальности и самоубийства Тьюринга, масштабности математических расчетов в его работах, а также благодаря атмосфере секретности, окружавшей работу ученого в Блетчли-парке.

После декриминализации гомосексуализма в Великобритании в 1967 году и раскрытия секретов Блетчли-парка наследие Тьюринга стало доступным для изучения. Теперь, оглядываясь назад на 41 год жизни Тьюринга и видя его дальнейшее влияние, мы можем лишь представить себе, чего бы смог достичь ученый, проживи он долгую и насыщенную жизнь, которую он заслужил.