Текст книги "Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе"

К 1830-м годам математики, инженеры и ученые всерьез взялись за постройку машины, способной производить вычисления так же, как люди-«компьютеры». Английский математик Ада Лавлейс и ученый Чарльз Бэббидж изобрели «разностную машину», а позже разработали проект более сложной «аналитической машины», решавшей математические задачи путем выполнения заранее определенной последовательности шагов. Бэббидж не предполагал, что его машина будет использована для чего-либо, кроме действий над числами. Именно Лавлейс в примечаниях к научной статье, которую тогда переводила, добавила изумительно глубокий комментарий, что более мощный вариант машины можно было бы использовать иначе[24]24
  Luigi Manabrea, Sketch of the Analytical Engine Invented by Charles Babbage (London: Richard and John E. Taylor, 1843).


[Закрыть]. Если машина способна манипулировать символами, обозначающими разные вещи (например, музыкальные ноты), тогда ее можно было бы использовать для «размышления» о вещах, лежащих за пределами математики. Хотя Лавлейс не верила, что компьютер когда-либо обретет способность к самостоятельному мышлению, она предвидела создание сложной системы, умеющей выполнять инструкции и таким образом подражать человеку во многих его повседневных задачах.

В ста милях к северу от Кембриджского университета, где работали Лавлейс и Бэббидж, молодой математик-самоучка по имени Джордж Буль шел через поле в Донкастере, когда его внезапно осенило: он решил посвятить свою жизнь расширению логики человеческого мышления[25]25
  Desmond MacHale, The Life and Work of George Boole: A Prelude to the Digital Age, New ed. (Cork University Press, 2014).


[Закрыть]. Во время этой прогулки родилось то, что мы сегодня называем булевой алгеброй: способ упрощения логических выражений (например, «и», «или», «не») через использование символов и чисел. Скажем, вычисление выражения «истина и истина» должно давать результат «истина», что физически могло бы соответствовать положению переключателей или крышек луз на компьютере. Булю потребовалось два десятилетия на формализацию своих идей. И еще только через сто лет кому-то пришло в голову, что булева логика в сочетании с теорией вероятностей могла бы превратить компьютеры из средства автоматизации элементарных математических операций в более сложные мыслящие машины. Технологии, позволяющей построить такую машину, еще не было – отсутствовали необходимые процессы, материалы и источники энергии, – и проверить теорию на практике было невозможно.

Переход от теоретического представления о мыслящей машине к компьютерам, начавшим имитировать мышление человека, произошел одномоментно, с публикацией двух основополагающих статей: «Символический анализ релейных и переключательных схем» Клода Шеннона и «О вычислимых числах и их применении к проблеме разрешения» (Entscheidungsproblem) Алана Тьюринга. Изучая электротехнику в Массачусетском технологическом институте, Шеннон в качестве предмета по выбору взял философию, что выглядело необычно. Основным научным трудом, на который опиралась его диссертация, был трактат Джорджа Буля «Исследование законов мышления». Научный руководитель Шеннона, Вэнивар Буш, подал ему идею реализовать булеву логику в виде физических схем. Буш построил усовершенствованную версию «аналитической машины» Лавлейс и Бэббиджа – она называлась «дифференциальный анализатор», – но сконструирована она была в некоторой степени бессистемно. В то время не существовало теории, которая диктовала бы методику проектирования электрических схем. Открытие Шеннона заключалось в том, что он осуществил схемную реализацию булевой логики и объяснил, каким образом с ее помощью получить рабочую схему, способную складывать нули и единицы.

В то же время, когда Шеннон работал над переносом булевой логики на физические схемы, Тьюринг экспериментировал с «универсальным переводчиком» Лейбница, способным представлять все физическое и научное знание. Английский ученый ставил перед собой задачу доказать так называемую Entscheidungsproblem, или «проблему[26]26
  В русскоязычной литературе устоялось название «проблема разрешения», но по существу эта задача представляет собой теорему, поэтому мы позволяем себе использовать в отношении ее глагол «доказать». – Прим. пер.


[Закрыть] разрешения». Упрощая, можно сформулировать ее так: не существует алгоритма, при помощи которого возможно доказать истинность или ложность произвольного математического утверждения. Ответ оказался отрицательным. Тьюринг сумел продемонстрировать, что такого алгоритма действительно не существует, но побочным результатом его работы явилась математическая модель универсальной вычислительной машины[27]27
  Лучшее объяснение содержится в книге ученого-логика Мартина Дэвиса The Universal Computer: The Road from Leibniz to Turing: «Тьюринг знал, что лучше всего задавать алгоритм в виде списка правил, которые человек мог бы исполнять механически, подобно рецепту в кулинарной книге. Он сумел показать, что список действий для такого человека может быть сведен к небольшому количеству исключительно простых операций без последствий для результата вычисления. Затем, доказав, что способная выполнять только эти элементарные операции машина могла бы определить, следует ли данное заключение из указанных предпосылок… он пришел к выводу, что алгоритма, удовлетворяющего условиямEntscheidungsproblem, не существует».


[Закрыть].

И это изменило все. Тьюринг понял, что программа и данные могут храниться внутри компьютера – для 1930-х годов это было радикальной идеей. До того все сходились на мысли, что машина, программа и данные – три независимые друг от друга сущности. Универсальная машина Тьюринга объясняла, почему они крепко связаны друг с другом. Если смотреть на вещи механически, логика управления схемами и переключателями тоже может быть закодирована в программе и данных. Подумайте на секунду о важности этих утверждений. Контейнер, программа и данные оказались объединены в рамках общей сущности подобно тому, как обстоит дело у людей. Мы тоже контейнеры (наши тела), программы (автономные функции клеток) и данные (наша ДНК в сочетании с прямой и косвенной информацией, поставляемой органами чувств).

В то же время давняя традиция конструирования автоматов, что началась с маленького монаха, умевшего ходить и молиться, наконец встретилась с работой Тьюринга и Шеннона. Американская промышленная компания Westinghouse построила робота, выполненного на базе электрических реле, для Всемирной выставки 1939 года. Робота звали Elektro the Moto-Man, «механический человек Электро». Он выглядел как гигантская человекоподобная фигура золотистого цвета и довольно грубой формы. Под ногами у него были колеса. Внутри находились 48 реле, используемых в телефонной коммутации.

Электро умел реагировать на команды, подаваемые ему голосом по телефонной трубке, воспроизводя заранее записанные ответы на встроенном проигрывателе. Он представлял собой антропоморфный компьютер, способный принимать элементарные решения – например, что сказать – без непосредственного участия человека в данный момент.

Из газетных заголовков, научно-фантастических рассказов и кинохроники того времени видно, что люди были застигнуты врасплох, потрясены и напуганы подобным развитием событий. Для них происходящее выглядело так, словно эра «мыслящих машин» во всей своей полноте наступила в один день. Фантаст Айзек Азимов опубликовал пророческий рассказ «Лжец» в выпуске журнала Astounding Science Fiction за май 1941 года. Рассказ был его реакцией на достижения науки, свидетелем которых он оказался, и в нем Азимов впервые сформулировал знаменитые Три закона робототехники[28]28
  На самом деле в рассказе «Лжец» сформулирован только Первый закон. Все три впервые появляются в рассказе «Хоровод». – Прим. пер.


[Закрыть].

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.

Позже Азимов добавил так называемый Нулевой закон.

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

В 1943 году ученые-психиатры Уоррен Маккалоу и Уолтер Питтс из Чикагского университета опубликовали важную статью «Логическое исчисление идей, присущих нервной деятельности», где описывалась система нового типа, моделирующая живые нейроны при помощи нейронной сети простой архитектуры. Если контейнеры, программы и данные крепко связаны между собой, как утверждал Тьюринг, и если люди представляют собой аналогичные элегантно сконструированные контейнеры, следовательно, можно построить мыслящую машину, если смоделировать часть человеческого тела, ответственную за мышление, – мозг. Они сформулировали современную вычислительную теорию разума и мозга, «нейронную сеть». Вместо того чтобы сосредоточиться на идеях аппаратного и программного обеспечения, они предложили систему нового типа, способную перерабатывать огромные объемы данных, в точности как это делаем мы. Мощности компьютеров еще не хватало, чтобы проверить их теорию, но статья вдохновила других, начавших работу над разумными компьютерными системами.

Связь между разумными компьютерными системами и автономным принятием решений прояснилась благодаря публикации обширного трактата по прикладной математике, вышедшего из-под пера Джона фон Неймана, американского полимата венгерского происхождения, специалиста в области кибернетики, физики и математики. В 1944 году Нейман в соавторстве с Оскаром Моргенштерном, экономистом из Принстонского университета, выпустил книгу объемом в 640 страниц, где подробнейшим образом рассказывалось, как теория игр объясняет основы любых экономических решений[29]29
  Русское издание: Дж. фон Нейман, О. Моргенштерн «Теория игр и экономическое поведение». М., Наука, 1970. – Прим. пер.


[Закрыть]. Именно благодаря этой работе фон Неймана пригласили сотрудничать с Вооруженными силами США, в то время занимавшимися разработкой электрической вычислительной машины нового типа, «Электронного числового интегратора и вычислителя», сокращенно ЭНИАК. Вначале инструкции, предназначенные для машины, реализовывались постоянными соединениями внутри нее, поэтому с каждой новой программой соединения во всей системе нужно было переделывать заново. Вдохновленный трудами Тьюринга, Маккалоу и Питтса, фон Нейман разработал новую систему хранения программ на самом компьютере. Тем самым совершился переход от первой эпохи развития вычислительной техники (табуляции) к новой – эпохе программируемых систем.

Сам Тьюринг к этому моменту работал над концепцией нейронной сети, составленной из компьютеров, каждый из которых был выполнен по архитектуре с хранимым программным кодом. London Times цитировала Тьюринга в 1949 году: «Я не вижу причин, почему она (машина) не могла бы войти в какую-либо сферу профессиональной деятельности, обычно занятую людьми, и постепенно начать конкурировать с ними на равных. Не думаю, что можно исключить даже написание сонетов, хотя здесь сравнение становится немного нечестным: ведь сонет, написанный машиной, скорее оценит по достоинству другая машина». Годом позже, в статье для философского журнала Mind, Тьюринг попытался ответить на вопросы, поставленные Гоббсом, Декартом, Юмом и Лейбницем. В ней он предложил тезис и тест: если когда-нибудь компьютер окажется способен отвечать на вопросы неотличимым от человека образом, он должен быть «мыслящим». Вы наверняка слышали об этой статье под другим названием: «Тест Тьюринга».

Статья начиналась со ставшего знаменитым вопроса, который с тех пор многократно задавали – и на который отвечали – столь многие философы, теологи, математики и ученые до него: «Могут ли машины мыслить?» Но Тьюринг, помнивший о многовековых спорах об уме и машине, отбрасывает этот вопрос как чересчур обший для осмысленной дискуссии. «Машина» и «мыслить» – слишком общие слова, оставляющие слишком много места для субъективной интерпретации (в конце концов, 400 лет люди писали книги и статьи, посвященные их значению).

Игра, по Тьюрингу, строилась на обмане, и компьютер «выигрывал», когда его оказывалось невозможно отличить от человека. Тест проводится следующим образом: имеются человек, машина и находящееся в отдельной комнате лицо, задающее вопросы. Цель игры для лица, задающего вопросы, заключается в том, чтобы понять, какие ответы даются человеком, а какие – машиной. Перед началом игры лицо, задающее вопросы, получает обозначения для своих собеседников, X и Y, но не знает, какая из них относится к компьютеру, и может только задавать вопросы типа: «Не мог бы X сообщить мне, играет ли он в шахматы?» В конце игры ему необходимо указать, кем был X и кем Y. Задачей второго человека является помочь лицу, задающему вопросы, определить машину, а задачей машины – обмануть задающего вопросы так, чтобы тот поверил, что она, машина, и есть второй человек. О самой игре Тьюринг писал: «Я полагаю, что приблизительно через пятьдесят лет станет возможным запрограммировать компьютеры с запоминающим устройством емкостью примерно[30]30
  В тексте отсутствует указание, в каких единицах выражается емкость запоминающего устройства. – Прим. пер.


[Закрыть] 10⁹ играть в имитационную игру так, что для среднего лица, задающего вопросы, шанс идентифицировать стороны правильно после пяти минут собеседования не превысит 70 %»[31]31
  Alan Turing, “Computing Machinery and Intelligence,” Mind 59, no. 236 (1950): 433–60.


[Закрыть].

Но Тьюринг был ученым и отдавал себе отчет в том, что его теорию невозможно доказать, – по крайней мере при его жизни. Как оказалось, проблема заключалась не в отсутствии эмпирических свидетельств, показывающих, что машины когда-нибудь обретут возможность мыслить, и даже не во времени жизни ученого – сам Тьюринг говорил, что провести его тест, скорее всего, окажется возможно только к концу двадцатого столетия. «Мы можем надеяться, что машины со временем станут конкурировать с людьми во всех чисто интеллектуальных сферах деятельности», – писал Тьюринг. Настоящая проблема заключалась в том, чтобы совершить рискованный шаг, поверив, что когда-нибудь машины смогут видеть, рассуждать и запоминать, и люди могут оказаться помехой на пути их прогресса. Его коллегам-исследователям тогда пришлось бы наблюдать способность к познанию, лишенную духовной природы, поверить в возможность существования разумных машин, которые, в отличие от людей, станут принимать решения бессознательно.

В 1955 году профессора Марвин Минский (математика и неврология), Джон Маккарти (математика), а также Клод Шеннон (математик и криптограф из Bell Labs) и Натаниэль Рочестер (специалист по информатике из IBM) предложили провести двухмесячный семинар, посвященный работам Тьюринга и перспективам машинного обучения. Их идея заключалась в следующем: если возможно описать каждое проявление умственной деятельности человека, то можно и научить машину имитировать ее[32]32
  “A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, links to articles of historical interest, last modified April 3, 1996, http://www-formal.stanford.edu/jmc/history/ dartmouth/dartmouth.html.


[Закрыть]⁷. Но для этого потребовалась бы многочисленная группа экспертов в разных областях человеческой деятельности. Они полагали, что, собрав междисциплинарную группу исследователей и интенсивно работая без перерывов в течение целого лета, можно добиться существенного прогресса.

Состав группы имел решающее значение. В нее вошли первоклассные инженеры, социологи, психологи, математики, физики и специалисты по когнитивистике. Им предстояло ставить фундаментальные вопросы и отвечать на них: что значит «мыслить», как работает наш «разум» и как научить машины учиться таким же образом, каким это делают люди? Идея заключалась в том, что разноплановая группа продолжит совместную работу после завершения семинара, развивая эту новую область знания. Поскольку речь шла о междисциплинарном подходе к созданию мыслящих машин, для его обозначения понадобилось новое имя. Участники остановились на немного двусмысленном, но элегантном термине «искусственный интеллект».

Маккарти составил предварительный список из 47 экспертов, присутствие которых считал необходимым, чтобы завязать нужные связи между людьми и заложить основу для дальнейших исследований и работ по прототипированию. Составить список людей, без которых нельзя было обойтись, когда по-настоящему начнутся работы по концептуализации и конструированию ИИ, было очень сложно. В частности, Минскому не нравилось, что на встрече не будет двух ключевых фигур: Тьюринг умер за два года до того, а фон Нейман находился в терминальной стадии рака[33]33
  В своем предложении Маккарти, Минский, Рочестер и Шеннон привели такой список экспертов, которых намеревались пригласить в Дартмутский университет для работы над ИИ. Я воспроизвожу список так, как он был опубликован в 1955 году, с указанием компаний и адресов. Не все упомянутые в нем лица смогли принять приглашение.
  Адельсон, Марвин
  Hughes Aircraft Company
  Эрпорт-Стейшен, Лос-Анджелес, Калифорния
  Эшби, В. Р.
  Барнвуд-хаус
  Глостер, Англия
  Бэкус, Джон
  IBM Corporation
  Мэдисон-авеню, 590
  Нью-Йорк, штат Нью-Йорк
  Бернстайн, Алекс
  IBM Corporation
  Мэдисон-авеню, 590
  Нью-Йорк, штат Нью-Йорк
  Бигелоу, Дж. Х.
  Институт перспективных исследований
  Принстон, Нью-Джерси
  Элиас, Питер
  Научно-исследовательская лаборатория электроники
  Массачусетский технологический институт (МТИ)
  Кембридж, Массачусетс
  Дьюда, В. Л.
  Научно-исследовательская лаборатория IBM
  Покипси, штат Нью-Йорк
  Дэвис, Пол М.
  18-я улица, 1317 C.
  Лос-Анджелес, Калифорния
  Фэно Р. М.
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Фэрли, Б. Г.
  Парк-авеню, 324
  Арлингтон, Массачусетс
  Галантер, Э. Х.
  Пенсильванский университет
  Филадельфия, штат Пенсильвания
  Гелернтер, Герберт
  Научно-исследовательская лаборатория IBM
  Покипси, штат Нью-Йорк
  Гласхоу, Харви А.
  Оливия-стрит, 1102
  Энн-Арбор, Мичиган
  Гёрцаль, Герберт
  Западная 11-я улица, 330
  Нью-Йорк, штат Нью-Йорк
  Хагельбаргер, Д.
  Научно-исследовательская лаборатория Bell Telephone
  Мюррей-Хилл, Нью-Джерси
  Миллер Джордж А.
  Memorial Hall
  Гарвардский университет
  Кембридж, Массачусетс
  Хармон, Леон Д.
  Научно-исследовательская лаборатория Bell Telephone
  Мюррей-Хилл, Нью-Джерси
  Холланд, Джон Х.
  Научно-исследовательский институт окружающей среды
  Мичиганский университет
  Энн-Арбор, Мичиган
  Холт, Анатоль
  Рурал-лейн, 7358
  Филадельфия, штат Филадельфия
  Каутц, Уильям Х.
  Стэнфордский научно-исследовательский институт
  Менло-Парк, Калифорния
  Люс Р. Д.
  Западная 117-я улица, 427
  Нью-Йорк, штат Нью-Йорк
  Маккей, Дональд
  Физический факультет
  Лондонский университет
  Лондон, почтовый индекс «Западный Центральный 2 (WC2)», Англия
  Маккарти, Джон
  Дартмутский университет
  Хановер, Нью-Гэмпшир
  Маккулло, Уоррен С.
  Научно-исследовательская лаборатория электроники, МТИ
  Кембридж, Массачусетс
  Мелзак З. Э.
  Математический факультет
  Мичиганский университет
  Энн-Арбор, Мичиган
  Минский М. Л.
  Ньюбери-стрит, 112
  Бостон, Массачусетс
  Мор, Тренчард
  Факультет информационных технологий
  МТИ
  Кембридж, Массачусетс
  Нэш, Джон
  Институт перспективных исследований
  Принстон, Нью-Джерси
  Ньюэлл, Аллен
  Факультет промышленного управления
  Технологический институт Карнеги
  Питтсбург, Пенсильвания
  Робинсон, Абрахам
  Математический факультет
  Торонтский университет
  Торонто, Онтарио, Канада
  Рочестер, Натаниэль
  Научно-техническая исследовательская лаборатория
  IBM Corporation
  Покипси, штат Нью-Йорк
  Роджерс, Хартли, мл.
  Математический факультет
  МТИ
  Кембридж, Массачусетс
  Розенблит, Уолтер
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Ротштейн, Джером
  Ист-Берген-Плейс, 21
  Ред Бэнк, Нью-Джерси
  Сойр, Дэвид
  IBM Corporation
  Мэдисон-авеню, 590
  Нью-Йорк, штат Нью-Йорк
  Шорр-Кон, Дж. Дж.
  C-380 Lincoln Laboratory, MIT
  Lexington, MA
  Шэпли, Л.
  Rand Corporation
  Мэйн-стрит, 1700
  Санта-Моника, Калифорния
  Шутценбергер, М. П.
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Селфридж, О. Дж.
  Лаборатория Линкольна
  МТИ
  Лексингтон, Массачусетс
  Шэннон, К. Е.
  Научно-исследовательская лаборатория электроники
  МТИ
  Кембридж, Массачусетс
  Шапиро, Норман
  Rand Corporation
  Мэйн-стрит, 1700
  Санта-Моника, Калифорния
  Саймон, Герберт А.
  Факультет промышленного управления
  Технологический институт Карнеги
  Питтсбург, Пенсильвания
  Соломонофф, Раймонд Дж.
  Technical Research Group
  Юнион-сквер запад, 17
  Нью-Йорк, штат Нью-Йорк
  Стил Дж. Э. капитан ВВС США
  Зона Б, почтовый ящик 8698
  База ВВС Райт-Паттерсон
  Огайо
  Уэбстер, Фредерик
  Кулидж-авеню, 62
  Кембридж, Массачусетс
  Мур Э. Ф.
  Научно-исследовательская лаборатория Bell Telephone
  Мюррей-Хилл, Нью-Джерси
  Кемени Джон Дж.
  Дартмутский университет
  Хановер, Нью-Гэмпшир


[Закрыть].

Тем не менее в своих стараниях собрать разностороннюю группу специалистов, чьи знания и навыки взаимно дополняли бы друг друга, организаторы упустили из виду несколько существенных аспектов. Все в списке были белыми – несмотря на то, что в областях знания, интересовавших Маккарти и Минского, работало множество первоклассных цветных специалистов. Все они работали или в технологических гигантах своего времени (IBM, Bell Labs), или в узком кругу избранных университетов. Множество одаренных женщин уже тогда вносили заметный вклад в инженерное дело, информатику, математику, физику – но им места в списке не нашлось[34]34
  Я составила очень краткий список женщин и цветных, которые могли бы внести большой вклад в работу семинара в Дартмутском университете, но были обойдены вниманием организаторов. Этот список ни в коем случае не исчерпывающий. Я могла бы продолжать в течение многих десятков страниц. Перед вами же – просто выборка способных, талантливых, творческих людей, оставшихся за границами списка. Джеймс Эндрюс, математик, профессор Университета штата Флорида, специализировавшийся на теории групп и теории узлов.
  • Джин Бартик, математик, одна из первых программистов компьютера ЭНИАК. Альберт Тернер Баруха-Рейд, математик и теоретик, внесший существенный вклад в теорию марковских цепей, теорию вероятностей и статистику.
  • Дэвид Блэкуэлл, статистик и математик, сделавший существенный вклад в теорию игр, теорию информации, теорию вероятностей и байесову статистику.
  • Мэми Фиппс Кларк, PhD и социальный психолог, чья исследовательская работа была посвящена самосознанию.
  • Тельма Эстрин, пионер использования компьютерных систем в нейрофизиологии и науке о мозге. Она была научным сотрудником департамента электроэнцефалографии Института неврологии при Пресвитерианской больнице в Нью-Йорке.
  • Эвелин Бойд Грэнвилл, PhD по математике, разработчик компьютерных программ анализа траектории, предназначенных для первых пилотируемых орбитальных и лунных космических полетов США.
  • Бетти Холбертон, математик и одна из первых программистов компьютера ЭНИАК. Изобрела точки остановки, применяемые в отладке компьютерных программ.
  • Грейс Хоппер, специалист по информатике и создатель языка Кобол, одного из первых языков программирования, применяемого и по сей день.
  • Мэри Джексон, инженер и математик, позже ставшая первой черной женщиной-инженером в НАСА.
  • Кэтлин Макналти, математик и одна из первых программистов компьютера ЭНИАК.
  • Мэрлин Мельцер, математик и одна из первых программистов компьютера ЭНИАК, первой программируемой вычислительной машины, выполненной полностью на электронной элементной базе.
  • Рожа Петер, математик и основатель теории рекурсивных функций.
  • Фрэнсис Спенс, математик и одна из первых программистов компьютера ЭНИАК.
  • Рут Тейтельбаум, математик и одна из первых программистов компьютера ЭНИАК. Совместно с Мэрлин Мельтцер разработала уравнения для расчета баллистической траектории.
  • Дороти Вон, математик и человек-«компьютер», в 1949 году исполнявшая обязанности директора West Area Computers.
  • Джесси Эрнст Уилкинс-мл., специалист по ядерной физике, инженер-механик и математик, ставшая самым молодым студентом Чикагского университета в возрасте 13 лет.


[Закрыть]. Среди приглашенных были только мужчины, за исключением жены Марвина Минского, Глории. Не отдавая себе отчета в своих предубеждениях, эти ученые, пытавшиеся понять, как устроен человеческий ум, как мы мыслим и как машины могли бы учиться у всего человечества, резко ограничили свою выборку теми, кто выглядел и говорил так же, как они.

В следующем году группа собралась на последнем этаже факультета математики Дартмутского колледжа. Среди тем ее работ были теория сложности, моделирование естественного языка, нейронные сети, связь случайности и творчества, а также самообучающиеся машины. По рабочим дням они собирались в главной аудитории факультета для общего обсуждения, после которого расходились, чтобы работать над частными задачами. Во время одного из таких общих собраний профессора Алан Ньюэлл, Герберт Саймон и Клифф Шоу предложили способ доказательства теорем логики и смоделировали процесс вручную. Свою программу они назвали Logic Theorist, «Ученый логик». Она оказалась первой программой, способной имитировать навыки решения задач, присущие человеку. (Впоследствии программа доказала 38 из 52 теорем из «Оснований математики» Альфреда Норта Уайтхеда и Бертрана Рассела, фундаментального учебника по началам математической науки.) Клод Шеннон, несколькими годами ранее учивший компьютеры играть в шахматы против людей, получил возможность показать прототип своей программы, работа над которой тогда еще продолжалась[35]35
  “The Dartmouth Workshop – as Planned and as It Happened,” Stanford Computer Science Department’s Formal Reasoning Group, John McCarthy’s home page, lecture “AI: Past and Future,” last modified October 30, 2006, http://www-formal.stanford.edu/jmc/slides/dartmouth/ dartmouth/node1.html.


[Закрыть].

Тем летом в Дартмуте расчетам Маккарти и Минского на фундаментальный прорыв в области ИИ не суждено было оправдаться. Чтобы превратить ИИ из теории в практику, им не хватило времени, не говоря уже о вычислительной мощности[36]36
  “The Dartmouth AI Archives,” RaySolomonoff.com, http://raysolomonoff. com/dartmouth/.


[Закрыть]. Тем не менее именно к этому моменту восходят три практики, образующие фундамент ИИ в известном нам сегодня виде:

– теоретическая и практическая разработка ИИ, его тестирование и совершенствование будут производиться крупными технологическими компаниями и академической наукой, работающими совместно; – совершенствование ИИ требует больших сумм денег, поэтому станет необходима коммерциализация этих работ в той или иной форме – будь то взаимодействие с государственными или военными органами через партнерства или разработка продуктов и систем, которые могут быть проданы;

– исследование и разработка ИИ будут опираться на сеть ученых, работающих на стыке дисциплин, что означает создание новой отрасли науки с нуля. Это также означает, что уже работающие в этой отрасли будут нанимать, как правило, знакомых им людей, обеспечивая относительную однородность сети и ограничивая выборку.

Тем летом произошло другое интересное событие. Работая над вопросом Тьюринга, могут ли машины мыслить, группа разделилась из-за подходов к ответу на него, а именно построению самообучающейся машины. Некоторые участники предпочитали биологический метод. Иными словами, они считали, что при помощи нейронных сетей можно придать ИИ здравый смысл и способность рассуждать логически – и таким образом машины могут стать разумными. Другие возражали, что построить настолько полную копию мыслительного аппарата человека невозможно никогда. Вместо этого они предлагали инженерный подход. Вместо того чтобы подавать машине команды, приводящие к решению задачи, программа могла бы помочь системе «обучиться» на наборе данных. Система делала бы предсказания, основываясь на этих данных, а контролирующий ее человек проверял бы ответы, тренируя и настраивая ее в процессе работы. Таким образом определяется «машинное обучение» в узком смысле, то есть обучение решению изолированной задачи, например игре в шашки.

Психолог Фрэнк Розенблатт, участвовавший в семинаре в Дартмутском колледже, хотел смоделировать обработку визуальной информации в человеческом мозгу и в итоге научить машину распознавать предметы. Он рассчитывал создать простую рамочную программу, восприимчивую к обратной связи. Опираясь на результаты летних исследований, Розенблатт создал систему, которую назвал Perceptron. Это была первая искусственная нейронная сеть (ANN), работавшая по принципу создания связей между многочисленными элементами, обрабатывающими информацию и расположенными послойно. Каждый механический нейрон принимал на входе множество различных сигналов и затем обрабатывал их математически с учетом весов, чтобы определить, какой сигнал генерировать на выходе. Такая параллельная структура позволяла осуществлять доступ ко множеству обрабатывающих элементов одновременно, а это означало, что она не только была быстрой, но и могла непрерывно обрабатывать большой объем данных.

Это достижение так важно вот почему: пускай оно не обязательно означает, что компьютер может «мыслить», оно ясно показывает, как научить его учиться. Мы, люди, учимся методом проб и ошибок. Чтобы сыграть на фортепиано гамму до мажор или до минор, нужно нажать определенные клавиши в нужной последовательности. Вначале наши пальцы, уши и глаза не помнят правильного образа действий, но если мы упражняемся – повторяем гамму снова и снова, каждый раз исправляясь, то со временем делаем все правильно. Когда я училась играть на фортепиано и страдала над гаммами, мой педагог поправлял меня, но если я делала все как надо, то зарабатывала наклейку. С нейронной сетью Розенблатта дело обстоит точно так же. Система учится, как оптимизировать свой ответ, повторяя одни и те же действия тысячи раз, – при этом она запоминает выученное и будет применять полученные знания к будущим задачам. Розенблатт обучал систему при помощи методики, которую называл «обратное распространение». Во время начальной фазы обучения человек оценивает, правильное ли решение принял ИИ. Если да, процесс получает подкрепление. Если нет, в систему весов вносятся изменения и производится новое испытание.

В последующие за семинаром годы достигнут выдающийся прогресс в решении вопросов, трудных для человека, например в использовании ИИ для решения математических задач. В то же время научить ИИ делать простые для людей вещи – например распознавать речь – оставалось проблемой без очевидного ответа. До начала работы над ИИ наш разум всегда оставался черным ящиком. Данные поступали на вход, реакция появлялась на выходе, но наблюдать процесс было невозможно. Прежде философы, математики, ученые утверждали, что это результат божественного творения. Современные ученые знали, что это результат эволюции, занявшей сотни тысяч лет. До 1950-х годов, до лета в Дартмурском колледже, ученые считали, что могут вскрыть черный ящик (по крайней мере на бумаге) и наблюдать сознание. А затем научить компьютеры подражать нашим реакциям на стимулы.

До этого момента компьютеры оставались инструментами для автоматизации табуляции. Первая эпоха развития вычислительной техники, для которой были характерны машины, способные производить вычисления, уступала место второй эпохе программируемых компьютеров. Это были более легкие и более быстрые системы, памяти которых хватало, чтобы хранить в ней наборы инструкций. Программы теперь можно было хранить локально, и, что немаловажно, писать их на английском языке, а не на сложном машинном коде. Становилось понятно, что для получения полезных приложений ИИ нам не понадобятся ни автоматы, ни человекоподобные контейнеры. ИИ может быть заключен в прямоугольном ящике, лишенном человеческих черт, и при этом быть крайне полезным.

Семинар в Дартмутском колледже вдохновил английского математика Ирвинга Джона Гуда написать о «машине ультраинтеллекта», способной проектировать еще лучшие машины, чем мы сами. Это привело бы к будущему «интеллектуальному взрыву, причем интеллект человека останется далеко позади. Таким образом, первая ультраинтеллектуальная машина – последнее изобретение, которое необходимо сделать человеку»[37]37
  Irving John Good, “Speculations Concerning the First Ultraintelligent Machine,” Advances in Computers, Volume 6 (1966): 31–88, https://www. sciencedirect.com/science/article/pii/S0065245808604180?via%3Dihub.


[Закрыть].

Наконец, в этой истории появилась женщина – или, по крайней мере, женское имя. Специалист по информатике Джозеф Вейценбаум из Массачусетского технологического института написал одну из первых систем ИИ, которую назвал ELIZA, по имени персонажа пьесы «Пигмалион» Бернарда Шоу[38]38
  Joseph Weizenbaum, “ELIZA – A Computer Program for the Study of Natural Language Communication Between Man and Machine,” Communications of the ACM 9, no. 1 (January 1966): 36–45, http://web. stanford.edu/class/cs124/p36-weizenabaum.pdf.


[Закрыть]. Это был важный этап в развитии нейронных сетей и ИИ, поскольку представлял собой одну из первых попыток обработки естественного языка. Программа имела доступ к нескольким заранее составленным сценариям, чтобы беседовать с живыми людьми. Самый известный сценарий назывался DOCTOR[39]39
  Полный текст сценария находится на GitHub: https://github.com/ codeanticode/eliza.


[Закрыть] и имитировал сочувствующего психолога. Система распознавала речевые паттерны и благодаря этому отвечала удивительно похоже на человека.

К тому моменту семинар в Дартмутском колледже стал привлекать к себе международное внимание, как и его участники, неожиданно ставшие знаменитостями. Они оказались звездами научного мира, которые приоткрыли обычным людям дверь в фантастический мир будущего. Помните Розенблатта, психолога, создавшего первую нейронную сеть? Он заявил газете Chicago Tribune, что скоро машины не просто будут располагать программами типа ELIZA, способными давать несколько сотен ответов, а научатся слушать то, что говорится на встречах, и записывать под диктовку «в точности как обычный секретарь». Он обещал, что самое большое «мыслящее устройство», когда-либо построенное человечеством, будет готово к запуску в эксплуатацию через несколько месяцев[40]40
  Ronald Kotulak, “New Machine Will Type Out What It ‘Hears,’” Chicago Tribune, June 18, 1963, accessed via Chicago Tribune archives (платный доступ).


[Закрыть].

А что же Саймон и Ньюэлл, создатели «Ученого логика»? Они начали делать дерзкие, смелые предсказания относительно ИИ, говоря, что в течение десяти лет – то есть к 1967 году – компьютеры смогут:

– победить всех сильнейших гроссмейстеров и завоевать мировой чемпионский титул по шахматам;

– открыть и доказать новую важную теорему математики;

– писать музыку, удовлетворяющую вкусам самых строгих критиков[41]41
  Herbert A. Simon and Allen Newell, “Heuristic Problem Solving: The Next Advance in Operations Research,” Operations Research 6 (1958): 1–10.


[Закрыть].

В то же самое время Минский предсказывал появление машины, реализующей сильный ИИ и способной на большее, чем записывать под диктовку, играть в шахматы или сочинять музыку, – иными словами, компьютеры будут способны к сложному мышлению, выражению идей посредством языка, принятию решений[42]42
  Сам Маккарти хотел работать с группой исследователей над своими идеями о представлении знаний и рассуждений, лежащих в рамках обычного здравого смысла, но когда группа собралась, он понял, что в матрице участников отсутствуют некоторые необходимые ученые (в его случае речь шла о специалистах по логике).


[Закрыть].

Участники семинара в Дартмутском колледже писали статьи и книги. Они давали интервью на радио и телевидении, в газетах и журналах. Но научную сторону дела объяснить было непросто, поэтому часто объяснения искажались, а цитаты использовались вне контекста. Даже если отвлечься от дерзких предсказаний, отчасти ожидания публики по отношению к ИИ становились все более и более фантастическими из-за ошибок в передаче слов ученых. Например, журнал Life цитировал Минского следующим образом: «В течение трех – восьми лет мы будем располагать машиной, обладающей интеллектом среднего человека. Я имею в виду машину, способную читать Шекспира, полировать автомобиль, участвовать в офисных интригах, рассказывать анекдоты, драться»[43]43
  Brad Darrach, “Meet Shaky, the First Electronic Person,” Life Magazine, November 20, 1970, Volume 69, 58B-58C.


[Закрыть]. В той же статье журналист называет Алана Тьюринга «Рональдом Тьюрингом». Минский, очевидно, бывший энтузиастом своего дела, мог немного увлечься и, разумеется, не имел в виду, что умеющие ходить и говорить роботы появятся буквально завтра. Однако отсутствие контекста и необходимых пояснений привело к тому, что у широкой публики начало складываться ошибочное восприятие ИИ.

Не способствовало улучшению дел и то, что в 1968 году Артур Кларк и Стэнли Кубрик решили снять фильм о будущем, где машины обладают интеллектом среднего человека. Они хотели рассказать историю о происхождении человека и мыслящих машин и пригласили Минского в качестве консультанта. Если вы еще не догадались, речь идет о фильме «Космическаая одиссея 2001 года», действие которого разворачивается вокруг компьютера с сильным искусственным интеллектом HAL 9000, который перенял вкус к творчеству и чувство юмора у своих создателей и угрожал убить любого, кто захочет отключить его. Один из персонажей, Виктор Каминский, назван в честь Минского.

Без преувеличения можно сказать, что к середине 1960-х годов ИИ стал отчасти олицетворять дух времени, и все фетишизировали будущее. Ожидание коммерческого успеха ИИ также возрастало – благодаря статье в малоизвестном отраслевом журнале, посвященном радиоэлектронике. Статья называлась просто: «Об увеличении плотности компонент на интегральных схемах» (Cramming More Components onto Integral Circuits), ее автором был сооснователь Intel Гордон Мур. В статье он выдвинул теорию, что количество транзисторов, которое можно разместить на интегральной микросхеме, будет удваиваться каждые 18–24 месяца. Это смелое положение стало известно под именем «закона Мура», и очень быстро выяснилось, что оно оправдывается. Компьютеры становились все мощнее и уже могли решать самые разнообразные задачи, не только математические. Для сообщества, создавшегося вокруг ИИ, это имело решающее значение: им предоставлялась возможность всерьез проверить свои теории на практике, причем в скором будущем. Кроме того, открывалась захватывающая дух перспектива: рукотворные машины с ИИ превзойдут человеческий мозг, емкость памяти которого ограничена его биологической природой.

Вся шумиха вокруг ИИ наряду с упомянутой статьей привели к тому, что в эту тематику стали делаться огромные инвестиции – даже несмотря на то, что люди вне дартмутского кружка плохо понимали, что такое ИИ на самом деле. Готовых к демонстрации продуктов еще не было. Не было и практически осуществимых способов масштабировать нейронные сети и всю остальную требуемую технологию. Люди поверили в возможность мыслящих машин, этого оказалось достаточно, чтобы обеспечить корпоративные и государственные вливания на значительные суммы. Например, правительство США финансировало амбициозную программу разработки машинного перевода при помощи ИИ. Холодная война была в самом разгаре, и государство хотело иметь в своем распоряжении систему мгновенного перевода с русского языка: это повысило бы эффективность и точность операций и сэкономило бы расходы. Казалось, при помощи машинного обучения можно было бы решить эту задачу, создав программу-переводчик. Институт языков и лингвистики Джорджтаунского университета и компания IBM в сотрудничестве создали опытный экземпляр системы машинного перевода с русского на английский: ее словарь составлял всего 250 слов, и специализировалась она только на органической химии. Ее успешная публичная демонстрация заставила многих сделать скороспелые выводы, и машинный перевод оказался темой первой полосы The New York Times, а также пяти-шести других газет.

Деньги щедро лились между государственными учреждениями, университетами и крупными технологическими компаниями, и некоторое время казалось, что никто не следит за счетчиком. Однако ИИ обманывал обещания и прогнозы во всем, что выходило за пределы упомянутых статей и опытных образцов. Оказалось, что настоящий прорыв в этой области представляет собой куда более сложную задачу, чем предполагали первопроходцы.

Вскоре зазвучали голоса, требующие разобраться с реальными задачами для ИИ и его практической реализацией. По требованию Национального фонда науки, Министерства обороны и ЦРУ Национальная академия наук создала консультативный комитет. Он обнаружил, что существуют разные, противоречащие друг другу взгляды на возможность перевода с иностранных языков при помощи ИИ, придя в конце концов к выводу, что «перевод научного текста общего характера с иностранного языка осуществлен не был, и в ближайшем будущем такой возможности не предвидится»[44]44
  National Research Council, Language and Machines: Computers in Translation and Linguistics (Washington, DC: The National Academies Press, 1966), 19. https://www.nap.edu/read/9547/chapter/1.


[Закрыть]. Вышедший затем отчет для Британского научно-исследовательского совета утверждал, что ведущие ученые переоценили свои успехи в ИИ, и давал пессимистический прогноз по всем основным направлениям исследований в этой области. Авторский коллектив отчета возглавлял Джеймс Лайтхилл, специалист по прикладной математике из Кембриджа. Главный тезис его критики заключался в том, что первые достижения ИИ – обучение компьютера игре в шашки, например, – никогда не удастся масштабировать до решения более крупных задач, которые ставит реальный мир[45]45
  James Lighthill, “Artificial Intelligence: A General Survey,” Chilton Computing, July 1972, http://www.chilton-computing.org.uk/inf/ literature/reports/lighthill_report/p001.htm.


[Закрыть].