Текст книги "Искусственный интеллект – надежды и опасения"

Глава 6
Нечеловеческая ловушка, в которую нас завлекли машины

Родни Брукс

ученый-компьютерщик, стипендиат и почетный профессор робототехники в МТИ, бывший директор Лаборатории компьютерных наук МТИ, основатель, председатель совета директоров и технический директор компании «Rethink Robotics», автор книги «Плоть и машины».

Робототехник Родни Брукс оказался одним из героев документального фильма Эррола Морриса «Быстро, дешево и бесконтрольно» (1997), а компанию ему составили укротитель львов, топиарист и эксперт по голым землекопам[60]60
  Топиар – искусство кустарниковой скульптуры; голые землекопы – грызуны семейства землекоповых, обитающие в Кении и Восточной Африке.


[Закрыть]; некий рецензент отметил, что «его улыбка сочеталась с диким блеском в глазах». Пожалуй, то же самое можно сказать о большинстве провидцев.

Несколько лет спустя Брукс, как и подобало одному из ведущих робототехников мира, заявил, что «мы чрезмерно антропоморфизируем людей, которые, если уж на то пошло, являются элементарными машинами». Далее он принялся рисовать светлые перспективы пришествия ИИ и предрек, что «различие между нами и роботами постепенно исчезнет». При этом он отчасти признал наличие у себя двух мировоззрений. «Будучи ученым и человеком религиозным, я придерживаюсь одновременно двух противоречивых убеждений и обращаюсь к тому или другому в разных обстоятельствах, – писал он. – Такая взаимопроницаемость между системами убеждений, как мне кажется, позволит человечеству в конечном счете воспринять роботов как машины, наделенные эмоциями, начать им сочувствовать и обнаружить у них свободу воли, относиться к ним с уважением и в конце концов признать их права».

Эти слова прозвучали в 2002 году. В нижеследующем очерке Брукс излагает чуть более пристрастный и более узкий взгляд; его беспокоит наше стремление полагаться на компьютерные системы, которые активно эксплуатируются – и которые становятся все уязвимее вследствие чересчур быстрого развития программной инженерии; по его мнению, прогресс в этой области заметно опережает внедрение надежных и эффективных методов защиты.

Поле зрения математиков и других ученых, когда мы говорим об общей картине за пределами конкретной специальности, часто ограничено инструментами и метафорами, которые они используют в своей работе. Норберт Винер здесь не исключение; смело могу допустить, что я таковым тоже не являюсь.

Когда Винер работал над «Человеческим применением человеческих существ», завершалась эпоха восприятия машин и животных просто как совокупностей физических процессов – и начиналась нынешняя эпоха понимания машин и животных как совокупностей вычислительных процессов. Подозреваю, что в будущем, в новые эпохи, неведомые нам инструменты будут настолько же отличаться от наших, насколько инструменты двух винеровсих эпох отличались друг от друга.

Винер был «гигантом мысли» первой из указанных эпох и опирался на инструменты, восходящие к Ньютону и Лейбницу и предназначенные для описания и анализа непрерывных процессов в физическом мире. В 1948 году он опубликовал работу «Кибернетика» и под этим словом подразумевал науку об управлении и связи у машин и животных. Сегодня мы трактуем идеи этой книги как теорию управления, обязательную дисциплину для проектирования и анализа физических машин, но в то же время пренебрегаем, как правило, мыслями Винера относительно коммуникации. Теории Винера многим обязаны его практическому опыту в годы Второй мировой войны, когда он разрабатывал систему наведения зенитных орудий. Он привнес математическую строгость в разработку технологий, процессы проектирования которых оставались в значительной степени эвристическими по своему характеру: речь о технологиях, если вспоминать историю, от римских гидротехнических сооружений до парового двигателя Уатта и до первых автомобилей.

Можно вообразить иную версию нашей интеллектуальной и технологической истории, допустив, что никогда не рождались Алан Тьюринг и Джон фон Нейман, оба внесшие немалый вклад в развитие вычислительной техники. Тьюринг описал фундаментальную модель вычислений – ныне известную как машина Тьюринга – в своей статье «О вычислимых числах в приложении к Entscheidungsproblem[61]61
  Проблеме разрешения (нем.). Речь о математической задаче, сформулированной Д. Гильбертом: требуется найти алгоритм, который принимает в качестве входных данных любой формальный язык/любое утверждение на этом языке, а после конечного цикла операций выдает заключение «Истина» или «Ложь» в зависимости от истинности/ложности утверждения. В статье Тьюринга (и в отдельно опубликованной статье А. Черча) доказывалось, что не существует алгоритма для определения истинности утверждений арифметики, поэтому проблема в целом не имеет решения.


[Закрыть]», написанной и переработанной в 1936 году, а опубликованной год спустя. В такой машине линейная последовательность символов конечного алфавита кодирует исходные условия вычислительной задачи и обеспечивает рабочее пространство вычислений. Для каждой отдельной вычислительной задачи необходима своя машина; позднее было доказано, уже другими, что возможно закодировать в одной конкретной машине, ныне известной как универсальная машина Тьюринга, произвольный набор вычислительных инструкций с использованием той же последовательности символов.

Джон фон Нейман в 1940-х годах разработал абстрактную самовоспроизводящуюся машину, которую назвал клеточным автоматом. Предполагается, что она занимает конечное подмножество бесконечного двумерного массива квадратов, каждый из которых содержит отдельный символ конечного алфавита из двадцати девяти различных символов, а остальная часть бесконечного массива изначально пуста. Отдельные символы в каждом квадрате изменяются взаимосвязанно согласно сложному, но конечному правилу для символа в конкретном квадрате и его ближайших соседях. В соответствии со сложным правилом, разработанным фон Нейманом, большинство символов в большинстве квадратов остаются неизменными, лишь некоторые изменяются на каждом этапе процесса. Поэтому при взгляде на заполненные квадраты выясняется, что имеется постоянная структура с какой-то активностью внутри нее. Когда абстрактная машина фон Неймана воспроизводится, она копирует себя в другую область пространства. Внутри «машины» имеется горизонтальная линия квадратов, конечная линейная последовательность, основанная на подмножестве символов конечного алфавита. Именно символы в этих квадратах кодировали машину, частью которой они являлись. При воспроизведении последовательность могла сдвигаться влево или вправо, что трактовалось (интерпретировалось) как инструкция (перевод инструкции) для новой «машины», которая создавалась, а затем копировалась (реплицировалась); новая копия помещалась внутрь новой машины для дальнейшего воспроизведения. Фрэнсис Крик и Джеймс Уотсон[62]62
  Лауреаты Нобелевской премии по медицине (1962) за «открытия, касающиеся молекулярной структуры нуклеиновых кислот и их значения для передачи информации в живых системах».


[Закрыть] продемонстрировали в 1953 году, что подобную последовательность можно воссоздать биологически в длинной молекуле ДНК с конечным алфавитом из четырех нуклеотидов – гуанина, цитозина, аденина и тимина (G, C, A и T)[63]63
  «A Structure for Deoxyribose Nucleic Acid», Nature 171, 737‐738 (1953). – Примеч. автора.


[Закрыть]. Как и в машине фон Неймана, при биологическом воспроизведении линейная последовательность символов в ДНК интерпретируется – посредством транскрипции в молекулы РНК, которые затем транслируются в белки, то есть в структуры, творящие новую клетку, – а ДНК реплицируется и инкапсулируется в новой клетке.

Второе прозрение фон Неймана содержалось в статье «Первый черновик» (1945) о разработке цифрового компьютера: здесь автор ратовал за компьютерную память, которая способна содержать инструкции и данные одновременно[64]64
  https://en.wikipedia.Org//wiki/First_Draft_of_a_Report_on_the_EDVAC#Controversy. Фон Нейман указан как единственный автор, хотя другие ученые дорабатывали его концепцию; в общем, слава «архитектора» досталась ему одному. – Примеч. автора.


[Закрыть]. Ныне мы говорим о машинах с архитектурой фон Неймана, противопоставляя их машинам с гарвардской архитектурой, где наличествуют две отдельные памяти – для инструкций и для данных. Подавляющее большинство компьютерных чипов, созданных в эпоху действия закона Мура, основано на архитектуре фон Неймана, включая и те, которые используются в центрах обработки данных, ноутбуках и смартфонах. Цифровая компьютерная архитектура фон Неймана концептуально представляет собой то же самое обобщение – плод эволюции ранних цифровых компьютеров на базе электромагнитных реле в Гарвардском университете и в Блетчли-парке[65]65
  В этом особняке в годы Второй мировой войны располагалась Правительственная школа кодов и шифров – главное шифровальное учреждение Великобритании; среди сотрудников учреждения были А. Тьюринг и чемпионы по шахматам Х. Александер и С. Милнер-Барри.


[Закрыть], – которое формируется при переходе от специализированной машины Тьюринга к универсальной машине Тьюринга. Кроме того, самовоспроизводящиеся автоматы фон Неймана принципиально схожи по конструкции с машиной Тьюринга и с механизмом размножения биологических клеток на основе ДНК. По сей день ученые спорят о том, осознавал ли фон Нейман это фундаментальное сходство между трудами Тьюринга и своими прозрениями. Тьюринг переработал свою концепцию, когда они с фон Нейманом оба подвизались в Принстоне; более того, после получения докторской степени Тьюринг едва не подался в сотрудники фон Неймана.

Без Тьюринга и фон Неймана кибернетика Винера могла бы главенствовать в мышлении и оставаться движущей силой развития технологий намного дольше, чем это произошло в реальности, где она пережила краткий миг торжества. В воображаемой версии истории мы вполне могли бы жить сегодня в мире стимпанка[66]66
  Художественная субкультура, идеалом которой являются развитие общества на основе паровых технологий и квазивикторианское общественное устройство.


[Закрыть], а не просто наблюдать его фантастические воплощения на Maker Faires![67]67
  Дословно «ярмарки творцов»; мероприятия, организуемые американским журналом «Make» для «популяризации искусства, ремесел, научных проектов и прочих усилий самодеятельных творцов».


[Закрыть]

Все сказанное означает, что Винер думал о мире – физическом, биологическом и (в «Человеческом применении») социальном – совершенно особым образом. Он анализировал мир как непрерывность переменных, что сам объяснял в главе 1, ссылаясь на термодинамику и статистику Гиббса[68]68
  Имеется в виду теория статистической механики, разработанная американским ученым У. Гиббсом.


[Закрыть]. Еще он предложил слабую и неубедительную модель информации как обмена сообщениями между физическими и биологическими сущностями. На мой взгляд, спустя семьдесят лет эволюции эти идеи и модели выглядят прискорбно непригодными для описания механизмов, лежащих в основе биологических систем, а вдобавок он не задумывался о том, каким образом подобные механизмы могут в конечном счете быть воплощены в технологических вычислительных системах, что происходит сегодня. Нынешние доминирующие технологии разрабатываются в мире Тьюринга и фон Неймана, а не в мире Винера.

В ходе первой промышленной революции люди научились использовать энергию пара и вращение водяного колеса вместо грубой физической силы. Вместо того чтобы и дальше обращаться к последней, люди сделались модуляторами, контролирующими использование сторонней энергии. Но поскольку паровые двигатели и водяные колеса по необходимости имели большие размеры, чтобы работать эффективно, и поскольку в XVIII столетии единственной технологией для пространственного распределения энергии было механическое перемещение на чрезвычайно малые расстояния, приходилось привлекать к процессу множество работников. Винер правильно отмечал, что именно возможность передачи энергии в форме электричества вызвала вторую промышленную революцию. Теперь источник энергии мог находиться далеко от места применения, и с начала XX столетия производство рассредотачивалось благодаря распространению распределенных электросетей.

Далее Винер утверждал, что очередная новая технология, на сей раз в виде зарождающейся вычислительной техники его времени, приведет к новой революции. Машины, о которых он писал, выглядят аналоговыми и (возможно) цифровыми по своим параметрам; в «Человеческом применении человеческих существ» он указывал, что, поскольку такие машины способны принимать важные решения, синие и белые воротнички[69]69
  То есть рабочие и служащие соответственно.


[Закрыть] со временем рискуют превратиться в винтики гораздо более крупной машины. Он опасался, что люди начнут эксплуатировать и изводить друг друга при посредстве организационных структур, которые породит эта способность машин. Мы воочию наблюдали происходящее в последние шестьдесят лет, и процесс «завинчивания» еще далек от завершения.

Впрочем, приверженность физике не позволила Винеру предугадать, насколько плохо все может оказаться. Он воспринимал способность машин к общению как новый, менее человечный, если угодно, способ управления и контроля. Он не предполагал, что всего за несколько десятилетий вычислительные системы сделаются чрезвычайно схожими с биологическими системами, и, судя по описанию в главе 10 его книги, где обсуждаются его собственные опыты моделирования ряда биологических ситуаций, он, к сожалению, сильно недооценивал сложность биологии в сравнении с физикой. Сегодня мы находимся в гораздо более сложном положении, чем рисовалось Винеру, и лично меня беспокоит, что это положение кажется намного отчаяннее его худших воображаемых страхов.

В 1960-х годах вычисления развивались в русле, «прорытом» Тьюрингом и фон Нейманом; эти цифровые вычисления опирались на идею конечного алфавита символов, важную для обоих ученых. Последовательность или строка произвольной длины, образованная символами конечного алфавита, может быть закодирована как уникальное целое число. Формализм вычислений, как и в случае самих машин Тьюринга, стал формализмом вычисления целочисленной функции единичного целочисленного входа.

Тьюринг и фон Нейман ушли из жизни в 1950-е годы, и вот как они в ту пору рассматривали вычисления и компьютеры. Никто не предвидел экспоненциальный рост вычислительных возможностей по закону Мура или стремительное распространение вычислительного оборудования. Также они не предвидели двух новшеств в нашем моделировании вычислений, каждое из которых представляет немалую угрозу для человеческого общества.

Первое связано с теми самыми абстракциями, от которых отталкивались Тьюринг и фон Нейман. Пятидесятилетнее, подгоняемое законом Мура состязание в производстве программного обеспечения, которое учитывало бы удвоение мощности компьютеров каждые два года (по сути, типичная инженерная деятельность), оказалось отодвинутым на второй план. Разработка программного обеспечения велась быстро и провоцировала ошибки. Эта ускоренная разработка программного обеспечения вне стандартов качества позволила обнаружить множество способов использования хранилища данных и инструкций в архитектуре фон Неймана (в одной и той же памяти). Среди наиболее распространенных способов можно отметить «переполнение буфера», когда число на входе (или длинная строка символов) больше, чем ожидал программист, и «перетекает» в область хранения инструкций. Намеренно задавая входное число намного больше, некто с помощью соответствующего программного обеспечения может внедрить в компьютер сторонние инструкции и тем самым изменить его функционирование. Вот фундамент разработки компьютерных вирусов, названных так из-за сходства с биологическими вирусами. Последние внедряют в клетку дополнительную ДНК, и механизм транскрипции и трансляции клетки слепо интерпретирует новые данные, творя белки, которые могут нанести урон клетке-хозяину. Кроме того, клеточный механизм репликации обеспечивает размножение вируса. Так малая чужеродная сущность может взять под контроль гораздо большую сущность и заставить ту неожиданно изменить свое поведение.

Эти и прочие формы цифровых атак лишили нашу повседневную жизнь былой безопасности. Ведь мы полагаемся на компьютеры практически во всем. Мы передали им управление инфраструктурой (электричество, газ, дороги, автомобили, поезда, самолеты), а инфраструктура теперь уязвима. Мы полагаемся на компьютеры в банковских операциях, в оплате счетов, накоплении пенсий, ипотеке, при покупке товаров и услуг – и опять-таки рискуем. Мы полагаемся на компьютеры в наших развлечениях, наших коммуникациях, деловых и личных, в обеспечении физической безопасности, в получении информации о мире и на выборах; все это сегодня далеко не безопасно. В ближайшем будущем исправить ситуацию вряд ли получится. Между тем многие сферы нашего общества остаются уязвимыми для атак – со стороны обычных преступников и со стороны враждебных государств.

Второе новшество заключается в том, что вычисления оставили далеко позади рамки вычислительных функций. Вместо этого программы постоянно находятся онлайн и могут собирать данные о последовательностях запросов. В соответствии со схемой Винера / Тьюринга / фон Неймана мы могли думать, что шаблон коммуникации для веб-браузера будет следующим:

Пользователь: Покажи мне веб-страницу А.

Браузер: Вот веб-страница А.

Пользователь: Покажи мне веб-страницу Б.

Браузер: Вот веб-страница Б.

Ныне же все может выглядеть так:

Пользователь: Покажи мне веб-страницу А.

Браузер: Вот веб-страница А. [И я запомню, что ты хотел увидеть веб-страницу А.]

Пользователь: Покажи мне веб-страницу Б.

Браузер: Вот веб-страница B. [Я вижу корреляцию между ее содержанием и содержанием ранее запрошенной веб-страницы A, поэтому обновляю свою модель твоего поведения и передаю ее в компанию, которая меня изготовила.]

Когда машина перестает просто вычислять функции, а начинает вместо этого фиксировать состояния, она может приступить к формулировке выводов о человеке на основании последовательностей запросов, ей задаваемых. Когда разные программы устанавливают корреляции между разными потоками запросов – скажем, сопоставляют поиск в интернете с сообщениями пользователя в социальных сетях, оплатой каких-то покупок или временем на просмотр конкретной рекламы, а также с местонахождением пользователя (благодаря смартфонам с поддержкой GPS), – тогда совокупность сведений, доступных многим программам, которые взаимодействуют друг с другом и с базами данных, оборачивается совершенно неожиданной утратой конфиденциальности. Громадный скачок в технологическом развитии множества компаний Западного побережья[70]70
  Имеются в виду многочисленные технологические компании и стартапы, базирующиеся в Калифорнии.


[Закрыть] объясняется тем, что они принялись монетизировать эти сведения без ведома пользователей, взаимодействующих с вычислительными платформами.

Винер, Тьюринг и фон Нейман не могли предвидеть, сколь сложными сделаются эти платформы, которыми люди охотно пользуются, не обращая внимания на юридическую абракадабру пользовательских соглашений и нисколько не подозревая, на что дают согласие; тем самым они добровольно отказываются от прав, которыми никогда бы не пренебрегли в общении один на один с другим человеком. Эти вычислительные платформы стали щитом, из-за которого отдельные корпорации бесчеловечно эксплуатируют людей. В ряде стран сами правительства поддерживают такие манипуляции, причем целью является не прибыль, а подавление инакомыслия.

Человечество угодило в любопытную ловушку: нас эксплуатируют компании, как ни парадоксально, предоставляющие услуги, которые нам нужны, и в то же время наша жизнь зависит от множества программных систем, уязвимых перед нападением. Вырваться из этой ловушки – вот наш долгосрочный план. Нам понадобятся технологии, законотворчество и, самое главное, моральное лидерство. Но последнее является, увы, наиболее серьезной проблемой.

Глава 7
Единство разума

Фрэнк Вильчек

профессор физики в Массачусетском технологическом институте, лауреат Нобелевской премии 2004 года по физике, автор книги «Красота физики. Постигая устройство природы».

Я познакомился с Фрэнком Вильчеком в 1980-х годах, когда он пригласил меня к себе домой в Принстон, чтобы кое-что обсудить. «Мой адрес – дом 112 по Мерсер-стрит, – написал он. – Ищите дом без подъездной дороги». Несколько часов спустя я сидел в старой гостиной Эйнштейна [71]71
  В доме по этому адресу А. Эйнштейн проживал с 1935 по 1955 г. Сегодня там находится мемориальный музей «Дом Эйнштейна».


[Закрыть]и беседовал с будущим лауреатом Нобелевской премии по физике. Если Фрэнк и испытывал, подобно мне, благоговение перед историческим местом, по его виду догадаться об этом было невозможно. Он разве что скупо прокомментировал трудности с парковкой перед «домом без подъездной дороги».

В отличие от большинства физиков-теоретиков, Фрэнк давно проявляет большой интерес к ИИ, о чем свидетельствуют следующие три «наблюдения»:

1. Фрэнсис Крик рассуждал об «удивительной гипотезе»: сознание, также известное как разум, является развивающимся свойством материи, из чего, если данное утверждение истинно, следует, что «всякий интеллект есть машинный интеллект. От естественного искусственный интеллект отличается не сутью, а способом появления».

2. «Искусственный интеллект не является продуктом инопланетного вторжения. Это артефакт определенной стадии человеческой культуры, отражающий ценности этой культуры».

3. Поразительное утверждение Давида Юма «Разум есть и должен быть только рабом аффектов», высказанное в 1738 году, относилось, конечно, сугубо к человеческому разуму и человеческим аффектам. «Но логико-философская точка зрения Юма применима и к ИИ. Проще говоря, поведение определяют стимулы, а не абстрактная логика».

По мнению Вильчека, «главное в истории XX и XXI столетий то, что [по мере развития] вычислительной техники мы учимся все лучше и лучше рассчитывать последствия [фундаментальных] законов. Существует также обратная связь: когда лучше понимаешь материю, проще создавать такие компьютеры, которые ускоряют вычисления. Это своего рода восходящая спираль».

В очерке ниже Фрэнк утверждает, что человеческий разум на данный момент обладает преимуществом, однако наше будущее, не ограниченное ни Солнечной системой, ни, несомненно, нашей Галактикой, невозможно без содействия ИИ.

1. Простой ответ на спорные вопросы:

– может ли искусственный интеллект быть сознательным?

– может ли искусственный интеллект быть творческим?

– может ли искусственный интеллект быть злым?

Эти вопросы часто задаются сегодня в популярных медиа и научных дебатах. Но плоды дискуссий противоречат друг другу. Позвольте ответить на эти вопросы следующим образом.

Отталкиваясь от физиологической психологии, нейробиологии и физики, смело скажу, что меня сильно удивит, если мы не ответим «Да» на все три вопроса. Причина проста, но при этом весома: факты, накопленные в перечисленных областях, неоспоримо доказывают отсутствие принципиального различия между естественным и искусственным интеллектом.

В своей одноименной книге 1994 года знаменитый биолог Фрэнсис Крик выдвинул «удивительную гипотезу» о том, что разум возникает из материи. Он утверждает, что разум во всех своих проявлениях есть «не более чем поведение огромного скопления нервных клеток и связанных с ними молекул».

«Удивительная гипотеза» на самом деле является основой современной нейробиологии. Люди пытаются понять, как работает разум, изучая функционирование мозга, и пытаются понять, как функционирует мозг, изучая, как информация кодируется в электрических и химических сигналах, преобразуется физическими процессами и используется для управления поведением. В своих научных устремлениях они не учитывают экстрафизическое поведение. До сих пор в тысячах тщательно продуманных экспериментов эта стратегия никогда не подводила. Просто не возникало необходимости учитывать влияние сознания или творчества без привязки к деятельности мозга для объяснения наблюдаемых явлений из области психофизики или нейробиологии. Никто и никогда не сталкивался с силами разума, существующими отдельно от обыкновенных физических событий в биологических организмах. Разумеется, многого о мозге и разуме мы не понимаем, но «удивительная гипотеза» вполне правдоподобна.

Если мы выдвинемся за пределы нейробиологии и примем во внимание весь спектр научных экспериментов, доказательства покажутся еще более убедительными. В современной физике объектом интереса часто становятся чрезвычайно малые явления. Чтобы их исследовать, экспериментаторам приходится принимать серьезнейшие меры предосторожности, препятствующие возникновению «шума». Нередко оказывается необходимым создавать комплексную защиту от паразитных электрических и магнитных полей; компенсировать крошечные вибрации от микро-землетрясений или проезжающих мимо машин; работать при экстремально низких температурах и в вакууме и т. д. Но имеется примечательное исключение: никогда не было необходимости делать поправку на мысли людей поблизости (или, если уж на то пошло, людей в отдалении). Как кажется, никаких «мысленных волн», отдельных от известных физических процессов и способных влиять на физические события, не существует.

Этот вывод, если на него опираться, стирает различия между естественным и искусственным интеллектом. Из него вытекает, что, доведись нам дублировать или точно имитировать физические процессы в мозге – теоретически это возможно, – и соединить входы и выходы с органами чувств и мышцами, то мы сумеем воспроизвести в физическом артефакте наблюдаемые проявления естественного интеллекта. Мы не упустим ничего наблюдаемого. Как у наблюдателя, у меня нет реальных причин приписывать артефакту меньшую или большую сознательность, творческий потенциал или злонамеренность, чем в ситуации, когда я приписываю эти свойства естественным носителям разума, то есть другим людям.

Так, комбинируя нейробиологическую «удивительную гипотезу» Крика с убедительными доказательствами физики, мы приходим к выводу, что естественный интеллект является частным случаем искусственного интеллекта. Этот вывод заслуживает особого названия, и я назову его «удивительным следствием».

Благодаря ему у нас появляется ответ на наши три вопроса. Поскольку сознание, творчество и зло являются очевидными признаками естественного человеческого интеллекта, они будут и возможными признаками искусственного интеллекта.

Сто или даже пятьдесят лет назад поверить в гипотезу о том, что разум возникает из материи, и сделать вывод, что естественный интеллект является особым случаем искусственного интеллекта, означало совершить, так сказать, прыжок веры. Ввиду обилия пробелов – точнее, даже пропастей – в тогдашнем понимании биологии и физики, такие утверждения действительно выглядели чрезвычайно сомнительными. Но эпохальные достижения в указанных областях изменили эту картину.

В биологии: Столетие назад не только мышление, но и метаболизм, наследственность и восприятие виделись сугубо загадочными «элементами» человеческой жизни, недоступными для физического объяснения. Сегодня же мы располагаем чрезвычайно богатыми и подробными описаниями механизмов обмена веществ, наследственности и многих функций восприятия – с молекулярного уровня и выше.

В физике: Столетие развития квантовой физики и ее практического применения привело к тому, что специалисты снова и снова обнаруживают, сколь разнообразным и странным может быть поведение материи. Сверхпроводники, лазеры и многие другие нынешние чудеса демонстрируют, что крупные совокупности молекулярных единиц, каждая из которых проста сама по себе, могут проявлять качественно новое, «эмерджентное» поведение, полностью при этом подчиняясь физическим законам. Химия, в том числе биохимия, словно опрокинула рог изобилия эмерджентных явлений, и все они получили достаточно прочное физическое обоснование. Физик-теоретик Филипп Андерсон в статье под названием «Больше значит иначе» предлагает вариант классической дискуссии об эмерджентности. Он начинает с признания того, что «редукционистская гипотеза» [то есть полнота физических объяснений, основанных на известных взаимодействиях простых элементов] «все еще остается предметом споров среди философов, но подавляющее большинство физиков, полагаю, принимают ее без вопросов». Но далее он подчеркивает, что «поведение больших и сложных агрегатов элементарных частиц, как выясняется, не следует воспринимать через простую экстраполяцию свойств немногих частиц»[72]72
  Science, 4 August 1972, Vol. 177, No. 4047, pp. 393–96. – Примеч. автора.


[Закрыть]. Каждый новый уровень количества и сложности стимулирует появление новых форм организации, структуры которых кодируют информацию по-новому, а их поведение точнее всего описывается с использованием новых концепций.

Электронные компьютеры являются великолепным примером эмерджентности. Здесь, как говорится, все карты на столе. Инженеры обычно проектируют машины по методу «снизу вверх», опираясь на известные (и достаточно сложные) физические принципы, и творят устройства, способные обрабатывать информацию поистине поразительным образом. Ваш айфон может обыграть вас в шахматы, быстро отыскать и передать информацию о чем угодно, а также фотографировать в отличном качестве. Поскольку процесс, посредством которого компьютеры, смартфоны и другие интеллектуальные устройства проектируются и производятся, полностью прозрачен, не может быть никаких сомнений в том, что их замечательные способности порождаются регулярными физическими процессами, каковые возможно проследить до уровня электронов, фотонов, кварков и глюонов. Очевидно, что грубая материя может, скажем так, резко поумнеть.

Позвольте обобщить изложенное выше. Из двух твердо подтвержденных гипотез мы делаем следующие выводы:

– человеческий разум возникает из материи;

– материя есть то, что изучает физика;

– человеческий разум возникает из физических процессов, которые мы понимаем и можем воспроизводить искусственно;

– естественный интеллект представляет собой частный случай искусственного интеллекта.

Конечно, наше «удивительное следствие» может оказаться ошибкой; ведь первые два вывода сугубо гипотетичны. Но даже ошибка должна привести к потрясающему открытию – перед нами великолепный новый феномен с крупномасштабными физическими последствиями, разворачивающийся в обыденных, ничем не примечательных и хорошо изученных физических обстоятельствах (в материальной среде человеческого мозга, при конкретных температуре и давлении). При этом каким-то образом данному феномену удавалось на протяжении многих десятилетий ускользать от внимания решительных следователей, вооруженных передовым инструментарием. Разве это не поразительное открытие?

2. Будущее интеллекта

В нашей природе заложено стремление к улучшению человеческих тел и разума. Если обратиться к истории, одежда, очки и часы являются примерами все более сложного «дополнения реальности», они повышают нашу выносливость, усиливают восприятие и осведомленность. Это значимые улучшения естественных человеческих способностей, и их современная обыденность не должна затмевать эту значимость. Сегодня смартфоны и интернет переносят стремление человека к «расширению себя» в области, более важные для нашего осознания себя разумными существами. По сути, они предоставляют нам быстрый доступ к обширному коллективному знанию и обширной коллективной памяти.

При этом автономный искусственный интеллект первенствует в различных «думательных» играх, будь то шахматы или го, и принимает на себя решение множества сложных задач по распознаванию образов, скажем, реконструкции событий и реакций внутри Большого андронного коллайдера (по «метели» следов возникающих частиц), чтобы обнаружить новые частицы, или собирает по нечетким рентгеновским снимкам, результатам МРТ и прочим типам изображений свидетельства для диагностики проблем со здоровьем.

Куда ведет нас стремление к самосовершенствованию и инновациям? Пусть точную последовательность событий и временны́е рамки, в которых они будут развиваться, предсказать невозможно (по крайней мере, для меня), некоторые базовые соображения позволяют предположить, что в конечном счете наиболее «могучие» воплощения разума будут принципиально отличаться от знакомого нам человеческого мозга.

Рассмотрим шесть факторов, по которым технологии обработки информации превосходят человеческие возможности – в значительной степени, качественно или в том и другом отношении.

Скорость: Организованное движение электронов, основа современной искусственной обработки информации, может намного опережать процессы диффузии и химических изменений, посредством которых действует наш мозг. Современные компьютерные тактовые частоты приближаются к 10 гигагерцам, что соответствует 10 миллиардам операций в секунду. Ни одна единица измерения скорости не применима к поразительному разнообразию процессов человеческого мозга, но фундаментальным ограничением выступает латентность потенциалов действия, которые ограничивают показатель несколькими десятками в секунду. Вероятно, не случайно «частота кадров», при которой мы способны определить, что фильмы на самом деле являются последовательностями кадров, составляет около «кадров» 40 в секунду. Следовательно, электронная обработка данных выполняется почти в миллиард раз быстрее.