Текст книги "Воспитание машин. Новая история разума"

Цифровой уклад

● Базовый ресурс: информация и знания.

● Технологический пакет: компьютеры, сети, машинный интеллект.

● Организация жизни: удаленная работа, сетевые организации, виртуальные миры.

Итак, цифровая революция, которую мы сегодня наблюдаем, качественно отличается от всех предыдущих. До сих пор человечество совершенствовало свои технологии, используя те возможности мозга, которые мы приобрели в ходе биологической эволюции. Наш мозг на протяжении последней пары миллионов лет увеличился втрое, но он не может расти с той же скоростью, с какой развивается наша цивилизация[37]37
  Фактически объем мозга современного человека даже несколько меньше, чем у первых Homo sapiens, так как человечество само себя «одомашнило», и цивилизованная жизнь уже не предъявляет таких высоких требований к нашему мозгу.


[Закрыть].

Следовательно, для своего дальнейшего развития человеческое мышление должно покинуть биологическую колыбель и расширить границы своего обитания, то есть перестать быть чисто человеческим. И для этого уже подготовлена подходящая цифровая среда – компьютеры, соединенные в глобальную сеть, куда уже десятки лет выгружаются человеческие знания.

Эта среда создавалась еще в рамках индустриального уклада, будучи зародышем нового – цифрового – уклада. И этот зародыш рос экспоненциально, как и полагается новой фазе в ходе любого фазового перехода. Этот экспоненциальный рост нам известен как закон Мура: удвоение компьютерных мощностей каждые полтора года[38]38
  Первоначально он был сформулирован Муром для числа транзисторов на кристалле, но аналогичным образом росли очень многие параметры компьютеров. Мы предпочитаем формулировку в терминах компьютерных мощностей, так как именно она имеет значение с точки зрения экономики.


[Закрыть]. Такая скорость развития на порядок превышает среднегодовые темпы роста мировой экономики (2–3 %), соответствующие ее удвоению за 25–35 лет. Таким образом, индустриальная цивилизация опережающими темпами превращается в цифровую, в которой создание стоимости будет связано в основном с переработкой информации, а не энергии и основными товарами станут цифровые продукты и услуги.

Это не значит, что люди перестанут пользоваться материальными благами. Конечно, они все больше времени будут проводить в онлайне: работать в виртуальных офисах, посещать виртуальные музеи, общаться, развлекаться и зарабатывать в виртуальных игровых мирах. Молодежь уже проводит существенную часть своего времени в социальных сетях, а по мере созревания технологий виртуальной и дополненной реальности эта тенденция только усилится. Однако и в материальных товарах, и в услугах все возрастающую роль будет играть цифровая составляющая. Например, цена современных автомобилей, особенно класса люкс, все в большей степени определяется стоимостью цифровых компонентов и программных продуктов, а со временем практически все продукты и услуги будут насыщены электроникой и искусственным интеллектом.

Потенциальный массовый рынок роботов и искусственного интеллекта измеряется десятками триллионов долларов. По существу, речь идет о переформатировании всей экономики. Если индустриальная экономика была основана на массовом производстве типовых продуктов и услуг, то цифровая позволит организовать массовое производство кастомизированных товаров и услуг, ориентированных на индивидуальные потребности. В результате за счет резкого расширения товарной номенклатуры объем мирового рынка может вырасти в разы. Так, YouTube кардинально расширил разнообразие потребляемого видеоконтента. Вместо сотен кабельных каналов – миллионы пользовательских. В итоге молодежь отказывается от телевидения в пользу YouTube и стриминговых сервисов типа Netflix, где каждый может легко подобрать контент по своему вкусу. И так будет в каждом рыночном сегменте.

Уже сегодня мы наблюдаем рост глобальных платформ, обеспечивающих персонализированное потребление товаров и услуг за счет умных рекомендательных систем: Google и Facebook организуют персональную доставку информации и новостей, Amazon и eBay – продуктов и услуг, YouTube и Netflix – видеоконтента. И, как зародыши новой фазы, эти бизнесы растут на порядок быстрее остальной экономики: 25–50 % против 2–3 % (рис. 10).

Поскольку в основе всех этих платформ лежат технологии искусственного интеллекта, вложения в них растут опережающими темпами и измеряются десятками миллиардов долларов в год. Эта новая мировая «гонка за ИИ» обостряется тем, что в мире платформ действует принцип «победитель забирает все». Обществу не нужен второй Facebook и второй Google. Кто не успел – будет подбирать крохи в оставшихся нишевых сегментах рынка.

Не приходится сомневаться, что в результате этой гонки вслед за беспилотными такси, которые уже можно встретить на улицах Москвы, появятся и автономные роботы, способные к самостоятельному разумному поведению, понимающие не только человеческую речь, но и человеческие ценности. Так что разворачивающаяся цифровая революция будет самой радикальной и самой важной трансформацией за всю историю человечества с момента когнитивной революции, ведь она затрагивает самую нашу суть – человеческий разум.

Если раньше революционные «разборки» шли между различными слоями общества, то теперь человечеству предстоит разбираться с новыми видами разумных существ, мыслящих и эволюционирующих самостоятельно. Неожиданно для себя мы оказались в ситуации неминуемой скорой встречи с неизвестным нам искусственным разумом. Какое место человек сможет занять в этом новом, цифровом, укладе? Насколько он будет самостоятелен в выборе своей судьбы? Мы этого не знаем. Чтобы в этом разобраться, нам придется досконально рассмотреть ход цифровой революции и попытаться «вычислить» контуры нашего будущего, будущего наших детей и внуков, подобно тому как мы это делали для прошлых укладов.

Резюме

В этой главе мы проследили в общих чертах логику развития человечества от древности до наших дней, обозначив базовые параметры цивилизации на каждой ступени ее развития. Логика дальнейшего развития тоже прояснилась: нам предстоит преодолеть барьер сложности современной цивилизации за счет создания и «приручения» искусственного интеллекта. Только таким образом человечество сможет развиваться дальше. Цифровая революция, как и всякая другая, таит в себе много рисков. В следующей главе мы проследим начальные этапы этой революции, сравнивая их с аналогичными этапами предыдущих промышленных революций, чтобы понять, где именно мы находимся и чего нам следует ожидать в ближайшем будущем.

Глава 2
Эволюция цифровых технологий: от первых ЭВМ до роботов

Человек должен построить между собой и Природой целую цепь из звеньев, в которой каждое последующее звено будет как усилитель Разума более мощным, чем предыдущее.

СТАНИСЛАВ ЛЕМ

Мы знаем только два рода систем: очень простые, типа машин, строившихся нами до сих пор, и безмерно сложные, какими являются все живые существа.

СТАНИСЛАВ ЛЕМ

Основные понятия: информация, знания, искусственный интеллект

Поскольку мы начинаем активно использовать такие термины, как «информация», «знания» и «искусственный интеллект», имеет смысл определить, что мы под ними понимаем.

Начнем с того, что цифровым считается любое устройство, которое может устойчиво находиться в одном из нескольких дискретных состояний, то есть обладает памятью. Это качество, собственно, и определяет современную роль цифровых технологий как внешней памяти человечества. Информация является количественной мерой объема памяти и измеряется в битах[39]39
  А именно: запомненная системой информация есть двоичный логарифм числа возможных состояний системы. В случае современных устройств памяти, состоящих из большого числа независимых однотипных ячеек, каждая из которых может находиться в одном из двух состояний, объем памяти в битах равен просто числу таких двоичных ячеек.


[Закрыть]. Информацию можно не только хранить, но и передавать по каналам связи, а также обрабатывать в компьютерах согласно четко определенным правилам – алгоритмам.

Любой алгоритм характеризуется своей сложностью, которая также измеряется в битах, поскольку она определяется размером наиболее компактной записи алгоритма в памяти. В алгоритме заложены знания о том, что надо делать с полученной информацией для достижения какой-то цели, поэтому логично определить любое знание через соответствующий ему алгоритм. Чем он сложнее, тем больше знаний в него заложено. Так что мы будем определять объем знаний сложностью соответствующих алгоритмов и измерять его в битах.

Таким образом, мы различаем пассивную информацию, которую можно хранить и передавать между устройствами ее обработки, и активные знания, заключенные в алгоритмах, используемых для обработки входящей информации. Такое определение согласуется с обыденным употреблением этих терминов: человек действует на основе полученной извне информации, осмысленной с помощью имеющихся в его мозгу знаний. Результаты своих размышлений он может передавать другим людям в виде выходной информации для ее дальнейшей обработки.

Как правило, первичная информация (данные, например показания датчиков) проходит множество этапов обработки, причем тем больше, чем более развита система разделения труда. Таким образом, человеческое мышление по самой своей природе коллективное. И если в эту цепочку вклинивается компьютерная обработка информации, мы получаем коллективное человеко-машинное мышление.

Цифровая революция состоит в постоянном увеличении доли машинной компоненты этого коллективного мышления. В какой-то момент непрерывно растущие возможности компьютеров неизбежно сравняются с человеческими, а затем и превзойдут их. В предвидении этого момента ведущие ученые в области компьютерных наук, собравшиеся летом 1956 года на двухмесячный семинар в Дартмутском колледже, ввели понятие искусственного интеллекта.

Человеческий интеллект в обыденной жизни связывают с умением решать самые разные задачи и добиваться своих целей, невзирая на обстоятельства. Аналогично искусственный интеллект ученые определили как способность компьютеров решать любые задачи и добиваться поставленных целей не хуже человека, например играть в интеллектуальные игры, доказывать математические теоремы и переводить тексты с одного языка на другой. В дальнейшем это определение было расширено за счет «детских» задач, которые обычно не считались интеллектуальными, но на поверку оказались очень сложными и долгое время не поддавались решению известными методами, такими как машинное зрение, чтение рукописных текстов, распознавание и понимание речи. Соответственно системы, способные решать хотя бы некоторые из этих очень разных задач, стали называть слабым искусственным интеллектом, чтобы подчеркнуть снижение первоначально слишком высокой планки сильного искусственного интеллекта, обладающего всеми человеческими способностями.

Параметры человеческого мышления

Поскольку для нас человек есть мера всех вещей, включая искусственный интеллект, мы должны понимать, какими возможностями по переработке информации он обладает.

Наш мозг насчитывает немногим менее 90 млрд нейронов, которые время от времени возбуждаются (когда распознают в своем окружении знакомые им паттерны). По энергетическим оценкам, в каждый момент времени активным может быть лишь 1 из 50 нейронов[40]40
  Lennie P. (2003) The Cost of Cortical Computation. Current biology 13(6): 493–497.


[Закрыть],[41]41
  Howarth C., Gleeson P., Attwell D. (2012) Updated Energy Budgets for Neural Computation in the Neocortex and Cerebellum. Journal of Cerebral Blood Flow & Metabolism 32(7): 1222–1232.


[Закрыть]. Разбив общее число N нейронов на ячеек, в каждой из которых может быть активным лишь один из нейронов, получаем грубую оценку разнообразия паттернов мозговой активности в каждый момент времени: [42]42
  Более точная оценка разнообразия паттернов – число сочетаний но мы предпочитаем интуитивно понятные качественные оценки с точностью до порядка величин.


[Закрыть]. Скорость обработки информации (равной логарифму разнообразия) определяется частотой смены этих паттернов:

Здесь мы использовали максимальную частоту генерации нейронных спайков ν = 300 Гц, задающую временной масштаб смены состояний мозга, и выразили вычислительную мощность в привычных для компьютерщиков единицах – в числе арифметических операций в секунду[43]43
  FLOPS – Floating point operations per second (операции с действительными числами в секунду). 1 FLOPS = 2÷8 байт/с в зависимости от точности вычислений.


[Закрыть].

По нынешним меркам 10¹¹ FLOPS – это не так уж и много. Современный универсальный процессор Intel Core i9 с производительностью 10¹² FLOPS и специализированные матричные процессоры NVIDIA Tesla V100 с пиковой производительностью 10¹⁴ FLOPS уже далеко превосходят рассчитанную нами вычислительную мощность мозга. Этот парадоксальный вывод мы подробно обсудим чуть ниже.

Основным каналом получения информации из внешнего мира для нас является зрение. Скорость обработки зрительной информации примерно в 100 раз ниже вычислительной мощности мозга (поскольку первичная зрительная кора занимает примерно 1 % площади всей коры), то есть составляет 10⁹ FLOPS. Этого вполне достаточно для обработки информации, поступающей от глаза по зрительному нерву, содержащему 10⁶ нервных волокон.

Сенсорная информация обрабатывается параллельными «спецпроцессорами» первичной коры, распознающей наиболее простые мелкомасштабные признаки. Далее информация проходит еще несколько этапов обработки, на каждом из которых распознаются все более сложные и крупномасштабные признаки, пока наконец входная информация не будет представлена в символьной форме – в виде сцены с распознанными объектами и схемой их расположения. Например, это может быть текст с распознанными буквами и порядком их следования. Все этапы распознавания образов проходят параллельно, быстро и на бессознательном уровне. Осмысление распознанной символьной информации осуществляется в форме сознательного мышления и совсем в другом темпе «рассказывания историй».

Символы, в отличие от образов, обладают небольшим разнообразием. Например, буквы могут кодироваться всего лишь пятью битами (так как 2⁵ = 32). Зато комбинациями компактного набора символов можно закодировать практически неограниченный набор высокоуровневых понятий, определяющих любую распознанную сцену. В приведенном выше примере чтения текста этим понятиям соответствуют слова и их сочетания. Сознательное мышление вообще тесно связано с языком и представляет собой последовательные операции с символьной информацией. Минимальный акт сознания длится около 0,5 с[44]44
  Dehaene S. (2014) Consciousness and the Brain: Deciphering How the Brain Codes our Thoughts. London: Penguin.


[Закрыть]. За это время мы успеваем распознать примерно одно слово в среднем из 5 букв, или около 25 бит. Соответственно сознательное мышление (около 50 бит/с, или 10 байт/с) гораздо – в миллионы раз! – медленнее бессознательного. Но именно с такой скоростью мы разговариваем, думаем, читаем, печатаем, решаем задачи[45]45
  Яглом А. М., Яглом И. М. Вероятность и информация. – М.: Наука, 1973.


[Закрыть].

Сознательное мышление определяет скорость обучения, передачи знаний. Ведь бóльшую часть наших профессиональных знаний мы получили в процессе коммуникации с другими людьми. Скорость обучения особенно важна, так как она ограничивает объем наших знаний. Даже если учиться непрерывно по 16 часов в день (то есть 2 × 10⁷ с в год) в течение 100 лет, максимальный объем знаний составит 10¹¹ бит, или 10¹⁰ байт. Иными словами, знания каждого из нас составляют не более 10 ГБ, и их можно было бы записать на небольшую флешку[46]46
  Умножив объем всех накопленных знаний на среднюю частоту срабатывания нейронов в мозге, с которой он их сканирует (альфа-ритм), получим 10¹¹ байт/с – вычислительную мощность сознательного мышления, меньшую, но близкую к общей вычислительной мощности мозга 10¹¹ FLOPS.


[Закрыть].

Наши оценки объема знаний гораздо ниже, чем привычные 10¹⁴ бит – по числу синапсов в коре головного мозга. Бóльшая часть этих синапсов организует локальные контуры бессознательной обработки информации в коре. Наша более скромная оценка относится к глобальным связям, участвующим в запоминании распознанных нашим сознанием эмоционально окрашенных высокоуровневых понятий. Не случайно «оператор» человеческой памяти, гиппокамп, связан лишь с высокоуровневыми разделами ассоциативной коры.

Таким образом, по сравнению с современными компьютерами наши возможности по обработке информации довольно скромны. Почему же машинный интеллект до сих пор не достиг человеческого уровня и мы по-прежнему считаем компьютеры «быстрыми, но глупыми»? Как ни странно, но именно по этой причине – из-за недостатка знаний о мире. Для решения сложных задач важны не столько вычислительные мощности, сколько сложные алгоритмы. А сложность современных компьютерных программ до сих пор недотягивает до человеческого уровня. Даже операционная система Windows, содержащая 50 млн строк кода, скажем, по 20 символов на строку, имеет сложность 1 Гбайт, то есть содержит меньше знаний, чем мозг одного человека. А ведь ее создавали сотни людей в течение десятков лет!

Значит, узким местом, мешающим созданию компьютерного разума, является трудоемкость ручного программирования или, в более общем случае, процесса передачи компьютерам знаний. Как только этот процесс будет автоматизирован, путь к искусственному интеллекту окажется свободен. Компьютерные мощности для него уже готовы. Вот почему сегодня фокус исследований в сфере ИИ сосредоточен в области машинного обучения – автоматизации процесса создания компьютерных программ. Современные искусственные нейросети могут содержать сотни миллиардов настроечных параметров[47]47
  Brown T. et al. (2020) Language Models are Few-Shot Learners (https://arxiv.org/abs/2005.14165/).


[Закрыть], то есть имеют сложность, в сотни раз превышающую Windows, притом что настройка всех этих параметров происходит автоматически, без участия человека – путем обучения на примерах. И, что самое важное, на много порядков быстрее и дешевле!

Почему же тогда машинное обучение не использовалось раньше? Ведь зародилось оно еще в конце 1950-х годов. Краткий ответ, как водится, прост: машинное обучение требует больших вычислительных мощностей, которые стали доступны лишь недавно. Более развернутый ответ, который займет оставшуюся часть этой главы, требует анализа движущих сил развития компьютерной техники: какие сегменты платежеспособного спроса она обслуживала, какие задачи помогала решать на разных этапах своего развития? Иначе говоря, на чьи деньги развивались компьютеры все 75 лет своего существования? Как они постепенно все глубже проникали в ткань современной экономики?

Гиперболическое распределение богатства

Здесь будет уместно познакомиться с еще одним законом – гиперболическим распределением богатства в человеческом обществе. Как было замечено с незапамятных времен, «деньги текут к деньгам» и социально-экономическое неравенство постоянно возрастает. Оказывается, это является следствием универсального гиперболического закона распределения любых ресурсов в так называемых ветвящихся процессах размножения и гибели[48]48
  Феллер В. Введение в теорию вероятностей и ее приложения. В 2 т. Т. 1. – М.: РИПОЛ классик, 2013.


[Закрыть]. Примером ветвящихся процессов служат коммерческие фирмы, которые могут разоряться и поглощать друг друга в ходе конкурентной борьбы.

Нам, в частности, потребуется гиперболическое распределение компаний по их размерам, причем неважно, чем измерять эти размеры – денежной выручкой или количеством сотрудников. Для американского рынка этот закон проиллюстрирован рис. 12.

Такая же гиперболическая зависимость справедлива и для распределения компаний по выручке: фирм с выручкой от $10 млн в 10 раз меньше, чем с выручкой от $1 млн. Как следствие, общая выручка компаний от $100 000 до $1 млн равна выручке компаний от $1 млн до $10 млн и т. д. вплоть до самых крупных компаний с выручкой более $100 млрд. Каждый из этих сегментов – от миллионов индивидуальных предпринимателей до нескольких богатейших людей планеты – сосредоточивает в себе одинаковую долю общественного богатства. Таким образом, степень неравенства между обычными и самыми богатыми людьми (например, соотношение их доходов) пропорциональна численности населения Земли и, следовательно, постоянно возрастает.

Нас, однако, здесь будет интересовать не этот факт, а скорость расширения устроенного таким образом рынка по мере удешевления любой продукции, в частности компьютеров. Если первые компьютеры были запредельно дороги и их могли позволить себе лишь национальные исследовательские центры, то по мере удешевления они стали проникать во все перечисленные выше сегменты рынка. При этом, как мы увидим, объем рынка компьютеров, несмотря на постоянное падение цен, все время возрастал, что служило стимулом к их дальнейшему удешевлению. Возникает знакомая нам положительная обратная связь. В итоге, как легко убедиться, рынок компьютеров растет экспоненциально.

Действительно, если компьютеры стоимостью $1 млн могли позволить себе лишь фирмы с выручкой выше $10 млн, то удешевление компьютеров на порядок «распечатывает» для них совершенно новый сегмент рынка – фирмы с выручкой выше $1 млн, которых в 10 раз больше. Конечно, из-за удешевления продукции компании-покупатели нового сегмента потратят в итоге те же деньги, что и покупатели старой техники из более дорогого сегмента. Но и эти последние тоже закупят новое поколение компьютеров – для решения нового круга задач своими сотрудниками. Если принять, что на закупку новой вычислительной техники все потребители потратят одинаковую сумму в пересчете на одного сотрудника, то общая сумма закупок при освоении каждого нового сегмента рынка увеличится примерно вдвое, поскольку новые покупатели не заменяют, а расширяют круг старых.

Так, мини-компьютеры DEC не заменяли мейнфреймы IBM, просто их покупали уже не топ-менеджеры для корпораций, а руководители подразделений для своих нужд, увеличивая долю затрат на компьютеры в бюджете компаний. И это касается не только корпоративного, но и потребительского рынка. Ноутбуки не убили персональные компьютеры, а смартфоны не убили ноутбуки. У каждого из нас можно обнаружить компьютеры разных поколений, дополняющие, а не исключающие друг друга: настольный компьютер и ноутбук, смартфон и планшет, не считая встроенной бытовой и автоэлектроники. И каждый из них используется для решения своего круга задач.

Таким образом, каждое снижение цен на порядок означает более чем двукратный рост сектора ИКТ[49]49
  После появления компьютерных сетей и последующего перехода всех средств связи на цифру сформировался единый сектор информационно-компьютерной техники – ИКТ. Сегодня стоимость чипов в коммутаторах и маршрутизаторах на линиях связи превышает стоимость чипов в самих компьютерах.


[Закрыть]. Поскольку стоимость вычислений каждые 10 лет снижалась на два порядка[50]50
  Trends in the cost of computing (https://aiimpacts.org/trends-in-the-cost-of-computing/).


[Закрыть] (см. рис. 13), все 6 корпоративных сегментов рынка были освоены за 30 лет, и в 1980-х годах началось покорение потребительского рынка – настала эра персональных компьютеров (PC). При этом разнообразие цифровых продуктов продолжает увеличиваться, и их продажи по-прежнему растут по экспоненте – за 70 лет в 2¹⁴= 16 000 раз: с начальных $300 млн в 1950 году до нынешних $4,8 трлн, превратив ИКТ в один из крупнейших секторов экономики[51]51
  Оценка рынка компьютеров в $300 млн в 1950 году, в эпоху их штучного изготовления по госзаказам, до начала коммерческого производства в 1953 году, получена с учетом предполагаемого выпуска 10 компьютеров в год стоимостью $3 млн за штуку ($30 млн в 2020 году) каждый.


[Закрыть].

Такова в общих чертах бизнес-логика развития цифровой техники. Как видим, она является следствием универсального закона экономики. Осталось только понять, какие новые задачи позволяло решать каждое новое поколение компьютеров.

В следующих нескольких разделах мы кратко опишем историю расширения круга задач, решаемых компьютерами по мере того, как это становилось экономически обосновано. Волны автоматизации производства являются как следствием закона Мура, так и его причиной, поскольку образуют систему с положительной обратной связью.

Эволюция вычислительной техники представляет собой череду мини-революций в технологиях. Периоды постепенного развития сменялись революционными завоеваниями новых рыночных ниш при достижении ценами очередной критической отметки. Как правило, «большинство стратегически переломных моментов возникает в результате значительного (десятикратного) изменения одной из конкурентных сил Портера, влияющих на бизнес»[52]52
  Гроув Э. Выживают только параноики: как использовать кризисные периоды, с которыми сталкивается любая компания. – М.: Альпина Паблишер, 2004.


[Закрыть].

Смены технологий сопровождались изменением форм ведения бизнеса, поскольку каждый раз менялся и потребитель, и характер потребления. Соответственно каждая новая волна компьютерных технологий выводила на сцену новых лидеров цифровой экономики, сумевших вовремя распознать перспективы новых сегментов рынка и сделать соответствующие инвестиции вопреки логике лидеров прошлой волны. При этом в соответствии с приведенными выше оценками лидеры каждой следующей волны осваивали больший, чем предыдущий, рынок и становились лидерами всей компьютерной отрасли.