Текст книги "Искусственный разум и новая эра человечества"

В политической сфере мыслители, служившие различным государственным интересам, не были склонны приходить к одинаковым выводам. Фридрих Великий, король Пруссии и типичный политик эпохи раннего Просвещения, переписывался с Вольтером, до совершенства вышколил свои войска и во имя интересов Пруссии захватил провинцию Силезия, что привело к Семилетней войне – «первой мировой войне»[20]20
  Как ее называл У. Черчилль. – Прим. пер.


[Закрыть], которая велась на трех континентах. Аналогичным образом Французская революция, одно из самых «рациональных» политических движений эпохи, привела к социальным потрясениям и политическому насилию в масштабах, которых Европа не видела на протяжении веков. Отделив разум от традиции, Просвещение породило новое явление: вооруженный разум, руководя пассионарными народами, перестраивал и разрушал целые страны во имя «научных» выводов о направлении истории. Инновации увеличили разрушительную силу оружия, наступила эпоха «тотальной войны» – конфликтов, характеризующихся мобилизацией на уровне стран и разрушениями на уровне индустрий[21]21
  Charles Hill, «Grand Strategies: Literature, Statecraft, and World Order», New Haven: Yale University Press, 2011 г.


[Закрыть].

Под влиянием этих потрясений мыслители все чаще задавались вопросом, является ли человеческое восприятие, направляемое разумом, единственной мерой познания реальности. В XVIII–XIX вв. романтизм, сосуществовавший с Просвещением, считал человеческие чувства и воображение не менее важными, чем разум, и предпочитал народные традиции и природную мудрость механистической определенности современной эпохи. После Первой мировой войны австрийский философ Людвиг Витгенштейн отказался от понятия единой сущности вещей, определяемой разумом, – цели, к которой стремились философы со времен Платона. Витгенштейн советовал искать знание в обобщении аналогий между явлениями, которые он назвал «семейным сходством»: «А результат этого рассмотрения таков: мы видим сложную сеть подобий, накладывающихся друг на друга и переплетающихся друг с другом, сходство в большом и малом». По его мнению, стремление определить и каталогизировать все вещи, каждую со своими резко очерченными границами, ошибочно. Вместо этого следует стремиться к определению «подобных» вещей и изучать полученные понятия, даже если они имеют «размытые» или «нечеткие» границы[22]22
  Витгенштейн Л. Философские исследования. М.: АСТ, 2018.


[Закрыть]. В итоге именно этот способ мышления послужил основой для теорий ИИ и машинного обучения конца XX – начала XXI в.

Тем не менее, когда Просвещение сталкивалось с проблемой, оно использовало разум, чтобы понять и разрешить ее. Для устранения социального неравенства принимались новые законы, для смягчения войн и социальных потрясений разрабатывались новые методы сдерживания конфликтов и создания более справедливых институтов. С этой целью Кант в эссе «К вечному миру» предположил (с некоторой долей скептицизма), что мир может быть достигнут путем применения согласованных правил, регулирующих отношения между независимыми государствами. Поскольку такие взаимно установленные правила еще не были созданы, по крайней мере в форме, которую монархи могли бы понять или которой они могли бы следовать, Кант сформулировал «тайную статью договора о вечном мире» – он считал, что «государства, вооружившиеся для войны, должны принять во внимание мáксимы философов об условиях возможности общего мира»[23]23
  Кант И. К вечному миру. Например: http://history.pstu.ru/wp-content/uploads/2013/04/files_File_Kant_K_vechnomu_miru.pdf, ссылка проверена 1 марта 2022 г.


[Закрыть]. Работа над разумной, организованной и согласованной международной системой идет до сих пор, а философы и политологи вносят в нее свой вклад – с переменным успехом.

* * *

Мир Просвещения с его оптимизмом в отношении человеческого разума – несмотря на осознание его несовершенства – долгое время был нашим миром. Предыдущие эпохи уходили, когда становились не в силах объяснить разнообразные аспекты реальности, которые они порождали и с которыми сталкивались. На протяжении трех веков непрерывных открытий и исследований люди интерпретировали мир так, как предсказывал Кант: в соответствии со своими интеллектуальными способностями. Но, приблизившись к пределам собственных возможностей познания, люди стали прибегать к помощи компьютеров, чтобы выйти за эти пределы. Помимо физического мира, в котором люди жили всегда, появился отдельный цифровой мир – мир компьютеров. И теперь мы вступаем в эпоху, в которой человеческий разум уступает свое почетное место первооткрывателя, знатока и систематизатора мировых явлений.

Технологические достижения эпохи Просвещения были весьма значительными, но до недавнего времени они вполне укладывались в традиции. Инновации продолжали привычные практики: кино было техническим усовершенствованием фотографии, телефон позволял дистанционно вести все те же разговоры, автомобили представляли собой быстро движущиеся повозки, мощность двигателей которых измерялась в лошадиных силах. В военном деле танки заменили кавалерию, самолеты – передовую артиллерию, и даже ядерное оружие дополняло предыдущий опыт ядерных держав и их понимание войны.

Но мы достигли переломного момента: появились инновации, которые уже нельзя считать продолжением известных практик. Технология стала очень быстро менять жизненный опыт человека, цифровая революция породила не просто более мощные или более эффективные версии того, что уже существовало, а принципиально новые явления. Компьютеры теперь можно встраивать в телефоны, часы, потребительскую электронику, системы безопасности, транспортные средства, оружие и даже в человеческие тела. Связь между такими цифровыми системами осуществляется практически мгновенно. Задачи, которые еще недавно решались вручную, – чтение, исследования, покупки, коммуникации, ведение записей, наблюдение, военные действия – стали цифровыми, они выполняются в киберпространстве на основе данных[24]24
  Шмидт Э. Новый цифровой мир. Как технологии меняют жизнь людей, модели бизнеса и понятие государств. М.: Манн, Иванов и Фербер, 2013.


[Закрыть].

Цифровизация затронула все уровни человеческой организации: люди имеют доступ к бо́льшим объемам информации, чем когда-либо. Корпорации, став сборщиками и агрегаторами данных пользователей, получили больше власти и влияния, чем многие суверенные государства. Правительства, опасаясь уступить соперникам, тоже вошли в киберпространство, исследовали его и начали эксплуатировать, не слишком стремясь ограничивать себя или соблюдать некие нормы. Киберпространство для них – область, инновации в которой нужно внедрять, чтобы одержать верх над противниками.

Лишь немногие до конца понимают, к чему привела цифровая революция. Отчасти в этом виноваты скорость и перенасыщение информацией. При всех своих чудесных достижениях цифровизация сделала человеческое мышление менее контекстуальным и менее концептуальным. Так называемые цифровые аборигены не чувствуют насущной необходимости развивать концептуальное мышление, которое на протяжении большей части человеческой истории компенсировало ограниченность коллективной памяти. Они могут спросить обо всем у поисковых систем – будь то элементарные знания, сложные концепции или нечто среднее. Поисковые системы, в свою очередь, используют ИИ для ответа на запросы пользователей. Таким образом, люди делегируют технологии ИИ некоторые аспекты своего мышления. Но они не учитывают того, что информация зависит от контекста. Она становится знанием, только если понять ее через призму культуры и истории.

Информация становится знанием, когда она помещена в контекст. Знание становится мудростью, когда оно может убеждать. Интернет, давая пользователям доступ к мнениям тысяч и даже миллионов других людей, лишает их условий для размышления, которое приводит к выработке убеждений. Лишаясь способности к размышлению, люди теряют стойкость убеждений – поскольку для выработки убеждений им больше не нужно, как раньше, пускаться в длительные, зачастую одинокие путешествия по неизведанным тропам мышления. А ведь только убеждения, которые, в свою очередь, объединяются в мудрость, позволяют людям открывать и исследовать новые горизонты.

Но цифровой мир не терпит мудрости – его ценности формируются одобрением, а не самоанализом. Он фактически отрицает утверждение эпохи Просвещения о том, что наиболее важным элементом сознания является разум. Для цифрового мира основное значение имеет неограниченная связь, а не разум.

С ростом объемов информации в интернете мы обратились к программному обеспечению, которое помогает нам уточнять и сортировать ее, делать оценки на основе закономерностей и направлять нас в поисках ответов на наши вопросы. Работа ИИ казалась нам вполне обыденной – программы дописывали начатые предложения, помогали найти книгу или магазин, даже советовали почитать статьи или СМИ, которые могут нам понравиться, на основе нашего предыдущего поведения. Но по мере того, как ИИ входит в самые разные аспекты нашего существования, он меняет роль, которую наш собственный разум традиционно играл в формировании, систематизации и оценке нашего выбора и наших действий.

Глава 3
От Тьюринга до наших дней – и не только

В 1943 г. был создан первый современный – то есть электронный, цифровой и программируемый – компьютер. Это достижение вновь сделало актуальными старые вопросы: могут ли машины «думать»? Являются ли они «разумными»? И могут ли они стать разумными? Эти вопросы казались особенно сложными, учитывая давние дилеммы о природе интеллекта. В 1950 г. математик и криптограф Алан Тьюринг нашел ответ. В статье с непритязательным заголовком «Вычислительные машины и разум» Тьюринг предложил полностью отбросить проблему «интеллекта» машины, поскольку важен не механизм, а проявление интеллекта. Невозможно познать чью бы то ни было внутреннюю жизнь, а значит, единственным средством измерения интеллекта остаются его внешние проявления. Так Тьюринг обошел стороной многовековые философские дебаты о природе интеллекта. По правилам «имитационной игры» Тьюринга, если наблюдатели не могут отличить поведение машины от поведения человека, машину следует считать «мыслящей».

Так появился тест Тьюринга[25]25
  Тьюринг А. Вычислительные машины и разум. М.: АСТ, 2018.


[Закрыть].

Многие представляли себе выполнение теста Тьюринга буквально, не понимая, что такое машины, отвечающие его критериям, и воображая роботов, которые выдают себя за людей. Но реальная ценность теста Тьюринга проявилась в оценке работы «интеллектуальных» машин в определенных ограниченных видах деятельности, таких как игры. На самом деле тест не требует полной неотличимости от человека – он применяется к машинам, чьи действия похожи на человеческие, и фиксирует результат, а не процесс. Например, такие генераторы, как GPT-3, являются ИИ не из-за особенностей обучения модели, а поскольку они создают текст, который выглядит как написанный человеком.

В 1956 г. компьютерный ученый Джон Маккарти уточнил определение ИИ в отношении «машин, которые могут выполнять задачи, характерные для человеческого интеллекта». С тех пор оценки Тьюринга и Маккарти стали эталонами в отношении ИИ – оценивается поведение, похожее на проявление интеллекта, а не более глубокие философские, когнитивные или нейробиологические аспекты этого термина.

В последующие полвека машинам, как правило, не удавалось продемонстрировать подобный «интеллект». В течение десятилетий вся работа компьютеров происходила в рамках жесткого программного кода. Классические программы могли работать с большими объемами данных и выполнять сложные вычисления, но не умели распознавать изображения простых объектов или самостоятельно исправлять ошибки входных данных. Компьютер не мог воспроизвести неточное и концептуальное человеческое мышление.

В последние годы, похоже, наметился выход из этого тупика – появляется все больше примеров специализированных ИИ, которые в своей сфере применения не уступают человеку и даже превосходят его.

Четыре основных качества ИИ, ориентированные на конкретные области, – неточность, динамичность, эмерджентность и обучаемость. Системы ИИ обучаются, потребляя данные, а затем делая наблюдения и выводы на основе этих данных. Они не требуют точного ввода и не гарантируют точного вывода – например, системы машинного перевода переводят тексты не путем замены отдельных слов, а выявляя и используя идиоматические фразы и шаблоны. Аналогичным образом, такие ИИ считаются динамичными, поскольку они развиваются в ответ на изменяющиеся обстоятельства, и эмерджентными, так как они могут находить решения, совершенно новые для человека. Это качества, революционные для машин.

Рассмотрим прорыв AlphaZero в мире шахмат. Если классические шахматные программы следовали жестко закодированному в них человеческому опыту, то ИИ AlphaZero развивал свои навыки, играя миллионы партий против самого себя. Завершив обучение, модель AlphaZero применила выработанную стратегию и сопутствующую тактику на практике – и результатом стали «шахматы из другого измерения». Такие методы обучения основаны на алгоритмах – наборах шагов для преобразования входных данных (таких как правила игры) в повторяющиеся выходные данные (такие как победа в игре). При этом цель обучения заключается не в получении точных и предсказуемых результатов вычислений, а в улучшении неточных результатов. И эти методы замечательно работают.

Возьмем в качестве примера авиацию. Скоро ИИ сможет управлять различными воздушными транспортными средствами – или быть вторым пилотом. Уже сейчас в рамках программы DARPA AlphaDogFight истребители, пилотируемые ИИ, превосходят человека в боевых симуляциях, выполняя маневры, которые не под силу пилотам-людям. Управляя боевыми самолетами или беспилотниками, доставляющими продовольствие, ИИ может оказать значительное влияние на будущее военной и гражданской авиации.

Сейчас мы видим самые первые инновации в области ИИ, и они уже начинают менять человеческое мировосприятие самыми разными способами. В ближайшие десятилетия эти тенденции будут только усиливаться. ИИ становится вездесущим, и его влияние на нашу жизнь растет.

Технологические концепции, управляющие развитием ИИ, очень сложны и важны. В этой главе мы рассказываем об эволюции и текущем состоянии различных видов машинного обучения и его применений. Современные ИИ одновременно поразительно мощны и заметно ограничены. Базовое знакомство со структурой, возможностями и ограничениями ИИ жизненно важно для понимания того, как он развивается, какие несет социальные, культурные и политические изменения и какое влияние окажет в будущем.

Эволюция ИИ

Человечество всегда мечтало о помощнике – машине, способной выполнять человеческие задачи. В греческой мифологии бронзовый гигант Талос, выкованный богом-кузнецом Гефестом[26]26
  Существуют и другие версии мифа о происхождении Талоса. – Прим. пер.


[Закрыть], патрулировал берега Крита, защищая остров от вторжения. Людовик XIV во Франции в XVII в. и Фридрих Великий в Пруссии в XVIII в. увлекались механическими автоматами. Однако в реальности создать такую машину и сделать ее способной к полезной деятельности – даже с появлением современной вычислительной техники – было дьявольски сложно. Главная проблема была в том, как и чему ее обучать.

Первые попытки создать практически полезный ИИ заключались в кодировании человеческого опыта в наборы правил или фактов для компьютерных систем. Но далеко не все можно свести к простым правилам или символическим представлениям. Там, где используются точные характеристики – шахматы, алгебраические расчеты, автоматизация бизнес-процессов, – добились больших успехов так называемые экспертные системы. Но в таких областях, как переводы с иностранных языков и визуальное распознавание объектов, экспертные системы потерпели неудачу.

Проблемы, возникшие при распознавании визуальных объектов, наглядно иллюстрируют недостатки этих ранних программ. Распознавание изображений – легкая задача даже для маленьких детей, но не для первых поколений ИИ. Сначала разработчики ИИ пытались задать отличительные характеристики объекта через символическое представление. Например, чтобы идентифицировать изображение кошки, они создавали абстрактные варианты различных атрибутов – усов, четырех лап, тела, заостренных ушей – идеализированной кошки. Но в реальности такое идеальное представление кошки встречается редко, к тому же кошки могут бегать, сворачиваться клубком или вытягиваться, у них бывают разные размеры и окрасы. Таким образом, подход, подразумевающий создание абстрактных моделей и их сопоставление с входными данными из реального мира, на практике оказался неработоспособным.

Эти формалистические, негибкие системы познакомили нас с интеллектуальными машинами, но успешно работали они только в областях, в которых имеющийся опыт можно было четко зафиксировать в виде жестких правил. При решении задач, которые нельзя было закодировать четкими правилами, такие системы не проходили тест Тьюринга, то есть оказывались неспособны делать (или имитировать) работу человека. Так наступила «зима ИИ» – области применения интеллектуальных систем были ограничены, их финансирование сократилось и прогресс замедлился.

Затем произошел концептуальный сдвиг. Разработчики осознали, что нужен новый подход к созданию машин для решения сложных проблем – машины должны учиться самостоятельно. Так мы перешли от попыток закодировать знания, полученные человеком, к делегированию машинам самого процесса обучения.

Машинное обучение возникло еще в 1950-х гг., но новые достижения позволили исследователям опять обратить на него внимание в 1990-е гг. и начать применять его на практике. Лучше всего зарекомендовали себя методы извлечения закономерностей из больших массивов данных с помощью так называемых нейронных сетей. В философском плане можно сказать, что первопроходцы ИИ отказались от идеи свести мир к механистическим правилам и построить модели, приближенные к реальности. Они поняли, что для идентификации изображения кошки машина должна «выучить» ряд визуальных представлений кошек, наблюдая за животными в различных контекстах. Для машинного обучения важно взаимодействие различных представлений, а не их идеальное выражение – Витгенштейн, а не Платон. Так родилась современная область машинного обучения – программы, которые обучаются на полученном опыте.

Современный ИИ

Мы добились серьезных успехов. Например, в 2000-х гг. был достигнут значительный прогресс в области машинного обучения для визуального распознавания объектов. Разработчики создали ИИ, которые обучались на наборах картинок и идентифицировали изображения объектов гораздо эффективнее, чем жестко закодированные системы.

ИИ, который открыл халицин, иллюстрирует центральную роль процесса обучения. Когда исследователи МИТ разработали алгоритм машинного обучения для предсказания антибактериальных свойств молекул, обучив его на наборе данных из более чем 2 тыс. молекул, получилось то, чего не смог бы добиться ни один обычный алгоритм – и ни один человек. Связи, которые ИИ выявил между молекулой и ее свойствами антибиотика, непонятны людям и, что еще более важно, не поддаются выражению в виде правил. Это говорит о том, что алгоритм машинного обучения, который совершенствует модель на основе базовых данных, способен распознавать взаимосвязи, неуловимые для человека.

Как отмечалось ранее, это неточный ИИ – ему не нужно заранее задавать определенную связь между свойством и эффектом. Он может, например, выбрать наиболее вероятных кандидатов из большого набора возможностей. Эта способность отражает один из жизненно важных элементов современного ИИ. Используя машинное обучение для создания и корректировки моделей с использованием обратной связи из реального мира, современный ИИ может постепенно уточнять результаты и анализировать неоднозначные ситуации, которые поставили бы в тупик классические алгоритмы. Как и классический алгоритм, алгоритм машинного обучения состоит из последовательности точных шагов. Но, в отличие от классического алгоритма, эти шаги не приводят непосредственно к определенному результату. Скорее, современные алгоритмы ИИ измеряют качество результатов и позволяют улучшать эти результаты – это не выполнение точных инструкций, а процесс обучения.

Основной метод и движущая сила машинного обучения – нейронная сеть. В 1958 г. у Фрэнка Розенблатта, исследователя Авиационной лаборатории Корнелльского университета, возникла идея кодирования информации с помощью структуры «узлов» (аналог нейронов, которых в человеческом мозгу насчитывается около 100 млрд) и связей между ними, сила которых обозначалась весовыми коэффициентами (аналог квадриллионов синапсов, соединяющих нейроны). В течение десятилетий недостаток вычислительных мощностей и сложных алгоритмов замедлял развитие любых нейронных сетей, кроме самых простых. Прогресс последних лет в обеих областях освободил разработчиков ИИ от этих ограничений.

В случае с халицином нейронная сеть уловила связь между молекулами (вход) и их потенциальной возможностью подавления роста бактерий (выход). ИИ, открывший халицин, сделал это, не оперируя информацией о химических процессах или функциях лекарств, он обнаружил взаимосвязи между входными и выходными данными при помощи так называемого глубокого обучения, при котором слои нейронной сети, расположенные ближе к входу, отражают свойства входных данных, а слои, расположенные дальше, отражают более широкие обобщения, предсказывающие желаемый выход.

Глубокое обучение позволяет нейронным сетям улавливать сложные взаимосвязи, например между эффективностью антибиотиков и аспектами молекулярной структуры, отраженными в обучающих данных (молекулярный вес, химический состав, типы межатомных связей и т. д.), которые могут ускользнуть от человека. Когда ИИ сталкивается на этапе обучения с новыми данными, он корректирует весовые коэффициенты в нейронной сети, чтобы отразить новую информацию. Точность сети зависит от объема и качества данных, на которых она обучается. Чем больше объемы обучающих данных и чем больше слоев нейросети, тем точнее веса отражают взаимосвязи. В современных глубоких сетях обычно бывает до 10 слоев.

Для обучения нейронных сетей нужны огромные ресурсы. Этот процесс требует значительных вычислительных мощностей, большого количества энергии и сложных алгоритмов для анализа и адаптации к огромным объемам данных. В отличие от человека, большинство ИИ не могут одновременно обучаться и выполнять работу. Обучение и практическое применение – разные этапы функционирования ИИ. На этапе обучения алгоритмы измерения и повышения качества ИИ оценивают и корректируют свою модель для получения хороших результатов. В случае с халицином обучение заключалось в том, что ИИ выявлял взаимосвязи между молекулярными структурами и эффектами антибиотиков на основе данных обучающего набора. На следующем этапе исследователи поставили перед ИИ задачу определить молекулы с сильным антибиотическим эффектом. Этот ИИ не занимался рассуждениями – он делал выводы, применяя разработанную им модель.