Текст книги "Краткое содержание «Четвертая мировая война. Будущее уже рядом»"

Обзор по книге «Четвертая мировая война. Будущее уже рядом», Андрей Курпатов
Автор обзора: Дарья Варламова

Андрей Курпатов отвечает: победит ли нас искусственный интеллект?

Известный психиатр и психотерапевт Андрей Курпатов, видимо, вдохновленный славой историка Ноя Харари (автора нашумевших книг «Sapiens: Краткая история человечества» и «Homo Deus: Краткая история завтрашнего дня»), решил зайти на новое для себя поле – футурологию. Если изначально заявленная в предисловии тема еще как-то связана с его специальностью (Курпатов предлагает обсудить то, как новые технологии влияют на психику и поведение), то в процессе автор заметно отвлекается от психологических тем в пользу конспирологических теорий.

Тем не менее, у Курпатова получилась интересная обзорная экскурсия по трендам, возможностям и угрозам будущего – для тех, кто только подступается к этой теме и не знает, с чего начать, это хороший стартовый вариант. Но тем, кто уже читал Курцвейла, Ноя Харари, Дэниела Деннета, Елиезера Юдковского и других современных мыслителей и футурологов, книга скорее всего, покажется вторичной и скучноватой. Тем не менее, важно, чтобы такие непростые темы популяризировались для читателей с разным уровнем подготовки.

Об авторе: Андрей Курпатов – врач-психотерапевт, президент Высшей школы методологии, автор более сотни научных работ. Широкой публике наиболее известен как популяризатор психотерапии: написал более 30 популярных книг, изданных на 7 языках общим тиражом в несколько миллионов экземпляров.

Довольно сложно выделить для обзора какую-то конкретную главу, потому что у Курпатова все сильно взаимосвязано. Так что я буду отталкиваться от ключевого тезиса и аргументов в его пользу, которые приводит автор: если новые технологии будут бесконтрольно развиваться в том же направлении, это может привести к кризису, а то и краху человечества, потому что мы будем использовать их как костыли и реже пользоваться своим интеллектом и свободной волей. А теперь давайте разбирать ключевые аргументы.

Аргумент 1. Искусственный интеллект развивается в геометрической прогрессии – в отличие от нас

Есть закон Мура (названный в честь основателя Intel Гордона Мура, который вывел его в ходе эмпирических наблюдений), по которому вычислительная мощность компьютеров удваивается каждые два года. Это означает, что в какой-то момент компьютеры разовьются так, что мы просто перестанем их понимать, как герой научно-фантастического рассказа Дэниела Киза «Цветы для Элджернона». Уже сейчас они делают большие успехи в тех областях мышления, которые мы раньше считали сугубо человеческими. Например, на Западе есть аналог передачи «Своя игра», и в с 2011 года любой англоязычный Вассерман проигрывает в ней суперкомпьютеру IBM Watson. Просто подключиться к гигантским базам данных – дело нехитрое, но Ватсон научился понимать сложно сформулированные вопросы, различая метафоры и подтекст. Как именно он это делает, не знает никто, включая его создателя Дэвида Ферруччи.

Когда-то Алан Тьюринг считал игру в го последним рубежом, отделяющим искусственный интеллект от нашего, человеческого – потому что хоть это и логическая игра, в ней велика роль интуиции. И этот рубеж был преодолен в 2016 году, когда компьютер AlphaGo, созданный компанией Google, победил чемпиона по игре в го Ли Седоля со счетом 5:1.

А в 2018 году нейронная сеть, разработанная китайской ИТ-корпорацией Alibaba, сдала тесты Стэнфордского университета лучше, чем средний абитуриент (82,44 балла в тестах на чтение и понимание информации – против среднего балла в 82,34 у homo sapiens).

Аргумент 2. Технологии знают нас лучше нас самих

Что самое интересное: самый передовой тип искусственного интеллекта – нейронные сети, которые сделаны по образу и подобию нейронных сетей нашего мозга, все лучше справляются с операциями, которые раньше давались только людям (например, распознавание образов или написание креативных текстов). Они обучаются на примерах – то есть, надо «скормить» сети большой массив данных (например, с лицами террористов и обычных людей) со специальными разметками (вот террорист, а вот обычный человек) и давать обратную связь на правильные решения и ошибки. Дальше нейросеть разберется сама, но проблема в том, что никто не знает, как именно она это сделает. Она совершенно не обязательно будет пользоваться человеческой логикой. При этом мы даем искусственному интеллекту столько информации о нашей логике (обучая его анализировать информацию из соцсетей, реплики в чат-ботах и т.д.), что в перспективе может оказаться так, что он будет прекрасно прогнозировать ход наших мыслей, а мы не сможем прогнозировать ход его мыслей.

Один из самых ярких примеров, показывающих, как далеко зашли технологии – разработка ученого Михаля Косински, работавшего в Центре психометрии английского Кембриджа с 2008 года. Косинки создал программу, которая могла многое понять про человека, сравнив его поведение в соцсетях с данными психометрии (тесты на добровольцах). Еще в 2012 году ей требовалось проанализировать всего 68 лайков пользователя в Facebook, чтобы: с 95 % вероятностью определить цвет кожи испытуемого; с 88 % вероятностью – его гомосексуальность; с 85 % – политические взгляды. Впоследствии наработки Косински использовались для предвыборной кампании Дональда Трампа – система делила аудиторию соцсетей на типажи, и дальше каждой группе людей подсовывался тот контент, который лучше всего на них действовал.

При этом все больше информации о себе мы поставляем неосознанно – даже не через лайки в соцсетях, а через датчики на пульсомерах, камеры и т.д. Причем компьютеры не обманешь фейками: в отличие от людей, они собирают информацию не о том, какими мы хотим казаться, а непосредственно о том, как мы совершаем выбор. Это означает, что вскоре они могут узнать нас уже лучше нас самих. С одной стороны, это удобно: программа сможет советовать вам, с кем идти на свидание или какой десерт вам больше понравится в ресторане. С другой стороны, тут возникает очень много возможностей для манипулирования. Не очень понятно, как будет выглядеть свободная воля к концу XXI века.

Аргумент 3. Самосознание – не такая уж и нужная штука

Поскольку мы склонны считать свой вид венцом творения, мы привыкли считать, что самосознание – это огромная ценность. Но все зависит от цели. С точки зрения эффективного решения задач, самосознание вовсе не обязательно самый удобный и полезный интерфейс (в конце концов, все мы очень много отвлекаемся на свои эмоции и внутренние диалоги). Просто для нас он пока единственно возможный. Хотя знаменитый фантаст Питер Уоттс в прекрасной книге «Ложная слепота» обрисовал коллективистскую инопланетную расу, которая разумна, но прекрасно обходится без самосознания (и экономит немало энергии на этом).

Но даже если допустить, что самосознание дает какие-то важные бонусы, нельзя уверенно утверждать, что оно не может появиться у компьютеров. Вряд ли оно заведется само собой, но создать его умышленно, по мнению Курпатова, вполне можно. Ведь, как мы помним, наше самосознание – это продукт электрических импульсов нашего мозга, которые возникают по определенной системе. Весь наш богатый психологический мир возник не красоты ради, а по функциональным причинам: воспоминания, мысли, эмоции и рефлексия способны влиять на наше поведение и помогать нам в решении поставленных задач (какими бы они ни были – добыть мамонта, написать роман или добиться сделки с гигантской корпорацией). При этом в нашем мозге работает много разных систем: система вознаграждения, которая занимается мотивацией, лимбическая система, отвечающая за весь спектр эмоциональных реакций, системы, отвечающие за восприятие мира органами чувств, за движение, за планирование поведения и т.д. Есть и система, которая вкратце, очень приблизительно объясняет нашему сознанию, что с ним происходит. Это и есть самосознание. Для всех наших психических реакций, которые мы способны осознать, у нас есть набор ассоциаций и язык, который их описывает. Поэтому Иван Павлов называл язык «второй сигнальной системой» (первая – это сырой набор реакций на раздражители). С помощью второй сигнальной системы мы узнаем, что мы расстроены, или запутались, или влюбились. Что это означает на практике? Как считает Курпатов, такую же вторую сигнальную систему можно дать и компьютеру – то есть, предоставить ему помимо языка, на котором его программируют для решения разных задач, второй язык, который будет объяснять ему его реакции. И дать ему поучиться на опыте под чутким надзором «воспитателей». Не факт, правда, что это сделает его эффективнее.

Аргумент 4. Интеллектуальные способности человека снижаются

Нам часто кажется, что мы понимаем больше, чем на самом деле. В методологии мышления этот эффект называется «иллюзией понимания». Суть в том, что психологически нам намного легче считать, что мы все поняли, потому что недостаток информации или противоречия в ней вызывают у нас сильный субъективный дискомфорт. И часто четкая и простая картина мира становится важнее, чем достоверность и объективность. В этом парадокс нашей психики: с одной стороны, мы бесконечно любопытные создания, стремящиеся к саморазвитию, с другой, в наш мозг заложен механизм когнитивной экономии, который часто побуждает нас останавливаться на чем-то простом и понятном, а не копать дальше. Ведь в древние времена жизнь была полна опасностей, и с одной стороны, было чревато погружаться в глубокие раздумья и переставать все время сканировать среду на предмет угроз, а с другой, мозг требовал много энергии, а с пищей тогда были перебои, поэтому важно было тратить когнитивные усилия на решения приоритетных задач. И когда природные механизмы в нашей голове сталкиваются с алгоритмами соцсетей, игр и приложений, начинают происходить странные вещи.

Йельский профессор Мэтью Фишер и его коллеги провели серию экспериментов с поисковиком Google. В одном из них участники должны были ответить на 4 вопроса с помощью интернет-поисковика, а контрольная группа получала печатный текст с ответами. Потом обеим группам задавались новые вопросы. И оказывалось, что группа, которая пользовалась гуглом, считала себя более компетентной – видимо, потому, что поиск – это проактивное поведение, поэтому вы начинаете автоматически присваивать себе найденные в гугле знания. Хотя без доступа к поисковику вы ничего об этом не вспомните.

Раньше психика формировалась в условиях дефицита информации, а сейчас наоборот, с информацией такой перебор, что мы просто не успеваем ее усваивать. Поэтому, по данным исследований, современные люди хуже справляются с простыми заданиями типа «объяснить смысл прочитанного своими словами». В 90-х исследователи обратили внимание на это явление и назвали его «функциональной неграмотностью».

При этом в усиливающейся конкуренции с компьютерами мы продолжаем уповать на человеческую креативность. Проблема в том, что она, похоже, тоже снижается – по крайней мере, в Америке. Преподавательница педагогики Мэри Кюнг Хи Ким проанализировала архивные результаты теста детей (300 000 штук) на креативность за последние пятьдесят лет (это был популярный и ценимый психологами за достоверность Тест Креативности мышления Торренса). Оказалось, что после 1990 года креативность американских детей неуклонно и значительно падала.

А еще нам все сложнее продолжительно концентрироваться на чем-либо – мы привыкли постоянно переключать внимание. Современный пользователь в среднем касается своего смартфона 2617 раз за день. В 2017 году автор кнопки «лайк» на Facebook Джастин Розенштейн рассказал прессе о том, что установил себе лимит на пользование соцсетями и заблокировал на смартфоне новостные сайты и мессенджеры. Он объяснил это решение тем, что гаджеты явно вызывают психологическую зависимость. При этом нашему мозгу свойственна динамическая стереотипия (то есть нас сложно к чему-то приучить, но отучить – значительно сложнее). Поэтому задумываться о том, как бороться с вредной привычкой, пора уже в тот момент, когда вы начинаете ее приобретать, а не когда она уже сложилась.

В 2017 году корейский профессор Хюн Сук Сео провёл первое комплексное исследование пациентов с цифровой зависимостью. Учёные собрали две группы добровольцев: подростки, страдающие цифровой зависимостью, и ребята того же возраста с аддикцией к наркотикам и алкоголю. Им делали магнитно-резонансную томографию и фиксировали химические изменения в разных участках мозга (видимо, косвенно, через показания томографа – насколько известно автору обзора, напрямую «замерить» химические процессы в мозге нельзя). Исследование показало, что цифровая зависимость приводит к тем же изменениям, что и злоупотребление алкоголем и веществами, вызывая тревожность и чувство потери контроля. Примечание автора обзора: правда, ни Всемирная организация здравоохранения, ни американский диагностический справочник по психиатрии DSM-5 пока не признают интернет-зависимость или зависимость от гаджетов психическим расстройством.

Тем не менее, интернет и гаджеты эксплуатируют специфическую особенность нашего мозга: мы получаем положительное нейрохимическое подкрепление за поисковое поведение (потому что оно с древних времен помогало нам находить еду и решать разные задачи) и распознавание образов (потому что важно вовремя заметить в кустах тигра). В те времена, когда сформировалась наша система вознаграждения, таких задач, как чтение романа Толстого или решение квадратных уравнений еще не существовало, поэтому все последующие усложнения нанизывались на ту же, достаточно примитивную систему. В этом плане наш мозг радуется замеченному на опушке боровику или листанию новостной ленты фейсбука точно так же, как постижению какой-нибудь философской концепции или решению рабочей задачи, при этом первое намного менее энергозатратно. Конечно, в интернете есть и много сложного контента, позволяющего освоить новые знания и навыки. Но велика вероятность, что сейчас вы выберете поиграть в Candy Crush, а сложную статью про биткоин и либертарианство оставите на «когда-нибудь потом».

Интересно, что само наличие телефона под рукой уже влияет на когнитивные способности. Психологи Адриан Ф. Уорд и Маартен В. Бос провели эксперимент с участием более 1500 студентов, которым было предложение решать разные когнитивные задачи. Участников разбили на три группы: у членов первой телефон находился в другой комнате, второй – вне поля зрения, и третьей – на столе (при этом пользоваться им не разрешалось никому). Оказалось, что третья группа справлялась с заданиями хуже всех – видимо, потому, что часть их внимания уходила на ожидание сообщений.

Технологии увеличивают неравенство

Экономика становится все более зависимой от ИТ-технологий. Они проникают повсюду: от медиа и туризма до добычи полезных ископаемых и сельского хозяйства. Месторождения контролируются умными автоматизированными системами, дроны летают над полями, контролируя состояние растений, новые материалы и синтетические органы проектируются на компьютерах. Не говоря о том, что большая часть коммуникации идет через интернет. А в дальнейшем это только усилится, потому что все больше людей будут работать удаленно.

При этом появляется все больше возможностей манипулировать людьми с помощью гаджетов и соцсетей, а контроль безопасности в этой области сильно отстает от темпа разработок (не говоря о том, что человеку непосвященному все сложнее вникнуть в то, что технически происходит у него в смартфоне). Все это означает, что ИТ-корпорации получили власть сравнимую с властью президента какой-либо страны – при этом их ответственность несоизмеримо меньше.

При этом ни глобализация (которая, по идее, должна давать больше возможностей для поиска рабочих мест), ни возможность дистанционного обучения пока не уменьшили социальное расслоение. Разрыв между бедными и богатыми увеличивается. Кроме того, растет противостояние демократических и автократических систем, и оно далеко не всегда геополитическое (типа ЕС vs Северная Корея). Борьба между контролем и свободой разгорается и в ИТ-корпорациях.

Отдельное опасение вызывает то, что с развитием медицины и биотехнологий богатые люди смогут получить практически бесконечную жизнь, а также улучшенные физические и когнитивные способности. В результате они могут стать практически новым видом, который будет воспринимать обычных людей как животных. Этот мрачный сценарий красочно описывается в фантастическом романе Ричарда Моргана «Видоизмененный углерод» и одноименном телесериале.

Впрочем, опасаться стоит не только технократов – правительства стран тоже весьма заинтересованы в том, чтобы лучше контролировать своих граждан с помощью ИТ-технологий. Самый нашумевший пример – китайская система социального рейтинга, которая уже тестируется в отдельных регионах (ее планируют ввести по всей стране к 2020 году). Поведение граждан отслеживается оффлайн – с помощью видеокамер – и онлайн. Дальше специальные аналитические системы его оценивают. Тот, кто не мусорит, ведет здоровый образ жизни и не набирает кредитов, получает положительные оценки, а, например, за просмотр порнографии могут лишить баллов. Те, кто долго удерживает высокий рейтинг, получают всякие льготы и бонусы, а людям с низким количеством баллов сложно даже устроиться на работу.

Надо сказать, что эта глава в книге Курпатова – наименее связная и последовательная, от взвешенного изложения автор все чаще уходит в предапокалиптический пыл. Безусловно, нельзя недооценивать риски, связанные с технологиями. Кроме того, мы все действительно на удивление беспечно себя ведем, учитывая диапазон возможных угроз и скорость развития искусственного интеллекта. Тем не менее, худшее, что может сделать читатель после прочтения «Четвертой мировой войны» – это впасть в панику или ополчиться против создателей гаджетов. Впрочем, и сам Курпатов говорит о том, что он призывает всего лишь к бдительности, а не к технологическому откату. Жаль, что в книге не представлены возможные практические решения озвученных проблем, но книга может стать хорошим поводом почитать еще по теме и развить в себе пользовательскую осознанность.

Что еще почитать на эту тему:

● Дениел Деннет, «Виды психики. На пути к пониманию сознания»

● Ной Харари, «Homo Deus», «Sapiens. Краткая история человечества»

● Митио Каку, «Будущее человечества. Колонизация Марса, путешествия к звездам и обретение бессмертия», «Будущее разума»

● Рэймонд Курцвейл, «Transcend. Девять шагов на пути к вечной жизни», «Эволюция разума», «The Age of Spiritual Machines: When Computers Exceed Human Intelligence»