Текст книги "10 аргументов удалить все свои аккаунты в социальных сетях"

Джарон Ланье
10 аргументов удалить все свои аккаунты в социальных сетях

Jaron Lanier

TEN ARGUMENTS FOR DELETING YOUR SOCIAL MEDIA ACCOUNTS RIGHT NOW

© Воронович Э., перевод на русский язык, 2019

© ИП Сирота, 2019

© Оформление. ООО «Издательство «Эксмо», 2019

Введение с кошками

Начнем с кошек.

Котики в интернете повсюду. Они появляются в самых забавных видеороликах и мемах.

Почему кошек там больше, чем собак?[1]1
  http://www.movingimage.us/exhibitions/2015/08/07/detail/how-cats-took-over-the-internet/


[Закрыть]

Собаки не приходили к древним людям и не просились с ними жить. Мы их поймали и одомашнили[2]2
  https://www.smithsonianmag.com/smithsonian-institution/ask-smithsonian-are-cats-domesticated-180955111/


[Закрыть]. Их выращивали для подчинения. Они предсказуемы и легко поддаются дрессировке. Они работают на нас. Они приносят пользу[3]3
  Спокойно, собачники! Вот гипотеза, что собаки стали домашними сами по себе, как и кошки: https://news.nationalgeographic.com/news/2013/03/130302-dog-domestic-evolution-science-wolf-wolves-human/


[Закрыть]. Здорово, что они такие верные и безотказные.

Кошки другие. Они пришли к нам и стали домашними отчасти сами. Они непредсказуемы. В популярных видеороликах с собаками хозяева хвастают, как хорошо те вышколены. Среди роликов с кошками бешеной популярностью пользуются те, где животные ведут себя странно.

Кошки умны, но если вам нужно животное, которое будет вас слушаться, они – не лучший выбор. Посмотрите ролики про кошачий цирк. В них отчетливо видно, что кошки каждый раз решают, выполнить ли им разученный трюк, отказаться трогаться с места или отправиться в зрительный зал.

Кошки совершили, казалось бы, невозможное: они сумели интегрироваться в современный мир высоких технологий, не изменившись. Они до сих пор сами по себе. Вам не стоит бояться, что какое-то незаметное внушение, созданное с помощью алгоритма и оплаченное коварным невидимым олигархом, управляет вашим котиком. Им вообще никто не управляет, в том числе и вы сами.

Как бы нам хотелось сказать то же самое о себе! Котики в интернете – это наши надежды и мечты о будущем человечества.

Несмотря на всю нашу любовь к собакам, быть такими же, по крайней мере в контексте иерархии власти, нам не хочется, и нас коробит от мысли, что Facebook и прочие компании превращают нас в собак. Когда мы занимаемся в сети какой-нибудь ерундой, это можно назвать реакцией на «бесшумный свисток», который могут слышать только собаки. Нас терзает подозрение, что нас незаметно контролируют.

Эта книга рассказывает о том, как остаться кошкой и сохранить анонимность в мире, где за каждым из нас ведется постоянное наблюдение и где богатейшие компании, которые зарабатывают тем, что влияют на наше поведение, непрерывно тычут в нас алгоритмами.

Название не врет. Я приведу в этой книге десять аргументов за то, чтобы немедленно удалить все свои аккаунты в социальных сетях. Но даже если вы целиком и полностью согласитесь со мной, вы все равно можете оставить некоторые свои аккаунты. Это ваше право, поскольку вы кошка и решаете сами за себя.

Я приведу десять аргументов и расскажу, как оценить ситуацию и понять, что для вас будет лучше. Но решение принимать вам.

Аргумент первый. Вы теряете свободу воли

Добро пожаловать в клетку

Прямо сейчас в мире происходит нечто уникальное. Всего каких-то пять или десять лет назад люди массово начали носить с собой небольшое устройство, смартфон, который стал удобной платформой для работы алгоритмов изменения поведения. Многие из нас к тому же ставят на кухонные полки или приборные панели автомобилей связанные со смартфоном устройства под названием «умные колонки». Корпорации нас постоянно отслеживают, считывают наши данные и выдают тщательно просчитанную обратную связь. Невидимые специалисты своего дела шаг за шагом гипнотизируют нас ради достижения целей, которые нам неизвестны. Все мы сейчас подопытные животные.

Каждую секунду алгоритмы поглощают информацию о вас. По каким ссылкам вы ходите? Какие видеоролики и как часто смотрите? Как быстро переключаете внимание с одних вещей на другие? Где, когда и что вы делаете? С кем общаетесь лично и в сети? Какие выражения принимает ваше лицо? Как, в зависимости от ситуаций, меняется его цвет? Что вы делаете, прежде чем решиться на покупку или участие в выборах?

Все это соотносится с такими же данными о жизни множества других людей, добытыми огромной шпионской сетью. Алгоритмы сопоставляют ваши действия с действиями остальных.

Эти программы не понимают вас по-настоящему, но они властвуют над числами, особенно большими. Если множество людей, которым нравятся те же блюда, что и вам, отвергнут портрет кандидата в розовой, а не голубой, рамке, то и вы, возможно, его отвергнете, и никому не интересно почему. Статистика надежна, но в этой ситуации она – глупый демон.

Вы одиноки, опечалены, напуганы? Счастливы, уверены в себе? Вы женщина, и у вас первые дни цикла? Нервничаете на уроке?

Так называемые рекламщики способны поймать момент, когда вы сильно взвинчены, и повлиять на вас сообщениями, которые сработали с другими людьми, чьи привычки и поведение в различных ситуациях совпали с вашими.

Я специально сказал «так называемые», потому что было бы неправильно называть рекламой откровенное манипулирование людьми. Настоящие рекламщики имели ограниченную возможность предлагать свой товар, и даже если иной раз их послание маскировалось или раздражало, оно было быстрым. Что еще важнее, люди видели одну и ту же рекламу на телевидении и в газетах, и никто ее не адаптировал под отдельно взятого человека. Но самое большое различие заключается в том, что за вами не вели постоянную слежку и не оценивали ваши действия, чтобы всучить вам «контент», который может изменить вас или побудить к чему-либо.

Теперь же все, кто зарегистрирован в социальных сетях, получают индивидуально подогнанные непрестанно меняющиеся стимулы, по крайней мере пока пользуются смартфонами. То, что раньше могло называться рекламой, сейчас следует расценивать как управление поведением в огромных масштабах.

Не сочтите это, пожалуйста, оскорблением. Да, я предполагаю, что вы потихоньку превращаетесь в идеально выдрессированную собаку, а может, и во что-то более неприятное, скажем в лабораторную крысу или даже робота. Что вас на расстоянии контролируют клиенты огромных корпораций. Но если я прав, то осознание этого поможет вам освободиться. Так почему бы не воспользоваться шансом?

Научное движение, названное бихевиоризмом, зародилось еще до изобретения компьютеров. Бихевиористы изучали новые, более методичные, стерильные и скучные способы дрессировки животных и людей.

Одним из знаменитых бихевиористов был Б. Ф. Скиннер. Он положил начало методологической системе, известной как ящик Скиннера. В рамках его экспериментов животных сажали в клетку и давали лакомство за совершение ими определенных действий. Животных никто не гладил и не хвалил, это было просто изолированное механическое действие – новая для того времени разновидность дрессировки. Позже бихевиористы применили этот метод к людям. Их стратегии часто срабатывали, и это ужасно пугало людей. В результате появилось множество фантастических романов и фильмов ужасов о «контроле разума».

Печально, но факт: при помощи бихевиористских методик можно дрессировать человека, и он даже не будет этого осознавать. До недавнего времени вы могли столкнуться с этим методом, только если бы записались добровольцем для участия в экспериментах в подвале университетского корпуса, в котором расположен факультет психологии. Вас бы отвели в специальное помещение, и психологи изучали бы вас через одностороннее зеркало. Несмотря на то что вы знали бы об эксперименте, вы не смогли бы осознать, как именно вами манипулируют. Что ж, вы были бы не в обиде, ведь вы сами дали согласие на то, что вами каким-то образом манипулировали. (Впрочем, не всегда. Некоторые жестокие эксперименты проводились на заключенных, бедняках и представителях других рас.)

В десяти главах этой книги я покажу, что вещи, которые внезапно стали считаться нормой – тотальная слежка и постоянные незаметные манипуляции – на самом деле негуманны, неэтичны, жестоки и опасны.

Опасны? О да, потому что вы не знаете, кто и в каких целях воспользуется этой властью.

Оказывается, безумный ученый заботится о собаке в клетке

Возможно, вы слышали о признаниях основателей империй социальных сетей, которые я предпочитаю называть «империями изменения поведения».

Например, Шона Паркера, первого президента Facebook:

«Нам нужно время от времени подкидывать вам дофамина – показывать, что кто-то оценил ваше фото, или пост, или что-нибудь еще… Петля обратной связи с социальным одобрением… это именно то, до чего додумался бы хакер, вроде меня, поскольку мы играем на уязвимости человеческой психологии… Изобретатели и создатели – я, Марк [Цукерберг], Кевин Систром из Instagram – мы постоянно это осознавали. И все равно это делали… ваши отношения друг с другом и обществом в буквальном смысле изменяются… Возможно, сети даже убивают способность продуктивно работать. Одному Богу известно, что все это делает с мозгом наших детей»[4]4
  https://www.axios.com/sean-parker-unloads-on-facebook-2508036343.html


[Закрыть].

А вот что говорит Чамат Палихапития, бывший вице-президент Facebook по вопросам роста пользовательской аудитории:

«Созданные нами кратковременные петли обратной связи, подпитываемые дофамином, разрушают общество… Никаких дискуссий, чтобы достичь взаимопонимания, никакого сотрудничества, ложная информация, недоверие. Это не проблема одной только Америки, и дело вовсе не в шпионах. Это проблема всего мира… Я испытываю ужасное чувство вины. Думаю, в глубине души мы все это знали, хотя и притворялись, что не видим никаких негативных последствий. Думаю, где-то совсем в глубине сознания мы догадывались, что может произойти что-то плохое… Так что, с моей точки зрения, сейчас у нас действительно все плохо. Разрушается сама основа человеческого общения и взаимодействия друг с другом. И я понятия не имею, как эффективно решить проблему. Можно лишь отказаться пользоваться этими механизмами. Я уже несколько лет так и делаю»[5]5
  https://gizmodo.com/former-facebook-exec-you-don-t-realize-it-but-you-are-1821181133 Должен отметить, что через несколько дней Палихапития пошел на попятную и заявил, что Facebook принес пользу всему миру.


[Закрыть].

Лучше поздно, чем никогда. Целая толпа критиков, и я в их числе, уже давно твердят, что мир катится в тартарары. Но когда это признают сами создатели соцсетей, это уже шаг вперед.

Долгие годы я был вынужден выслушивать весьма неприятную критику от друзей, работавших в Кремниевой долине. Я осуждал то, над чем мы вместе трудились, и меня считали предателем. Позже я столкнулся с противоположной проблемой. Я говорил, что работники Кремниевой долины по большей части порядочны, и просил не представлять нас вселенским злом. И сталкивался с новой волной праведного гнева. Я уже не понимаю, когда чрезмерно критикую свое окружение, а когда чрезмерно его защищаю.

Но куда важнее сейчас ответить на вопрос, имеет ли вообще значение хоть чья-нибудь критика. Мы все уже знаем, и корпорации не могут больше отрицать, что эта технология причиняет нам вред, но будем ли мы – а точнее, лично вы – в состоянии сопротивляться этому?

Некоторые компании, среди которых Facebook, Google и Twitter, пытаются исправить серьезные проблемы, из-за них же и возникшие, но действуют они разрозненно. Что случилось, в них проснулась совесть или на них оказывается давление? Думаю, понемногу и то и другое.

Как бы то ни было, компании меняют свою политику, тщательно мониторят происходящее и нанимают сотрудников для обработки и анализа данных, чтобы разработать алгоритмы, которые помогли бы избежать еще более страшных ошибок. Раньше в Facebook твердили: «Двигайся быстро и ломай устои»[6]6
  https://mashable.com/2014/04/30/facebooks-new-mantra-move-fast-with-stability/


[Закрыть], теперь они придумывают мантры получше, пытаясь собрать разбитый мир по кусочкам и склеить обломки.

Эта книга о том, что без нашей помощи компании не справятся.

Поскольку люди, работающие в Кремниевой долине, уже сожалеют о содеянном, может показаться, что нам достаточно немного подождать, и все наладится. Но это так не работает. Если вы не станете частью решения, его не будет вовсе.

В первом аргументе я представлю несколько ключевых концепций, стоящих за проектированием манипулятивных и формирующих зависимость сетевых сервисов. Осознанность – первый шаг к свободе.

Кнут и пряник

Паркер заявляет о том, что Facebook намеренно создает у людей зависимость, а Палихапития говорит об отрицательном влиянии этой соцсети на человеческие отношения и общество в целом. Где же связь между этими двумя источниками чувства вины?

Основной процесс, который позволяет соцсетям зарабатывать деньги и одновременно причиняет вред обществу – это изменение поведенческих моделей людей с помощью специальных методик. Причем их можно применять как для избавления от зависимостей, так и для их формирования.

Зависимости сводят людей с ума, и в этом заключается вред для общества. Зависимый человек постепенно теряет связь с реальностью и живыми людьми. Когда из-за применения манипулятивных схем множество людей перестают владеть собой, мир становится безумным и мрачным.

Зависимость – неврологический процесс, до конца еще не изученный. Мы знаем, что нейромедиатор дофамин влияет на получение нами удовольствия, и потому именно он лежит в основе работы механизма изменения поведения при реакции на поощрение. Вот почему Паркер его упоминает.

Изменение поведения современного человека под влиянием, например, смартфонов – статистический эффект. «Статистический» означает, что эффект реален, но не вполне объективен. В масштабах всего человечества результат вмешательства более или менее предсказуем, но с отдельно взятым человеком фокус может не сработать. Но не обольщайтесь – даже если выводы не вполне точны или основываются на нечетких логических построениях, они не перестают быть достоверными. Любой из нас – в какой-то степени животное, которое бихевиорист посадил для эксперимента в клетку.

Сегодня поощрение чаще всего применяется в экспериментах бихевиористов, но этот метод уходит корнями в древние времена. К нему прибегает каждый дрессировщик, когда дает собаке маленький кусочек лакомства после того, как она выполнит трюк. То же самое делают многие родители маленьких детей.

Иван Павлов, один из первых бихевиористов, блестяще продемонстрировал, что метод работает даже без настоящего лакомства. Он звонил в колокольчик каждый раз, как собаку кормили, – и в конце концов слюна у собаки начала выделяться, когда она просто слышала звук колокольчика.

Использование символов вместо настоящего поощрения – главная хитрость в инструментарии изменения поведения. Например, такая игра для смартфона, как Candy Crush, вместо настоящих сладостей использует для формирования зависимости нарисованные блестящие конфетки. Другие видеоигры могут привлекать внимание изображениями сверкающих монет и прочих сокровищ.

Складывающиеся у нас в мозгу стереотипы удовольствия и поощрения – «доза дофамина», выражаясь словами Шона Паркера, – это основная составляющая зависимости от социальных сетей. Однако соцсети также используют и наказание, или отрицательное подкрепление.

Во время лабораторных экспериментов ученые используют различные виды наказания – одно время весьма популярными были удары током. Но, как и с поощрением, наказанию совершенно не обязательно быть реальным и физическим. Иногда эксперименты проводятся с помощью начисления очков и применения символов.

Общаясь в социальных сетях, вы получаете эквиваленты как поощрения, так и ударов током.

Большинство пользователей соцсетей подвергались атакам со стороны аккаунтов-обманок, которые им подбрасывали, как фантик котенку[7]7
  https://en.wikipedia.org/wiki/Catfishing


[Закрыть] (что кошки, кстати, терпеть не могут). Они испытали на себе бессердечное неприятие, принижение, пренебрежение, неприкрытый садизм или даже кое-что похуже. Это одновременно и кнут, и пряник. Неприятная обратная связь может сыграть в формировании зависимости и скрытом изменении поведения такую же важную роль, как и приятная.

Очарование тайны

Говоря «время от времени», Паркер, возможно, имеет в виду одно любопытное явление, которое открыли бихевиористы. Если за какое-либо действие человека поощрить – общественным одобрением или конфетой, – он будет стремиться совершать это действие как можно чаще. Получая похвалы за публикации в социальной сети, люди приобретают привычку писать много постов.

Звучит довольно невинно, но это может оказаться первым шагом на пути к зависимости, которая постепенно превратится в проблему как отдельного человека, так и общества в целом. Несмотря на то что в Кремниевой долине этот шаг благопристойно называют «вовлеченностью», мы уже достаточно напуганы, чтобы ограждать от него своих детей. Да, многие дети, чьи родители работают в Кремниевой долине, учатся в вальдорфских школах, где электронные устройства запрещены.

Давайте разберем это удивительное явление. Суть его не в слаженной работе положительной и отрицательной обратной связи, а в том, что непредсказуемая обратная связь может стать более мощным побуждающим фактором, чем самая идеальная.

Если вы – ребенок и получаете конфету каждый раз, как говорите слово «пожалуйста», возможно, вы начнете говорить его чаще. А теперь предположим, что однажды вы не получите свою конфету. Можно предположить, что отныне говорить «пожалуйста» вы будете реже: зачем стараться, если результат не гарантирован. Логично?

Но иногда происходит прямо противоположное. Как будто ваш мозг, с самого вашего рождения привыкший во всем находить взаимосвязи, не может устоять перед вызовом. «Тут должна быть какая-то хитрость», – шепчет он, одержимый навязчивой идеей. И вы продолжаете вежливо просить в надежде понять глубоко запрятанную закономерность. Однако ее нет, а есть только случайность безо всякого двойного дна.

Ученому позволительно увлекаться закономерностью, которая не имеет смысла. Он может копнуть глубже и действительно что-то обнаружить. Если вы пишете сценарий, это прекрасный инструмент для работы. Немного нелогичности в сюжете или характере персонажа сделает его более привлекательным.

Но во многих ситуациях это ужасная основа для увлечений. Возможно, именно очарование неопределенной обратной связи заманивает людей в мерзкие «созависимые» отношения, где с ними плохо обращаются.

Создать малую толику случайности в социальных сетях проще простого. Поскольку алгоритмы несовершенны, случайность будет подлинной. Но в дополнение к этому в новостные ленты привносится элемент намеренной случайности. Причина тому лежит в области базовой математики, а не человеческой психологии.

Алгоритмы социальных сетей обычно «самонастраиваемые». Это означает, что в них постоянно происходят небольшие изменения, призванные показать на выходе лучшие результаты. «Лучшие» в этом случае значит сильнее вовлекающие людей и, таким образом, приносящие больше выгоды. В таких алгоритмах всегда присутствует небольшой элемент случайности.

Предположим, обычный алгоритм показывает вам объявление о продаже носков или других товаров примерно через пять секунд после того, как вы посмотрите видео с котиками. Самонастраивающийся алгоритм проведет проверку, чтобы выяснить, что произойдет, если этот временной интервал уменьшить, скажем, до четырех с половиной секунд. Захочется ли вам купить товар сильнее? Если да, то он скорректирует время показа не только ваших будущих объявлений, но и объявлений тысяч других людей, более или менее совпадающих с вами хоть в цветовых предпочтениях, хоть в водительских привычках[8]8
  Любой ваш шаг в соцсетях все время оптимизируется по подобным схемам. Бывший сотрудник Google Тристан Харрис рассказывает об этом подробнее. Например, он объяснил, по какому принципу вам показывают самые разные опции. Рекомендую почитать его эссе, в том числе «Как технологии угоняют у людей разум» («How Technology Hijacks People’s Minds»).


[Закрыть].

Иногда самонастраивающиеся алгоритмы дают сбой, тогда они откатывают свои параметры до прежних показателей. Если после корректировки временного интервала и до четырех с половиной секунд, и до пяти с половиной секунд вы будете меньше хотеть купить носки, рекламу вам снова будут показывать ровно через пять секунд. На основании имеющихся доказательств, алгоритм примет пятисекундный интервал ожидания как оптимальный из всех возможных. По идее, если мелкие случайные изменения не помогают, алгоритм перестает адаптироваться. На деле же самонастраивающиеся алгоритмы никогда не теряют надежду улучшить самих себя.

Что же делать, если улучшить результат могут только более серьезные изменения? Возможно, стоит установить интервал в две с половиной секунды, но постоянные дополнительные поправки не помогут это выяснить, поскольку алгоритм застрял на пятисекундном интервале. Вот почему в самонастраивающиеся алгоритмы заложена возможность большой случайности. Зачастую алгоритм выходит на новый уровень эффективности, когда в почти идеальных настройках происходит сбой[9]9
  Математики часто рассматривают этот процесс как ползание по воображаемому «энергетическому ландшафту». Каждая его позиция соответствует определенным настройкам, которые могут меняться. Так что если вы метафорически ползете по ландшафту, вы исследуете разные параметры. Пятисекундная отметка будет соответствовать области с присвоенным ей алгоритмом. В этой визуализации глубже означает лучше, поскольку для этого требуется меньше энергии. Или же можно воспользоваться метафорой: копать глубже означает найти золотую жилу. В этом вымышленном мире отметка в две с половиной секунды – более глубокая область, которую вы не найдете, если будете продвигаться небольшими шагами ниже области, отмеченной пятью секундами, потому что всегда будете скользить назад. Единственный способ найти более глубокую область – это заставить себя скакнуть куда-нибудь наудачу.


[Закрыть].

Такой механизм скачкообразного развития часто бывает заложен в самонастраивающихся системах. Пример тому – полезные мутации, которые происходят в ходе биологической эволюции из-за постоянно нарастающего числа событий. В основе этого процесса лежит естественный отбор, когда гены отдельной особи либо передаются потомкам, либо нет. Мутация – непредсказуемый фактор, открывающий новые возможности, резкий скачок. Каждая новая мутация добавляет виду странные особенности, делающие его сильнее.

Нейрофизиологи закономерно интересуются, может ли подобный процесс происходить в мозге человека. Пока мы знаем, что мозг может адаптироваться к любым условиям, поскольку природа не терпит сбоев.

Пока рекламный алгоритм влияет на эмоции человека, случайность, облегчающая адаптацию программы, подпитывает у людей зависимость. Алгоритм пытается уловить идеальные параметры для манипуляции мозгом, а мозг пытается найти в этом более глубокий смысл и меняет свою реакцию в ответ на эксперименты алгоритма. В основе этой игры в кошки-мышки лежит чистая математика. Поскольку стимулы алгоритма случайны, а значит, бессмысленны, мозг адаптируется не к чему-то реальному, а к выдумке. Этот процесс – застревание в ловушке зыбкого миража – и есть зависимость. По мере того, как алгоритм пытается выбраться из ямы, человеческий разум в ней застревает.

Первыми это пересечение математики и человеческого мозга стали исследовать не компании – владельцы социальных сетей, а создатели цифровых игровых автоматов, вроде видеопокера, и интернет-сайтов с азартными играми. Временами эти первопроходцы жалуются на то, что соцсети нажились на их идеях и получили кучу денег, но чаще они признаются, что соцсети помогают им вычислять легкую добычу[10]10
  https://link.springer.com/article/10.1007%2Fs10899–015–9525–2


[Закрыть].