Текст книги "10 аргументов удалить все свои аккаунты в социальных сетях"

Составные части машины ОБЛОМ

ОБЛОМ состоит из шести основных компонентов.

Перечислю их.

1. Привлечение внимания, ведущее к превосходству моральных уродов.

2. Бесцеремонное вмешательство в жизни всех и каждого.

3. Агрессивное навязывание информации.

4. Максимально незаметное управление поведением людей.

5. Обогащение на том, что самым бессовестным моральным уродам позволяется исподтишка обманывать людей.

6. Толпы фальшивок и общество обманщиков.

И теперь подробнее разберем каждую часть.

Люди в сети зачастую ведут себя вызывающе или грубо. Это странное явление удивляло всех еще в самом начале сетевого общения, и оно сильно повлияло на наш мир. Хотя далеко не со всеми людьми неприятно общаться по сети, вся атмосфера онлайн-общения пропитана духом хамства. Грубость стала чем-то вроде сырой нефти для компаний-владельцев социальных сетей и прочих империй, основанных на манипуляциях с поведением. Эти гиганты очень быстро захватили интернет, ведь горючим для отрицательной обратной связи послужили наглость и резкость.

Почему люди грубят друг другу? Об этом я подробнее расскажу в следующей главе. В общих же чертах: обычные люди собираются вместе в среде, где основным – а то и вовсе единственным – поощрением служит внимание. Например, они не могут всерьез надеяться на то, что заработают в сети деньги. Обычные пользователи могут добиться только мнимой, но никак не реальной власти и материальных благ. Вот и начинаются игры разума.

Когда, кроме внимания, добиваться становится нечего, обычные люди становятся моральными уродами, потому что на самых бессовестных и агрессивных реагируют острее всего. Этот фактор влияет на действия всех прочих компонентов машины ОБЛОМа.

О второй составляющей этой машины я уже упоминал в предыдущей главе.

Все люди находятся под наблюдением, прямо как в фантастическом романе-антиутопии. Тотальная слежка теоретически могла бы существовать и без платформ, где собирается куча моральных уродов, но так уж вышло, что в созданном нами мире эти два компонента часто пересекаются.

Слежка ведется главным образом при помощи подключенных к сети персональных устройств – особенно смартфонов, если говорить о дне сегодняшнем – которые люди носят на собственном теле. Программы узнают о контактах каждого человека, его интересах, движениях, эмоциональных реакциях на разные обстоятельства, выражениях лица, его покупках и жизненных показателях. Огромный, нескончаемый и постоянно пополняющийся поток данных.

Если вы читаете этот текст с электронного устройства, велика вероятность, что алгоритм считывает данные, скажем, о вашей скорости чтения или о том, когда вы прерываетесь и переключаетесь на что-нибудь другое.

Алгоритмы соотносят между собой как данные одного человека, так и данные разных людей. Их выводы являются теоретическими предположениями о характере каждого человека, степень предсказуемости которых проходит многократную проверку. Как и любые теории, построенные на логике, время от времени они совершенствуются за счет адаптивной обратной связи.

Алгоритмы выбирают, что будет переживать человек, использующий то или иное устройство. Этот компонент можно назвать лентой, движком рекомендаций или персонализацией.

Третий компонент означает, что все люди видят разное. Прямая мотивация – дать стимулы для персонализированного изменения поведения.

ОБЛОМ затрудняет понимание того, почему окружающие думают и ведут себя так, а не иначе. Воздействие этого компонента я рассмотрю подробнее в главе, посвященной тому, как мы утрачиваем доступ к правде и возможность сопереживать.

(Не вся персонализация обусловлена ОБЛОМом. Когда Netflix рекомендует фильм, а eBay – товар, это не ОБЛОМ. Но становится ОБЛОМом в сочетании с другими компонентами. Ни Netflix, ни eBay не получают денег от третьих сторон и не воздействуют на ваше поведение вне вашей текущей активности на их сайтах.)

Первые три элемента сочетаются друг с другом, в результате чего получается машина измерения и обратной связи, намеренно изменяющая поведение пользователей.

Напоминаю: индивидуально настраиваемые ленты новостей оптимизируются, зачастую с применением мощных эмоциональных сигналов, для «вовлечения» каждого пользователя и последующего формирования зависимости. Люди не осознают, как именно ими манипулируют. Базовая цель манипуляции – заставить людей проводить в системе как можно больше времени[27]27
  Телевидение очень старалось стать частью ОБЛОМа, только без прямых петель обратной связи с отдельно взятыми людьми. Приложив огромные усилия, оно в некоторой степени смогло внедрить ОБЛОМ, даже не располагая большими объемами данных. Это явление изучает «Гипотеза культивации». Смотрите: https://en.wikipedia.org/wiki/Cultivation_theory


[Закрыть]. Но у манипуляторов есть и другие цели.

Например, если вы читаете с электронного устройства, подключенного к интернету, ваши читательские привычки будут сопоставляться с привычками множества других людей. И если человек с похожими на ваши привычками купит что-то после того, как этот товар будет представлен ему определенным образом, то вероятность того, что вы тоже купите этот товар, возрастет. Перед выборами вы могли попасть в группу, для которой в интернете были написаны странные посты, призванные пробудить цинизм в людях, похожих на вас, и снизить шанс на то, что вы пойдете голосовать.

Владельцы платформ, использующие алгоритмы ОБЛОМа, с гордостью рассказывают об экспериментах, в ходе которых людей намеренно расстраивали, влияли на их избирательную активность и усиливали приверженность к определенным торговым маркам. Примером тому служат несколько знаменитых исследований, обнародованных в период зарождения ОБЛОМа[28]28
  К этой истории я еще вернусь, когда буду рассказывать о следующих аргументах.


[Закрыть].

Подход цифровых сетей к изменению поведения сводит все эти разнородные фрагменты жизни воедино. С точки зрения алгоритма злость, счастье и приверженность к торговой марке – разные, но похожие сигналы, которые можно оптимизировать.

Если окажется, что вас расстраивают посты определенного характера, они начнут попадаться вам все чаще. Никто и никогда не будет знать наверняка, почему именно эти посты так на вас действуют, и вы, возможно, даже не заметите, что немного расстроились из-за конкретного поста. Эффект слабый, но накопительный. Ученые только начинают догадываться о том, как это работает, основная часть процесса им недоступна, она происходит за счет автоматики. Это новая разновидность зловещего теневого мира.

Алгоритмы редко задают вопросы, а еще реже это делают независимые ученые – отчасти как раз из-за сложности понимания работы алгоритмов, которые автоматически совершенствуются за счет обратной связи.

Один из секретов нынешней Кремниевой долины в том, что некоторым людям удается лучше других обучать машины, и никто не понимает почему. Самый механический способ манипулирования человеческим поведением оказывается искусством, к всеобщему величайшему удивлению, основанным на интуиции. Те, у кого хорошо получается управлять новейшими алгоритмами, становятся знаменитыми и зарабатывают баснословные деньги.

Машина массового изменения поведения предоставляется внаем. Манипуляции ОБЛОМа не идеальны, но обладают достаточной силой, и для политиков, торговых марок и прочих конкурирующих друг с другом субъектов отказываться от регулярных платежей в пользу ОБЛОМа равносильно самоубийству. Это всеобщий когнитивный шантаж, в результате которого растут общие расходы на ОБЛОМ[29]29
  Хотя доля цифровых расходов на рекламу и маркетинговые исследования все еще достаточно скромная – половина от прогнозируемых, – а телевидение не сдает позиций, особенно у старшего поколения, которое выросло у телеэкранов, общие расходы неизменно растут. При этом новые статьи расходов в основном цифровые, и в большинстве случаев это ОБЛОМ. Почему общество должно тратить часть своего благосостояния на «рекламу»? По этому вопросу написано огромное количество отраслевых статистических отчетов. Их оценки иногда разнятся, но чаще аналитики сходятся во мнении относительно глобальных расходов.


[Закрыть].

Если кто-то не оплачивает ОБЛОМ, ему, чтобы удержаться на плаву, приходится постоянно подпитывать свою платформу данными. Когда Facebook сделали упор на «новости» в своей ленте, всему миру журналистики пришлось перекроить себя под стандарты ОБЛОМа. Чтобы не растерять внимание читателей, журналисты стали писать истории, ориентированные на клик-наживку. Их заставили стать частью ОБЛОМа, иначе ОБЛОМ уничтожил бы их.

ОБЛОМ не только сдвинул границы этики Кремниевой долины. Он перевернул с ног на голову всю остальную экономику. Об этой стороне ОБЛОМа я расскажу в девятой главе.

Прежде чем перейти к шестому компоненту, я должен объяснить особую роль пятой составляющей в финансовых поощрениях, которые поддерживают весь аппарат машины ОБЛОМа на ходу. Если вы окажетесь в Кремниевой долине, то услышите много разговоров о том, что деньги морально устаревают и что мы создаем свои разновидности власти и влияния, которые перестают иметь отношение к материальным ценностям. Но, кажется, все до сих пор гоняются за деньгами!

Если настанут такие времена, что заработать деньги можно будет, только пугая и зля людей, мы все будем вынуждены это делать, а в результате опасных людей станет больше. Если мы хотим чего-то иного, нам следует изменить сам способ зарабатывания денег.

В свете выборов 2016 года в США Facebook, Twitter, Google Search и YouTube[30]30
  Почему Google считается отправной точкой ОБЛОМа? По одной простой причине – Google изобрел его еще до появления Facebook. Если вы пользуетесь только определенными сервисами Google, например документами, вы могли не столкнуться с проявлением ОБЛОМа. Однако поисковые системы Google, YouTube и ряд других сервисов вполне соответствуют критериям ОБЛОМа, хоть их и нельзя отнести к социальным сетям. YouTube использует самонастраивающийся профиль, на основе которого алгоритмы составляют индивидуальную ленту рекомендованных видео, нацеленную на формирование зависимости. В ход идут и комментарии, иногда откровенно мерзкие. YouTube получает деньги от третьих лиц, которые платят за изменение вашего контента определенным образом. Классический ОБЛОМ. Более того, та часть вашей деятельности, которая на первый взгляд не имеет с ОБЛОМом ничего общего, например личная переписка по электронной почте, предоставляет данные для модели, на основе которой работают сервисы, в которых ОБЛОМ уже присутствует в явном виде.


[Закрыть] объявили об изменениях политики использования их сервисов в целях борьбы с нечестной рекламой, распространением сфабрикованного новостного материала, разжигающих ненависть высказываний и тому подобного. Администрация сервисов также потребовала идентифицироваться всем, кто размещает политическую рекламу. Как раз на момент написания этой книги в Facebook объявили об отмене приоритета новостей в ленте. Журналисты ликовали, поскольку теперь у них появилось больше свободы, и они могли привлекать читательскую аудиторию на своих условиях.

Подобные изменения могли бы значительно ослабить эффект действия ОБЛОМа, хотя бы на время. Однако на самом деле новая политика использования соцсетей поспособствовала расцвету крайне неприятных явлений. В 2015 году модераторы Reddit удалили несколько подфорумов, где царила агрессия, и огромный поток постов, разжигающих ненависть, несколько схлынул.

Новые правила не отменяют системы поощрений, так что бессовестные люди наверняка изобретут еще более тайные и замысловатые меры противодействия. И это уже произошло. Так, есть довольно развитая профессиональная отрасль под названием «оптимизация сайтов», которая помогает заказчикам обходить изменения политики пользования поисковыми машинами.

Если система финансовых поощрений не изменится, с помощью одних лишь постепенных преобразований нам вряд ли удастся решить проблему зависимости, манипуляции и глобального побуждения к безумию. Безусловно, если ограниченные преобразования смогут изменить ситуацию, я их всецело поддержу. Надеюсь, изменения в работе ленты Facebook помогут сделать мир чуть лучше. Но боюсь, что мелкой отладкой многого не добьешься. Это стало одной из причин, почему я решил написать эту книгу.

Скрытые финансовые поощрения сильнее изменений в политике пользования. Попытки обойти правила ради прибыли превращают мир в мрачное и опасное место. Запреты обычно не срабатывают. Когда в начале XX века в США власти попытались объявить алкоголь вне закона, сильно выросла организованная преступность. Запрет пришлось отменить. Позже, когда вне закона объявили марихуану, произошло то же самое. Запрет – двигатель коррупции, которая раскалывает общество на официальный и криминальный лагеря. Лучше всего законы работают, когда они в разумных пределах подкреплены поощрениями.

Изменение правил ОБЛОМа без изменения системы скрытых финансовых поощрений, возможно, закончится таким же провалом. Собственно, это уже свершилось: первопроходцы ОБЛОМа, среди которых Google и Facebook, рьяно боролись с бессовестными нарушителями, фальсификаторами и нелегальными манипуляторами, но результатом стал расцвет подпольной технически совершенной кибермафии, зачастую работавшей по заказу недружественных государств.

Самый удручающий побочный эффект вмешательства ОБЛОМа в том, что каждый цикл гонки вооружений между платформами и злоумышленниками дает людям мотивацию – из самых лучших побуждений – требовать от компаний, работающих по принципам ОБЛОМа, все больше и больше вторгаться в их повседневную жизнь. Мы просим гигантов высоких технологий, чьи офисы находятся далеко от нас, модерировать разжигающие ненависть высказывания, сфабрикованные новости, травлю, расизм, сексуальные домогательства, подделку аккаунтов и прочие откровенно мерзкие явления. Активисты, которыми движут исключительно благие намерения, требуют, чтобы корпорации все больше и больше контролировали поведение пользователей. «О, молодые богатые программисты из Кремниевой долины! Расскажите нам, пожалуйста, что нам можно говорить, а чего нельзя! Дисциплинируйте нас!» Злоумышленники, которые стремятся дискредитировать демократию, и пользуются для этого силой машины ОБЛОМа, побеждают, даже если внешне сдают позиции под натиском активистов.

В этой книге я рассказываю о неудачных финансовых поощрениях ОБЛОМа. В главе, посвященной девятому аргументу, я приведу пример альтернативной структуры финансовых поощрений, которая могла бы сделать мир лучше. А теперь перейдем к шестому компоненту!

Хотя изначально это сборище не было частью плана, сейчас эта часть ОБЛОМа встречается в интернете на каждом шагу. Фальшивые аккаунты, которые существуют в неподсчитанных, но точно больших количествах, задают атмосферу. Боты, искины, агенты, фальшивые обозреватели, фальшивые друзья, фальшивые авторы постов, автоматизированные генераторы фальшивых личностей – целый паноптикум призраков.

Нас преследует невидимый социальный вандализм. Социальное давление, обладающее огромным влиянием на поведение и психику человека, стало возможно синтезировать.

О ключевой роли фальшивых личностей мы поговорим, обсуждая аргумент, касающийся правды. Сразу после того, как обсудим моральных уродов.

Проблема обозначена, значит, ее можно сдерживать

Чем конкретнее мы сформулируем проблему, тем легче ее будет решить. В этой книге я выдвинул гипотезу о том, что проблема кроется не в интернете, смартфонах, умных колонках или искусстве алгоритмов. Проблема в том, что из-за ОБЛОМа мир стал сумасшедшим и мрачным. Однако в самом центре этой машины находится не технология, а некий бизнес-план, который портит людей и от которого исходят превратно понимаемые финансовые поощрения.

Этот бизнес-план даже не так уж и распространен. Вне Китая единственные медиагиганты, полностью зависящие от ОБЛОМа, – это Facebook и Google. Пять остальных крупнейших компаний в сфере высоких технологий лишь эпизодически пользуются механизмами ОБЛОМа, ставшими нормой в современном мире, но не зависят от него. Менее крупные компании, задействующие ОБЛОМ, например Twitter[31]31
  https://slate.com/technology/2018/03/twitter-is-rethinking-everything-at-last.html


[Закрыть], также пользуются его силой, но зачастую сопротивляются ей. Это одна из причин, почему я не теряю оптимизм и считаю, что в долгосрочной перспективе ОБЛОМ покажет себя не лучшей бизнес-стратегией. В главе, посвященной экономике, я расскажу об этом подробнее.

Какие компании держатся на ОБЛОМе? Сложный вопрос! Наверняка можно утверждать лишь, что в это компании, которые прибегают к помощи или берут деньги у злоумышленников, например иностранных военных спецслужб. Эта проверка помогает обнаружить сервисы, которые действуют за счет псевдо-ОБЛОМа, это такие как Reddit и 4chan. Они играют важную роль в экосистеме ОБЛОМа настоящего.

Следующие на очереди сервисы, которые в будущем могут стать ОБЛОМ-платформами, но пока не достигли нужного масштаба. Обычно ими управляют другие гиганты, вроде Microsoft, Amazon и Apple, или компании помельче, вроде Snap.

Но эта глава не о корпорациях, а о вас. Я хочу рассказать о том, из чего состоит ОБЛОМ и как его избегать.

Проблема с ОБЛОМом не в том, что он задействует какую-то определенную технологию, а в том, что с его помощью кто-то упивается властью.

Методический бихевиоризм не проблема сам по себе. Можно взять и пройти у соответствующего специалиста курс когнитивно-поведенческой терапии и получить от него пользу. Хотелось бы при этом надеяться, что специалист давал присягу следовать профессиональным стандартам и заслужил ваше доверие. Однако если ваш психотерапевт работает на гигантскую корпорацию с удаленно работающим руководством и ему платят за то, что он заставляет вас принимать определенные решения, которые не всегда в ваших интересах, это уже ОБЛОМ.

Гипноз сам по себе тоже относительно безвреден. Но если гипнотерапевтом станет незнакомец, который заставит вас совершать какие-то действия, это уже будет ОБЛОМом.

Проблему представляет не конкретная технология, а тот факт, что ее используют, чтобы манипулировать людьми, в результате чего власть, сосредоточенная в руках владельцев ОБЛОМа, становится абсурдной, пугающей и превращается в угрозу для выживания цивилизации.

Если хотите избавить мир от безумия, не нужно выбрасывать смартфон или отказываться от облачных сервисов и интернет-сайтов. Нет нужды бояться математики, психологии или социологии.

Нужно избегать лишь ОБЛОМа. Удалите аккаунты, вырвитесь из лап ОБЛОМа!

Аргумент третий. Социальные сети превращают вас в морального урода

Позвольте, я переформулирую название этой главы. Я не знаком с вами лично и потому не могу утверждать, что вы точно превращаетесь в морального урода, но со многими происходит именно это. Правда, им самим при этом кажется, что в моральных уродов превращаются окружающие. Я на собственном опыте убедился, что могу вести себя в сети как последняя сволочь. Это было страшно и подействовало на меня угнетающе.

Так что на самом деле мне следовало бы сказать: «Вам угрожает перспектива постепенно превратиться в морального урода». Или так: «По статистике, вы с большой долей вероятности рискуете им стать». Поэтому не обижайтесь и воспримите ситуацию серьезно.

Снег, покрытый копотью

Зависимые люди могут скрывать свою зависимость, особенно от самих себя, но она непременно проявляется. Личность меняется.

Глубоко зависимый человек становится нервным, его неодолимо тянет к виртуальному наркотику. Ему всегда чего-то не хватает, и он стремится получить моральную поддержку. Зависимые люди становятся беспокойными, их внимание странным образом сосредотачивается на событиях, важных для них, но практически незаметных для окружающих. Они эгоистичны и настолько погружены в себя, что у них нет времени заметить, что о них думают и как к ним относятся окружающие. Они высокомерны и обожают преувеличивать. Этим они наверняка пытаются замаскировать глубокое чувство незащищенности. Зависимые люди пойманы в ловушку личных мифов. Они держатся крайне претенциозно и, скатываясь в свою зависимость все глубже, реагируют все менее адекватно.

Такие явные изменения видны у людей с тяжелой зависимостью – законченных наркоманов и азартных игроков. Большинство пользователей соцсетей, в которых действует ОБЛОМ, ведут себя немного похоже. С точки зрения статистики они склонны вести себя как зависимые. Как и во всех остальных ситуациях, связанных с ОБЛОМом, здесь преобладают серые тона. В результате общество в целом становится на несколько оттенков мрачнее.

Самая любопытная черта личности зависимого – то, что он в конце концов начинает искать себе источник страданий, так как страдания – часть цикла расчесывания раны. Азартный игрок зависим не от выигрышей, а от игры, в которой у него куда больше шансов проиграться, чем обогатиться. Наркоман зависим не от кайфа, а от головокружительной разницы между эйфорией и ломкой.

Точно так же зависимый от ОБЛОМа становится очень вспыльчивым, как будто бы надеется нарваться на ссору.

Зависимые становятся агрессивными, хотя сами они уверены, что просто вынуждены так себя вести. У них нет иного выбора, кроме как стать агрессором или жертвой. Даже приятные в общении и успешные люди, среди которых есть наиболее влиятельные фигуры в социальных сетях, если они зависимы от ОБЛОМа, считают, что нельзя вести себя слишком дружелюбно, потому что в «аквариуме», где царит конкуренция, это признак слабости[32]32
  https://www.nytimes.com/2017/12/30/business/hollywood-apartment-social-media.html


[Закрыть]. У статусных людей подписчиков должно быть больше, чем подписок.

Характерные изменения личности сложно увидеть и признать у себя самого, но легко разглядеть у других, особенно у тех, кто вам несимпатичен. Когда зависимые от ОБЛОМа консерваторы ополчаются на такую же зависимую либерально настроенную студенческую молодежь, они оскорбительно называют их «бедными маленькими снежинками».

Однако самая несчастная снежинка – это Дональд Трамп. За последние десятки лет я несколько раз встречался с ним, но в те годы он еще не был зависим от ОБЛОМа. Он был ньюйоркцем, манипулятором, деятельной личностью, и уже тогда он делил окружение на закадычных друзей и изгоев. Но все же он всегда умел посмеяться над собой. Даже реалити-шоу по ТВ не отняло у него это качество.

Зависимость от Twitter изменила его. Он ведет себя как самая настоящая снежинка, а не самый влиятельный человек в мире, и иногда не может себя контролировать. Зависимость сильнее его. Сколько бы агрессии он ни выказывал, он все равно будет жертвой.