Текст книги "Виртуальные войны. Фейки"

Глава третья
Внешние информационные и виртуальные воздействия

1. Войны без войн и мир без мира. Как ведутся войны без оружия

Мы живем в мире, который все меньше старается применять оружие. Однако оружие, но другое, все равно применяется. Это просто смена кинетического оружия на некинетическое. Однако без крови и смертей достигаются те же политические цели, которые заложены как цели и в случае использования военного инструментария.

Просто военный инструментарий пришел к нам из прошлого, являясь наиболее сильным средством работы в физическом пространстве. Но когда сегодня столь же активно используются и другие пространства, например, информационное и виртуальное, которые на новые высоты были подняты современными технологиями, то совершенно естественно, что сегодня активно используются и они. Тем более что население своей собственной страны очень плохо относится к жертвам, как к своим, так и противника, особенно к жертвам среди мирного населения.

Сегодня практически любой принципиально невоенный ресурс может быть использован как инструмент давления на страну: от финансов до спорта, от искусства до кибератак. Битвы за историю Украина ведет, к примеру, с Россией и Польшей, археологические битвы есть с Россией. С Россией также – не только языковые, но даже лингвистические, когда ведется борьба мнений, какой именно протоязык лежит в основе украинского и русского.

Ситуация становится вообще идеальной для давления, если это дефицитный ресурс, который есть у одной страны, и нет у других, как это произошло с энергетическими ресурсами, где главным игроком оказалась Россия, а зависимыми от нее оказались не только постсоветские страны, но и все европейское пространство.

Есть сферы, которые еще недостаточно очерчены международным правом, в плане реагирования на акты агрессии. Вот как, к примеру, определяется кибертерроризм современной наукой: «Хотя сегодня нет единого или всеми принятого определения кибертерроризма, теоретически он включает в себя политически мотивированные экстремистские группы или негосударственного актора, использующих кибертехнологии для того, чтобы напугать, принудить или повлиять на аудиторию; заставить произвести политические изменения; вызывать страх или физическую боль» [1].

Государственные акторы тоже вписаны в эту модель кибердействий, поскольку они могут продвигать интересы своего государства, например, политические. При этом констатируется, что «они могут иметь те же цели (напугать, принудить, стимулировать политические изменения), но они сами являются политической силой, а другие нет».

Атака в одной сфере может давать результат в другой. Например, выделяются следующие политические последствия кибератак [2]:

– изменение решения о голосовании за кого-то,

– манипуляция мнениями, из которых следует голосование,

– вмешательство в сам акт голосования,

– подрыв доверия к честности голосования.

Кибератаки несут угрозы в таких сферах [3]: демократические выборы, права человека, электронное управление.

Несомненной сложностью в этой сфере является достаточно мощное участие негосударственных акторов, которые превратили свои атаки в бизнес. По этой причине их не так легко остановить. И это мощные силы, которые часто переплетены с государством.

Косвенной оценкой «хакерской силы» спецслужб и связанных с ними структур может служить российский «черный рынок» киберуслуг. М. Гончаров сделал несколько таких исследований, где объясняется, что может предложить такой рынок в России, и за какую цену [4–6]. При этом делается интересный вывод: «Киберкриминальная подпольная экономика во многом похожа на обычную экономику бизнеса. В ней вверх-вниз меняются цены в зависимости от спроса и предложения. Однако в отличие от легитимных бизнесменов, киберпреступники должны сохранять, насколько это возможно, свои личности втайне и прятать все следы своих бизнес-операций. Даже если цены на большинство продуктов и услуг, предлагаемых на российском подпольном рынке, снизились, это не значит, что бизнес идет плохо для киберпреступников. Это может даже означать, что рынок растет, поскольку с течением времени мы видим все больше предложений продуктов и услуг. Киберпреступники, как и легитимные бизнесмены, также автоматизируют свои процессы, что приводит к понижению цен на продукты и услуги. Несомненно, что «особые» продукты и услуги остаются дорогими, поскольку требуют специализированных знаний и умений для их создания, которые имеют немногие из плохих парней» [5].

Еще одной причиной, объясняющей успех российских информационных интервенций в избирательный процесс в США, является то, что избиратели Трампа более активно читают и «поглощают» фейковые новости, чем демократические. Их еще обозначают как «мусорные», давая им следующее определение: «Мусорные новостные источники определяются как такие, которые сознательно публикуют вводящую в заблуждение, обманную или неправильную информацию, подаваемую как реальные новости о политике, экономике и культуре. Этот тип контента может включать разные формы экстремистского, сенсационного и конспирологического материала, как и замаскированные комментарии и фейки» [7].

Лиза-Мария Нейдерт, работающая в проекте по компьютерной пропаганде в Оксфордском институте Интернета, говорит следующее: «Хотя американские выборы остались далеко позади, через год после занятия офиса Дональдом Трампом пользователи социальных медиа в Твиттере и Фейсбуке все еще распространяют большой объем мусорных новостей» [8].

Еще одним фактором, которым можно объяснить успешность работы именно российских троллей, является предварительная обкатка подобных методов воздействия внутри страны. Исходя из мнения Г. Павловского, что Россия как структура сформирована в результате откатанных политтехнологий президентских выборов, можно считать, что такой опыт можно переносить с внутреннего использования на международный. Прошло семь президентских кампаний в России, сформировавших инструментарий, в котором несущественной стала, например, достоверность информации. Павловский пишет: «Исчезло само понятие морально неприемлемого факта, притом, что симуляции моральных возмущений поставлены на поток. Создание проектных коллективов, затрудненное в бизнесе, а тем более в гражданской активности, стало безудержным в предпринимательстве оказания неконвенциональных услуг властям. Управление такими группами потеряно. Они ведут бои то в Подмосковье за полигоны для девелопмента, то в Сирии за чужие нефтепереработки. Они вторгаются в американские сети и могут по усмотрению карать “предателей”» [9].

И войн такого рода достаточно много. К примеру, Украина во взаимоотношениях с Россией прошла через войны газовые, торговые, экономические, финансовые и даже культурные, не говоря уже об информационных. В этот список добавляются даже такие экзотические войны, как исторические и археологические, о которых мы упоминали выше. И задолго до военного конфликта российские фантасты активно стали описывать войну России с Украиной [10–11]. И, вероятно, они не столько накликали беду, сколько, как люди творческие, отразили царящую в своем обществе атмосферу.

Есть также и то, что мы хотели бы обозначить термином демографические войны, которые особенно ярко проявляются между странами-соседями. В этой сфере есть даже понятие демографической угрозы или бомбы, которая возникает, когда малая этническая группа воспринимается как способная изменить идентичность населения [12]. В качестве примера анализируется Эстония советского времени, когда приход чужих этнических групп в рамках индустриального развития менял этнические пропорции. Канада 19 века резко усилила франкоговорящее католическое население. Соотношение католиков и протестантов в Северной Ирландии изменилось из-за разного уровня рождаемости.

Отдельная проблема – демография и война [13]. Здесь важным и изучаемым моментом являются имеющиеся в стране соотношения по возрасту и полу. В исследованиях возраста пытаются выяснить, имеет ли связь большой объем молодежи с вероятностью революций и войны. А дисбаланс в сторону мужчин также может увеличивать вероятность нестабильности и войны. Демографические факторы сыграли не последнюю роль в арабской весне.

В принципе, есть реакции не только на революцию или на войну. Еще можно менять страну или эмигрировать за рубеж. В. Кожинов связал «оттепель» с большим количеством молодежи в этот период: «Необходимо обратить внимание на очень существенную демографическую особенность хрущевского периода, о коей, кажется, не сказано до сих пор ни слова. В результате тяжелейших потерь во время войны молодых людей от 15 до 29 лет в 1953 году имелось на 40 % (!) больше, чем зрелых людей в расцвете сил – в возрасте от 30 до 44 лет (первых – 55,7 млн человек, вторых – всего 35,6 млн); что же касается молодых мужчин, их было почти в два раза больше (!), чем зрелых (то есть тех, кому от 30 до 44-х) – 26,5 млн против всего лишь 13,9 млн человек, – не говоря уже о том, что немалая часть людей зрелого возраста принадлежала к инвалидам войны. И это огромное преобладание молодых людей не могло не сказаться самым весомым образом на характере времени, на самом ходе истории во второй половине 1950 – первой половине 1960-х годов. Закономерно, например, что в литературе и кинематографии этого периода молодежь появляется, безусловно, на первом плане» [14].

Есть интересное исследование, связывающее вместе молодежные бунты в Беркли, Париже, Праге, Пекине и СССР [15]. В нем констатируется, что сама по себе демография не работает на социальные изменения. Во всех странах «избыток» молодежи привел к резкому росту высшего образования. В графиках, приведенных в книге, виден резкий скачок в росте числа студентов в шестидесятые в следующих странах: США, СССР, Западная Германия, Франция, Великобритания и Китай, у которого тоже произошла своя культурная революцию, правда, инспирированная сверху самим Мао Цзэдуном.

Поскольку в Советском Союзе никто за границу не уезжал, то создаваемое напряжение, отражающее то, что хоть Сталин и был низвергнут, но дело его жило, реализовывалось в молодежном давлении на власть в пользу больших свобод. Это были не политические свободы: поэты хотели читать свои стихи, художники – выставлять свои картины. Так в очередной раз в истории количество молодежи перешло в качество.

Украина сегодня тоже испытывает молодежное давление. Ю. Романенко пишет: «активная часть населения начинает бежать за границу, а пассивная, вот эти бюджетники, они недовольно бубнят, ненавидят власть. 70 % украинцев, согласно исследованиям нашего Института будущего, говорят о том, что они не верят ни одному из украинских политиков» [16]. И еще: «Массовый исход рабочей силы за границу начинает обваливать всю модель, на которой был построен украинский бизнес. Например, именно дешевая рабочая сила усиливала позиции украинских экспортеров на внешних рынках».

Украина отдает более образованных и более инициативных, а остается другая половина. И она, к тому же, серьезно зависит от государства и его денег, поэтому власти управлять таким населением легче. Во все прошлые времена государственная политика состояла в том, чтобы увеличивать число зависимых от государства. Сталин, например, вычеркнул высокий уровень гонораров писателей, мотивируя это тем, что человек, написав одну книгу, перестанет работать. Государство все время хочет удерживать эту роль «отца», чтобы иметь право то поощрять, то наказывать своих нерадивых «детей».

Демография является серьезной проблемой и для России: «Сейчас численность поколения двадцатилетних в два раза ниже численности поколения тридцатилетних, а ведь на женщин в так называемом активном репродуктивном возрасте от 20 до 29 лет приходится более 60 % всех рождений детей. То есть какие бы меры на сегодняшний день ни предпринимались, понятно, что показателей рождаемости, которые мы наблюдали в 2014–2015 годах, будет трудно достичь. Скорее всего, в ближайшее десятилетие они недостижимы» [17].

Румыния, Польша, Венгрия, Чехия забирают подготовленную украинскую рабочую силу, в результате чего Украина теряет свой потенциал. Это выглядит как переезд спортсмена-чемпиона в другую страну. При этом никто не компенсирует стране-донору финансирование всей системы подготовки чемпионов со школьного возраста. Уже начался переток высококвалифицированной рабочей силы, например, наших докторов уже ждут в Германии и Эстонии.

Россия использует для политического давления любой ресурс, которым обладает. Особенно это касается энергетического сектора. Шведское оборонное ведомство подсчитало, что с 1992-го по 2006 г. Россия 55 раз отключала поставки [18]. И хотя российские официальные лица говорили о технических причинах, они почти всегда совпадали с политическими интересами по влиянию на выборы или заключению договоров в Центральной и Восточной Европе.

Еще один вариант кибератаки на энергетическую инфраструктуру в Европе, особенно в Украине и странах Балтии. При этом Украина использовалась как полигон для отработки таких атак.

В марте 2018 г. администрация Трампа обвинила Россию в серии атак в Европе и США на ядерные станции, а также электрические и водные системы [19]. США рассматривают это как сигнал Москвы, что она может прервать работу этих структур в случае конфликта.

Министерство внутренней безопасности США акцентирует, что с марта 2016-го зафиксированы российские атаки на критическую инфраструктуру США, включая сферы энергетическую, ядерную, водную, авиационную и др. [20]. Действия осуществляются по единой схеме. Атака идет на периферийные организации с менее защищенными сетями, откуда осуществляется переход на основные организационные структуры. Причем сегодня становится очевидным, что даже на расстоянии можно подорвать любое опасное производство [21].

Сегодняшний мир стал резко опаснее, поскольку любой серьезный агрессивный инструментарий может сейчас быть использован не только государствами, но и экстремистами-одиночками. А многие действия, начиная с демографической войны, к примеру, вообще не подпадают под юридические ограничения.

Литература

1. Ablon L. Data Thieves: The Motivations of Cyber Threat Actors and Their Use and Monetization of Stolen Data // www.rand.org/pubs/testimonies/CT490.html.

2. Bund J. Cybersecurity and democracy Hacking, leaking and voting // www.iss.europa.eu/sites/default/files/EUISSFiles/Brief_30_Cyber.pdf.

3. Piccone T. Democracy and cybersecurity // www.brookings.edu/wp-content/uploads/2017/08/fp_20170905_democracy_cyber_security.pdf.

4. Goncharov M. Russian underground 101 // www.trendmicro.de/cloud-content/us/pdfs/security-intelligence/white-papers/wp-russian-underground-101.pdf.

5. Goncharov M. Russian underground revisited // www.trendmicro.co.nz/cloud-content/us/pdfs/security-intelligence/white-papers/wp-russian-underground-revisited.pdf.

6. Paganini P. Evolution of the Russian underground // securityaffairs.co/wordpress/24440/cyber-crime/evolution-russian-underground.html.

7. Narayanan V. a. o. Polarization, Partisanship and Junk News Consumption over Social Media in the US // comprop.oii.ox.ac.uk/wp-content/uploads/sites/93/2018/02/Polarization-Partisanship-JunkNews.pdf.

8. Trump supporters and extreme right «share widest range of junk news» // www.ox.ac.uk/news/2018-02-06-trump-supporters-and-extreme-right-share-widest-range-junk-news.

9. Павловский Г. Осадок политтехнологий. Как семь предвыборных кампаний сформировали Россию // carnegie.ru/commentary/75808.

10. Быков Д. Война писателей // www.novayagazeta.ru/articles/2014/07/08/60261-voyna-pisateley.

11. Гуткин М. Войну в Украине придумали писатели-фантасты? // www.golos-ameriki.ru/a/ukraine-war-writer-fantasist-mg/2406591.html.

12. Demographic threat // en.wikipedia.org/wiki/Demographic_threat.

13. Toft M. The State of the Field: Demography and War // www.wilsoncenter.org/sites/default/files/Toft.pdf.

14. Кожинов В. «Оттепель» породила в том числе и молодежный взрыв // tema.in.ua/article/11297.html.

15. Suri J. Power and protest. Global revolution and the rise of detente. – Cambridge etc., 2003.

16. Романенко Ю. Демография ставит точку на существующей модели государственности Украины // hvylya.net/interview/politics2/yuriy-romanenko-demografiya-stavit-tochku-na-sushhestvuyushhey-modeli-gosudarstvennosti-ukrainyi.html.

17. Рыбальченко С. Мы упали в демографическую яму. Интервью // www.gazeta.ru/comments/2018/02/09_a_11643235.shtml.

18. Putin’s asymmetric assault on democracy in Russia and Europe: implications for U. S. national security // www.foreign.senate.gov/imo/media/doc/FinalRR.pdf.

19. Perlroth N. a. o. Cyberattacks put Russian fingers on the switch at plower plants, U. S. says // www.nytimes.com/2018/03/15/us/politics/russia-cyberattacks.html?smid=fb-nytimes&smtyp=cur.

20. Russian Government Cyber Activity Targeting Energy and Other Critical Infrastructure Sectors // www.us-cert.gov/ncas/alerts/TA18-074A.

21. Чи можуть хакери віддалено підірвати хімічний завод. Історія однієї кібератаки // espreso.tv/news/2018/03/19/chy_mozhut_khakery_viddaleno_pidirvaty_khimichnyy_zavod_istoriya_odniyeyi_kiberataky.

2. Войны без войн: внешние информационные интервенции

Наиболее серьезные последствия для массового сознания создают как внешние, так внутренние информационные интервенции. Сегодня анализ российского вмешательства в американские президентские выборы (а также французские и ряд других европейских) не сходит со страниц медиа. Российская информационная работа в Европе находится в центре подобных расследований [1–2].

Россия активно действует как в регионах бывшего СССР, как и в бывших соцстранах. И тут проявилось уже два тренда [3]. С одной стороны, Россия агрессивно нацеливается на страны, которые пытаются взаимодействовать с западными институтами типа ЕС и НАТО, примерами чего стали Грузия, Украина и Черногория. С другой – российские вхождения в страны типа Сербии носят менее агрессивный характер и направлены на создание общественных элементов, которые будут сдерживать правительство в его интеграции с Западом. И все это происходит на фоне использования энергетического ресурса как инструментария воздействия. И конечно, как все постсоветское пространство, так и постсоциалистическое, по-настоящему переполнены агентами влияния, достаточно посмотреть, например, на взрывной характер реакции, возникшей в Литве в результате раскрытия списков информаторов КГБ, где почти все оказались достаточно известными лицами.

В случае США дискуссии углубились в то, как именно персональные данные миллионов из Facebook перешли в руки штаба кампании Трампа [4–7]. При этом Cambridge Analytica отрицала всякую связь с Фейсбуком. И тут всплыло имя Александра Когана, родившегося в Молдове, потом с родителями переехавшего в Россию, откуда он и эмигрировал [8–9]. Сейчас оказалось, что он параллельно работал и в Санкт-Петербургском университете, имея исследовательскую программу «Стресс, здоровье и психологическое состояние в социальных сетях», обеспеченную государственным грантом, о чем он не рассказал в своем CV. Именно через него данные пользователей Фейсбука попали в Cambridge Analytica. Одновременно вспомним, что «ферма ольгинских троллей» тоже петербургская. Коган говорит, что работа в Петербурге подвернулась случайно, он просто написал письмо на факультет психологии, что, правда, выглядит как-то недостоверно.

Для будущей кампании Трампа был придуман фейковый офис в Кембридже, который в 2016 г. до выборов посетил Бэннон во время приезда в Британию, все для того, чтобы создать имидж независимой компании, имеющей престижную связь с университетом. И Бэннон же придумал вписать в название фирмы слово Кембридж. Именно Коган передал этой «независимой» фирме данные из Фейсбука.

Сам он их получал, установив приложение thisisyourdigitallife, которое дало ему возможность скачать информацию 270 тысяч человек в Фейсбуке, однако одновременно он получил информацию и об их друзьях. Он должен был уничтожить информацию, но не сделал этого. Отдавая право на свою информацию добровольно, люди проверяли идею о том, что по ней можно получить свой психологический портрет.

Как показывает исследование 2011 года, пользователь в среднем имеет 190 друзей [10–11]. 270 тысяч человек и их друзья и дают в результате ту огромную цифру в 51,3 миллиона людей, к личным данным которых получил доступ А. Коган.

Получив данные, дальше для Cambridge Analytica все было делом техники по таргетингу избирателей [12]. «Лайки» позволили связывать то, что, казалось, не имеет связи. Например, фраза «Я ненавижу Израиль» связана с любовью к KitKat и туфлям Nike. Никто не знает, почему так, но находятся сотни таких соответствий, что позволяет, зная одно, автоматически постулировать другое.

К. Уайли заинтересовал Бэннона своей идеей, что политика – как мода, поскольку Бэннон сам считает, что политика является порождением культуры [13]. Для изменения политики надо поменять культуру. И мода является хорошим скрытым инструментом. Уайли сейчас включился в военные информационные операции в рамках борьбы с экстремизмом.

М. Косински, с которым связано вообще это направление, разместил в Фейсбуке библиографию статей о Cambridge Analytica [14]. Его собственные статьи, написанные в соавторстве, из Proceedings of the National Academy of Sciences of the United States of America (PNAS) есть в открытом доступе ([15–16], см. также о его методе [17]). Кстати, Косински доказывает, что компьютерный анализ дает более точные предсказания, чем человек.

Как великое достижение почему-то рассматривается то, что Фейсбук заморозил страницу Cambridge Analytica [18]. И все еще остается открытым вопрос, кто передал фейсбучные данные ольгинским троллям, если это вообще имело место. Сегодня уже обнаружено, что Лукойл знакомился с презентацией Cambridge Analytica еще в 2014 г., обсуждая, в числе прочего, микротаргетинг во время выборов [19]. Руководящее лицо Cambridge Analytica А. Никс писал коллегам в электронной переписке после этой встречи: «Они понимают бихевиористский микротаргетинг в контексте выборов, но они не могут уловить связь между избирателями и их потребителями».

В то же время Никс отрицал всякую связь, выступая перед парламентариями. Его слова таковы: «Мы никогда не работали с российской организацией в России или другой компанией. У нас нет никаких отношений с Россией или российскими гражданами». Что касается Когана, то одно из его выступлений в России звучало как «Новые методы коммуникации как эффективный политический инструмент».

Дж. Ченселлор, который работал вместе с А. Коганом, сейчас трудится в Фейсбуке [20]. У них была общая фирма Global Science Research, и проблема состоит в том, что 30 миллионов пользователей даже не подозревали, что их «лайки» и демографическая информация из профиля в Фейсбуке использовались для влияния на американских избирателей [21]. Правда, Cambridge Analytica отвечала на запросы, что никакой работы с «лайками» она не ведет.

Коган создал свою фирму Global Science Research в 2014 г. из-за того, что факультет психологии в Кембридже не дал ему использовать его собственные данные для коммерческих целей. И тут возникает одна по-настоящему известная фирма Strategic Communication Laboratories (SCL), работающая на военных. Ее заинтересовала возможность создавать месседжи, отталкиваясь от демографических и других данных.

2 декабря 2014 г. Коган выступал в Сингапуре на тему «Социальная наука больших данных: как большие данные революционизируют нашу науку» [22]. Он рассказал, что работает с двумя базами данных. В одной пятьдесят миллионов индивидов, по которым они могут предсказывать любую характеристику. Во второй – зафиксирована всякая дружба в Фейсбуке, появившаяся в 2006–2012 гг. Здесь можно определить просоциальность, психологическое состояние и здоровье.

Не надо думать, что перед нами какая-то подпольная и запрещенная технология. Обаму дважды избирали таким способом (см. нашу статью на эту тему [23]). Просто всеобщее внимание к выборам в 2016 г. привлекло то, что было российское вмешательство, которое также базировалось на личностной информации из Фейсбука.

Российские журналисты сами опасаются определенного развития события, подчеркивая, что «не исключен сценарий, в котором Cambridge Analytica свяжут не только с кембриджским профессором, но и с Кремлем» [24]. И вполне возможно, что они окажутся правы, поскольку уже появились первые статьи, более детально рассказывающие о времени его пребывания в России [25]. Тем более в краже документов Клинтон из Демократического национального комитета и дальнейшей передаче их в Викиликс засветились офицеры ГРУ [26].

Информационные интервенции являются принципиально новым инструментарием, роль которого будет только возрастать в дальнейшем, поскольку они не только являются относительно дешевыми, но и позволяют хорошо прятать основных заказчиков.

Литература

1. Wilkinson T. Democrats’ report details Russian meddling in European elections and threats to U. S. campaigns // www.latimes.com/nation/la-na-pol-russia-meddling-senate-report-20180110-story.html.

2. Harris G. State Dept. was granted $120 million to fight Russian meddling. It has spent $0 // www.nytimes.com/2018/03/04/world/europe/state-department-russia-global-engagement-center.html.

3. Putin’s asymmetric assault on democracy in Russia and Europe: implications for U. S. national security // www.foreign.senate.gov/imo/media/doc/FinalRR.pdf.

4. Rosenberg M. a. o. How Trump consultants exploited the Facebook data on millions // www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.html?hp&action=click&pgtype=Homepage&clickSource=story-heading&module=first-column-region®ion=top-news&WT.nav=top-news.

5. Hakim D. a. o. Data firm tied to Trump campaign talked business with Russians // www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-russia.html?action=click&contentCollection=Politics&module=RelatedCoverage®ion=Marginalia&pgtype=article.

6. Cadwalladr C. a. o. How Cambridge Analytica turned Facebook ‘likes’ into a lucrative political tool // www.theguardian.com/technology/2018/mar/17/facebook-cambridge-analytica-kogan-data-algorithm.

7. Cadwalladr C. a. o. Revealed: 50 million Facebook profiles harvested for Cambridge Analytica in major data breach // www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election.

8. Ashworth L. a. o. Who is Dr. Aleksandr Kogan, the Cambridge academic accused of misusing Facebook data? // www.varsity.co.uk/news/15192.

9. Ashworth L. a. o. Cambridge neuroscientist banned from Facebook for illicit data harvesting // www.varsity.co.uk/news/15193.

10. Ugander J. a. o. The Anatomy of the Facebook Social Graph // arxiv.org/pdf/1111.4503v1.pdf.

11. Seetharaman D. Facebook Ignites Debate Over Third-Party Access to User Data // www.wsj.com/articles/facebook-ignites-debate-over-third-party-access-to-user-data-1521414746?mod=rsswn&reflink=fbmsg.

12. Kirchgaessner S. Cambridge Analytica used data from Facebook and Politico to help Trump // www.theguardian.com/technology/2017/oct/26/cambridge-analytica-used-data-from-facebook-and-politico-to-help-trump.

13. Cadwalladr C. The Cambridge Analytica files. «I made Steve Bannon’s psyhological warfare tool»: meet the data war whistleblower» // www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump.

14. Dehaye P. O. Cambridge Analytica background research (public) // docs.google.com/document/d/1O1c7pQjN1VCCenmFT3GRNpJWNsggPcsVl0CRvFGD4gA/edit#heading=h.akfwp2unzses.

15. Kosinski M. a. o. Private traits and attributes are predictable from digital records of human behavior // www.pnas.org/content/110/15/5802.full.

16. Youyou Wu a. o. Computer-based personality judgments are more accurate than those made by humans // www.pnas.org/content/112/4/1036.full.

17. Grassegger H. a. o. The Data That Turned the World Upside Down // motherboard.vice.com/en_us/article/mg9vvn/how-our-likes-helped-trump-win.

18. Facebook заблокировал фирму, работавшую на Трампа во время выборов // www.bbc.com/russian/news-43441655.

19. Cadwalladr C. a. o. Cambridge Analytica: links to Moscow oil firm and St Petersburg university // www.theguardian.com/news/2018/mar/17/cambridge-academic-trawling-facebook-had-links-to-russian-university.

20. Lewis P. a. o. Facebook employs psychologist whose firm sold data to Cambridge Analytica // www.theguardian.com/news/2018/mar/18/facebook-cambridge-analytica-joseph-chancellor-gsr.

21. Schwartz N. Facebook fails to protect 30 million users from having their data harvested by Trump campaign affiliate // theintercept.com/2017/03/30/facebook-failed-to-protect-30-million-users-from-having-their-data-harvested-by-trump-campaign-affiliate/.

22. Brown Bag Guest Speaker Dr. Alex Kogan on 2 December // blog.nus.edu.sg/psychology/2014/11/24/brown-bag-guest-speaker-dr-alex-kogan-on-2-december/.

23. Почепцов Г. Выборы Обамы как новый этап развития избирательных технологий // psyfactor.org/lib/obama4.htm.

24. Герасюкова М. Не только русские: кто помог Трампу победить на выборах // www.gazeta.ru/tech/2018/03/19/11688307/facebook_leak.shtml.

25. Алекс Коган продавал данные пользователей Фейсбука, которые использовались в политических целях. Что он делал в России? // meduza.io/feature/2018/03/20/aleks-kogan-prodaval-dannye-polzovateley-feysbuka-kotorye-ispolzovalis-v-politicheskih-tselyah-chto-on-delal-v-rossii.

26. EXCLUSIVE: «Lone DNC Hacker» Guccifer 2.0 Slipped Up and Revealed He Was a Russian Intelligence Officer // www.thedailybeast.com/exclusive-lone-dnc-hacker-guccifer-20-slipped-up-and-revealed-he-was-a-russian-intelligence-officer.