Текст книги "Развод на миллион. Как мошенники используют уязвимости нашего мозга и что делать, чтобы не попасться на их крючок"

МОШЕННИКИ И САМОЗВАНЦЫ ОБМАНЫВАЮТ НАС, ДЕЛАЯ ОДНО И ТО ЖЕ: ИМИТИРУЯ ТО, ЧТО МЫ ОЖИДАЛИ БЫ ОТ НИХ УСЛЫШАТЬ И УВИДЕТЬ, ЕСЛИ БЫ ОНИ БЫЛИ ТЕМИ, ЗА КОГО СЕБЯ ВЫДАВАЛИ.

Мы упоминаем здесь исследования Стапеля, потому что они отличались от других примеров в одном важном отношении: он не утруждал себя их выполнением. Вместо этого ученый просто фабриковал данные. В течение многих лет он обманывал своих коллег, студентов и соавторов, давая им то, что они ожидали увидеть [23].

Хотя некоторые научные махинации связаны с радикально новыми открытиями или прорывами, большинство поддельных находок представляет собой небольшие, постепенные вариации на устоявшиеся и популярные темы; соответствующим экспертам они кажутся скорее господствующими и типичными, чем по-настоящему новыми или неожиданными. Впервые услышав о результатах, которые позже оказались сфабрикованными, большинство ученых в той же области исследований, скорее всего, кивнули бы и сказали: «Да, в этом есть смысл», а не покачали бы головами и сказали: «Этого не может быть».

Когда выдающийся психолог из Корнеллского университета Дэрил Бем опубликовал серию исследований, якобы демонстрирующих существование «предвидения», экстрасенсорной способности предсказывать будущие события, которые на самом деле были сгенерированы случайным образом, научное сообщество отреагировало скептически. Как и в случае с преждевременными сообщениями о холодном термоядерном синтезе в физике двумя десятилетиями ранее, большинство других ученых не ожидало увидеть результаты Бема, поэтому они тщательно подвергли сомнению его методы и статистику и сочли их недостаточными. Нет никаких оснований полагать, что Бем сфабриковал свои данные, как это сделал Стапель, но его выводы были слишком «запредельными», чтобы оставаться неоспоримыми.

Фактическое мошенничество часто связано с исследованиями, которые достаточно новы, чтобы привлечь внимание и почести, но не настолько шокирующи, чтобы привлечь скептиков, склонных присмотреться повнимательнее.

Как ученым, так и неученым следует особенно осторожно относиться к соответствующим нашим ожиданиям результатам, когда они основаны на запатентованной технологии или требуют специального доступа к ресурсам, недоступным другим исследователям. Большинство таких работ представляет собой важнейшие достижения добросовестных ученых – сбор этих данных мог потребовать многих лет непрерывной работы. Но у кого-то, желающего срезать углы, может возникнуть еще больший соблазн сделать это, если он знает, что никто другой не смог бы с легкостью опровергнуть его утверждения, собрав собственные данные. Дидерик Стапель якобы тестировал участников на реальной железнодорожной станции вместо того, чтобы предлагать им смотреть на фотографии железнодорожных станций на компьютере, что затрудняло воспроизведение этого исследования. Биолог-эволюционист Марк Хаузер якобы протестировал когнитивные способности хлопковых тамаринов – вида обезьян, изучаемого лишь несколькими другими исследователями в мире. Аспирант Калифорнийского университета в Лос-Анджелесе Майкл Лакур предположительно нанял сорок одного ассистента-исследователя для проведения интервью с 972 людьми, чтобы выяснить, изменит ли общение с человеком противоположных взглядов их политические суждения. Статьи всех этих авторов были отозваны после проведения расследований. Помимо маскировки сомнительных (или несуществующих) данных описания методологических подвигов усиливают видимость новизны и строгости, вызывая похвалу независимо от того, обоснована она или нет [24].

В конце 1990-х годов наша коллега из Гарварда Карен Руджеро опубликовала серию исследований по социальной психологии стереотипов. Ее работа была влиятельной и широко цитируемой, но, как и работа Стапеля, она оказалась сфабрикованной. Мы лично наблюдали за последствиями мошенничества Руджеро. Дэн слышал истории от коллег, которые изо всех сил пытались опубликовать свои собственные статьи на схожие темы, потому что их результаты были не такими, как у Руджеро. К сожалению, редакторы и рецензенты часто рассматривают первое опубликованное исследование по какой-либо теме как «правильное» и приписывают более слабые или противоречивые результаты в более поздних исследованиях методологическим недостаткам или некомпетентности авторов [25].

ФАКТИЧЕСКОЕ МОШЕННИЧЕСТВО ЧАСТО СВЯЗАНО С ИССЛЕДОВАНИЯМИ, КОТОРЫЕ ДОСТАТОЧНО НОВЫ, ЧТОБЫ ПРИВЛЕЧЬ ВНИМАНИЕ И ПОЧЕСТИ, НО НЕ НАСТОЛЬКО ШОКИРУЮЩИ, ЧТОБЫ ПРИВЛЕЧЬ СКЕПТИКОВ, СКЛОННЫХ ПРИСМОТРЕТЬСЯ ПОВНИМАТЕЛЬНЕЕ.

После того как Руджеро призналась в мошенничестве, ее соавторы, в том числе некоторые из ее студентов, также подверглись пристальному вниманию. Большинство студентов идут в аспирантуру, чтобы научиться проводить исследования, и, если их основным образцом этого навыка является наставник, им, возможно, никогда не придет в голову перепроверять данные и анализы. Обычно только после того, как наши ожидания рушатся, мы понимаем, что нам следовало присмотреться повнимательнее. Но даже оглядываясь назад, мы с трудом осознаем, насколько сильно наши ожидания, возможно, ослепили нас [26].

Как и Руджеро, Дидерик Стапель в конце концов попался на мошенничестве; целых пятьдесят восемь его статей были отозваны из научных журналов, что поставило его на седьмое место в списке отозванных статей Retraction Watch. В мемуарах, вспоминая об этих событиях, он написал: «То, что я придумал, было логичным и вовсе не удивительным». Фальшивые исследования Стапеля раздвинули границы новизны ровно настолько, чтобы привлечь внимание, но не скептицизм. Они соответствовали ожиданиям всех остальных, поэтому никто не присматривался слишком внимательно [27].

ФАЛЬСИФИКАЦИЯ ДАННЫХ О ФАЛЬСИФИКАЦИИ ДАННЫХ

Не все люди разделяют одни и те же ожидания – и это хорошо. То, что удовлетворяет одного человека, может спровоцировать расследование со стороны другого. Поучительный пример содержится в мошенническом научном исследовании мошенничества. В статье, опубликованной в 2012 году, команда ученых-бихевиористов из четырех ведущих бизнес-школ исследовала, как побудить людей более честно сообщать факты и информацию. Работая с американской страховой компанией, они попросили более тринадцати тысяч владельцев автомобильных полисов сообщить о показаниях одометра их автомобилей. Большее число может привести к более высокой стоимости страховки, поскольку более частое вождение увеличивает совокупную вероятность несчастного случая. Таким образом, у водителей был некоторый стимул жульничать, занижая количество километров, которые они проехали с момента своего последнего отчета. Каждого водителя попросили подписаться под заявлением «Я обещаю, что информация, которую я предоставляю, соответствует действительности» [28].

Подобные методы часто используются для противодействия нечестности. До 2012 года это чаще всего была приписка в конце документа («Под страхом наказания за лжесвидетельство я заявляю…»). В ходе исследования водители были случайным образом распределены для получения одной из двух версий бланка: одна с традиционной припиской в конце, а другая с таким же текстом, но помещенным перед графой о пробеге по одометру. Идея заключалась в том, что подписание обещания не лгать в первую очередь подчеркнуло бы обязанность вести себя этично в процессе заполнения бланка. Конечно же, водители, подписавшие заявление до составления отчета, указали значения одометра, которые были примерно на 10 % выше [29].

10% могут показаться незначительными, но при масштабировании до десятков или сотен тысяч водителей это небольшое изменение привело бы к огромному увеличению страховых взносов. После того как эти результаты появились в журнале Proceedings of the National Academy of Sciences, правительственные учреждения и частные организации начали применять трюк «сначала подпиши», чтобы повысить честность отчетности. Единственная проблема заключалась в том, что часть данных в исследовании была сфабрикована.

Частью указанного эксперимента руководил Дэн Ариэли, профессор Дюкского университета и автор бестселлеров о нечестности, иррациональности и деньгах. Через девять лет после публикации исследования ученые-бихевиористы Джо Симмонс, Лейф Нельсон и Ури Симонсон (вместе с отдельной группой ученых, которые остались анонимными из опасения репрессий) доказали, что данные в статье не могут быть реальными. Например, большинство владельцев автомобилей проезжает от 3000 до 25 000 км в год, и гораздо меньшее число проезжает гораздо больше. Но в предлагаемом наборе данных люди с одинаковой вероятностью сообщали о том, что проехали 15 000 км и даже 80 000 км. После дальнейших поисков Симмонс и его коллеги обнаружили множество дублированных строк, но со случайным числом от 0 до 1000, добавленным для маскировки сходства. Их расследование привело к отзыву статьи, и все пять ее авторов согласились с тем, что исследование основывалось на поддельных данных. Этот случай необычен тем, что все авторы признали данные мошенническими, в то время как личность человека, который фактически совершил подлог, осталась неясной [30].

ЭТО ПОДОЗРИТЕЛЬНО

Достаточно ли статистических аномалий, чтобы доказать мошенничество в исследованиях? В своем собственном аспирантском курсе по исследовательской практике Дэн дает упражнение, основанное на одной из отозванных публикаций Карен Руджеро. Он говорит студентам, что результаты не являются подлинными, и спрашивает их, могут ли они найти в опубликованной статье что-либо, указывающее на мошенничество. Проницательные студенты замечают несколько дублирующихся цифр, которые предположительно получены из разных данных, и то, что некоторые показатели изменчивости более похожи друг на друга, чем мы могли бы ожидать.

Но есть опасность в том, чтобы прочесывать научные данные – или данные любого другого типа, – ожидая найти доказательства обмана. Поскольку практически все реальные доказательства являются «зашумленными», мы почти всегда можем обнаружить зловещие закономерности в достоверных данных.

Политолог Макартан Хамфрис создал веб-сайт «Тест на подозрительность», который умело демонстрирует этот принцип. Он предлагает вам ввести десять случайных чисел от 1 до 100, и, независимо от того, какие числа вы вводите, он находит в них что-то статистически аномальное. Например, мы ввели следующие случайно сгенерированные числа: 71, 51, 90, 88, 65, 48, 87, 18, 57 и 35. Приложение сообщило, что эти цифры «демонстрируют довольно очевидную закономерность». Цифра 8 появляется в последовательности пять раз, в то время как ожидаемое случайное число повторений равно всего двум. Такое повторение может произойти случайно менее чем в 5 % случаев. Мы попробовали еще раз с цифрами 80, 11, 96, 40, 18, 29, 43, 29, 22 и 97. Опять же, наша последовательность была признана необычной, потому что она содержала 5 простых чисел, в то время как в наборе из 10 случайных чисел от 1 до 100 в среднем вы ожидали бы только 2,5 простых числа. Получение 5 простых чисел произойдет менее чем в 8 % случаев. Сайт также проверяет, нет ли слишком большого количества нечетных или четных чисел, чисел меньше 50 или меньше 30, чисел с одной нечетной и одной четной цифрой и так далее. Наборы действительно случайных чисел, особенно если у вас их всего десять, всегда будут иметь некоторые аномалии, если вы посмотрите на них достаточно придирчиво [31].

Точно так же, если вы посмотрите на реальный набор данных с ожиданием подвоха, вы найдете то, что ищете. Неопытные специалисты по анализу данных часто попадают в ловушку, когда заявляют о наличии доказательств мошенничества только на основании необычного шаблона, особенно если они сначала проверяют данные, затем замечают подозрительный паттерн и только потом точно вычисляют, насколько он необычен. Результатом могут быть внешне убедительные, но ложные обвинения в мошенничестве [32].

Одних проблемных цифр редко бывает достаточно для подтверждения фальсификации результатов исследований, особенно потому, что опубликованная научная литература неизбежно содержит множество невинных ошибок.

Тем не менее в таких случаях, как исследование одометра, странности и невероятности могут суммироваться так, что невинных объяснений не останется. Более того, существуют некоторые известные математические свойства реальных данных, которые, если их не хватает, являются убедительными доказательствами неправильных действий, в основном потому, что их трудно подделать.

ЕДИНИЦА НЕ САМОЕ ОДИНОКОЕ ЧИСЛО

Если вы попросите людей сгенерировать случайное число от 1 до 10, непропорционально большое количество выберет 7. Когда психолог и фокусник Джей Олсон и его коллеги Алим Амлани и Рон Ренсинк попросили более 650 человек назвать игральную карту, более половины опрошенных назвали одну из четырех: туз, король или дама червей и туз пик. Если вы попросите людей создать случайные последовательности орлов и решек, они, как правило, будут чередоваться слишком часто и не иметь достаточной длины. Когда люди думают о том, что считается случайным, они вместо этого создают закономерности. Но случайность может иметь свой собственный вид предсказуемости [33].

Когда цифры описывают результаты естественных процессов роста, таких как накопление подписчиков, лайков или просмотров в Интернете, они, как правило, увеличиваются постепенно, причем большие значения встречаются все реже и реже (гораздо больше видео на YouTube имеют 100–200 просмотров, чем 1–2 миллиона, и на большем количестве вечеринок бывает 5-10 гостей, а не 500-1000). Принцип, называемый законом Бенфорда, описывает регулярную закономерность, которая возникает в результате случайности всякий раз, когда значение может расти бесконечно, а диапазон возможных вариантов охватывает по крайней мере несколько порядков величины. Это справедливо в самых разных областях – от объема озер до доходов от продаж и количества подписчиков в социальных сетях.

Мы можем получить интуитивное представление о законе Бенфорда следующим образом: 1 – это всегда первая цифра, с которой мы сталкиваемся, когда переходим к новому порядку величины. Однозначные цифры начинаются с 1, поэтому, если мы что-то подсчитываем, мы сначала будем на 1, а до 2 дойдем только в том случае, если ранее были на 1. Если мы остановимся в какой-то случайной точке, то скорее дойдем до 1, чем до любой более высокой цифры. Если мы пройдем мимо однозначных цифр, то следующие десять чисел – с 10 по 19 – будут иметь первую цифру 1. Таким образом, ведущая цифра 1 встречается одиннадцать раз в первых девятнадцати числах, или в 58 % случаев. После 99 следующие сто чисел (100–199) будут начинаться с 1. Если увеличивающееся число с равной вероятностью остановится в любой точке и мы должны пройти через первую цифру 1, прежде чем перейти к любой другой, то на каком бы числе мы ни остановились (например, какое бы количество подписчиков в социальной сети ни было в любой конкретный момент времени), оно скорее начнется с 1, чем с любой другой цифры.

ОДНИХ ПРОБЛЕМНЫХ ЦИФР РЕДКО БЫВАЕТ ДОСТАТОЧНО ДЛЯ ПОДТВЕРЖДЕНИЯ ФАЛЬСИФИКАЦИИ РЕЗУЛЬТАТОВ ИССЛЕДОВАНИЙ, ОСОБЕННО ПОТОМУ, ЧТО ОПУБЛИКОВАННАЯ НАУЧНАЯ ЛИТЕРАТУРА НЕИЗБЕЖНО СОДЕРЖИТ МНОЖЕСТВО НЕВИННЫХ ОШИБОК.

Закон Бенфорда описывает точную вероятность для каждой цифры, которую мы должны ожидать увидеть в таких данных. Его отличительной чертой является то, что цифра 1 встречается первой примерно в 30 % случаев, при этом вероятность появления чисел, начинающихся с 2 до 9, уменьшается. Когда данные должны соответствовать закону Бенфорда, но не соответствуют, существует большая вероятность того, что они являются результатом мошенничества.

Специалист по информатике из Мэрилендского университета Дженнифер Голбек является экспертом по социальным сетям. Она отслеживает закономерности в Интернете, включая распространение теорий заговора и работу бот-сетей. Когда она проанализировала количество друзей, которые есть у людей в социальных сетях, она обнаружила, что эти подсчеты соответствуют закону Бенфорда. Количество подписчиков в социальных сетях всегда начинается с одного человека, со временем оно возрастает; число людей, у которых несколько подписчиков, больше тех, у кого несколько тысяч. Предположим, вы подписаны в социальной сети на тысячу человек. Если вы изучите каждый из этих аккаунтов и посмотрите на количество людей, на которых подписан каждый из них, то количество подписчиков также будет соответствовать закону Бенфорда [34].

Боты, в отличие от пользователей-людей, как правило, не следуют закону Бенфорда, поскольку количество их подписчиков не генерируется естественным процессом роста. Чаще всего боты подписаны на одно и то же количество аккаунтов, иногда это аккаунты других ботов, и они публикуют заранее разработанный контент или репосты других пользователей. Голбек идентифицировала ботов, посмотрев на количество подписчиков второго порядка – количество подписчиков аккаунтов, за которыми следили сами боты. Оно не соответствовало закону Бенфорда. Этот тревожный сигнал послужил поводом для дальнейшего изучения данного набора учетных записей, почти все из которых, по-видимому, были частью одной и той же сети, управляемой одними и теми же людьми [35].

Иногда, когда люди впервые узнают о законе Бенфорда, они чрезмерно усердно применяют его к случаям, в которых данная модель не работает. Например, некоторые сторонники Дональда Трампа утверждали, что нашли доказательства мошенничества на президентских выборах 2020 года, показав, что итоги голосования Джо Байдена на избирательных участках не соответствовали закону Бенфорда. Но стандартная версия этого закона не должна применяться в таких условиях. Избирательные участки намеренно спроектированы таким образом, чтобы охватывать сегменты населения одинакового размера – они не могут бесконечно увеличиваться, поэтому распределение размеров участков не будет соответствовать степенному закону. Более того, итоги голосования за Байдена ограничивают возможные итоги голосования за Трампа, и наоборот. Представьте себе избирательный округ в Чикаго с 1000 избирателями, на котором Байден получил 900 голосов. Если бы не было кандидатов от третьей партии, Трамп получил бы 100 голосов. В ряде таких округов у Трампа довольно часто подсчет голосов может начинаться с 1 или 2, что создает видимость работы закона Бенфорда. Итоги голосования Байдена на этих участках обязательно будут иметь гораздо больше исходных 8 и 9 баллов, чем можно было бы ожидать в соответствии с законом Бенфорда. Это не свидетельство мошенничества – это математическое следствие того факта, что Байден и Трамп разделили фиксированное общее количество голосов [36].

Даже для данных, к которым действительно применим закон Бенфорда, иногда красный флаг – это ложный сигнал тревоги. Например, доходы и расходы компании в целом соответствуют закону Бенфорда. Но если компания часто покупает продукт стоимостью 49,95 долларов, в ее отчетах о расходах доля записей, начинающихся с 4, будет выше, чем предсказывает закон. Анализ показал бы потенциальную проблему, но это несоответствие можно легко устранить, проверив, были ли эти расходы законными. Иногда расследование нарушений выявляет незначительные странности в данных.

Однако в других случаях это свидетельствует о неправомерном поведении. В Соединенных Штатах налоги на прибыль раньше рассчитывались с использованием таблицы с отсечениями с шагом в 50 долларов. В конце 1970-х годов превышение лимита в 50 долларов увеличило задолженность по налогам на 7 долларов. В своей книге о применении закона Бенфорда к бухгалтерскому учету Марк Нигрини проанализировал данные из налоговых деклараций тех времен и обнаружил переизбыток декларируемых доходов непосредственно под пороговыми значениями – цифры, оканчивающиеся на 49 или 99, – и нехватку цифр непосредственно над пороговыми значениями (51 и 101). В совокупности люди были готовы слегка обмануть налоговую службу, чтобы сэкономить 7 долларов, и это мошенничество было видно как отклонение от ожидаемого распределения цифр [37].

Как показал Нигрини и другие, многие случаи мошенничества в бухгалтерском учете выявляются отчасти потому, что в бухгалтерских книгах содержатся цифры, которые отклоняются от закона Бенфорда. Люди, подсчитывающие продажи или выручку, вероятно, понимают, что им не следует придумывать слишком много круглых цифр, но они могут не знать о более тонких закономерностях, которые раскрывают их подделку, и не будут гарантировать, что распределение начальных цифр соответствует ожидаемому шаблону. И даже если люди знакомы с законом Бенфорда, подделать данные таким образом, чтобы они соответствовали ему, непросто. Как оказалось, данный закон применим к любой используемой базовой системе счисления. Даже если вы изощренный мошенник, нелегко сфабриковать данные, которые выглядели бы естественно.

ЧТО БОЛЬШЕ ВСЕГО ДВИЖЕТ ОЖИДАНИЯМИ

Ожидания играют важную роль: без них мы ничего не смогли бы воспринять или понять. Поиск чего-либо там, где мы ожидаем это найти (в отличие от поиска случайным образом), – это стратегия, которая обычно работает; мы помним случаи, когда это не удавалось только потому, что мы оставляли что-то в неочевидном месте. Без ожиданий мы бы никогда не удивлялись, а удивление запускает процесс обучения. Во многих обстоятельствах наш разум автоматически сравнивает то, что мы ожидали, с тем, что произошло на самом деле, что приводит нас к пересмотру наших внутренних моделей устройства мира.

Шахматный гроссмейстер и профессиональный игрок в рулетку Джонатан Левитт утверждает, что мы должны быть еще более точны в своих ожиданиях, думая наперед, а затем размышляя о том, что нам не удалось предсказать: «Шахматы научили меня смотреть в будущее, стараться заглядывать вперед везде, где это возможно. Почти всегда лучше чего-то ожидать, чем действовать, не имея ни малейшего представления о том, что может произойти дальше. Это дало мне понимание ограниченности моего собственного мышления». Лучшие прогнозисты в мире постоянно записывают свои ожидания от будущего и затем сравнивают каждое из них с тем, как развиваются события, в процессе составляя собственный список неудач, чтобы быть честными в отношении своих навыков [38].

Мы формируем ожидания и делаем прогнозы, основываясь на наших знаниях и опыте, вот почему полезно отслеживать, когда эти прогнозы оказываются неверными. Но во многих случаях наш совокупный опыт может быть настолько последовательным, что превращается в убедительные предположения. Чтобы рассуждать о мире и действовать в соответствии со здравым смыслом, нам нужно придерживаться некоторых фактов, но, когда мы становимся чрезмерно уверенными, мы перестаем перепроверять, остаются ли наши убеждения верными. Люди, желающие одурачить нас, могут воспользоваться этим. Следующая глава посвящена тому, как неспособность определить и проанализировать наши взгляды может помочь обмануть нас.