Текст книги "В стеклянной клетке. Автоматизация и мы"

Глава четвертая
Эффект вырождения

В книге британского философа Альфреда Норта Уайтхеда «An Introduction to Mathematics» («Введение в математику»)[16]16
   Уайтхед А. Н. Основания математики: в 3 т. / Альфред Н. Уайтхед, Бертран Рассел; пер. с англ. Ю. Н. Радаева, И. С. Фролова; под ред. Г. П. Ярового, Ю. Н. Радаева. Самара: Книга, 2005–2006.


[Закрыть], которая вышла сто лет назад, говорилось: «Цивилизация совершенствуется по мере того, как увеличивается число операций, которые мы можем выполнять, не задумываясь». Уайтхед писал не о машинах. Он имел в виду использование математических символов для представления идей или логических процессов – это был ранний пример заключения в коды интеллектуального труда. Тем не менее Уайтхед намеревался обобщить свое наблюдение. «Распространенное представление, что мы должны культивировать привычку думать о том, что делаем, – писал он, – является глубоко ошибочным». Чем лучше мы будем освобождать свой ум от рутинных дел, поручая эти задачи техническим средствам, тем больше нашей умственной энергии сохранится для творческих типов мышления и построения гипотез. «Мыслительные операции можно уподобить кавалерийской атаке в сражении – кавалерия имеет ограниченную численность, требует свежих, отдохнувших лошадей, и применять ее можно и нужно только в решающие моменты» [1].

За этими словами Уайтхеда скрывается искренняя вера в автоматизацию и иерархию человеческих действий. Каждый раз, когда мы перепоручаем работу инструменту, машине, символу или алгоритму компьютерной программы, то освобождаем себя для восхождения к следующим вершинам, требующего большей изобретательности и интеллекта. Конечно, при каждом таком шаге вперед мы что-то теряем, но приобретаем гораздо больше. Доведенные до крайности представления Уайтхеда об автоматизации как о средстве освобождения превращаются в технологическую утопию Уайльда, Кейнса и Маркса – в мечту о том, что машины освободят нас от монотонного земного труда и вернут в Эдем, где мы сможем наслаждаться просвещенным бездельем. Однако Уайтхед не витает в облаках. Он дает практические рекомендации относительно того, на что надо тратить высвободившиеся силы и время. В семидесятые годы Министерство труда США опубликовало документ, в котором подытоживалась работа министров и было сказано: «Избавление работников от рутинных обязанностей позволяет им заняться более важными вещами» [2]. По мнению Уайтхеда, аналогичную роль играет и автоматизация.

История дает нам массу примеров, подтверждающих правоту Уайтхеда. Люди избавляются от монотонной рутины – физической и умственной, – сбрасывая ее на плечи различных орудий и приспособлений, начиная с изобретения рычага и колеса. Избавление от неблагодарного труда позволило нам энергично взяться за решение более сложных задач и добиться немыслимых ранее достижений. Это верно для сельского хозяйства, промышленности, науки и домашнего хозяйства. Но не стоит принимать рассуждения Уайтхеда за истину в последней инстанции. Он считал, что механизация приводила к монотонным, повторяющимся процессам: изготовлению тканей с помощью парового ткацкого станка, жатвы при использовании комбайна, умножению чисел с помощью логарифмической линейки. В наши дни автоматизация изменилась. Компьютеры можно программировать на выполнение сложнейших операций, состоящих из последовательности связанных между собой задач при одновременном учете множества переменных величин. Сегодня программы делают для нас интеллектуальную работу. Они наблюдают, анализируют и выносят суждение, а также принимают решения, что до недавних пор считалось исключительной прерогативой человека. Оператору, работающему на компьютере, оставлена роль высокотехнологичного клерка, вводящего данные, следящего за результатом работы и исправностью компьютера. Вместо того чтобы открывать новые горизонты мышления и творчества, автоматизация сужает наш кругозор. Наш ум, проницательность и уникальные дарования подменяются рутинными, неопределенными способностями.

Большинство из нас вслед за Уайтхедом считают автоматизацию благом, думают, будто она открывает перед нами более высокие цели, но в остальном нисколько не меняет наше поведение и мышление. Это заблуждение и самообман. Такое допущение нынешние специалисты по автоматизации называют «замещающим мифом». Устройства, сберегающие трудозатраты, не просто берут на себя какие-то отдельные компоненты рабочего процесса, а коренным образом меняют характер всей задачи целиком, включая роль и квалификацию людей, участвующих в ее решении. Доктор Раджа Парасураман, о котором говорилось выше, в 2000 году писал в одной журнальной статье: «Автоматизация не просто вытесняет человеческий труд, она видоизменяет его, причем так, как не желали и не предвидели создатели автоматических устройств» [3]. Автоматизация изменяет как труд, так и трудящегося.

Когда человек берется за решение какой-либо задачи с помощью компьютера, он может пасть жертвой двух когнитивных пороков: подчинения автомату и пристрастного отношения к автомату.

Подчинение автомату возникает, когда компьютер создает у нас ложное впечатление гарантированной безопасности. Мы так уверены в том, что машина при необходимости сработает безошибочно и справится с любой трудностью или нештатной ситуацией, что ослабляем внимание и перестаем следить за процессом. Мы отвлекаемся от работы или от той ее части, которую выполняет компьютерная программа, и в результате можем пропустить сигнал о каком-то неблагополучии. Многие из нас испытывали это подчинение при работе с компьютером. Например, мы невнимательно читаем написанный нами текст, если в компьютере есть программа исправления ошибок [4]. Это, конечно, мелкая погрешность, которая в худшем случае может вызвать у человека смущение. Но, как показывают приведенные нами примеры из авиации, такое подчинение машине может привести к трагическим, непоправимым последствиям. В самых крайних случаях компьютерной зависимости люди начинают настолько доверять технике, что теряют всякое представление о том, что происходит в реальности. Если внезапно возникает какая-то проблема, то она настолько ошеломляет человека, что он может растеряться, упустить драгоценное время и не справиться с ситуацией, так как не успевает в нее вникнуть.

Недопустимое подчинение автомату было документально зафиксировано во многих сопряженных с высоким риском ситуациях – будь то на полях сражений, в заводских цехах, на капитанских мостиках и в рубках надводных и подводных кораблей. Классический пример – авария океанского лайнера Royal Majesty с 1500 пассажирами на борту. Весной 1995 года судно шло от Бермудских островов в Бостон, завершая недельный круиз. Оно было оснащено суперсовременным навигационным оборудованием, в котором для прокладки курса использовали систему GPS. Через час после выхода из Бермудского порта был поврежден кабель антенны GPS и, как следствие, отказала навигационная система. На компьютерных экранах продолжала появляться какая-то абсолютно недостоверная информация. В течение 30 часов, пока корабль медленно, но верно отклонялся от заданного курса, ни капитан, ни экипаж не замечали возникшей проблемы, несмотря на то что были явные признаки выхода из строя системы навигации. В определенный момент вахтенный офицер не увидел сигнальный буй, мимо которого должно было в тот момент проследовать судно. Но вахтенный не доложил капитану об этом факте, решив, что просто пропустил буй, не заметив его. Пройдя еще 20 миль, корабль сел на мель у берега Нантакета. По счастью, никто из пассажиров не пострадал, но круизная компания понесла миллионные убытки. Правительственная комиссия пришла к выводу, что причиной несчастного случая стало подчинение автоматам. Команда судна «слепо положилась» на автоматизированную систему, причем до такой степени, что проигнорировала показания других навигационных средств и «визуальную информацию», которая четко говорила о том, что судно сбилось с курса. Члены комиссии пришли к выводу, что автоматические системы лишили моряков возможности осмысленного и активного участия в управлении судном [5].

Покорность автоматам может поразить не только людей, бороздящих морские и воздушные просторы, но и офисных работников. В исследовании, посвященном влиянию проектных программ на качество строительства, социолог из Массачусетского технологического института Шерри Теркл документально показала связанное с компьютеризацией изменение внимания архитекторов к деталям проектов. Если план здания выполнен от руки, то архитекторы проверяют и перепроверяют его, прежде чем передать строителям. Все прекрасно понимают, что человеку свойственно ошибаться, и поэтому следуют старому, мудрому принципу – семь раз отмерь, один раз отрежь. Если же план выполнен компьютером по заданной программе, то специалисты проверяют его не так придирчиво. Очевидная точность работы программ при расчетах приводит к тому, что эти данные заранее считают верными. «Я хочу сказать, что с моей стороны было бы большой самонадеянностью проверять работу компьютера, – сказала Шерри Теркл. – Он в тысячу раз превосходит меня в точности, выполняя расчеты с погрешностью до сотых долей дюйма». Такая слепая уверенность, характерная для многих инженеров и строителей, не раз приводила к дорогостоящим ошибкам в проектировании и строительстве. Компьютеры не делают глупостей, убаюкиваем мы себя, хотя прекрасно знаем, что качество их работы зависит от качества введенных человеком данных. «Чем совершеннее компьютерная система, – отмечает один из сотрудников Теркл, – тем больше уверенность в том, что она исправит ваши ошибки, и вы начинаете доверять всему, что появляется на экранах и в распечатках. Это какое-то животное чувство» [6].

Пристрастность к компьютерным данным – это оборотная сторона подчинения. Она возникает, когда люди придают неоправданное значение высвечивающейся на экране монитора информации. Даже если она неверна или вводит в заблуждение, люди все равно склонны ей верить. Уверенность в программном обеспечении оказывается настолько сильной, что мы игнорируем или отбрасываем другие источники информации, включая собственные суждения. Если вам когда-нибудь приходилось блуждать по незнакомому району, следуя указаниям неисправного или устаревшего GPS, то, значит, вы тоже пали жертвой пристрастия к данным автоматики. Даже люди, зарабатывающие на жизнь вождением автомобиля, часто проявляют поразительное отсутствие здравого смысла, полагаясь на спутниковые навигационные системы. Игнорируя дорожные знаки и другие значимые признаки, они выбирают опасные маршруты и порой врезаются в низкие эстакады или запутываются в узких улочках маленьких городков. В 2008 году в Сиэтле водитель автобуса высотой в 12 футов (около 4 метров), перевозившего школьную спортивную команду, врезался в пролет моста высотой в 9 футов. Крышу автобуса снесло от удара, в больницу с травмами попал 21 человек. В полиции водитель сказал, что следовал инструкциям навигатора и «не видел» знаки и предупреждающие сигналы о низком мосте [7].

Пристрастное отношение к компьютерным данным особенно рискованно для людей, принимающих решения на основании аналитических и диагностических компьютерных рекомендаций. С конца девяностых рентгенологи стали использовать программное обеспечение для выявления подозрительных очагов, обнаруженных при маммографии и других рентгенологических исследованиях. Цифровая версия изображения передается в компьютер, программа анализирует его и стрелками указывает врачу области рентгенограммы, на которые следует обратить особенно пристальное внимание. В некоторых случаях такие подсказки действительно способствуют верной диагностике, помогая врачу идентифицировать потенциальный рак в случаях, когда иначе он мог бы пропустить опасное заболевание. Проведенные на эту тему исследования показали, однако, что иногда такие подсказки производили абсолютно противоположный эффект. Идя на поводу у машины, врач лишь бегло осматривает другие области снимка и иногда пропускает угрожающую жизни больного опухоль или иную патологию. Подсказки увеличивают частоту ложноположительных результатов интерпретации снимков, приводящей к ненужным биопсиям.

Проведенный недавно группой специалистов Лондонского университета (University of London) анализ данных маммографий указывает на то, что пристрастное отношение рентгенологов и других специалистов по методам визуализации к компьютерным данным оказывает большее влияние на качество диагностики, чем думали раньше. Ученые обнаружили, что, в то время как компьютерная диагностика повышает надежность работы недостаточно опытных специалистов в выявлении сравнительно простых случаев, она же может подвести опытного рентгенолога при оценке сложных случаев. Полагаясь на программу, специалисты с довольно большой вероятностью пропускают некоторые типы рака [8]. Скрытое пристрастие к автоматизации принятия решений может быть обусловлено врожденным свойством когнитивных систем человеческого мозга реагировать на необычные и тревожные стимулы [9]. Направляя наше внимание в определенное русло, компьютерные подсказки искажают зрительное восприятие снимка.

Подчинение и пристрастие в отношении компьютерных данных и автоматизации вообще порождаются ограниченностью нашей способности концентрировать внимание. Тенденция к подчинению говорит о том, насколько легко исчезает наша сосредоточенность и осознание происходящего, когда отпадает необходимость непосредственного взаимодействия с окружающей реальностью. Склонность к пристрастному отношению в оценке компьютерной информации показывает, что внимание сосредоточивается выборочно и его объект может легко смещаться под влиянием достойных доверия подсказок, даже если они оказались ложными. Пристрастие становится все больше по мере того, как повышается надежность и качество автоматизированных систем [10]. Эксперименты показывают, что если система регулярно совершает ошибки, то мы сохраняем бдительность, следя за ее работой, проверяя ее сравнением данных с информацией, полученной из других источников. Но, если система надежна и редко отказывает, мы становимся ленивыми и нелюбопытными, убеждаясь в ее непогрешимости.

Так как автоматика в подавляющем большинстве случаев работает нормально даже тогда, когда мы перестаем за ней следить, мы редко расплачиваемся за подчинение и пристрастие. Это усложняет проблему, как отметил Парасураман в написанной в 2010 году совместно со своим немецким коллегой Дитрихом Манцем статье: «Учитывая высокую надежность автоматизированных систем, даже подчиненное и крайне пристрастное поведение редко приводит к неблагоприятным последствиям, – пишут ученые. – Отсутствие отрицательной обратной связи ведет к когнитивному процессу, который напоминает “приобретенную беззаботность”» [11]. Представьте себе, что вы ведете машину, испытывая сильную сонливость. Если вы начнете клевать носом и выпадете из своего ряда, то либо вы налетите на бордюр, либо въедете на разграничительную полосу, либо услышите сигнал рассерженного водителя следующей сзади машины. В любом случае вы немедленно проснетесь. Если же ваш автомобиль снабжен автоматическим устройством, следящим за разметкой на дороге, то вы проигнорируете эти предупреждающие сигналы и погрузитесь в еще более глубокий сон. Если произойдет что-то неожиданное – на дорогу выбежит какое-нибудь животное или перед вами внезапно резко остановится едущий впереди автомобиль – то вы, скорее всего, попадете в серьезное ДТП. Избавляя нас от отрицательной обратной связи, автоматизация притупляет бдительность, и мы все больше и больше отключаемся от реальности.

Наша подверженность подчинению и пристрастию позволяет объяснить, как вера в автоматизацию может привести к ошибкам – активным и пассивным. То есть мы либо действуем, полагаясь на неверную или неполную информацию, либо не видим важных вещей. Однако доверие, которое ослабляет внимательность, указывает и на более коварную проблему. Автоматизация превращает нас из актеров в зрителей. Вместо того чтобы работать штурвалом, мы следим за монитором. Это смещение делает нашу жизнь проще, но подавляет способность обучаться и приобретать опыт. Не важно, улучшает или ухудшает автоматизация выполнение определенной задачи, но в долгосрочной перспективе она может ослабить существующие навыки и воспрепятствовать усвоению новых.

С конца семидесятых годов специалисты по когнитивной психологии занимаются феноменом, называемым «эффектом порождения». Впервые он был выявлен при работе с активным словарем. Психологи тогда показали, что люди намного лучше запоминают слова, если активно их осмысливают, нежели когда читают с листа. В ранних опытах, проведенных психологом из университета Торонто Норманом Сламечкой, людей просили запоминать пары антонимов, написанных на двух сторонах карточки, например слова горячий и холодный. Некоторым испытуемым давали карточки, на которых слова были написаны полностью. Например, так:

ГОРЯЧИЙ – ХОЛОДНЫЙ

Другим испытуемым давали карточки, где второе слово было представлено одной только первой буквой. Например, так:

ГОРЯЧИЙ – Г

Испытуемые, получавшие карточки второго типа, при проверке запоминания показывали намного лучшие результаты. Им приходилось прикладывать усилие для того, чтобы восполнять недостающие буквы, то есть они действовали, а не просто наблюдали, а это приводило к более надежному сохранению информации [12].

С тех пор стало ясно, что эффект порождения влияет на память и обучение в разнообразных ситуациях. Эксперименты позволили выявить его значимость в упражнениях, которые требуют не только запоминания букв и слов, но и запоминания чисел, изображений и звуков, например, при решении математических задач и ответах на простые вопросы. Недавние исследования также показали значимость эффекта порождения в более сложных формах преподавания и обучения. В опубликованной в 2011 году в журнале Science статье было показано, что студенты, прочитавшие сложное задание, а затем пытавшиеся его припомнить без посторонней помощи, усваивали материал лучше, чем те, кто просто четыре раза перечитывал это задание [13]. Умственное напряжение улучшает способность человека к деятельности, требующей, по мнению психолога Бритти Хогана Чена, концептуального мышления и глубокого когнитивного осмысления. «В самом деле, – говорит Чен, – эффект порождения усиливается по мере того, как становится более сложным материал, порождаемый сознанием» [14].

Психологи и нейрофизиологи до сих пор стараются понять, что происходит в нашем мозгу, когда возникает эффект порождения. Ясно только одно – в этот феномен вовлечены два вида процессов: глубинные когнитивные и запоминание информации. Если мы, не жалея сил, над чем-то работаем и уделяем этому предмету массу внимания, то разум вознаграждает нас глубоким пониманием изучаемого предмета. Со временем мы приобретаем умения и навыки, способность действовать быстро и целенаправленно, без напряжения ориентироваться в окружающем мире. Едва ли это может нас удивить. Большинство людей прекрасно знают, что овладеть навыком какого-либо действия можно только в том случае, если постоянно его повторять. Очень легко быстро собрать информацию с компьютерного экрана или почерпнуть ее из книги, но истинное знание, особенно такое, которое откладывается глубоко в памяти и проявляется потом как навык, дается с куда бо́льшим трудом. Оно требует энергичной и долгой борьбы с задачей и самим собой.

Австралийские психологи Саймон Фаррелл и Стивен Левандовский попытались установить связь между автоматизацией и эффектом порождения в статье, опубликованной в 2000 году. «В эксперименте Сламечки, – подчеркнули авторы, – показ второго слова в паре антонимов вместо первой буквы, которая заставляет человека думать, можно считать частным случаем автоматизации, потому что активность человека, порождение слова „холодный”, подавляется напечатанным стимулом». Расширяя понятие, можно сказать, что ухудшение качества деятельности, каковое мы наблюдаем при замене порождения простым чтением, можно считать проявлением подчинения автомату [15]. Такие работы позволяют выявить и оценить когнитивную цену автоматизации. Когда мы решаем задачу или выполняем работу сами, в нашем мозгу включаются процессы, отличающиеся от тех, что вовлечены в решение задачи или выполнение работы с помощью компьютера. Если компьютер уменьшает нашу вовлеченность в работу, отводит пассивную роль наблюдателя, то мы избавляемся от сознательной обработки информации, а именно она и производит эффект порождения. В результате снижается наша способность получать богатое знание о реальности, которое одно только приводит к формированию полезных, прочно усвоенных навыков. Эффект порождения требует борьбы, которую исключает автоматизация.

В 2004 году специалист по когнитивной психологии из Утрехтского университета (Universiteit Utrecht) в Нидерландах Кристоф ван Нимвеген провел серию простых, но изящных экспериментов, исследуя влияние компьютерных программ на формирование памяти и приобретение опыта [16]. Ван Нимвеген набрал две группы людей и предложил им поиграть в компьютерную игру, основанную на классической логической задаче о миссионерах и людоедах. Чтобы справиться с задачей, играющим надо было переправить через виртуальную реку пять миссионеров и пять людоедов (или, по версии Нимвегена, пять желтых шаров и пять синих), используя для этого лодку, вмещающую не больше трех пассажиров. Самой сложной частью задачи было условие, по которому ни на берегу, ни в лодке, количество людоедов не должно превышать количество миссионеров (надо полагать, для того чтобы людоеды не съели миссионеров). Подсчет минимального количества рейсов, необходимого для безопасной перевозки пассажиров, требует сложного анализа и тщательного планирования.

Одна из групп ван Нимвегена работала над задачей, пользуясь компьютерной программой, которая поэтапно предлагала подсказки, указывая, какие комбинации допустимы, а какие – нет. Другая группа пользовалась обычной программой, которая никак не помогала играющим. Как вы уже догадываетесь, те, кто работал с усовершенствованной программой, на первых порах справлялись с задачей быстрее, чем остальные. Испытуемые первой группы следовали подсказкам, а не делали паузы перед каждым ходом, соображая, как разместить пассажиров в следующем рейсе. Но по ходу игры те, кто пользовался простой программой, стал обгонять участников первой группы. Более того, к концу игроки второй группы стали работать с задачей более эффективно, чем в первой группе, совершая меньше ошибок. В отчете об эксперименте ван Нимвеген писал, что испытуемые, использовавшие простую программу, овладели более глубоким концептуальным пониманием задачи. Они лучше продумывали будущие действия и разрабатывали более удачную стратегию. Те же, кто полагался на компьютерную программу, часто терялись и просто бесцельно нажимали на клавиши.

Когнитивная цена использования подсказывающей программы стала еще более отчетливой, когда восемь месяцев спустя ван Нимвеген повторил опыт с участием тех же людей. Те, кто в первой игре пользовался упрощенной программой, справились с головоломкой в два раза быстрее, чем испытуемые первой группы. Испытуемые, использовавшие простую программу, писал ван Нимвеген, демонстрировали бо́льшую сосредоточенность во время решения задачи и к тому же лучше запомнили стратегию игры. То есть испытуемые второй группы воспользовались плодами эффекта порождения. Ван Нимвеген и некоторые его коллеги из Утрехтского университета провели затем серию других экспериментов, в которых решались более реалистические задачи. Например, с помощью календарной программы планирования встреч и мероприятий распределяли выступающих по аудиториям. Результаты были такими же. Те, кто полагался на компьютерную программу, демонстрировали недостаточное стратегическое мышление, совершали много лишних действий и слабо понимали концептуальные аспекты задачи. Те же, кто пользовался простыми программами, работали с бо́льшим пониманием и быстрее обучались [17].

Ван Нимвеген показал в своей лаборатории, что при автоматизации решения задач мы нарушаем способность мозга переводить информацию в знание, а знание – в твердо усвоенные навыки. Мы хорошо это видим и в реальном мире. На многих предприятиях менеджеры и другие специалисты зависят от так называемых экспертных систем, которые сортируют и анализируют информацию, а затем предлагают определенные действия. Бухгалтеры, например, пользуются компьютерными программами для корпоративного аудита. Такие компьютерные приложения, конечно, ускоряют работу, но уже сейчас становится очевидным, что по мере усложнения программ бухгалтеры неуклонно теряют квалификацию. В одном исследовании, проведенном группой австралийских профессоров, были изучены эффекты применения экспертной системы в трех международных бухгалтерских фирмах. В двух компаниях использовались усовершенствованные системы – на основании ответов бухгалтера на вопросы о клиенте машина выдавала заключение о рисках, которые надо было включить в документы о проведении аудита. Третья фирма использовала простые программы, где был представлен список потенциальных рисков, но бухгалтер должен был сам просматривать его и самостоятельно выбирать нужные пункты для пакета документов. Ученые устроили бухгалтерам всех трех аудиторских фирм экзамен, чтобы выяснить уровень знания рисков в тех отраслях, где они проводили аудит. Выяснилось, что специалисты фирмы с худшим программным обеспечением обладают значительно более глубоким пониманием различных форм риска, чем бухгалтеры двух других фирм. Снижение квалификации, обусловленное современным программным обеспечением, характерно даже для опытных аудиторов, проработавших в профессии больше пяти лет [18].

Другие исследования разнообразных компьютерных экспертных систем подтвердили, что программы, облегчающие принятие решений, могут в краткосрочной перспективе помочь новичку принять верное решение, но одновременно приводят к лености ума. Избавляя специалистов от необходимости напрягать ум, компьютеры подавляют у них способность надежно усваивать информацию и запоминать ее, а такое запоминание необходимо для формирования серьезного опыта [19]. Недостатки средств автоматизированного принятия решений могут быть незаметными, но они влекут за собой реальные неблагоприятные последствия, особенно в тех отраслях, где аналитические ошибки могут стать причиной несчастного случая. Неверный расчет риска в сочетании с быстродействующими компьютерными программами торгов едва не привел к краху мировой финансовой системы в 2008 году. По мнению преподавателя управления из университета Тафта Амара Биде, «роботизированные методы» принятия решений способствует распространению среди банкиров и других профи Уолл-стрит дефицита способности выносить самостоятельные суждения [20]. Конечно, невозможно точно определить роль, которую автоматизация сыграла в этой финансовой катастрофе или в последующих биржевых неудачах, подобных «мгновенному краху» 2010 года на американской фондовой бирже. Но нам кажется, что надо всерьез принять меры, ограничивающие чрезмерное применение современных технологий, так как это может привести к деградации знания или к ухудшению способности к самостоятельным суждениям у людей, занятых в соответствующих отраслях. В вышедшей в 2013 году статье специалисты по программному обеспечению Гордон Бакстер и Джон Картлидж предупредили о том, что ставка на автоматизацию приводит к снижению квалификации финансистов так же, как компьютерная система торговли повышает риски на финансовых рынках [21].

Некоторые программисты выражают озабоченность тем, что их усилия по облегчению мышления могут стать похоронным звоном по их собственной квалификации. Современные специалисты часто используют приложения, называемые интегрированными областями разработки программ. Эти приложения помогают составлять программные коды, а также автоматизируют некоторые трудоемкие и требующие больших затрат времени этапы программирования. Они могут завершать процесс, исправлять ошибки, отлаживать программу, а самые современные приложения способны даже менять внутреннюю структуру программного кода, осуществлять так называемый рефакторинг [17]17
   Рефа2кторинг, или реорганизация кода, – процесс изменения внутренней структуры программы, не затрагивающий ее внешнего поведения и имеющий целью облегчить понимание ее работы.


[Закрыть].

Но из-за того, что программа берет на себя труд кодирования, программист теряет возможность оттачивать мастерство и совершенствовать свой талант. «Современные интегрированные области разработки становятся такими „полезными”, что я порой ощущаю себя оператором этой среды, а не программистом, – пишет Вивек Хальдар, опытный разработчик программного обеспечения из Google. – Все эти инструменты не побуждают программиста обдумать код и тщательно его написать, они позволяют накропать черновой вариант и запустить его, а инструменты сами выяснят, что в этом варианте не так, и автоматически его улучшат». Вердикт Хальдара: «Умный инструмент – тупой мозг!» [22]

Google признаёт, что создание чутких и заботливых поисковых систем, способных предсказать, что люди ищут, оказывает на публику оглупляющее влияние. Программы Google не просто исправляют опечатки, они предлагают варианты терминов и слов в процессе их печати, распутывают семантические двусмысленности в запросах и предвосхищают наши потребности, основываясь на их прежней истории и на местонахождении человека. Можно допустить, что они делают полезное дело, облегчая наш поиск, и нам надо учиться на этом примере.

По мнению разработчиков, это заставит нас более четко формулировать запрос, лучше подбирать ключевые слова и вообще вести поиск более грамотно. Но на самом деле, со слов инженера-исследователя фирмы Амита Сингхала, эффект оказался противоположным. В 2013 году корреспондент лондонской газеты Observer взял интервью у Сингхала[18]18
   Амит Сингхал – почетный сотрудник компании Google, руководитель команды ранжирования.


[Закрыть] и поинтересовался улучшениями и усовершенствованиями поисковика на протяжении последних лет. «Можно предположить, – заметил журналист, – что мы становимся более грамотными и требовательными потребителями, если пользуемся поисковой системой Google». Сингхал вздохнул и устало поправил журналиста: «На самом деле, все обстоит совсем не так. Чем лучше работает машина, тем более неряшливыми становятся запросы» [23].

Легкость поиска может ухудшить не только нашу способность грамотно оформлять запрос. Серия экспериментов, о которых писал в 2011 году журнал Science, указывает на то, что легкость получения информации в интернете ослабляет способность запоминать факты. В одном из этих экспериментов испытуемым предлагали прочитать полдюжины простых утверждений, например «глаза страуса больше, чем его мозг», а затем напечатать их на компьютере. Половине испытуемых сказали, что компьютер сохранит то, что они напечатали. Другой половине сказали, что напечатанное будет стерто. После этого всем испытуемым было предложено записать все утверждения, какие они смогут вспомнить. Те, кто был уверен, что написанное ими сохранится в памяти компьютера, показали худшие результаты в сравнении с теми, кто считал, что введенные данные будут стерты. Даже одно знание того, что информация сохранится в базе данных, снижало вероятность того, что мозг сделает усилие, чтобы надежно ее запомнить. «Так как поисковая система теперь все время в нашем распоряжении, мы часто не чувствуем необходимости кодировать информацию в долговременной памяти, – заключили ученые. – Если она нам понадобится, мы в любой момент ее найдем» [24].