Текст книги "От «Энигмы» до ChatGPT. Эволюция искусственного интеллекта и российская практика в образовании, медицине и бизнесе"

Даже в этой выборке просматриваются определенные страхи, например боязнь нового и неизведанного, технологической сингулярности (как бы кто ни относился к этому термину); но пока не очень ясно, что находится за горизонтом событий того момента, когда интеллектуальная машина превратится в мыслящую. Машина, созданная по нашему образу и подобию, мыслить иначе, чем мы, не может, поэтому она «отражает тьму в наших душах». За яркими образами, рисуемыми Голливудом, в книгах и играх, стоит вполне бытовой страх. Он овладевает людьми в кресле самолета или на пассажирском сиденье автомобиля; техническое чудо, управляемое другим человеком, переносит их из точки А в точку Б, а контроль процесса находится в руках кого-то другого. Пока кого-то…

Страх потери контроля – ключевая тема в подавляющем большинстве произведений, связанных с ИИ. Все, что написано выше, – попытка представить этот вывод в более или менее объективной форме, используя некоторые методы лингвистического анализа и грубого пересчета. Однако повторим: любой желающий может воспроизвести этот трюк самостоятельно, практически с любым развлекательным произведением – книгой, фильмом, сериалом, компьютерной игрой. Достаточно посмотреть и сравнить, какие ключевые слова используются в описании на сайте. Далее нужно составить таблицу, где в середине находится изучаемое понятие, слева – слова, которые ему предшествовали, справа – следующие за ним, и проанализировать тональность высказываний. Этот прием можно использовать также для анализа целой книги. Достаточно выбрать до пятидесяти ключевых понятий, желательно простых слов, с которыми ассоциируется книга, и пересчитать их. Здесь нет никакой магии: грубый «пересчет в лоб», который использовался нами ранее, решает большинство задач. Однако он пока не полноценен. До этого момента в анализе принимали участие исключительно художественные произведения. Сначала был фольклор, и уже в нем прослеживается желание обзавестись техникой, выполняющей часть наших функций: печь Емели, ступа Бабы-яги в качестве самоуправляемых средств передвижения, избушка на курьих ножках, автоматизированный охранник, пускающий своих и не пускающий чужих, зеркальце, предсказывающее и описывающее события, и многое другое, что не вошло в повествование. Далее он уступил место авторским произведениям, которые вынесли на поверхность скрытые за технологической эйфорией страхи потери контроля, порабощения, а в самом крайнем случае – полного истребления человечества.

За несколько месяцев до написания этого материала нам на глаза попался рассказ Харлана Эллисона «У меня нет рта, но я должен кричать». Наверное, это самый мрачный взгляд на будущее человечества, окончательно потерявшего контроль над искусственным интеллектом. Далее мы предлагаем сформулировать образ ИИ через призму новостей, публикуемых в интернете. Интересно сравнить представление писателей-фантастов и журналистов: оценить, как освещаются новости об успехах создания интеллектуальной машины публике в средствах массовой информации.

Образ ИИ в СМИ

Перечитывать все публикации подряд на новостных сайтах с целью понять, как же воспринимается ИИ, слишком долго и трудоемко. Любой пользователь поисковых систем (Yandex или Google) сможет найти подборку новостей и выдержек за какой угодно период. Например, поисковые запросы «искусственный интеллект, польза или вред», «применение технологий искусственного интеллекта» представят читателю полярный взгляд на феномен искусственного интеллекта и, возможно, покажут изменение мнений: от «ИИ – это способ подстегнуть инновационный процесс и время новых возможностей» до «Общество взволновано тем, что достижения в области ИИ могут запустить череду сокращений и замещений человека машиной». В общем, извечный спор техноевангелиста и технолуддита. И тот и другой имеют основания под своей позицией, однако часто они противоречат друг другу.

Техноевангелист выступает в роли популяризатора технологии, проводника для непосвященных и первого активного пользователя нового, а технолуддит смотрит на ситуацию иначе. Для него почти любое изобретение сопряжено с рисками, часто связанными с потерей работы, изменением характера социальных взаимоотношений, с риском для окружающей среды. Однако самое главное, если рассуждать об ИИ с позиции противников развития технологий, это возможность использования ИИ во зло, что неминуемо без строгой регламентации действий самого ИИ и деятельности предприятий, занятых его разработкой.

Технологические евангелисты и луддиты – два противоборствующих лагеря. Первые концентрируются на положительных аспектах технологии и всевозможных сценариях взаимовыгодной синергии человека и машины, при которой работа каждого по отдельности значительно хуже, чем совместная. Вторые раскручивают в массах негативные сценарии и освещают риски, сопряженные с быстрым внедрением технологий ИИ повсеместно. Наиболее известные представители обоих лагерей – Илон Маск в роли технолуддита и Сергей Брин в качестве техноевангелиста.

Если в мире много сторонников и того и другого взгляда на развитие ИИ – как выглядит наиболее объективная позиция? Как оценить, чье мнение доминирует – луддитов или евангелистов? Здесь снова на помощь придут лингвистика и анализ корпуса текстов. Мы уже воспроизвели множество приемов различных исследований. Сможем ли мы повторить анализ ключевых слов, реплик и дискурсов в художественных произведениях для новостных публикаций, которые станут тараном общественного мнения? Согласны ли такие СМИ с тем, что ИИ – это неизведанный риск?

Как оказалось, подобное исследование уже проводилось в 2017 году Итаном Фастом и Эриком Хорвитцем. Им удалось изучить архив публикаций The New York Times за более чем 30-летний период. Анализ текста позволил увидеть восприятие людьми ИИ, показал тренды, убеждения, интерес и чувства публики по отношению к интеллектуальной машине. Хорвитцу и Фасту удалось измерить уровень пессимистических и оптимистических настроений. Согласно исследованию, начиная с 2009 года общественное мнение начало меняться с негативного на позитивное, однако при этом страх потери работы, контроля никуда не исчез, а то и усилился.

Мы попытаемся обобщить и пересказать часть исследования и некоторые выводы, к которым они пришли. Хорвитц и Фаст с целью изучить восприятие общественностью ИИ взяли для анализа подборку статей, опубликованных в The New York Times в период с января 1986-го по июнь 2016 года. Они попытались найти ответы на следующие вопросы:

• Насколько интенсивно обсуждается ИИ в наши дни по сравнению с прошлым?

• Какова тональность новостей, посвященных ИИ? Стали ли они более оптимистичными или пессимистичными?

• С чем ИИ ассоциируется и как его представляет общественность?

• Как изменились страхи общества? Чего люди боялись в прошлом из того, что уже неактуально сегодня, а что, наоборот, стало волновать сегодня из того, что не волновало ранее?

Как часто тема искусственного интеллекта поднимается в СМИ?

Существует убеждение, будто возбуждение нервных клеток журналистского сообщества происходит каждый раз с появлением нового феномена, выходящего за рамки принятых стереотипов. Смеем предположить, что первый всплеск интереса произошел в 1997 году, когда суперкомпьютер Deep Blue победил Гарри Каспарова (является инагентом) в шахматной партии. В 2009 году волна любопытства была связана с появлением интереса к нейронным сетям и глубокому обучению – совокупности методов машинного обучения, используемых для предварительной подготовки этих самых сетей. В 2015-м – с победой Alpha Go над человеком в последней игре, с которой биологический мозг справлялся лучше алгоритмизированного пересчета: го. В 2023-м – с наличием доступа к ChatGPT, который уже взломал операционную систему человеческой цивилизации – естественный язык.

Скорее всего, интерес общественности вспыхивал и угасал с появлением культурных феноменов, таких как фильмы «Матрица», «Терминатор», сериал «Мир Дикого Запада» и прочие развлекательные продукты, создатели и герои которых размышляли об искусственном интеллекте, безопасности и перспективности технологии. Но мы всё же предполагаем, что интерес разгорелся с новой силой именно в 2009 году и с этого момента не утихает. Именно в этом году работы над тренировкой искусственных нейронных сетей методом глубокого обучения вышли на новый уровень. Машины, помимо прочего, научили воспринимать информацию из мира людей.

Возьмем, например, машинное зрение (МЗ) – интерпретацию визуальных данных способом, аналогичным человеческому. Это сбор, анализ и понимание изображений и видео и данных высокой размерности (когда свойства объекта или аналогичны, или превышают наблюдаемые визуально параметры). МЗ широко используется в анализе медицинских данных, например рентгеновских снимков, считывании позы человека, моделировании трехмерных сцен, видеонаблюдении, распознавании лиц.

Технология машинного слуха (МС) уже давно интегрирована в отечественный голосовой помощник «Алиса», чтобы помочь ей распознать голос, интонацию, тональность. И человек, и машина воспринимают звук одинаково, и именно поэтому МС имеет широкий спектр применения: от записи музыки до синтезирования и распознавания речи. Возможности технологии МС используются в современных смартфонах, автомобилях, голосовых помощниках. Более того, умная машина может настроиться на поиск определенного звука, блокируя остальные, что открывает удивительные возможности в медицине, например повышает эффективность выявления шумов в сердце.

Существует также и технология машинного касания (МК). Если в случае со зрением и слухом у нас уже есть достаточно серьезные технологические результаты, то с касанием работа началась относительно недавно; однако сегодня это уже реальность. Машина может воспринимать тактильную информацию, распознать поверхность, ловко корректируя свои действия. Машинное касание в отдаленном будущем позволит взаимодействовать с окружающей средой на более глубоком уровне. Вы уже, наверное, вспомнили робота Санни из фильма «Я, робот», снятого по мотивам романов Айзека Азимова?

Новости стали оптимистичнее или мрачнее?

Анализируя статьи The New York Times за период 1986–2016 годов, Фост и Хорвиц выявили следующие закономерности:

• интеллектуальная машина – это хорошо, приятно иметь подобного помощника;

• человек боится утратить контроль – это плохо;

• после 2009 года наблюдается резкий всплеск интереса к ИИ, при этом пессимистичных и оптимистичных публикаций журналистов примерно поровну.

Интерес к ИИ вспыхивал с новой силой в 1990-х, начале 2000-х, 2009-м и сейчас, в 2023 году. В каждом таком периоде в фокусе внимания оказывались конкретные темы.

1990-е

Майниниг данных, виртуальная реальность, попытка разработать самоуправляемую машину, создание искусственной формы жизни, Deep Blue побеждает Каспарова (является инагентом), Sony выпускает на рынок AIBO – первого питомца-робота.

2000-е

Незначительные достижения, связанные с созданием роботов, например ASIMO от Honda. Не совсем удачные попытки разработки искусственных нейронных сетей. Все это длилось ровно до 2009 года, когда была создана первая нейронная сеть, способная уверенно распознавать рукописный текст, а Google разработала машину, которая перемещается без участия человека.

2009–2023

А дальше, после того как появилась ИНС, показывающая стабильный результат, а именно автомобиль Google, развитие технологии ИИ только ускорялось. Можно предположить, что этому способствовала еще и конференция в Мельбурне, на которой собрались исследователи ИИ. Год 2009-й можно охарактеризовать как год, когда интернет начал проникать во все сферы деятельности человека, что привело к ускорению обмена информацией. Дополнительным толчком для развития технологии стало финансирование различными коммерческими и некоммерческими организациями, собравшими более 15 млрд долларов инвестиций. Однако именно открытия 1990-х и 2000-х вывели ИИ на передовую общественного интереса, что запустило волну положительной обратной связи, когда каждое новое открытие приносит новые инвестиции и развитие технологий.

Общественность и ИИ: как изменялся нарратив

Со времен Дартмутской конференции 1956 года идея ИИ изменялась многократно. Хорвитц и Фаст в анализе публикаций The New York Times использовали тот же подход, что и Реккья при анализе метаданных фильмов с сайта IMDb и диалогов вокруг изучаемых феноменов: к таковым относятся искусственный интеллект, робот, андроид. Статьи с новостного портала группировались исследователями в 5–10-летние периоды, каждый период пропускался через аналитическое сито для выявления частотности использования заранее определенных ключевых слов и понятий. Хорвитц и Фаст вслед за Реккья использовали, что называется, подход «в лоб»: пересчет слов для классификации и анализа текста.

Ученые сгруппировали и проанализировали статьи, и если в публикации присутствовал хотя бы один абзац с оптимистичным взглядом на будущее технологии, то она попадала в категорию оптимистичных; если был хотя бы один пессимистичный абзац, то в противоположную. Правда, пока непонятно, куда попадали статьи, где присутствовал двусторонний взгляд; скорее всего, проводился пересчет или оценка вывода. Однако, как нам кажется, каждая отдельная статья все же представляет однобокий взгляд. Для примера приведем некоторые выдержки из публикаций с отечественного новостного портала Lenta.ru.

В письме утверждается, что технологии с искусственным интеллектом, сопоставимым человеческому, могут представлять значительный риск для общества и человечества. Пессимизм.

Во время выступления в Вашингтоне Смит заявил, что в контексте изучения потенциала искусственного интеллекта его больше всего беспокоит, что с помощью новых технологий можно создавать фейки – ложный контент, неотличимый от настоящего. Пессимизм.

Как показывают опросы, 94 процента компаний уверены, что искусственный интеллект способствует успеху организации. Он применим абсолютно во всех сферах, внедряется в сервисы и создает новые миры. Например, генерирует дизайн (двигателей, зданий и так далее), синтезирует новые материалы, создает 3D-карты городов, презентации и лекарства, занимается расшифровкой генома и мониторингом урожая. Оптимизм.

В мае 2023 года сотрудники Эдинбургского университета представили метод на основе искусственного интеллекта, ускоривший выявление сердечного приступа. Оптимизм.

В нашем случае получается схожий результат. Четыре случайных фрагмента из статей новостного портала раскрывают исключительно односторонние взгляды: два оптимистичных, два пессимистичных. Непременно существуют публикации, где в полной мере освещается перспективность технологии и риски, связанные с ней, однако быстрый поиск не позволил их выявить. Опять же напомним: подобный анализ может воспроизвести любой исследователь, используя в качестве материала новостные публикации за определенный период или посты из социальных сетей. Более того, мы призываем это сделать – очень увлекательное занятие.

Большая выборка статей позволяет выявить следующие тренды:

• Перспектива потери контроля над миром в последнее время более чем в три раза чаще волнует авторов, чем в 1980 году.

• Волнения морального и этического характера также встречаются чаще. Человек переживает, что мы создадим машину, которая сможет принимать решения, однако не будет обладать моральным кодексом, свойственным человеку.

• В то же время наравне с публикациями, выражающими беспокойство, имеется столько же материалов, связанных с перспективностью технологии. Так, медицина благодаря ИИ может получить неожиданную помощь от технологий в вопросах поддержки пациентов, которым требуется уход, например напоминание о приеме медикаментов, ранняя диагностика заболеваний, выявление шумов в сердце, анализ генетических предрасположенностей к болезням.

В целом ИИ упоминается во множестве областей: в военной отрасли, в принятии решений, в работе, кибернетике, образовании, развлечениях, философии и этике. В анализе каждой можно встретить позитивные и негативные тренды, однако один имеет единственную тенденцию – сугубо негативную: риск потерять контроль.

Хотя в последние десять лет общество ожидает больше положительного от технологии, страх потерять контроль над искусственным разумом все еще доминирует в нашем сознании. Чего мы боимся? Что нас поработят? Будут манипулировать? Наши желания станут вдруг не нашими, а чем-то продиктованными? Настанет технологический апокалипсис и роботизированная нога раздавит человеческий череп? Пока это неизвестно, ясно лишь одно: что вместе со страхом мы движимы любопытством, а это, как-никак, первый шаг к открытиям. И мы задаем себе вопросы из категории «А что, если?..».

А что, если:

• при помощи ИИ и алгоритмов глубокого обучения мы найдем внеземную цивилизацию? Этим заняты исследователи проекта «Галилей»;

• ИИ и ассистенты, работающие на его принципах, освободят нам ценное время, которое мы тратим на уборку, приготовление еды и поддержание хозяйства в чистоте?

• мы найдем способ увеличить продолжительность жизни?

• научный поиск и написание статьи будут требовать значительно меньшего времени и ресурсов?

• слепые от рождения дети вдруг обретут зрение, а глухие слух?

• люди, искалеченные обстоятельствами, смогут снова интегрироваться в общество благодаря новым технологическим, умным протезам и биогаджетам?

Подобных «А что, если?..» каждый читающий может привести множество. Попробуйте и напишите об этом пост в социальных сетях и не забудьте хештег «ачтоесли…».

Технолуддит против техноевангелиста

Суть противостояния проста: одни хотят развития технологий, другие – ограничения. С первыми все более или менее ясно: всегда найдутся те, кто станет первым пользователем технологии, от кого зависит успех и развитие нового, кто находится на самом изломе кривой инновации. Их меньшинство, но они упорно пытаются склонить чашу весов в сторону повсеместного использования технологии.

Вторые, чего-то испугавшись или сконструировав некую «реальность», которая продиктована никак не здравым смыслом, а тем, как какой-то феномен представляется общественности, в нашем случае Голливудом и новостными агентствами, пытаются остановить развитие. До этого момента мы не занимали никакую позицию, однако настало время, когда каждый читатель может сделать выбор самостоятельно. Попробуйте перечитать еще раз, только теперь внимательней, и ответить на простой вопрос: «Действительно ли мое мнение мое или оно кем-то навязано?».

В завершение главы предлагаю рассмотреть два совершенно разных взгляда на вопрос безопасности ИИ. Первый представил Юваль Ной Харари, ученый, историк и философ. Он выражает совершенно здравую мысль: что человеческий культурный код зашит в речи и языке, который используется для передачи смыслов, а человек с появлением ИИ потерял эксклюзивное право обладания кодом. Вывод, сформулированный Харари, контрастирует с нашей позицией, которая будет представлена ниже.

Юваль Ной Харари: ИИ взломал операционную систему человеческой цивилизации

Статья в оригинале находится на сайте Economist, и любой желающий может с ней ознакомиться. Мы лишь приведем основной тезис и доводы Харари.

Человеческая цивилизация зашифрована в речи, языке, который используется для передачи смыслов. Деньги, религия, права, которыми обладает каждый от рождения, тоже зашифрованы в речи. Смысл того или иного феномена передается словами; наша культура есть не что иное, как смысл, облеченный в слова. Наша история – слова, записанные кем-то когда-то. И вот у нас появился ChatGPT, который может манипулировать словами и понятиями быстрее и ловчее, чем обычный человек.

Благодаря этому алгоритм, сам того не ожидая, способен создать то, чего раньше не существовало, например религию. Или повлиять на предвыборную гонку. А может, и эти строки написаны ИИ? Кто знает. ИИ в том виде, в котором он существует сегодня, необходимо запретить или хотя бы серьезно ограничить, иначе нас ожидает «конец демократии».

Примерно в эти три абзаца можно упаковать эссе размером чуть более полутора тысяч слов. Однако на развитие ИИ допустимо посмотреть и с иной стороны, которая не нашла отражения в современном дискурсе, по крайней мере не так явно и громко. Техноевангелисты не трубадурят, а молча и тихо делают свое дело.

Рустам Агамалиев: наблюдать следует не за машиной, а за человеком

Фортуна улыбается смелым.

Латинская пословица

Не так давно я прочитал статью Юваля Ноя Харари о взломе кода цивилизации и на два-три дня задумался. Сложно не согласиться с тем, о чем он пишет. Действительно, человеку для доминирования на Земле не потребовалось обладать длинными когтями, острыми клыками или могучей силой. Любой представитель дикой природы, который живет охотой, одолеет хомо сапиенса. Однако у человека есть то, что хотя и присутствует у льва, тигра, гориллы, но не развито на достаточно продвинутом уровне, – речь. Харари раскрывает в эссе довольно однобокий взгляд на машину, которая освоила речь. Пусть даже на уровне способности предугадывать следующее слово и генерировать местами осмысленные и глубокие, однако нечастые наборы слов, но освоила.

Речь – это звуки, которые складываются в слова, слова – в предложения, предложения – в абзацы, а абзацы – в текст. При помощи речи нам удается успешно коммуницировать, связывать мысль со словами. Однако в соответствии с мнением технолуддитов (будем называть так тех, кто переживает за человечество и считает, что угроза, исходящая от ИИ, реальна) речь – последний бастион человечности. Именно она отличает нас от «недумающей» машины и делает теми, кто мы есть. Харари посвятил этой теме больше полутора тысяч слов.

Сложно оспорить то, что благодаря языку мы стали хозяевами планеты. Способность выражать мысль словами понятно – уникальное свойство человека и наиболее универсальное. Благодаря речи мы обладаем возможностью манипулировать идеями, играть со смыслами и прошивать человеческий культурный код. Харари уместно привел в качестве примера деньги. По большому счету это не более чем бумажка с символами или код из нолей и единиц, если речь идет о цифровых деньгах. Они сами по себе не несут ничего, но благодаря речи и смыслу, заложенному в фундамент монетарной системы, человек получил универсальный инструмент обмена ценностями.

Речь – это в первую очередь способ передачи ценности и смыслов и один из способов скрыть что-нибудь за набором непонятных или мутных терминов. Человек достиг мастерства в игре словами и понятиями. И теперь это универсальное и уникальное свойство принадлежит не только нам. Вся наша культура – продукт речи. Все, что предстает нашему взору, наделено словесным смыслом, который мы же и заложили. Если мы не знаем, как что-то называется, или если это новый феномен, мы в первую очередь придумываем, как обозначить его в речи. Любой физический объект обладает лингвистическим смыслом. Благодаря языку мы можем манипулировать смыслами не только физически доступных объектов, но и абстрактных концепций, таких как теория относительности, теория вероятности, логика, математика (хотя в последнем случае это спорно: есть мнение, что мы биологически предрасположены к овладению математикой благодаря пальцам).

История человечества – это не события с датами, а мотивы и причины поступков, которые выражены словами, зафиксированы в летописях, народных сказаниях и фольклоре. Если нам нужно что-то выяснить, мы обращаемся к Google (или к другому поисковику) и вводим словесный запрос, который нам поможет. Когда тема необъятная и Google не дает ответа, удовлетворяющего потребность, мы идем в библиотеку. Поиск – это манипуляция со словами. Библия – это вера, выраженная в письменной форме, слова, которые мы наделили смыслом. Идея – это образ, который для успешного воплощения необходимо сформулировать в словах, письменно.

И вот нам дали поиграться с ChatGP T. О боже! Эта балаболка умеет играть словами, манипулировать идеями, отвечать на вопросы, сохраняя контекст. Не удивлюсь, если в какой-то версии она способна пройти «тест Тьюринга». Неужели Харари, Маск и прочие технолуддиты думают, что мы из-за этого теряем способность владеть языком? Эссе Харари, интервью Маска у Такера Карлсона говорят, на мой взгляд, именно об этом. О страхе, что теперь словами может манипулировать не только человек, но еще и компьютерный алгоритм. GPT делает это быстрее, точнее и аккуратнее, чем раньше это делал человек. Мы боимся, что кто-то, манипулируя алгоритмом, повлияет на наши действия, решения. Более того, Харари пишет о том, что мировоззрение может быть изменено, если не проконтролировать умную машину, а если не остановить развитие GPT, то свободе слова придет конец (это его последний аргумент). Все это сказано в будущем времени, позиция четкая: если мы не остановим ИИ, то нашей цивилизации будет плохо.

Но Харари и Маск опоздали. Мы потеряли контроль давно, когда появились социальные сети и всеми любимый ютьюбчик, где выдача контента происходит алгоритмизированно. В момент, когда мы позволили системе или тем, кто ею управляет, пессимизировать поисковую выдачу, мы отдали свободу. Харари, Маск и прочие техногиганты, подписавшиеся под письмом, опоздали. Нами управляют алгоритмы, и эти люди боятся утратить возможность влиять и контролировать алгоритм. «Демократия под угрозой» – так они говорят. Она давно сгинула, а все, кто о ней говорит как о чем-то существующем, глумятся над бренным ее трупом. Ну да ладно, пусть живут в своей иллюзии.

Я сейчас попробую посмотреть на ИИ и все, что с ним связано, как на нечто другое. Харари писал, что «взломан код цивилизации». Что история – это продукт деятельности операционной системы человека, ключевым элементом которой стала речь. По его мнению, она и способность коммуницировать взломаны ChatGPT. Но почему он решил, что может наступить конец истории человека? Я именно так интерпретировал его статью. Почему это не новый виток? Возможно, история перестанет принадлежать исключительно человеку, мы ее разделим между машиной и собой. Конечно, это все розовые мечты футуристов, но если размышлять широко, то почему бы не настолько масштабно?

С появления первой летописи мы считали, что история – это описание событий, произошедших в прошлом. Обычно они связаны с деятельностью человека как существа, обладающего свободой воли. Это крайне спорно, хотя бы потому, что поступки и действия человека становятся следствием биохимических процессов, происходящих в организме. Когда в нас бушует ураган гормонов, мы ли принимаем решения? Может, обстоятельства диктуют последовательность действий? Мы думаем, что обладаем свободой воли, и делаем предположение, будто история пишется биологическим существом, нами, доминирующим видом на этой планете. Однако теперь нам вдруг стало страшно, что вместе с нами историю может писать и машина. Сама или совместно с нами.

Если рассматривать технологический вид жизни как нечто потенциально возможное, то с таким отношением, которое есть сейчас, его существование действительно оказывается под вопросом. Нам необходимы еда и партнер для размножения, а машине этого не нужно. Роботы, заменившие человека в некоторых потенциально опасных профессиях, не обладают хрупким телом, им не требуется девяти месяцев на написание кода и десятки лет на воспитание мозга и декодирование и перенос культуры с буквенного выражения в смысловой. Им не нужны осознание и долгое обучение. Мы боимся этого: что машина станет разумной, что бы это ни значило. Но если вдруг это произойдет, что дальше? Отключать ИИ или оставить все как есть и наблюдать за происходящим? Для меня ответ очевиден: наблюдать.

Причем наблюдать не за машиной, а за человеком и его реакцией на то, что она делает. Видеть, как создается новый культурный объект, наделенный смыслом (мы, кстати, не знаем, существует ли уже что-то подобное). А вдруг машина создаст новую, уникальную идею, смысл который мы пока понять не в состоянии ввиду ограниченности вычислительной мощности мозга. Начнем ли мы жить в новой истории? Истории машины и человека? За всеми заявлениями о безопасности ИИ стоит звериный страх потери контроля. Как так, на Земле может появиться кто-то кроме нас, способный думать и, возможно, размышлять?! Важно отметить, что до этого еще очень далеко, даже рано об этом размышлять сколько-нибудь серьезно. Но раз все переживают о том, как не дать ИИ возможности развиваться, позволю себе рассмотреть другую сторону и порассуждать о причинах невозможности иного сценария. ИИ будет развиваться. Искусственное торможение технологии, возможно, замедлит, но не остановит этот процесс.

Пристегнитесь и наслаждайтесь поездкой в будущее.

Выводы

ИИ в нынешнем виде не способен никоим образом причинить вред человеку, однако мы активно пропитываемся культурой ненависти к технологиям. Голливуд не создает образ доброго ИИ. Конечно, не все, что делает «фабрика грез», представляет злой ИИ. Однако подавляющее большинство историй опирается в той или иной форме на страх человека потерять контроль, перестать быть единственным хозяином планеты, творцом среды обитания, рассказчиком, учителем, строителем и мастером своего дела. Действительно, сложно оставаться экспертом, когда интеллектуальная машина может сделать то же самое быстрее и лучше. Невольно вспоминаются слова Уилла Смита из кинофильма «Я, робот»:

У меня есть идеи для рекламного ролика вашей компании. Мы видим, как столяр делает чудесное кресло. А потом появляются роботы, делают кресло вдвое быстрее и вдвое красивее. И тут надпись на экране. USR. Смешаем с дерьмом людей. И уход в затемнение.

Потерять контроль – это еще ничего, но вот перестать быть мастером своего дела действительно страшно.