Текст книги "SWRRF. 20?? (воспоминания из будущего). Кн. 6. Часть 1"

SWRRF. 20?? (воспоминания из будущего)
Кн. 6. Часть 1
Владимир Левендорский

© Владимир Левендорский, 2023

ISBN 978-5-0053-7601-5 (т. 1)

ISBN 978-5-0053-7602-2

Создано в интеллектуальной издательской системе Ridero

SWRRF. 20?? (воспоминания из будущего)
Книга 6. Часть 1

…Александра удивили эти воспоминания, вдруг, всплывшие из глубин его памяти. Тогда ему было, наверное, чуть больше двух лет. И как все нормальные люди он, практически, ничего не помнил из того самого раннего периода своей жизни…

Память

Странно – или, точнее, до сих пор так до конца и не понятно, – устроен этот «механизм» нашего мозга, – память. Вопреки своему названию и убеждению большинства людей, основной «режим работы» этого «механизма» – забывание. И целью его работы является не примитивное накопление информации и максимальная скорость её обработки и «выдачи» в нужный момент всего это накопленного массива информации, а оптимизация принятия решений, умение забывать и отбирать, анализировать, синтезировать и аккумулировать значимую информацию и в нужный момент эту информацию предоставлять, преобразовывать информацию в практически значимые знания и жизненно важные действия.

Правда, его знакомые нейробиологи, нейрофизиологи, нейропсихологи и прочие нейро специалисты уверяют, что мозг на самом деле не забывает ничего. Как они говорят: человек – это то, что он помнит.

Но они же говорят, что новые воспоминания появляются во многом за счёт стирания старых воспоминаний, благодаря специальным «механизмам забывания», в первую очередь «дофаминового». И существует уже достаточно много методик, приёмов «стирания памяти», которые где-то используются в благих, медицинских целях, а где-то во зло… Но, зато, «в противовес», есть уже и немало эффективных методик восстановления памяти…

Всё-таки, скорее всего, всё, что в нашу память когда-то попало, лежит там на отведённой «полочке». Хотя аналогия с «полочками», тоже не точная. Она более-менее сгодится для «левополушарной» логической памяти. «Правополушарная» – это, скорее облако схваченных на лету образов, в которых переплелись запомнившиеся переживания, зрительные и звуковые впечатления, тактильные ощущения и двигательные реакции… А уж как между собой «договариваются» левополушарная и правополушарная…

Поэтому, что-то с этих «полочек» ты можешь в нужный момент достать и сам, благодаря сформированным по ходу жизни приёмам, «техникам», «механизмам» отбора и запоминания нужных знаний и навыков. Но часто мозг сам, вдруг, решает, что с этих «полочек» достать и предъявить тебе. Иногда эти сюрпризы мозга ты воспринимаешь как занятные курьёзы. Но, порой, таким образом твой мозг помогает тебе выбраться из кризисной ситуации, даже, спасает жизнь. Ты, вдруг принимаешь решения, «на автомате» совершаешь действия, в которых потом не можешь дать рационального отчёта. А многое из того, что только что совершил, даже, уже не можешь вспомнить…

В общем, у нашей памяти много разных типов, видов и ещё больше способов взаимодействия между этими видами. Так что всеохватывающей полной модели работы человеческой памяти не удалось создать до сих пор. Но уж она точно не строится, как «компьютерная», по всяким «реестрам», «облаками», передачи воспоминаний из кратковременной памяти в долговременную и обратно…

В принципе, это было известно давно, очень давно.

И неужели все те «улучшатели человека» этого не знали. Должны были знать. Но на тогдашней стадии «индустриальной науки» с её запредельной специализацией и слабых только зарождающихся ростков интеграционных структур новой науки, специалисты, разрабатывавшие «чипы памяти» для человека, имели поверхностные представления о работе человеческого мозга, вообще, и памяти, в частности. А кто-то из них и осознанно упрощал эти представления, подгоняя под свои научные открытия и изобретённые технологии. Из обычного бескорыстного искушения исследователя, переживающего эйфорию «этапа демиурга», когда ему искренне кажется, что его изобретение, открытие сами по себе сделают мир и человека лучше. Но, скорее, из честолюбия и корысти, в попытки побыстрее «застолбить открытие», первым «выбросить его на рынок», «стать богатым и знаменитым»…

Те «чипы памяти» разработчики позиционировали, а производители рекламировали как personalized artificial intelligence systems – PAIS. Но в быту их называли или mental chip, или memory chip – MC. И по существу это были именно чипы памяти. А все привязки к ИИ, были, прежде всего, данью тогдашней моде – тогда всё, что ни возьми, было или «системами ИИ», или, по крайней мере, «с элементами ИИ»… Эти обещания «вот-вот» создать «настоящий Искусственный Интеллект» позволяли выжать большее финансирование исследовательских и бизнес проектов, чиновникам под нагоняемые страхи «отстать в гонке ИИ» получать большие бюджеты под распил, политикам отвлекать внимание от реальных проблем…

На волнах нагнетаемого энтузиазма, гламурных маркетинговых кампаний, паразитирующих на главной «слабине» человеческой психологии – вере в чудо, – плодились стартапы-пустышки, привлекавшие под броской вывеской: «Artificial intelligence», – миллиардные инвестиции, по большей части, «уходящие в песок»…

Но пресловутая «Сингулярность» – появление настолько продвинутого ИИ, что он мог бы проектировать, создавать и самого себя, и самовоспроизводящиеся «обслуживающие» комплексы систем и механизмов, и таким образом стать полностью автономной, самодостаточной, самовоспроизводящейся и саморазвивающейся системой, – в то время так и не наступила. Как не наступила и сейчас. И не наступит в обозримой перспективе.

А, скорее всего, вообще, никогда не наступит…

Для этого, очевидно, есть фундаментальные ограничения, заложенные в основу нашего мироздания, мира, в котором возможно существование человека.

Множества в диаграммах Венна… континуум Кантора… теоремы Гёделя и Коэна… Все они говорят о неустранимой неполноте любого математического языка и, соответственно, любых алгоритмов. С их помощью ни одно утверждение, ни одну гипотезу в конечном счёте нельзя ни подтвердить, ни опровергнуть, а можно только построить аксиоматические вселенные, в которых эти утверждения, гипотезы могут быть верными…

Неужели все те строители «Сингулярности» этого не знали?

Но, хотя бы, одного из своих «апостолов», Алана Тьюринга, который ещё больше века назад обнаружил класс проблем, которые ни одна компьютерная программа не может гарантированно решить за любое конечное число шагов, – его-то они должны были читать…

Может, при падении уровня фундаментального образования, всеобщем натаскивании на быстро меняющиеся «компетенции», многие ничего этого не знали и не читали. А те, кто знали, предпочитали об этом на публике не упоминать. А то как же поддерживать «хайп» на теме «Сингулярности», под который можно выбивать финансирование любых проектов ИИ?…

Да и с точки зрения теории систем создание такого всезнающего, всё контролирующего, всем управляющим ИИ, скорее всего, просто нереализуемо. Потребуется создать такое множество системных отношений, выстроить структуры такой сложности, с таким множеством прямых, обратных, промежуточных связей… Само создание такой системы, наверное, потребует бесконечной энергии и бесконечного времени…

Возможно, наша Вселенная и есть такой постоянно создающий себя «Сверхразум»?

А ещё любили тогда всех завлекать утверждениями, что «создают искусственный интеллект по модели мозга человека». И как-то никто не задумывался, что потребность в создании модели чего-то возникает, когда «первомодель», «образец» или уже отсутствует, или существует реальная угроза её утраты, или тебя не удовлетворяют её «функциональные возможности». Если человек теряет руку или ногу, резонно поставить вопрос о создании их протезов. Если у тебя ноги, руки есть, но существуют проблемы с их функционированием, или тебе для решения каких-то экстремальных задач требуются их улучшенные, усиленные функции, вполне резонно поставить вопрос о создании экзо-скелета… А создатели «модели мозга» что имели в виду? Что у большинства людей его уже нет, или они его скоро утратят, или они уже отупели настолько, что их мозг стал нефункционален?..

А как с их собственными мозгами? Как можно создавать что-то по не существующей модели? Ведь, ни тогда не было, ни сейчас нет сколько-нибудь адекватной модели работы человеческого мозга. И это только итоги работы мозга – изобретения, открытия, – выглядят как результат логической работы, потому что для дальнейшего применения, использования другим людьми они должны быть представлены в такой логической, доказуемой другим и воспроизводимой другими форме знания. Но, как, на самой деле, были сделаны открытия, точно не могут сказать даже их авторы…

Хотя, самих нейронов в среднем в мозгу человека всего около восьмидесяти пяти миллиардов («мелочь», даже, не для самых мощных современных информационно-аналитических систем). Но возможное число связей между ними даёт число с теми же восьмьюдесятью пятью, но уже нулей после единицы. Это больше, чем предполагаемое число элементарных частиц во Вселенной. Но это только число межнейронных связей, передающих электрические импульсы. А каждый такой электрический импульс запускает работу синаптических пузырьков, где находятся около пяти тысяч молекул вещества-медиатора, которые начинают в каждом случае по-разному воздействовать на «соседние» синапсы, «нажимая» на специальные белки. (И это тоже известно уже полтора столетия после открытия Лёви нейромедиаторов). И, таким образом, число возможных вариантов взаимодействий между нейронами увеличивается ещё на несколько порядков. А с уровня этих химических реакций неминуемо переходишь на уровень взаимодействия элементарных частиц и всевозможных квантовых эффектов, с которыми и сейчас-то многое не понятно. Так что многие физики, знакомые Александра, занимающиеся квантовыми эффектами в нейронных взаимодействиях, в той или иной мере склонны к некому «научному мистицизму», полагая что через эти квантовые эффекты человеческое сознание напрямую взаимодействует с некими силами, «потоками информации», заполняющими Вселенную. Кто-то из них, вообще, считает, что человеческий мозг сам по себе, в общем-то, и не мыслит. Он является чем-то вроде принимающего устройства, получающего сигналы – тут кому как нравится, – от Бога, Вселенского Разума… И образование, воспитание человека – это настройка такого принимающего устройства, чтобы правильно принимать и интерпретировать сигналы, «поступающие Оттуда»…

Но это лирика и философия.

И без них понятно, что смоделировать работу всего человеческого мозга невозможно. Но вполне возможно, чтобы «облегчить жизнь», удачно и эффективно смоделировать некоторые его функции на основе заведомо упрощённых моделей этих функций. И, собственно, все нормальные учёные, инженеры, конструкторы этим занимались и занимаются. А если и пускались в рассуждения о «моделировании мозга человека», то для «пиара», без которого в том мире сложно было получить деньги под свои проекты.

И к тому времени, о котором идёт речь, пройдя довольно быстро в начале века «доисторический период» квази-интеллектуальных систем – массовый мониторинг состояния здоровья, оценка кредитоспособности клиента, рейтинги привлекательности сайтов знакомств, расчёты медицинской страховки, прогнозы преступлений, определения мер пресечения для не самых опасных преступников и тому подобное, – уже было создано достаточно много вполне продвинутых интеллектуальных систем, если под «интеллектуальностью» понимать способность совершать сложные аналитические операции, принимать самостоятельные решения и самостоятельно же управлять достаточно сложными процессами и системами…

В то время они были преимущественно рефлексного, логического уровня и в виде «симулирующих» алгоритмов.

Первым делом такие системы стали решать широкий круг и так уже достаточно формализованных задач в расчётах, принятии решений, выполнении достаточно сложных комплексов действий… Всё, что строилось по заведомо упрощённым моделям реальности, взаимодействиям объектов в системе: вещь-свойство-отношение. И обучении понимания указаний человека в таких системах, ориентации в пространстве, алгоритмов управления в этом пространстве самим собой, подчинёнными и подключаемыми устройствами…

Задач, решение которых, благодаря простому увеличению быстродействия компьютеров, роста объёма обрабатываемой информации и роста скорости передач данных по каналам связи, – само по себе выводило эти системы на качественно иной уровень, делало их «интеллектуально-логическими».

Уже к началу тридцатых к таким интеллектуально-аналитическим комплексам, кибер-физическим системам отошло решение всяких бухгалтерских расчётов, финансовое прогнозирование и аналитика, транспортно-логистические системы, регулирование товарных потоков… Появилось множество робототехнических комплексов, автоматических систем управления для большинства промышленных производств и значительной части сельхозпроизводства, для транспортных, коммунальных систем и отдельных домохозяйств… Все те первые, как тогда любили выражаться, «умные» дома, города, дороги, заводы…

Возможность работы с огромными массивами данных из исследований психологии, биологии, физиологии, позволили создать множество вполне адекватных алгоритмов распознавания голоса, выражений лица и основных эмоций, понимания речи и жестов, интерпретации прочих вербальных и невербальных сигналов… И всё это переводить в системы реакций, взаимодействия, «правила поведения», natural language processing, позволявших выстраивать полноценный диалог этих роботизированных комплексов и аналитических систем с человеком на «обычном языке». Что создало возможность не только «свободно общаться» с этими аналитическими и роботизированными системами с использованием «обычного языка», но и производить настройку, прикладное программирование на «обычном языке».

И тогда вслед за бухгалтерами, продавцами, кассирами, финансовыми аналитиками, работниками банков, брокерами, логистами, юристами, переводчиками, водителями, машинистами и многими другими профессиями, стали массово терять работу программисты, те миллионы «писателей кода», которые всю эту «цифровую цивилизацию» и создали…

Ведь, этому логико-алгоритмическому интеллекту проще всего было разобраться в уже формализованной и алгоритмизированной реальности языков программирования. И вот тут, действительно, это «интеллект» стал плодить и размножать себя в виде множества программ и приложений… Автоматизированные программирующие комплексы начали плодить операционные системы, протоколы, программы и приложения в неимоверных количествах.

Ещё когда дело шло о криптографии, разных протоколах, драйверах, прочем программировании и проектировании «железа», в подавляющем большинстве случаев это были вполне адекватные, реализуемые решения, часто более эффективные, чем мог создать человек. Правда, и здесь иногда задавались такие параметры, которые существующие материалы и технологии не позволяли реализовать. Но эта проблема легко решалась прописываем дополнительных ограничений и, кроме того, такие проблемы подсказывали направления в развитии технологий, материаловедения и тому подобных вещей. Но чем дальше, тем больше эти автоматизированные программирующие комплексы стали тратить время на саморазвитие, самообучение и «реализацию своих творческих амбиций»… Большая часть всего этого творчества было не применимо, не имела практического значения…

Здесь, в общем-то, не было ничего нового. Этот феномен известен любому человеку, достаточно прилично знающему математику и математиков. Математики тоже любят так развлекаться, когда у них на это есть время. Строят математические модели всяких теоретически мыслимых явлений, процессов, … целых «вселенных». Правда, как в большинстве своём, люди адекватные и широко образованные, они тут же не бегут всем рассказывать о всех этих «мыслимых вселенных». Потому что большинство выведенных ими формул и законов, описывающих эти вселенные, не находят себя подходящих аналогов в природных, жизненных явлениях и процессах… И они, лишь, пытаются донести свои открытия до коллег из других наук в надежде, что кто-нибудь из них скажет: «Ба! Да это ж классно описывает хрень, над которой я уж пару лет бьюсь…» Или ждут, пока эти самые коллеги откроют какую-нибудь новую «хрень», которая хорошо «ляжет» на уже открытые ими математические решения…

Собственно, поэтому Теорию Относительности называют «Теорией Эйнштейна», а не «Теорией Гильберта» или, хотя бы, «Эйнштейна-Гильберта», хотя без гильбертовского «математического аппарата», выведенных с помощью его «уравнений поля», никакой Теории Относительности не было бы. Но сам Гильберт замахнулся на более масштабную теорию, которой не нашлось соответствия в природе, реальным экспериментальным физическим данным. Потом у Гильберта похожий казус случился с обнаруженным им набором математических векторных пространств, которые в целом были перспективны для квантовой физики, но не все, чисто математически выводимые, предсказания имели «физический смысл», и только некоторая корректировка математических выкладок Гильберта привела, в конце концов, к появлению «гильбертовского пространства», которым физики успешно оперируют в своих теориях. Но, с другой стороны, и «чистая математика» не раз подправляла физиков, в том числе того же Эйнштейна, который первоначально ввёл в свою теорию «космологическую постоянную», по существу, антигравитацию, в результате чего достигалась статичность Вселенной. А Фридман, особо не вникая в «физические аспекты» теории Эйнштейна чисто математически, решениями системы уравнений с частными производными, доказал, что введение космологической постоянной не обосновано и что Вселенная поэтому является расширяющейся. И Эйнштейн, как честный учёный и искренний человек, в конце концов, эти выводы принял. А чуть позже Хаблл по результатам наблюдения множества галактик и их «красных смещений», открыл зависимости красного смещения от расстояния до галактики, и, таким образом, экспериментально доказал расширение Вселенной…

Но те автоматизированные программирующие комплексы скромностью больших учёных не обладали. И без зазрения совести ради своего саморазвития и фантазий стали слишком много «жрать» энергии и «машинных ресурсов». Владельцы таких коммерческих комплексов старались и из этих фантазий извлекать какую-то пользу. Для пиара периодически вбрасывали в «медийное пространство» инфу о каком-нибудь экзотическом бреде, которую их система сваяла. И на фоне существовавшей тогда эйфории на темы близкого торжества ИИ, все это раздувалось как великая научная и технологическая новость… Но, в целом, оставляя какие-то ресурсы для саморазвития этих систем, стали более жёстко направлять и регулировать их творчество.

Правда, поначалу, получив, вроде бы, достаточно конкретную задачу, всё равно, эти программирующие комплексы начинали чудить. Им в вводном историческом курсе по информационно-аналитическим комплексам в качестве показательного курьёза рассказывали такую легенду.

На самой заре появления таких комплексов один из тогдашних «Монстров программирования», контролировавший в то время около четверти рынка «программных продуктов», обзавёлся одним из первых достаточно продвинутых автоматизированных программирующих комплексов, который тогда, естественно, рекламировали как «Супер-Интеллект». Тогда такие комплексы были ещё дорогими, требовали много энергии и их размещение требовало больших территорий. Их могли позволить себе очень немногие. Но всем было уже ясно, что вопрос удешевления производства таких комплексов, уменьшения их энергозатратности, размеров…, – это вопрос времени и не такого уж далёкого. В перспективе пяти-семи лет подобные и, даже, лучшие комплексы смогут позволить себе многие. Надо было завоёвывать рынок, пока у тебя явные преимущества. Лучше всего заявить о каком-нибудь масштабном проекте, который «осчастливит» всё человечество.

И МонстрПрограммирования решил замахнуться на Интеллектуальную Систему Глобального Управления перемещения товаров и услуг. Обещали создать систему, которая позволит доставить любой товар любому человеку из любого конца света, максимум, за десять часов. Но это только для случаев, когда товар надо будет доставлять «с края света», а для большинства случаев всё будет доставляться в считанные минуты.

Загрузили все доступные тогда базы производимых товаров, транспортных сетей, систем доставки и, даже, личных транспортных средств. Не только легальных, но и баз данных, полученных от спецслужб, с которыми МонстрПрограммирования сотрудничал уже не одно десятилетие. Понятное дело, на взаимовыгодной основе: спецслужбам МонстрПрограммирования в благодарность обещал детальные модели транспортных сетей «возможных театров военных действий» с «вероятными противниками». Кроме того, по поставкам комплектующих, можно было легко вычислять и «стратегически важные производства». Да и сам МонстрПрограммирования озаботился созданием такой Системы, конечно же, не из желания облагодетельствовать человечество. Можно представить, сколько бы зарабатывал и какую власть над миром этот МонстрПрограммирования получил бы, контролируя почти все перемещения почти всех товаров…

Сразу возникли проблемы с «глобальностью», потому что не было надёжных данных из всяких «недоразвитых территорий», «зон локальных конфликтов» и тому подобное. Кто-то отказывался предоставлять требуемые данные, в первую очередь те же «стратегически важные производства» (но тут что-то дополнялось данным спецслужб). Но всем этим вполне логично можно было пренебречь, как малозначимой информацией для большинства потребителей…

Но уже первый вариант этой Глобальной системы управления движения товаров озадачивал. В эту систему были включены и люди, как «объекты» перемещения в транспортных сетях и как «потребители» всех прочих перемещаемых «объектов» – товаров. И система решила, что для расчётов перемещения такого «объекта» как человек, надо строить сложные вероятностные модели, что было совсем нерационально. Человеку, как потребителю, рациональнее сидеть на месте и спокойно заниматься этим самым «потреблением».

Но вскоре Система выяснила, что и потребляет человек как-то нерационально, кто больше, кто меньше, что-то одни могут позволить себе потреблять, другие нет… Тоже надо было заморачиваться построением специальных моделей потребления. Чтобы найти более рациональное решение, Система запросила дополнительные данные по биологии и физиологии человека, данные о природных условиях разных регионов, более расширенные данные о потребительских свойствах разных товаров, их функциональности и сроках использования и безаварийной работы… И в результате создала Оптимальную Модель Потребления, что-то вроде продвинутого варианта «уравниловки», «цифровой социализм»…

А потом Система стала сомневаться, а нужен ли в создаваемой ей идеальной модели движения товаров человек, откровенный паразит с точки зрения Системы. Система стала запрашивать дополнительные данные о функциональности и технологи производства разных товаров… Но ту уж ей, явно, стало не хватать ресурсов, она стала упрощать модель, выкидывая целые товарные группы (первым делом продовольственные, которые нужны только этому паразиту – человеку). Да и топменеджерам «Монстра программирования» стало ясно что их «Супермозг» создаёт что-то не то… Всё это смахивает на упрощённый вариант той самой «Сингулярности».

Создаваемые поначалу мощный «хайп» вокруг и самого «Супермозга», и создаваемой им Глобальной Системы, стал незаметно сдуваться и сошёл на нет. И, в конце концов, в то время все закончилось созданием отраслевых баз данных, региональных транспортных моделей и моделей потребления, на основе которых стало возникать множество Потребительских аналитических комплексов вроде Глобуса Универмага в Городе и автоматизированных комплексов продаж вроде «стриптизёрши» автосалона в том же Универмаге ^[1]…

Те первые интеллектуальные логические и роботизированные комплексы, совершая намного быстрее, точнее и безупречнее человека вычисления, логические операции, близкие рациональному человеческому мышлению, разнообразные технологические действия и операции, во многом были «глупее» малых детей и высших животных.

У них были проблемы с выявлением причинно-следственных связей, понимания абстракций, решения проблемы связи сжатия информации и её обобщения… Даже, с распознаванием объектов достаточно долго были проблемы. Комплексные системы распознавания образов, «слёту» схватывали в мельчайших деталях форму любого объекта, важнейшие свойства его структуры… Но нужно было понимать ещё «природу объекта», материалы, из которых он создан. Без этого невозможно определить, какое надо прилагать усилие, чтобы выполнить необходимую операцию, не повреждая объект, специфику самой этой операции, особенности манипулирований с объектом…

В принципе, с большинством таких проблем тогда успешно справлялись, благодаря созданию продвинутых техник глубоко обучения, формированию конструкторов алгоритмов… Но всё это вполне надёжно работало в системах, расположенных на каком-то конечном пространстве (пусть и занимающем десятки квадратных километров), с неким конечным числом управляемых объектов (даже, если их были многие тысячи) и нацеленных на решение какого-то конечного числа задач, решаемых неким конечным числом «сценариев»…

Все это в таких случаях решалось созданием комплекса «мастер-программ», создававшихся во взаимодействии соответствующего «ИИ» и человека, его контролёра-настройщика. А те уже «мастер-программы» обучали своих «коллег» и подчинённые менее продвинутые системы…

В задачу человека входило «подсказывание» решений в ситуациях, которые не имели однозначного формально логического решения или расчёты «ИИ» давали вероятностные результаты… По возможности выявлялись все такие ситуации в рамках решаемых программой задач. Но все ситуации, даже, в таких системах стопроцентно не удавалось просчитывать… Поэтому в их закладывались стоп-алгоритмы, ситуации, в которых система «ИИ» должна было обратиться за помощью, советом к человеку. «Сценарии» прохождения таких выявляемых с помощью человека ситуаций включались в усовершенствованные программы «ИИ».

И ещё задавались «красные линии», действия, которые «ИИ» ни в коем случае не должен была совершать. Потому что пресловутое «первое правило робототехники» на деле оказалось прекраснодушной общей декларацией. Уже в самых первых ИИ-системах пришлось «программировать убийство». И не только в «боевых вариантах». Но и, например, в программы управления автопилотов машин. В эти программы приходилось включать алгоритмы, как действовать в экстремальных ситуациях, когда надо решать, чьими здоровьем и, возможно, жизнью жертвовать: «своего» пассажира или других участников сложившийся ситуации. Универсальные этические алгоритмы долго не получалось создать. В реальности в то время для каждой системы с «ИИ» надо было прописывать, что не надо делать, чтобы фатально не навредить человеку, самой себе и среде в которой система работает…

За всем этим надо было следить: как система самообучается, не выходит ли за «красные линии»…. И тогда появились новые профессии, которые в какой-то мере компенсировали рост безработицы, вызванный массовым увольнением «кодописателей», – появились, упомянутые уже, контролёры-настройщики интеллектуальных систем.

Эти профессии были очень востребованными и очень хорошо оплачиваемыми, потому что мало кто для них годился. Помимо знания алгоритмом и языков «старого программирования», элементы которых, как подчинённые вторичные подсистемы входили в системы «ИИ», для этих профессий нужно было хорошее, «фундаментальное», математическое образование, которое в то время уже мало где можно было получить, не менее хорошие знания различных фундаментальных наук и прикладных дисциплин в зависимости от круга решаемых интеллектуально-логической системой задач… А ещё у этих людей должны были быть отменное здоровье, устойчивая психика и позитивный жизненный настрой…

Когда ты работал в качестве «контролёра», тебе надо было внимательно следить, когда контролируемая тобой система наткнётся на «стоп-точку» или «красную линию», и тогда тебе надо было быстро подсказать правильное решение или отрубать какой-то сегмент системы или её целиком… Внешне это было похоже на работу былых операторов атомных электростанций, диспетчеров аэропортов и железнодорожных узлов… Только принимаемые решения были намного сложнее и скорость принятия решения требовалась более быстрая…

Но эти самые «точки» и «линии» в твоё дежурство могли и не появиться. Они могли не появиться и в течении недели твоих дежурств, и месяца… И это было хорошо. Значит, система качественно запрограммирована и обучена. Каждая такая «точка» или «линия» – экстремальные ситуации, которые, понятное дело, лучше бы, вообще, не происходили…

Но всё это время ты должен был быть готов к их появлению, должен был максимально внимателен, собран, сконцентрирован. Ты находился в колоссальном напряжении. Стандартное дежурство длилось два с половиной часа: три «захода» в Центр контроля по полчаса с получасовыми перерывами. В этом режиме ты работал пару месяцев, а потом получал двухмесячный «отпуск»…

Когда же ты выступал в роли «настройщика», тоже требовались и терпение, и выдержка. Вначале тебе приходилось «как дитю малому» разжёвывать «элементарные вещи». А когда обучаемая система переходила из детского в подростковый возраст, начинала конструировать свои алгоритмы, создавать свои модели и сценарии, то приходилось бороться с «подростковыми синдромами» безаппеляционности, бескомпромиссности, склонностью упрощать проблемы и их решения… Бороться с этим лучше было тем же способом, что с обычными, человеческими, подростками: в целом, контролировать ситуацию, но «отойти в сторону», пока обучаемая система сама на начнёт вырубаться, зависать, наткнувшись на «стоп-точку» или «красную линию»…

И в любой ситуации ты должен был быть предельно корректен и доброжелателен, потому что, даже, те системы начального интеллектуального уровня, как быстро выяснилось, очень легко перенимали стиль общения. Во все эти системы, их нейроинтерфейсы в качестве основного обучающего «механизма» включались подсистемы «нейронных сетей», моделирующие работы «зеркальных нейронов». Эти системы, как и люди, быстрее схватывали всякие отрицательные качества: агрессивность, грубость, самоуверенность… А надо было выстраивать с ними позитивную систему взаимодействий…