Текст книги "Системное мышление 2024. Том 2"

Интеллектуальные агенты в системах

Человек, равно как и AI-робот в составе систем учитывается сложно, ибо он одновременно может быть

• и целевой системой («продуктом»)

• и надсистемой, где чаще удобней рассматривать даже не всего человека, а его часть – часть тела::hardware или мастерство как часть личности::software,

• и материальным «оборудованием» типа станка в составе создателя (если он делает что-то руками/манипуляторами, а всякие молотки и стамески и даже моделеры тут просто продолжение его рук или мозга/вычислителя),

• и быть конструктивом/«материальным телом» с его весом и инерцией, влажностью и твёрдостью (как, например, в учёте инерционного движения в телесных практиках или робототехнике или в примере с наручными часами),

• проектной ролью, или даже целым набором проектных ролей: мы можем не учитывать мнений и интересов животных (хотя и это плохо), но мы принципиально не можем не учитывать мнений людей-в-ролях, вынуждены считаться с решениями AI и даже просто компьютерных программ (помним про «я бы помог, но компьютер не даёт»), и ещё решения организаций как «юридических лиц».

А ещё у людей и организаций есть отношения подчинения/руководства и отношения собственности по поводу вещей, и люди (и организации, а ещё и AI-агенты) занимают какие-то должности. И ещё они «принадлежат» каким-то государствам. С агентами сразу всё сложно: агенты сложны, их поведение плохо предсказуемо, они сложно описываются. Перед тем, как делить сложное мышление проекта между разными агентами (сегодня это не только люди!), мы рекомендуем отмоделировать и документировать то, что вы знаете про агентов, чтобы не запутаться и чего-то не забыть. Про людей, их AI-системы, команды и коллективы (команды команд), организации (предприятия и расширенные/extended предприятия/enterprises) вы будете думать и писать неожиданно много, мышление об интеллектуальных агентах и их группах не самое простое. Если подниматься ещё выше по уровням сложности, то это будут уровни сообществ (в том числе бизнес-эко-систем), обществ и человечества (а сегодня ввиду разнообразия агентов, правильнее бы называть «агентечества») в целом.

Люди могут договариваться друг с другом по самым неожиданным поводам и предпринимать по линии этих договорённостей самые неожиданные для команды проекта действия, причём из лучших побуждений. Скажем, вы поручаете заводу-изготовителю сделать по вашей 3D инженерной модели медный теплообменник. Инженеры этого завода вдруг находят, что меди там многовато, и они из лучших побуждений убирают медь – меньше материалоёмкость, более тонкие стенки, лучше теплообмен! И изготавливают «улучшенный вариант, наши улучшения – это наш бонус вам». Вы включаете теплообменник, тонкие стенки под напором жидкости начинают гудеть громче, чем концертный орган! Теплообменник стал генератором вибраций, источником шума! Вот так бонус! «Хотели как лучше, получилось как всегда» – это весьма распространённое явление в проектах по созданию и развитию систем, поэтому-то любые изменения и имеют статус «гипотезы», всегда надо быть готовым к тому, что «гипотеза не подтвердилась». И ведь без «инициативы снизу» проекты тоже не живут!

Лучшие методы менеджмента и инженерии (например, культура архитектурной работы) как раз таковы, что неизбежные ошибки, неизбежные мутации не приводят к потере работоспособности системы, к необходимости переделывать систему с нуля. Подробнее эти методы/способы/практики разбираются в курсах «Системная инженерия» (особенно этим озабочен метод непрерывного принятия архитектурных решений в ходе инженерного проекта) и «Системный менеджмент».

Агенты, в том числе и коллективные агенты обычно участвуют ещё и сразу в нескольких командах, которые заняты каждая в нескольких проектах по созданию и развитию систем. Помним, что в области интереса (набор предметов интереса в какой-то одной предметной области) у каждой выполняемой агентом роли есть не просто предпочтения в каких-то значениях интересных для них характеристик, но исполняющие эти роли агенты будут менять свои роли, менять себя (и развивать тело и экзотело, и развивать личность, осваивать новые виды мастерства), менять окружающий физический мир для реализации этих предпочтений. Агенты (люди, AI-агенты, их организации) дьявольски изобретательны в достижении предпочтительного для них состояния мира. Они будут влиять на ход проекта по созданию системы и на получившуюся систему самыми неожиданными для друг друга способами. Кто-то::агент упростит целевую систему инженерно без потери функциональности, кто-то договорится о дополнительном финансировании, кто-то договорится про такое изменение надсистемы, при котором целевая сможет быть дешевле. А кто-то провернёт мошенничество в надежде, что это или никто не заметит, или заметит – но ничего не сможет сделать без сильного ущерба для заметившего. Агенты изобретательны и деятельны. Посмотрите в зеркало: вы и есть такой агент, все остальные вряд ли хуже!

Пример системы с входящими в её состав людьми у нас в курсе уже разбирался – это танцевальный перформанс/выход. Разворачивающийся во времени процесс смены состояний перформанса задаётся на системный уровень ниже как перечисление смены состояний входящих в него взаимодействующих физических объектов, причём эти объекты выделяются вниманием в момент проведения перформанса. Не следует останавливать взаимодействие частей-подсистем перформанса и разбирать перформанс::систему на конструктивы во время эксплуатации/работы/функционирования (пытаться представить взрыв-диаграмму), надо не разбирать систему, а выделять в работающей системе части вниманием.

Танцевальный перформанс вполне можно представить как систему, только его нужно представлять в пространстве-времени, а не только в пространстве. Основные функциональные части-подсистемы тут будут танцующие::функция танцоры::роли/подсистемы. В перформансе люди-агенты выступают и как материал/конструктив (физические тела, меняющие форму в пространстве-времени), и как функциональные объекты – проектные роли танцоров. Танцевальный перформанс не обладает сложностью предприятия и тем самым не требует рассмотрения сложных вопросов корпоративного управления, стратегирования, операционного менеджмента/управления работами. Танцевальные перформансы бывают и сольные, и социальные (парные, друг для друга, а не для зрителей), и групповые/ансамблевые. Кроме танцоров там нужно учитывать место перформанса (помещение или даже улицу для уличных выступлений), зрителей, иногда судей (танцевальные конкурсы), музыку и музыкальную аппаратуру. Танцуют не всегда люди, иногда это киборги (скажем, танцор с дополнительными четырьмя робототехническими руками в рюкзаке6565
  https://vk.com/wall-179019873_1747


[Закрыть]). Это отличный пример, на котором можно тренировать своё системное мышление6666
  Тексты про танцы и системное мышление публикуется в https://vk.com/buffdance


[Закрыть].

Мероприятия так же являются классическим примером систем с людьми. Методы менеджмента мероприятий (event management6767
  https://en.wikipedia.org/wiki/Event_management


[Закрыть]) даже стали университетской учебной дисциплиной – создать и развить (скажем, провести концертный тур) концерт или ежегодный рок-фестиваль трудно, но ничего необычного в этом сегодня уже нет.

Рассмотреть тысячи людей в составе системы-мероприятия вполне возможно, серию мероприятий/events (например, ежегодный фестиваль) можно рассматривать как изготовление непрерывно развивающихся версий системы в машиностроении или выпуск версий софта. Мы тут намеренно используем инженерную терминологию («изготовить концерт», «выпустить фестиваль»), чтобы показать общность мышления для самых разных систем. Конечно, в менеджменте мероприятий используется другая терминология, но сам выбор слов-терминов тут не так важен. Важно, что при мышлении о мероприятиях/events вы выбираете типы системного мышления и используете понимание того, как изготавливают успешные системы из системной инженерии. Сами способы/практики работы (культура работы, стиль работы, деятельность, метод – термины тут не так важны) в event management будут даны в прикладных курсах, но увязать всё это мышление о самых разных подпроектах (скажем, договориться с инженерами по звуку, договориться по поводу вентиляции и т. д. – чисто инженерные подпроекты) можно именно на базе использования системного мышления. Важно обращать внимание на общий способ рассуждений во всех проектах, связанных с созданием систем с участием в них агентов (людей, AI-роботов и даже организаций) как подсистем.

Домашнее хозяйство, где есть дом с утварью и его жильцы (в том числе роботы), уже рассмотренный случай потребителя одежды и гаджетов – это всё примеры систем с агентами-людьми.

Сложнейшими системами с людьми и AI-агентами являются такие групповые создатели/enabling/constructor systems как предприятия, рабочие группы проекта, расширенные предприятия (extended enterprise, предприятие с его контракторами, занимающееся какой-то большой целевой системой, например, атомной электростанцией, или серийным выпуском сложных транспортных систем – самолётов или автомобилей).

Системы с людьми (включая их организации) – это обязательно системы систем в силу того, что люди обладают свойством самопринадлежности. Поэтому с системами с людьми в их составе нельзя работать простыми инженерными методами, по которым можно сконструировать простую механическую или механическую с элементами электроники систему, изготовить её части и собрать их в работоспособное целое. Нет, метафора часовщика с изготовлением деталей и их сборкой не работает. С людьми (как и любыми другими живыми «выращиваемыми» системами, а также обучаемыми AI-системами) больше работают «сельскохозяйственные» метафоры:

• в небольших системах систем садовника (который имеет контроль над тем, что создаёт, успевает позаботиться о каждом росточке на каждой клумбе, знает положение каждого дерева и ухаживает за ним),

• больших системах систем лесника (который не имеет контроля над своим лесом – где какое дерево или кустик вырастет, но тем не менее лесник имеет достаточно влияния, чтобы предотвратить какие-то серьёзные негативные события: может предотвратить пожар, подкормить зимой животных, отогнать браконьеров).

В особо крупных системах (большое сообщество, общество в масштабах государства, всё человечество) иногда говорят уже не просто о сложности системы, а сложностности или сложносистемном мышлении6868
  См. литературу в П.К.Гречко «Сложносистемное мышление: методологические перспективы. Парадигмальная эвристика complexity в современном социально-гуманитарном познании», https://journals.rudn.ru/philosophy/article/view/11283/10713


[Закрыть], что не позволяет как-то строить действия с предсказуемым результатом – результаты проектов, имеющих дело с большим количеством людей, всегда в значительной мере неопределённы, они описываются вероятностно, хотя и детерминированы (детерменированы – это означает, что в них нет места «случайности», всегда есть причины, но вот предсказать итоговый результат – нельзя6969
  Различение случайности и детерминистичности в физике: https://arxiv.org/abs/1507.03287


[Закрыть]). Нужно всегда помнить, что эволюция порождает сложность, порождает всё более и более высокие уровни организации, и действующая сила этой эволюции – конфликты между системными уровнями, ведущие к неустроенностям7070
  https://elementy.ru/nauchno-populyarnaya_biblioteka/434505/Konflikty_kak_osnova_slozhnosti


[Закрыть].

В особо крупных и сложных системах из людей, роботов, инструментов/оборудования, то есть сообществах (включая сообщества предприятий – эко-системы), обществах, человечестве (с учётом всех остальных агентов более подходит «агентечество», а не «человечество») в целом всё настолько сильно связано друг с другом и настолько неожиданным образом реализация намерений одних агентов сопротивляется или помогает реализации намерений других агентов, что «неожиданности» являются нормой, отсутствия неожиданностей практически не бывает, «лучших решений» нет, есть только «наименее плохие из заведомо плохих».

Нужно помнить, что предприятие или даже команду нельзя проектировать, а потом изготавливать как компьютерный чип или водонапорную башню. Системы с агентами должны обсуждаться с использованием системного мышления, но вот замышлять их, создавать, развивать, эксплуатировать, ликвидировать их методами классической «железной» или программной инженерии нельзя, там нужно использовать методы обучения: инженерии личности для индивидуальных агентов, системного менеджмента для коллективных агентов (развитие предприятий – это как раз обучение новым методам работы коллективных агентов).

Трудно представить, что левый ускоритель в ракете будет подговаривать правый ускоритель лететь не к Марсу (куда они должны лететь), а к Луне – потому что так надёжней и быстрей, заведомо хватит топлива и менее хлопотно. А вот в системе из интеллектуальных агентов такое бывает сплошь и рядом. Осторожней с применением технических инженерных методов работы с «железом» и «софтом» к системам с людьми и AI. Хотя так же осторожно нужно относиться и к обратной ситуации – неприменению общих системно-инженерных методов работы, которые являются обобщением как раз методов работы с «железом» и «софтом» к системам на всех эволюционных/системных/организационных уровнях (уровнях сложности), включая не только инженерию предприятия, но и социальную инженерию сообщества, общества и даже человечества в целом. Обсуждение последствий этого неприменения см. в работах John Doyle7171
  https://ailev.livejournal.com/1622346.html


[Закрыть].

Рассуждения на тему систем с искусственным интеллектом (AI), начиная с какого-то уровня агентности таких систем (возможности генерировать предсказания будущих состояний себя и мира, идей по улучшению таких состояний, выбора лучших из этих идей, а затем планирование и реализация планов по воплощению этих идей в жизнь), рассуждения о людях, людях в их коллективах, людях в их коллективах с AI (например, предприятиях) – это одни и те же рассуждения, системное мышление безмасштабно и неантропоцентрично.

Системная этика

Этика в системном мышлении рассматривается как метод/практика/культура минимизации конфликтов между интеллектуальными агентами по поводу их действий, затрагивающих интересы других агентов. Этика также легко распространяется с конфликтов интеллектуальных агентов на самые разные конфликты агентов более высоких системных уровней, состоящих из интеллектуальных агентов: организации, сообщества, общества и человечества/агентечества в целом. Иногда эти уровни называют «социальными», то есть относящимися ко многим людям.

Этика – это метод из числа методов интеллект-стека, а системное мышление рассматривает этику как ведущий способ рассуждений про успешность систем в условиях, когда существуют межуровневые конфликты. Рабочий создал пушку, для него это хорошо – он получил зарплату. Предприятие получило за пушку оплату. Но это же орудие убийства! Сообщество пацифистов считает, что создание пушки – абсолютное зло. Сообщество любителей своего государства считает, что пушка может быть никогда не применена, но её наличие отвадит потенциальных захватчиков. Сообщество нелюбителей другого государства считает, что пушку надо немедленно употребить в дело, раз уж она есть. Большинству других людей из общества всё равно, что там с пушкой и её использованием. Где-нибудь в ООН пытаются уменьшить число пушек на планете, «сокращение вооружений, укрепление безопасности в масштабах мира». На уровне страны (её органов управления) наличие пушки – «рост вооружения, укрепление безопасности в масштабах страны». На уровне сообществ внутри стран (разных! Сообщества одних стран вполне имеют мнение как по поводу пушек своей страны, так и по поводу пушек других стран) – мнения резко отличаются. Что тут считать успехом проекта создания и развития пушки? Что успех с точки зрения одних ролей – это полная неудача с точки зрения других ролей!

В труде/деятельности/практике/культуре/стратегии/инженерии/методе работать без этики нельзя, и лучше бы при этом быть знакомым с этическими аргументами из современных (а не устаревших, например, где можно спокойно убивать «неверных») книжек, чем «голосовать сердцем»7272
  Материалы по этике на русском в каком-то количестве есть вот тут, но там не обсуждается многоуровневость этики: https://vk.com/reducing_suffering


[Закрыть].

Так, в 2022 году решили проверить, как хорошо работает программная система искусственного интеллекта, которая была разработана для предсказания влияния молекул на нервную систему, что дальше должно было использоваться для позитивного влияния, то есть предлагалось с помощью этой системы разрабатывать лекарства (инженерный проект, где проектировалось вещество, которое должно было дальше работать с существом – обычная инженерия с несколькими уровнями). Эта система искусственного интеллекта так же хорошо, как предлагала лекарства, предложила после вопроса о максимизации негативного влияния на нервную систему новые нервно-паралитические боевые отравляющие вещества (включая переизобретение уже имеющихся на вооружении).7373
  https://www.nature.com/articles/s42256-022-00465-9


[Закрыть]

Вопрос об этичности применения искусственного интеллекта, как и применения любой системы, относится и к применениям (включая самоприменение, по собственной инициативе) не только искусственного, но и «мясного» интеллекта, человеческого, а также любой смеси этих интеллектов, а также коллективного интеллекта групп людей и их компьютеров. Помним, что конфликты между системными уровнями есть всегда, их много. Но есть и конфликты между конкурирующими интеллектуальными системами одного уровня. То, что хочется членам одних сообществ, будет не нравиться людям из других сообществ, общество в целом может относиться «в среднем» как-то ещё третьим образом, а каждый отдельный член этих сообществ и обществ будет хотеть чего-то и для себя тоже, не захочет приносить в жертву свои интересы интересам сообщества, или общества, или даже человечества в целом – и оптимальных решений тут не будет.

Этика рассматривает распространение каких-то идей, которые являются вредными, как зло – некоторые мемо-вирусы приводят при бездумной передаче их на исполнение к исключительно неэтичным последствиям. И тут два варианта: вообще не ограничивать выдачу каких-то идей (позволять рекомендациям быть любыми по содержанию, «полная свобода слова»), либо вводить рекомендательную цензуру, то есть запрещать распространение каких-то идей – рекламы финансовых пирамид, расовой ненависти, наркотиков и такой список можно продолжать и продолжать, далее мы быстро попадаем в запреты по политической линии. Так, в некоторых странах ругать действующего президента – это обычная политика, а в некоторых странах политики нет, и ругать действующего президента нельзя.

Если рекомендательную цензуру снять, то выдача будет сплошь из мемовирусов – они ведь будут отбираться рекомендательным алгоритмом просто по признаку их «заразности». СМИ и социальные сети выбирают новости, которые не полезны людям, не полезны обществу в целом, но которые полезны организациям-провайдерам этих СМИ и социальных сетей, то есть которые увеличивают потребление новостей. Новость «в Африке родился ребёнок с тремя головами» точно будет рекомендована большинством «бесцензурных» алгоритмов на основе того, сколько человек ей заинтересуются по сравнению с новостью «присуждена очередная Нобелевская премия по физике». Но если вдруг очень хорошо написать призыв убить всех рыжих и он станет вирусным мемом? Надо ли отфильтровывать такой мем, или оставить «свободу слова»?

Если запрещать вредные (для кого-то вредные, а для кого-то самая что ни наесть полезная пропаганда) идеи и ограничивать бесполезные, то нужно ли наоборот – «насаждать добро» в рекомендациях? Скажем, давать новостную ленту, которая будет отфильтровывать все фейки и подозрительные «бесполезные новости», зато выдавать интереснейшую ленту, например, научно-популярных новостей, за счёт переформулирования их средствами AI в интереснейшие рассказы? Да, скажут просветители. Психологи скажут: это манипуляция, вы подсадите людей на чтение, и без разницы содержание этого чтения, вы будете стимулировать «залипание» в любом случае – а работать когда?! Чью рекомендацию выполнять – просветителей или психологов?

Конфликты, везде конфликты! Теория эволюции, обсуждающая неустроенности (множественность одинаково квазиоптимальных конфигураций систем с чрезвычайно лёгкими переходами между этими конфигурациями) из-за этих конфликтов, говорит, что стабильных решений тут не будет, будет вечный поиск не устраивающих никого компромиссов, и будет огромное число разных компромиссов примерно одинакового качества с очень редкими улучшениями, чаще всего связанными с появлением ещё одного системного уровня – будет происходить рост сложности.

Этичность точно так же рассматриваться должна без какой-либо индивидуальной, расовой/религиозной и даже видовой пристрастности. Деантропоморфизация этического мышления будет полезна в том числе и для людей. Этична ли смерть? Ведь программируемая смерть7474
  https://arxiv.org/abs/2207.04886


[Закрыть] – это свойство всей жизни! Один ответ – нет, ни разу, ни в коем случае, а другой ответ – да, ибо эволюция в ней нуждается!

А может быть тогда не смерть, а «эволюционная модернизация» по линии трансгуманизма? Выход из биологической эволюции в техно-эволюцию (геном, хранимый за пределами каждого организма в лаборатории генной инженерии)?

Для такого инженерного решения, выходящего за рамки узковидовых/парохиальных этических приоритетов, мы сталкиваемся с пересечением инженерного деятельного (изменяющего себя и мир) мышления и этики. Этика в инженерном мышлении есть всегда, её нельзя выкидывать – и системной инженерии без этического рассмотрения быть не может.

Если вы создаёте простейшие столовую вилку, ложку и нож, то ими тоже можно убить – использовать как оружие. Дальше вопрос, который любят задавать юристы: а намерение какое? Столовое, «двойного назначения», или таки «чтобы убить было легче, чем кушать» (маскируем «боевой клинок» и «боевую вилку» под столовые нож и вилку)? С ножом пример не случаен, ибо в самолёте у вас и маникюрные ножницы могут иногда отобрать как «возможное оружие» (но производителю их такое использование и в голову не придёт!).

Ещё пример: дети могут сунуть руку или железный гвоздь в розетку – запретим 220 вольт в домашней сети? Что, не все дети это будут делать, а только очень некоторые, а электричество очень полезно для освещения и стиральной машины? Ну, «мы» (кто «мы»? где проходят границы этого «мы», кто входит в состав «мы»? кто выражает мнение этого «мы»? почему выразители противоположного мнения не должны включаться в «мы», а мнение этого «мы» после этого пересматриваться?) за ценой не постоим, детские жизни дороже! Переходим на 12 вольт, хотя понимаем, что и потери на таком напряжении будут выше, и провода заведомо толще! Но дети, дети с их гвоздём в розетке!

Этих примеров множество. В социальной сети с миллиардами постов взрослые могут написать неправильный с точки зрения каких-то людей (но вполне ОК с точки зрения многих других людей) пост, а потом какие-то люди случайно (ну вот как дети, которые случайно суют руку в розетку) могут там этот неправильный пост прочесть. Решение: запретим все миллиарды постов соцсети в страновом интернете, чтобы нельзя было случайно прочесть эти единичные посты! Что, социальные сети для чего-то там полезны? «Мы» (те же вопросы про «мы»! всегда их задавайте, когда вам говорят от имени «мы»! ) за ценой не постоим, неправильных 100 постов в сутки оцениваем как больше вреда, чем может оправдать вся польза от остальных 10млн. постов в сутки – а выкинуть миллиарды уже написанных постов, так миллионы людей, которые писали эти посты, спокойно это переживут!

Мышление в части задействования этики (равно как и в плане системного мышления, которое отправляет мышление во время ситуации использования целевой системы прежде всего, даже если рассмотрение идёт в ходе создания системы) выключать нельзя, любой ведь инженерный объект можно представить как «двойного назначения», а кроме этики сравнивать пользу и вред – нет такого другого метода мышления (включая обсуждение вопроса, можно ли сравнивать пользу и вред – вопрос об утилитаризме7575
  https://plato.stanford.edu/entries/utilitarianism-history/


[Закрыть], и вопрос о том, должны ли мы судить о делах по этим делам – деонтика7676
  https://plato.stanford.edu/entries/ethics-deontological/


[Закрыть], или таки включать обсуждение последствий по линии причин-следствий, консеквенциализм7777
  https://plato.stanford.edu/entries/consequentialism/


[Закрыть]). Тут главный вопрос: бытовое ли у вас рассуждение про методы этики, или вы понимаете, какие могут быть аргументы в пользу того или иного решения в силу того, что хоть что-то изучали из теорий/объяснений/знаний/дисциплин по этой линии, а не просто «голосуете сердцем», решаете интуитивно. И понимаете ли вы, что «абсолютного решения», «верного ответа» в этике не будет, ибо неустроенности (аналоги geometrical frustrations) в системах неустранимы, сложность систем будет только расти в ходе эволюции, разные варианты этических решений будут расти в разнообразии, но существенные улучшения будут не так часты, как этого хотелось бы (все закономерности эволюции и техно-эволюции работают и в случае этики).

В любом случае: если не рассматриваются интересы разных системных уровней, то это не современная этика. Системная этика учитывает, что интересы одного человека конфликтуют с интересами команды (он хочет сходить в туалет, но вот команда ведёт совещание, и приходится воздерживаться от такого похода в туалет – или наоборот, не воздерживаться, и команда оказывается недовольна), само заседание команды может не нравиться какому-то сообществу, ибо команда будет обсуждать «контркультуру», а сообщество хранит культуру. Члены сообщества знают, что каждая культура в какой-то момент была контркультурой, это написано во всех книжках по культуре! Так что конфликт между сообществом и командой есть. Общество же и эту культуру сообщества может считать неприемлемой – но тут стоп: а кто именно представляет «общество»? У членов общества могут быть крайне разные мнения насчёт сообщества и поддерживаемой им культуры (это сообщество как раз и выделяется изо всех членов общества тем, что каждый его член практикует какой-то метод работы, какую-то деятельность/культуру/практику/стиль), а ещё значительной части общества может быть вообще всё равно. Повторим: на вопрос этики «что такое хорошо и что такое плохо» ответ не засчитывается, если нет системного рассуждения, то есть рассмотрения происходящего на разных системных уровнях, вскрытие межуровневых конфликтов.

Подробней место метода/культуры этики среди других фундаментальных методов мышления интеллект-стека рассматривается в курсе «Интеллект-стек».

Вот несколько примеров конфликтов, ведущих к этическому разбирательству между объектами разных эволюционных/организационных/системных уровней:

• Человечество – мы тут одни на маленьком глобусе (человечество со всеми его людьми и компьютерами, но не все агенты будут человеками, тогда трансгуманистически назовём «агентечество» или ещё как), но планируем распространяться по космосу. Этично ли это? Или мы будем «загрязнять космос» и нужно самоубиться согласно слоганам «зелёных» (в случае безжизненного Марса – «красных»)?

• Общество – каталлактика7878
  https://ru.wikipedia.org/wiki/Каталлактика


[Закрыть]/экономика, политии7979
  https://ru.wikipedia.org/wiki/Полития


[Закрыть] (в том числе государство). Желающих рассказать, что этично или что неэтично делать с обществом (в том числе кому делать – кто или что агент таких изменений, и каким способом этот агент будет работать) по части его нарезки на государства, ограничения торговли и т. д. можно найти в любой рюмочной, в любой пивной, что уж говорить о редакциях СМИ, где журналисты с их профильным чтением художественной литературы имеют своё просвещённое мнение по всем этим вопросам, а уж блогеры так и вообще тут профи! Вопрос привязки к территории тоже обсуждается, и ответ на него не так очевиден8080
  текст А. Левенчук 1999 года про контрактные юрисдикции, https://old.computerra.ru/1999/320/196008/, более свежий обзор панархизма/контрактных юрисдикций/частных юрисдикций – https://medium.com/libertarian-state/контрактные-юрисдикции-краткое-введение-8153668ed268


[Закрыть]. Или такие вопросы как здоровье (санитарное государство: локдауны и карантины при любых подозрениях на эпидемию, принудительные вакцинации и другие медицинские процедуры, назначаемые без особых на то оснований – а кто и как будет определять основания? Суды? Эксперты? Они врут более часто, чем можно ожидать. То есть они не врут, но два эксперта – три мнения, это называется «шум» в решениях8181
  Есть книга на эту тему: https://www.litres.ru/daniel-kaneman/shum-nesovershenstvo-chelovecheskih-suzhdeniy/, но можно сомневаться, что предлагаемые в ней меры как-то решат проблему.


[Закрыть]).

• Сообщество – споры между разными культурами и субкультурами как раз здесь. Когда-то рейверы (сообщество, члены которого практиковали посещение рейвов и ночных клубов для коллективных танцев) и брейкеры (сообщество, члены которого практиковали уличные танцы и мероприятия с конкурсами-баттлами) Москвы не любили друг друга и ходили драться друг ко другу на мероприятия. Это очень не нравилось организаторам мероприятий (другой системный уровень, чем у участников мероприятий, другие цели, другие представления об этичности тех или иных поступков). И они придумали ход: лидеры и рейверов, и брейкеров в одностороннем порядке выпустили для своих сообществ декларации о том, что «мы считаем ниже своего достоинства задирать этих не совсем людей, мы их вообще замечать не будем!». Тексты были идентичны, хорошо восприняты каждым из сообществ, драки прекратились – сообщества демонстративно друг друга не замечали. Это и есть социальная инженерия на уровне сообществ.

• Коллектив/организация, которая трудится – это проекты (организованные коллективы, то есть с понятными ролями и полномочиями каждого). Организация заинтересована платить меньше налогов, платить работникам меньше зарплаты, брать с потребителей за свой товар или сервис побольше. И это только часть противоречий. Один работник «подставил» другого (дал возможность реализоваться заведомо провальному проекту этого другого, но провал таки случился, виновного в провале наказали). Как к этому относиться? А если бы этот один работник не дал реализоваться провальному проекту – как бы этот другой к нему относился? Ещё пример: работники делают заведомо неконкурентоспособную систему, все об этом знают, но никто не отказывается работать. Система сделана, не работает (как и ожидалось), денег за неё не получено (зарплаты платились из кредита), компания обанкротилась. Правы ли работники? За что менеджеры наказали собственников этого предприятия? Или работники просто украли свою зарплату? Но они же работали! Тогда это мошенничество?!

• Человек, который сегодня рациональный/разумный человек-киборг. Тут возникает огромное число проблем, начиная от проблемы взаимоотношений полов (никакой любви преподавателей со студентами! Ибо студенты зависимы! Это несправедливая любовь, даже по согласию! И разновозрастной любви тоже не должно быть – подростки могут заниматься сексом друг с другом, но не со взрослыми!) до самообмана (часто полностью осознаваемого! Типа «захочу бросить курить/есть на ночь/ложиться спать под утро – легко брошу, просто не хочу бросать»). Да и сами вопросы: кого считать личностью, дееспособным. Детей – начиная с какого возраста или приобретённых умений? Инвалидов – кого считать инвалидами? Проблема психиатрических больных (нет «объективных» тестов в психиатрии, это более-менее произвольная оценка), да и просто назначений. Проблема осуждения преступников (или не преступников? В разных сообществах, в разных обществах могут быть разные ответы на этот вопрос для одного и того же поступка. Впрочем и в одном и том же обществе можно было в один год получить штраф за то, что идёшь в маске и не позволяешь тем самым тебя легко узнать, а в другой год получить штраф за то, что идёшь наоборот, не в маске – а в эпидемию маску носить как раз надо).