Текст книги "Актуальные проблемы Европы №1 / 2014"

Экологическая перспектива человечества в формате «2045»

Разворачивающийся на наших глазах процесс глобализации стал возможным в условиях информационной революции и на основе использования современных кибер-технологий. Они формируют новый тип социальной реальности – кибер-организацию, в которой место естественных связей индивидов занимают искусственно (технически) создаваемые и поддерживаемые с помощью специальных интеллектуальных технологий виртуальные связи. Новое поколение революционных когнитивных технологических новинок (инноваций) – смарт-технологии – не столько меняет представление о роли информации и знания в человеческом обществе, сколько трансформирует природу самого общества и человека. Неудивительно, что первые смарт-технологии появились в сфере банковских услуг, а сегодня постепенно в качестве коммуникативных стандартов распространяются в область социального инжиниринга.

Еще древние греки различали два онтологических пространства: пространство независимой от человека природы (φυσις) и пространство, искусственно созидаемой человеком реальности (τεχνη). Однако на рубеже XVI–XVII вв. происходит коренной мировоззренческий перелом, и противопоставление естественного и искусственного снимается. В естествознании данное онтологическое допущение было превращено в квазинаучную догму. Своего апогея данное отождествление достигло в рамках гипотезы Ньюэлла–Саймона (1976), что легло в основу концепции сильного (т.е. превосходящего интеллектуальные возможности человечества) искусственного интеллекта (ИИ). Гипотеза предполагает, что «без символьных вычислений невозможно выполнять осмысленные действия, а способность выполнять символьные вычисления вполне достаточна для того, чтобы стать способным выполнять осмысленные действия» (1).

Гипотеза Ньюэлла–Саймона первоначально позволила утверждать тезис о возможности создания ИИ в обозримом будущем. Однако сегодня эта же гипотеза позволяет ее сторонникам утверждать тезис о преимуществе такого интеллекта над естественным человеческим. Границы естественного и искусственного как бы вновь обнаруживаются, но не для того, чтобы сбросить с пьедестала человеческий разум и заменить его быстродействующим компьютером, а для того, чтобы соединить человека с компьютером с помощью трансгуманистических конвергентных технологий.

В начале 2011 г. в нашей стране появилось движение «Россия-2045», создателем которого стал малоизвестный до сих пор российский предприниматель Дмитрий Ицков. Движение быстро нашло своих сторонников и адептов, а также удивительно скоро (уже летом 2011 г.) было признано вполне соответствующим научным стандартам Российской академией наук. У данного сообщества откуда‐то появились значительные средства на проведение крупных международных футурологических конгрессов «Глобальное будущее 2045».

Идеология движения базируется на концепции технологической сингулярности, активно популяризуемой американским изобретателем и футурологом Рэем Курцвейлом, а также на идеях кибернетического манифеста (1990) американских исследователей Клиффа Джослина и Валентина Турчина44
  Турчин – ученый-эмигрант из Советского Союза.


[Закрыть].

Мы полагаем, что данная идеология, если и может быть вписана в рамки научной и философской рациональности (постнеклассическая, синергетическая, кибернетическая парадигмы), то без соответствующей апробации и честного соревнования с конкурирующими НИП имеет опасность превратиться в секту гностического толка. Более того, уже сегодня имеются все основания говорить о слабости данного подхода и даже наличии в нем стратегических рисков в рамках глобальной экологии человека в том случае, если данная модель будет взята за основу для принятия таких решений.

Прежде всего, обратимся к общей концепции сингулярности, которая используется сегодня в качестве базы для разработки прогнозов будущего и научных экспертиз в рамках описанного подхода. Предварительно скажем, что данная концепция опирается на понятие математической сингулярности, т.е. точки, в которой функция либо стремится к бесконечности, либо имеет так называемое нерегулярное поведение. Современными аналитиками отмечаются четыре типа нематематической сингулярности: демографическая, технологическая, эволюционная и историческая. Обратимся к первым двум, наиболее важным для оценки экологических рисков.

Демографическая сингулярность указывает на то, что «население Земли растет не по экспоненте, как предполагал Томас Роберт Мальтус, а быстрее. Население Земли растет по гиперболе и существует некоторая точка t*(которая как раз и называется точкой сингулярности), где эта гипербола формально обращается в бесконечность. Это положение сингулярности нетрудно вычислить, что было сделано уже в 1960 г. Хайнцем фон Ферстером и его соавторами, и получилось значение 2026 г. Затем это было сделано Иосифом Самуиловичем Шкловским в 1965 г., он получил значение 2030 г. …» (14).

Здесь точка сингулярности «как бы» указывает на катастрофический рост населения Земли в ближайшей перспективе. Такие прогнозы становятся аргументами в пользу современной версии мальтузианства, утверждающего достижение точки исчерпания возможностей планеты: во-первых, всех жизненно важных ресурсов, во-вторых, антропного давления на всю экосистему планеты. Фактически демографическая сингулярность обозначается как точка невозврата, точка перехода экологического кризиса в антропогенную экологическую катастрофу. На ней строятся все неомальтузианские прогнозы, а также обосновывается необходимость сокращения населения планеты любыми средствами.

Концепция технологической сингулярности, одним из основных апологетов которой является Курцвейл, исходит из того, что в результате ускорения технологической эволюции произойдет взрывной рост быстродействия компьютеров. Это приведет к возникновению планетарного сильного ИИ. Все это, по прогнозам футуролога, должно вызвать новый эволюционный скачок. К 2045 г. человечество перейдет в новую фазу постчеловечества (или неочеловечества) и технологически себя обессмертит.

Предварительно заметим принципиальную эпистемологическую ошибку, допускаемую всеми теоретиками сингулярности: они слишком доверяют математике (см. выше замечание Н.Н. Непейводы на эту тему) и не учитывают ограничений, накладываемых на исчисления теоремами Гёделя и Тарского. А значит, математическая функция, указывающая на точку сингулярности, говорит всего лишь о границах вычислимости и формализации данной вполне содержательной проблемы. Как мы уже показали выше, любая непротиворечивая математическая модель хороша в рамках прогрессирующей НИП. Ничего такого нельзя сказать про кибернетическую парадигму, которая является всего лишь технологическим клоном умирающего позитивизма.

Здесь можно добавить несколько слов о гипотезе Ньюэлла–Саймона. Дело в том, что введенное ею допущение строится на грубой редукции: сведении мышления к формальному исчислению. Это также вступает в противоречие с формальными ограничениями, накладываемыми на исчисления теоремами Гёделя и Тарского. Однако человеческое мышление не формально, а содержательно. Оно строится на совсем другой основе, о чем нам уже приходилось писать ранее (16).

Воспользуемся работами известного отечественного теоретика по проблемам естественного и искусственного интеллекта и одновременно активного участника движения «Россия-2045» профессора Д.И. Дубровского. В ряде его статей, публикаций и публичных выступлений изложены основные проблемы, которые формулирует перед исследователями экспертная группа движения, и возможные решения этих проблем.

В статье «Биологические корни антропологического кризиса. Что дальше?» (3) Д.И. Дубровский указывает на антропологический кризис, связанный, как он пишет, с утратой «подлинных смыслов жизни и деятельности человека, с возрастанием абсурда в личной и общественной жизни». Тем не менее ключевым звеном глобальных проблем он считает экологическую проблему. «Деятельность человека в нарастающем темпе разрушает экосистему Земли, а вместе с ней физические условия ее существования» (3). Уважаемый профессор констатирует фундаментальную асимметрию «в познавательной и преобразующей деятельности человека». Человек много преобразует, точнее потребляет, но при этом мало познает, особенно себя, и, видимо, отдает (профессор об этом не пишет). Правда, такую асимметрию Дубровский объясняет генетическими факторами, унаследованными от животных предков свойствами.

Хотелось бы сразу обратить внимание на противоречивость суждений автора статьи: с одной стороны, потеря подлинных смыслов (очевидно, духовные проблемы, причем собственно человеческие, не от кого не унаследованные), а с другой стороны, биологическая обусловленность фундаментальной асимметрии – оба фактора ведут, по мысли профессора, к катастрофе. Если даже признать, что асимметрия является биологическим свойством (что неочевидно), то где причина потери подлинных смыслов? Неужели в биологии? Если даже признать, что потеря смыслов биологически детерминирована (что просто спорно), то где находится источник подлинных смыслов, что является органом, их производящим? Возникает и другой вопрос: как биологические механизмы порождают внутри себя названную асимметрию и через человека сами себя уничтожают, создавая экологическую проблему? И откуда берется потребительство внутри биосистемы?

Еще в 70-е годы прошлого века известный советский философ Э.В. Ильенков (1924–1979) показал, что взгляды Дубровского на идеальное являются вульгарно-материалистическими. Ильенков употребил метафору физиологической диверсии в другую науку (5). Хотя мы не в полной мере можем согласиться с критикой Ильенковым Дубровского, но здесь наши оценки совпадают. Только вульгарно-материалистический редукционизм позволяет сваливать в одну биологическую кучу и экзистенциальные (потеря смысла), и ценностные (потребительство), и деятельностно-познавательные (асимметрия), и филогенетические (свойства, доставшиеся от животных предков) проблемы. Противоречие между материальным и идеальным решается Дубровским в пользу материалистической детерминации идеального в форме материалистической информационной монадологии (материальный субъект, монада – носитель информации). Следствия позиции Дубровского сводятся к следующим тезисам.

1. «Расчеты показывают, что состояние сингулярности, динамического хаоса может наступить к средине века. За ним либо деградация и гибель человечества, антропологическая катастрофа, либо выход на качественно новую ступень социальной самоорганизации».

2. Существует два выхода из кризиса: евгенический и трансгуманистический. Первый «представляется более сложным, долгим и более рискованным, способным повлечь неконтролируемую цепную реакцию мутаций, возникновение таких новых живых существ, которые не оставят человеку места на Земле». Поэтому выбирается второй путь – трансгуманистический, т.е. путь «воплощения разума и социальной индивидуальности в небиологической (читай: кибернетической. – О.П.) самоорганизующейся системе».

3. Второй путь имеет следующие преимущества:

– «оставляет в стороне радикальное вмешательство в геном человека»;

– «опирается на сравнительно развитую теоретическую базу» технонауки (конвергентная область наука+технология) и находится в главном русле конвергентного развития НБИКС (нанотехнологий, биотехнологий, информационных, когнитивных и социальных технологий);

– создает перспективу радикального продления жизни вплоть до кибернетического бессмертия и тем самым новую антропологическую перспективу;

– формирует новую «систему смыслов и ценностей, которая расширяет горизонт нашей биологически ограниченной ментальности и духовности, что служит условием преодоления антропологического кризиса»;

– «открывает реальные возможности замены вещественно-энергетического потребления информационным, что способно не только решить энергетическую проблему, но кардинально изменить отношения со средой, прекратить ее разрушение» (решение проблемы экологической. – О.П.);

– «не препятствует параллельным процессам исследования биологических систем и поддержания условий сохранения жизни на Земле».

Свою контраргументацию будем строить на основе собственной интерпретации димензиональной онтологии австрийского психиатра, психолога и философа Виктора Франкла. Как известно, Франкл работал в рамках экзистенциального подхода в психологии, психиатрии и онтологии человека. В его концепции выделяют три измерения (3 D, dimension – измерение): соматическое (биологическое), психическое и ноэтическое (ценностно-смысловое), – параллельно сосуществующие в рамках единого человеческого существа. Однако экзистенциальный подход Франкла стоит дополнить субъектно-деятельностным подходом С.Л. Рубинштейна, культурно-историческим подходом Л.С. Выготского и элементами Dasein-анализа Хайдеггера–Бинсвангера. Не вдаваясь в онтологические и методологические тонкости, добавим в димензиональную онтологию Франкла два дополнительных измерения – деятельностное (четвертое) и средовое (пятое) – и предложим пять аргументов против технологического трансгуманизма.

Биологический аргумент против трансгуманизма строится на утверждении о фундаментальной (онтологической) несовместимости электромагнитной природы современных технологий и биосистем, включая организм человека.

Нас окружают электромагнитные поля (ЭМП), превышающие «естественный фон Земли в тысячи и десятки тысяч раз, при этом резко расширился их частотный диапазон. В результате организм человека вынужден работать в очень жестких условиях, особенно быстро нарастающих в последние 15–20 лет. Не случайно Всемирной организацией здравоохранения (ВОЗ) официально признано, что электромагнитные поля – одна из главных угроз для здоровья человечества. Ученые из института Уэйна Хьюза (г. Сент-Пол, США) утверждают, что «участь динозавров нас может постигнуть не от ядерного оружия, загрязнения биосферы или по причине гиподинамии, а погубят нас прежде всего все устройства, генерирующие электромагнитные поля» (27).

Опасность представляют не столько рабочие частоты, сколько «их аномальные компоненты – модуляции, гармоники и другие параметры, возникающие при работе любого источника ЭМП» (27). Эти компоненты существуют и функционируют в диапазонах биологических систем (40–70 гГц). Соответственно, они становятся информационными помехами и нарушают баланс, а то и вовсе дезорганизуют работу биосистемы на молекулярно-клеточном уровне. Такая ситуация практически исключает возникновение и длительное существование гибридных (естественное+искусственное) кибернетических систем. А именно с этими системами связывают свои надежды трансгуманисты в процессе продвижения к кибернетическому бессмертию.

Если говорить о решении проблемы электромагнитной безопасности человека и других биологических систем, то здесь Россия является непризнанным мировым лидером. Коллектив разработчиков, возглавляемых доктором технических наук В.Е. Шубиным, создавший серию устройств для защиты от вредного энергетического воздействия («GoldenWave»), выиграл в июне 2000 г. в Сеульском университете испытания у аналогичных изделий CLARUS, разработанных в Стэнфордском университета (США) (27).

К сожалению, до сих пор ни на государственном, ни на региональном уровнях не только не принято ни одной программы по защите населения и экосистем от вредных ЭМП, но такая проблема даже не поставлена, а население не информировано о существующей угрозе и возможностях защиты от нее.

Психологический аргумент основан на утверждении об опасности симуляционных возможностей смарт-технологий. Вряд ли найдутся серьезные аргументы против локального использования симуляционных моделей в научном познании или симуляционных технологий в обучении (8; 22). Когда же речь заходит о тотальной симуляция состояний сознания, эта технология перестает быть нейтральным инструментом, отрицательные последствия от которого связаны всего лишь с неправильным его использованием. Уже сегодня программные продукты для персональных компьютеров и мобильных устройств не столько эффективны, сколько заманчивы, а владельцы девайсов становятся потребителями с явными признаками аддиктивного (зависимого) поведения.

Средовой аргумент утверждает, что новой окружающей средой индивида становится виртуальная среда. Термин 5 D, проникший в нашу обыденную жизнь, характеризует следствие симуляционных возможностей периода технологической симуляции сознания. Три измерения (3 D – стереоэффект кинотеатра) создают иллюзию присутствия, 4 D – иллюзию погружения, 5 D – превращают иллюзию в галлюцинацию. Неверно считать, что за номинациями 3 D, 4 D и 5 D стоит всего лишь маркетинговый ход. Такое мнение, говоря языком М. Маклюэна, – «глас современного сомнамбулизма» (7). Новая среда создает нового человека. Благодаря смарт-технологиям четырехмерный пространственно-временной континуум физической реальности исчезает, сжимаясь до одной точки «здесь и сейчас» (нем. – Da), сегодня чаще обозначаемой компьютерным термином «on-line». Сжатие физического пространственно-временного континуума не устраняет, а изменяет направление (от внешнего, механического к внутреннему, когнитивному) расширений человека (the extensions of man), что маршал Маклюэн обозначает термином «имплозия» (7). Именно имплозия ускорила вовлеченность в виртуальную среду, включающую новый вид социальных связей.

Деятельностный аргумент утверждает, что человек в новой техносреде уже не в состоянии иметь автономные пространство, мышление и деятельность: он технологически «коллективно и корпоративно» (7) включен в новое кибернетическое человечество в формате 5 D. «Любое расширение… оказывает воздействие на весь психический и социальный» (7) склад человека.

Уже сегодня мы имеем негативный кибернетический эффект: индивид оказывается объектом утонченных манипуляций с использованием методологии high-human, широко использующей инструментарий смарт-технологий. Полученную кибернетическую совокупность (методология+технология) можно маркировать как high-human-technologies. Здесь, как нигде ранее, становится важным процесс управления восприятием (методики PR и рекламы), организующий определенные переживания субъекта и, следовательно, его мотивационный настрой.

Поскольку архитекторы новой вселенной сами оказываются внутри созданной ими виртуальной игры, то начинается симуляция деятельности. При этом новая реальность становится одновременно и технокосмосом «творческой конфигурации и структуры» (7), и техногнозисом. Мы пытаемся познать не только то, что уже сконструировали, но и то, что только собираемся сконструировать. Точнее, само конструирование является процессом познания-реализуемости новой расширяющейся вселенной, мыследеятельности, по Щедровицкому. Техногнозис становится творческим технопрогнозисом, или самоактуализирующейся технофутурологией. Здесь мы сталкивается со специфической реализацией феномена апперцепции, организующей жесткую детерминацию актуального и будущего образов мира (картины мира). И если в естественном состоянии человек может рефлексировать над основаниями своей деятельности, то стратегия техномыследеятельности такую рефлексию исключает, а значит, стирается грань между прошлым и будущим и наступает постоянное технологическое Da-sein. Мы проваливаемся в дорефлексивное состояние, с необходимостью порождающее техногностическую мифологию. Однако техномифология является не образом мира, а самим миром (другое отличие от естественного состояния). Предел потенциальной осуществимости любых творческих действий в таком мире приближается к актуальной бесконечности. Новый мир – один большой на себе замыкающийся паттерн, своеобразная лента Мебиуса или бутылка Кляйна, в котором действуют не личности, а интеллектуальные агенты, теряющие (или не имеющие) физические свойства.

Экзистенциальный аргумент утверждает, что новые технологии не преодолевают, а усиливают потребительское отношение к жизни, поскольку создают возможность виртуального существования в выдуманных мирах (4).

Таким образом, проект «Россия-2045», который предполагает превращение человека в кибернетический организм путем информационно-технологического вмешательства в его природу, вызывает серьезную озабоченность. Если процесс создания кибер-социума пройдет точку невозврата, это может обернуться действительной (а не концептуально-мнимой) социально-антропологической катастрофой.

Выводы

Пользуясь современными когнитивными технологиями конструирования ментальных состояний – от формальных до визуальных, современный технологический позитивизм совершенно оторвался от реальной почвы и уже не пользуется критериями логической непротиворечивости и проверяемости научных гипотез. Д.И. Дубровский справедливо замечает: «Создается впечатление, что именно в области самообмана люди достигают сейчас творческих высот – настолько искусно, убедительно они ”объясняют“ и оправдывают свои намерения и действия. В этом проявляется рост дефицита самопознания, столь характерного для нынешнего состояния нашего так называемого “общества знания“, в котором человек “знает все, но только не себя“» (3).

Подлинная экологическая опасность сегодня подступает совсем с другой стороны, нежели мы привыкли ожидать. Распознать угрозу в рамках господствующих НИП сегодня не представляется возможным. Нужна новая парадигма, построенная на подлинных (а не узкогрупповых) антропологических основах.

У России на сегодняшний день значительно больше, чем у Европы, шансов распознать настоящие экологические угрозы. Россия не заражена «зеленым экологизмом» и способна принимать решения, исходя из реальных рисков, а не по причине навязчивого невротического страха. Страна сегодня, как никогда, имеет шанс встать в число ведущих глобальных политических игроков, если на повестку дня будут поставлены вопросы экологии человека.

Список литературы

1. Гипотеза Ньюэлла–Саймона // Википедия. – Режим доступа: http://ru.wikipedia.org/wiki/%D0%93%D0%B8%D0%BF%D0%BE%D1%82%D0%B5%D0%B7%D0%B0_%D0%9D%D1%8C%D1%8E%D1%8D%D0%BB%D0%BB%D0%B0_%E2%80%94_%D0%A1%D0%B0%D0%B9%D0%BC%D0%BE%D0%BD%D0%B0

2. Джаватханова Л. Киотский протокол: За и против // Мир и политика. – 2012. – 24 декабря. – Режим доступа: http://mir-politika.ru/2786–iotskiy-protokol-za-i-protiv.html

3. Дубровский Д.И. Биологические корни антропологического кризиса. Что дальше? // Человек. – 2012. – № 6. – С. 52. – Режим доступа: http://iph.ras.ru/uplfile/ai/dubrovsky1.pdf

4. Елисеев А. Погром мировой промышленности. А нужна ли транснациональному капиталу мощная индустрия как таковая? // Столетие: Информационно-аналитическое издание Фонда исторической перспективы. – 2011. – 8 июля. – Режим доступа: http://www.stoletie.ru/geopolitika/pogrom_mirovoj_promyshlennosti_2011-07-08.htm

5. Ильенков Э.В. Диалектика идеального // Ильенков Э.В. Философия и культура. – М.: Политиздат, 1991. – 464 с. – (Мыслители ХХ века).

6. Лакатос И. Фальсификация и методология научно-исследовательских программ // Кун Т. Структура научных революций / Пер. с англ. – М.: ООО АСТ, 2003. – 605 с.

7. Маклюэн М. Понимание медиа: Внешние расширения человека / Пер. с англ. – М.; Жуковский: КАНОН-пресс-Ц: Кучково поле, 2003. – С. 13.

8. Марченко В.Г., Барк Е.Д., Салтыков К.А. Исследование в искусственных нейронных сетях роли временных параметров торможения в локальной синхронизации активности в коре // Нейрокомпьютеры. – 2011. – № 9. – С. 16–24.

9. Моисеев Н.Н. Мир XXI века и христианская традиция // Вопросы философии. – 1993. – № 8. – С. 3–14.

10. Непейвода Н.Н. Прикладная логика. – Режим доступа: http://sbiblio.com/biblio/archive/nepeyvoda_pri/11.aspx

11. Ницше Ф. Веселая наука // Ницше Ф. Утренняя заря. Предварительные работы и дополнения к «Утренней заре». Переоценка всего ценного. Веселая наука / Пер. с нем. – Минск: Харвест, 2003. – 912 с. – (Philosophy).

12. Панарин А.С. Искушение глобализмом. – M: Эксмо-Пресс, 2002. – 416 с.

13. Панарин А.С. Постмодернизм и глобализация: Проект освобождения собственников от социальных и национальных обязательств // Вопросы философии. – 2003. – № 3. – С. 16–36. – Режим доступа: http://www.filgrad.ru/texts/panarin/panarin53.htm

14. Панов А.Д. Сингулярность эволюции и будущее фундаментальной науки: Выступление на международном конгрессе «Глобальное будущее 2045». 17–20 февраля 2012. – Режим доступа: http://www.socionauki.ru/authors/panov_a_d/

15. Перкинс Дж. Исповедь экономического убийцы / Пер. с англ. – М.: Pretext, 2005. – 319 с.

16. Петруня О.Э. К учению Аскольдова об аналогии и концепте // Аскольдов С.А. Гносеология: Статьи. – М.: Издательство Московской Патриархии Русской Православной Церкви, 2012. – 200 с. – (Библиотека русской философской мысли). – C. 4–37.

17. После «Фукусимы» отношение к атомной энергетике, пусть и не сразу, но стало более позитивным: Эксперт // ИА REGNUM. – 2013. – 1 апреля. – Режим доступа: http://www.regnum.ru/news/1643220.html#ixzz2UVUvZkPh

18. Россия отказывается продлить Киотский протокол // Голос Америки: Служба новостей. – 2012. – 13.09. – Режим доступа: http://www.golos-ameriki.ru/content/protokol/1507494.html

19. Сорос Дж. Кризис мирового капитализма. Открытое общество в опасности / Пер. с англ. – М.: ИНФРА-М, 1999. – XXVI, 262 с. – Режим доступа: http://capitalizm.narod.ru/soros1.htm#_Toc483370693

20. Трубачев Е.В. Инвестиционная стратегия. Электронный учебник / Центр дистанционных образовательных технологий МИЕМП. – 2010. – Режим доступа: http://www.e-college.ru/xbooks/xbook189/book/index/index.html?part-012*page.htm

21. Федеральный закон «Об охране окружающей среды» № 7-ФЗ. – Режим доступа: http://base.consultant.ru/cons/cgi/online.cgi?req=doc;base= LAW;n=131664

22. Филимонов В.С., Талибов О.Б., Верткин А.Л. Эффективность симуляционной технологии обучения врачей по ведению пациентов в критических ситуациях // Врач скорой помощи. – 2010. – № 6. – С. 9–19.

23. «Фукусима»: Катастрофа «мэйд ин Джапан» // Информационный портал Энергетического сообщества России. – 2012. – 6 ноября. – Режим доступа: http://www.ensor.ru/discussions/articles/fukusima_katastrofa_meyd_in_dj.html

24. Фурсов А. Прощальный поклон капитализма // Агентство политических новостей. – 2007. – 14 августа. – Режим доступа: http://www.apn.ru/publications/article17585.htm

25. Хазин М. Конфискационная реформа на Кипре: Это Евросоюз «тренируется на кошках». – 2013. – 18 марта. – Режим доступа: http://www.odnako.org/blogs/show_24548/

26. Хазин М. Отобрать у европейцев суверенитет, пока не поздно. К единому банковскому регулятору в ЕС. – 2013. – 16 мая. – Режим доступа: http://www.odnako.org/blogs/show_25626/

27. Щербаков В.И. Электромагнитные поля: Управление профессиональным риском // Охрана труда и техника безопасности на промышленных предприятиях. – 2013. – № 2. – С. 35.

28. Экологическая революция в Европе // Информационный портал радиостанции «Deutsche Welle». – 2007. – 12.03. – Режим доступа: http://www.dw.de/%D1%8D%D0%BA%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B0%D1%8F-%D1%80%D0%B5%D0%B2%D0%BE%D0%BB%D1%8E%D1%86%D0%B8%D1%8F-%D0%B2-%D0%B5%D0%B2%D1%80%D0%BE%D0%BF%D0%B5/a-2383583

29. Эксперты об опросе общественного мнения об отношении к атомной энергетике. – 2012. – 11 марта. – Режим доступа: http://www.energyland.info/news-show-iz_pervih_ust-atom-84387

30. 4 D – новые границы реальности // Виртуальный журнал «Magazine ClubConcept». – Режим доступа: http://mag.clubconcept.ru/technology/4d/

31. Ove H.S., Zalta Ed.N. Risk. Stanford Encyclopedia of Philosophy. – 2012. – December 19. – Режим доступа: http://plato.stanford. edu/entries/risk/