Текст книги "Искусственный интеллект. Большие данные. Преступность"

3) Какой подход на сегодня оптимален для создания российской нормативной базы систем искусственного интеллекта (робототехники)?

• 75 % опрошенных (24 респондента) – точечное дополнение существующих комплексных нормативных актов в области транспорта, промышленности, медицины, обороны и др. специальными нормами об использовании систем искусственного интеллекта (робототехники) в этих сферах, исходя из их специфики;

• 9 % опрошенных (3 респондента) – создание единого корпуса правовых норм для всех систем искусственного интеллекта (робототехники). Например, дополнение ГК РФ новой главой о роботах либо принятие кодифицированного закона о роботах или заключение международного соглашения о всей робототехнике (включая бытовые роботы-пылесосы и ударные «дроны» военного назначения);

• 16 % опрошенных (5 респондентов) – иной вариант ответа.

В качестве примеров приведем ряд комментариев, которыми респонденты поясняли свои ответы на вопрос о путях совершенствования законодательства в области искусственного интеллекта (робототехники):

«…на современном этапе оптимален вариант 1 (точечное дополнение). Если появится необходимость по мере накопления нормативного и в целом правоприменительного материала, то вариант 2 (создание единого корпуса правовых норм)»;

«…необходимо лишь дать определение роботу с точки зрения распределения ответственности между владельцем и пользователем перед другими лицами (например, приравнять эксплуатацию всех или некоторых роботов к деятельности, создающей повышенную опасность, для чего указать робота в п. 1 ст. 1079 ГК РФ или даже ограничиться судебным толкованием). Мотивами выбора такого способа регулирования является принцип экономии регуляторных средств, а также отсутствие существенных правовых различий между роботами и имуществом (транспортные средства или животные куда ближе к роботу, чем юридическое лицо, являющееся субъектом, а не объектом права)»;

«…специальные средства регулирования частноправового свойства вряд ли необходимы, в законе и так все есть. Достаточно лишь адекватно взглянуть на правовые режимы абсолютных прав (правовые режимы, которые позволяют атрибутировать то или иное имущественное благо конкретному лицу) и вывести это из содержания правил в наличии. Если на торгах «участвует» робот, это означает, что участвует тот, кто его запустил, а не какой-то искусственный интеллект. Если уж на это пошло, почему вопрос о животных не обсуждается? Дрессированные животные мало чем отличаются от роботов»;

«…для начала нужно определиться, а чего по-настоящему в регулировании не хватает? Может, всего достаточно? Ядро регулирования в любом случае остается тем же – это отношения «человек – человек» (какая бы фикция за ним не стояла). В этой связи я не вижу острой необходимости в отдельном «Кодексе робототехники» сегодня. При этом закрепление в международном акте сформировавшихся этических принципов робототехники было бы полезным, как минимум, с точки зрения называния явлений именами (а только поименованное явление может стать объектом управления)»[24]24
  См.: Огородов Д.В. Проблемы этической и правовой регламентации систем искусственного интеллекта (робототехники): обзор круглого стола IP Форума. // Журнал Суда по интеллектуальным правам, № 19, март, 2018, с. 48–53.


[Закрыть].

§ 8. ИИ в работе правоохранительных органов

В 2012 г. после успеха IBM Watson в ФБР и полиции США была принята и с 2013 по 2016 г. реализовывалась межведомственная экспериментальная программа «Искусственный интеллект в расследовании и оперативно-розыскной деятельности при совершении уголовных преступлений». Первым, широко разрекламированным элементом программы, стало создание безбумажного полицейского офиса на основе интеллектуальных помощников полицейских. Полицейские подразделения Нью-Йорка, Мемфиса и Литл-Рока были выбраны как экспериментальные площадки. Научное обеспечение программы взяли на себя лаборатории когнитивного компьютинга университетов Сиэтла, Чикаго и штата Аризона. Программные решения были предоставлены корпорациями IBM и Apple. На программу компании – поставщики софта и филантропические фонды израсходовали более 230 млн. долларов. В июле 2016 г. программа была закрыта из-за неудовлетворительных результатов.

Имелось в виду освободить полицейских от рутинной работы, связанной с заполнением отчетов, различного рода документации, ведения делопроизводства, формирования папок с файлами по конкретным преступлениям и т. п. Всю эту работу должна была взять на себя модифицированная версия IBM Watson. Для ввода информации и перехода к безбумажной технологии предусматривалось использовать модифицированный вариант электронного помощника Siri. По первоначальному плану полицейские должны были задиктовывать все необходимое электронному помощнику, а дальше Watson на основе полученных аудиофайлов должен был формировать стандартные отчеты и создавать условно структурированные базы.

Несмотря на огромную полезную работу, результаты которой несомненно будут использованы в последующих проектах, поставленная задача решена не была. Как это ни парадоксально, одна из причин была незамысловата и лежала на поверхности. Тем не менее, она оказалась неожиданной для разработчиков проекта. Поскольку при составлении бумажных отчетов полицейских контролируют начальники, они жестко оценивают не только сроки предоставления отчетов, но и их качество, полноту и т. п. Получая надиктованные отчеты, Watson не справился с задачей оценки их качества. Иными словами, в результате перехода к безбумажным технологиям резко упало качество и достоверность информации, содержащейся в отчетах. И это в дальнейшем сказалось на показателях работы контрольных полицейских участков.

Вторая проблема, обнаруженная при реализации проекта, носила менее очевидный характер. Более того, ее удалось выяснить лишь после подключения к проекту Лаборатории поведенческих наук Чикагского университета. Удалось установить хорошо знакомый правоохранителям, но большинством не осознаваемый факт: формирование отчетов и документации в ходе оперативно-розыскной деятельности является не активным, а интерактивным процессом. В подавляющем большинстве случаев качественный, обеспечивающий конечный результат отчет является плодом не индивидуальной деятельности оперативника, а результатом диалога оперативной группы и начальника полицейского участка, либо другого руководителя. В концепции безбумажного документооборота принцип интерактивности был проигнорирован. Это также привело к существенному ухудшению качества работы.

В 2014–2015 гг. в Филадельфии, Питтсбурге и Мойне проводился эксперимент, связанный с обработкой суперкомпьютером потокового видео, поступающего со всей системы видеокамер, имеющихся в городах, независимо от их ведомственной принадлежности. Предполагалось, что внедрение подобной системы уменьшит потребность в патрулировании улиц городов полицейскими экипажами, и, в конечном счете, позволит снизить затраты на органы правопорядка в городских бюджетах.

Исходная мысль была достаточно очевидна. Резкое повышение ситуационной осведомленности за счет использования всего объема потокового видео, а также создание цепочек видеофрагментов, поступающих с различных камер, позволит гораздо эффективнее задерживать нарушителей, чем при их преследовании полицейскими машинами.

В течение первого полугодия проведения эксперимента во всех трех городах заметно увеличилось число задержаний нарушителей. Например, в Филадельфии число среднемесячных задержаний возросло на 26 %. Затем показатели стали снижаться. По истечении года эксперимента картина оказалась гораздо более мрачной, чем в его начале.

Итоговая динамика вызвала недоумение научных групп, обеспечивающих эксперимент и представителей компаний, производящих софт для анализа потокового видео. Ответ нашли сотрудники ФБР. Выяснилось, что в ходе эксперимента сотрудники полицейских участков городов в социальных сетях и Twitter обменивались шутками относительно железного копа с тысячей глаз, который пришел им на помощь, и который сделал за них всю работу. Полицейские банальным образом раскрыли тайну эксперимента. Преступники выяснили новый метод борьбы с ними, и при совершении преступлений стали принимать во внимание возможность ухода от видеонаблюдения. Таким образом, еще раз был подтвержден хорошо известный специалистам по информационной безопасности факт – самым уязвимым звеном любого программно-аппаратного комплекса является человек.

Начиная с января 2016 г. в городах Джексонвилл, Александрия, Мемфис и Детройт была запущена программа CEG. Это – аналитическо-прогнозный комплекс, использующий элементы ИИ для прогнозирования скачкообразного увеличения возможных правонарушений в масштабах вплоть до квартала конкретного города. Программа построена на основе решения SIME (Space Imaging Middle East).

Прообраз программы был разработан для полиции Сиэтла и Портленда еще в 1999–2002 гг. Выяснилось, что динамика криминогенной обстановки хорошо моделируется алгоритмами, разработанными еще в 1970-е гг. для прогноза землетрясений Keilis-Borok и A. Soloviev в книге «Nonlinear Dynamics of the Lithosphere and Earthquake Prediction».

Комплекс работает следующим образом. Для каждой локации устанавливается 45–50 параметров риска. Все параметры имеют количественную меру. При определенных изменениях системы параметров в тех или иных кварталах или районах города резко возрастает вероятность скачкообразного увеличения преступлений. Параметры в своем большинстве рассчитываются на основании первичной информации, в том числе данных с видеокамер, сообщений в социальных сетях, прогнозов погоды и т. п. В первом полугодии 2016 г. в городах, где была внедрена система по сравнению с контрольными городами, т. е. примерно аналогичными по численности и криминогенной обстановке, удалось снизить количество преступлений на 14 %. Это большое достижение, поскольку уменьшение преступности на 3–4% в год для городов с тяжелой криминогенной обстановкой считается несомненным успехом.

Другим несомненным достижением стало создание программы распознавания по фрагментам татуировок, разработанной ФБР совместно с Cyrcadia и CureMetrix. В 2014 г. ФБР совместно с исследователями из молодых стартапов создали общеамериканскую визуальную базу всех татуировок, зарегистрированных когда-либо на территории США и других стран мира. Затем стартапы с использованием трехмерной графики, метода опорных векторов и нейронных сетей, создали для каждой татуировки примерно 200 вариантов ее фрагментов, открытых для наблюдения при различном положении тела и наличия одежды.

Создание вариантной графической базы позволило использовать ее в качестве фильтра при автоматическом распознавании образов в потоковом видео, поступающем с городских камер наблюдения. Впервые в истории разыскиваемые преступники опознавались не по чертам лица, не по характерной походке или особым приметам, а по фрагментам татуировок. В 2016 г. система начала опытную эксплуатацию в Сан-Франциско, Сан-Диего, и Миннеаполисе. Удалось опознать и задержать 17 человек. Из них пятеро – входили в список ФБР особо опасных и разыскиваемых преступников. Четыре раза система дала сбой, и были задержаны лица, не имеющие отношения к преступной деятельности. Работа над совершенствованием системы продолжается.

В апреле 2018 г. газета The Wall Street Journal сообщила, что предполагается использовать системы с ИИ для анализа визуальной информации, поступающей в режиме реального времени с уличных камер видеонаблюдения и с портативных камер, которые носят полицейские.

Такую систему идентификации с использованием личных веб-камер создает чикагская компания Motorola Solutions и компания по разработке систем с элементами ИИ Neurala. Она вводится с 2018 г. и будет способна различать в толпе находящегося в розыске человека или потерявшегося ребенка.

В полицейские участки и подразделения ФБР различных штатов начал поступать, как стандартное оснащение, первый софт, созданный в рамках программы ИИ. Софт создал молодой стартап DOIL COGNITIVE COMPUTING, вошедший в 2015 г. в список 50 наиболее перспективных компаний в области ИИ. Также как и в предыдущем примере, софт связан с распознаванием образов. Правоохранителям хорошо известно, что особо опасные преступники уже в течение десятилетий активно прибегают к проведению пластических операций. При помощи преступных пластических хирургов они меняют фрагменты внешнего облика, а в отдельных случаях и внешность в целом.

Компания создана бывшими программистами и разработчиками IBM и высококвалифицированными пластическими хирургами Кливлендского госпиталя. Программа способна по фотографиям и потоковому видео распознавать людей, осуществивших пластические операции той или иной глубины и выдавать варианты их первоначальной внешности. В ходе испытаний в 2015 г. программа успешно распознавала по фотографиям факт проведения пластической операции в 97 % случаев, в потоковом видео – почти в 90 %. В случае успешного распознавания, более чем в 80 % случаев она позволяла восстановить первоначальную внешность, как один из вариантов первоначального облика человека.

С 2015 г. Информационный центр ФБР совместно с MTI и Google ведут работу по созданию рекуррентной базы данных[25]25
  Рекуррентная база данных предполагает сеть, где связи между элементами образуют направленную последовательность.


[Закрыть]. Ее принципиальное отличие отныне существующих баз данных состоит в трех обстоятельствах. Не человек, а машина будет принимать решение о появлении того или иного профиля в базе данных. Грубо говоря, предусматривается система, в корне отличающаяся от ныне принятого порядка. Сейчас соответствующие руководители полиции, агенты ФБР принимают решения о заведении файлов на того или иного человека. Как показывает практика, эти решения часто бывают ошибочны и субъективны. В новой системе предполагается обеспечивать ее нефильтрованными потоками информации. Фильтровать, а соответственно определять необходимость заведения профилей будет сама система. В систему встраивается модуль глубокообучаемых нейронных сетей. Данный модуль будет отвечать за своевременное исключение профилей и параметров лиц, которые по критериям базы попали в нее, но в течение определенного времени не вызвали интереса со стороны ФБР или полиции штатов. Наконец, данная система будет способна взаимодействовать с конечными пользователями на естественном языке и с использованием визуальных средств.

Как уже отмечалось, одним из наиболее угрожаемых с точки зрения динамики организованной преступности секторов экономической жизни страны, являются небанковские платежные системы. По согласованию с наиболее динамичными платежными системами Stripe и Wise, ФБР организовало частногосударственное партнерство по созданию и эксплуатации платформы по обнаружению мошенничеств и взломов платежных систем. Данная система открыта для всех лицензированных платежных систем. Они выделяют на содержание системы ежегодный взнос в зависимости от объема транзакций и уровня сертификата информационной защиты, присвоенного платежной системе. Производителем системы в результате тендера выбрана компания Palantir. В 2017 г. она должна запустить платформу POLPAY.

С 2017 г. на основе использования платформы контекстного интеллекта Nigel создается безбумажный офис агента ФБР или полицейского участка. Поскольку система Nigel в отличие от других способна не только к семантическому анализу (распознаванию объектов по различным онтологиям; онтологии могут быть различны – свойства, отношения, функции, человек, юридическое лицо, предмет и т. п.), но и к контекстному распознаванию ситуации (ситуации могут быть одинаковы по онтологиям, но различными по смыслу). Например, в двух ситуациях участвуют одни и те же персонажи – женщина, мужчина и ребенок. Контекст ситуации может быть различен. В одном случае это может быть счастливая семья. В другом – бывшие супруги, делящие ребенка. Сейчас ни одна система кроме Nigel не способна распознавать ситуацию, она будет давать экспертные советы правоохранителям, привязанные к уникальной конкретной обстановке.

Использование ИИ для экономии бюджета ФБР и полиции штатов. В настоящее время почти четверть работников, проходящих как занятые в полиции штатов, на которых приходится чуть больше 15 % фонда заработной платы, заняты различного рода рутинными операциями, имеющими общепрофессиональный характер. Речь идет о многочисленных секретарях, юрисконсультах, фотографах и т. п. ФБР в рамках программы сокращения бюджета федеральных органов власти за счет роботизации, в течение 2017–2020 гг. будет последовательно заменять юрисконсультов и секретарей роботизированными устройствами. В настоящее время для ФБР на 2020 г. установлен норматив сокращения не менее 10 % вспомогательного персонала, не связанного с выполнением оперативно-розыскных, следовательских и других полицейских функций, а также работой в лабораториях.

Начиная с 2017 г. ФБР совместно с компанией ForAllSecure и университетом штата Пенсильвания преступило к разработке системы Mayhem. Это первая в мире система ИИ, основными функциями которой являются распознавание индивидуального почерка хакеров и хакерских группировок, а также обнаружение атак и активного тестирования, и преследование хакеров в их ходе, вплоть до установления их локации.

ФБР и исследователям Пенсильванского университета удалось установить, что методы комбинаторики позволяют системам ИИ распознавать в доли секунды некоторые особенности вредоносного софта, а также архитектуры атак, которые укрываются из-за недостатка времени от высококвалифицированного персонала служб информационной безопасности.

Модельный вариант Mayhem был разработан компанией ForAllSecure в 2015–2016 гг. в рамках исследовательского проекта DARPA. На конференции по кибербезопасности Black Hat 2016 было проведено состязание между пятью хакерами-победителями конкурсов Black Hat прошлых лет и Mayhem. Задачей хакеров был взлом информационных сетей, любезно предоставленных Google, а задачей Mayhem – не только обнаружение взлом, но и конкретно установление локации каждого хакера и желательно идентификации его с конкретным лицом. По условиям состязания победителем становился тот, кто либо провел три успешных атаки, либо распознал трех хакеров. Оргкомитет конференции установил приз 4 млн. долларов победителю состязания. Оно закончилось победой Mayhem со счетом 4:1.

Согласно данным Интерпола и Европола, в более чем 70 странах мира полицейские на практике используют те или иные виды предиктивной аналитики[26]26
  Предиктивная (предсказательная) аналитика – совокупность методов анализа данных, направленных на прогнозирование поведения людей с целью принятия решений.


[Закрыть], опираясь на программно-аппаратные средства более чем 25 корпораций-производителей.

Что касается практического использования полицейскими ИИ в повседневной деятельности, то известно лишь два программно-аппаратных комплекса, задействованных в подобной работе. Первый – это американский Palantir. Помимо американского разведывательного сообщества, он уже более четырех лет используется полицейскими управлениями Лос-Анджелеса, Сан-Франциско, Нью-Йорка и Атланты, а также службами экономической безопасности нескольких десятков крупнейших транснациональных банков и финансовых институтов. Комплекс показал высокие результатов, особенно в сфере борьбы с финансовыми преступлениями, и конкретно – с мошенничеством, отмыванием денег и внутрикорпоративными хищениями. Комплекс находится в состоянии постоянного совершенствования. Оно осуществляется на базе 31.

31 – это интеграция информационных потоков, числового, текстового, визуального, акустического и сигнального характера, интеграция методов анализа и обработки информации и интеграция человеческого и вычислительного интеллекта. Другим примером практического использования ИИ является комплекс ePOOLICE, о котором подробно рассказано в третьем разделе настоящей работы.

В настоящее время известно о двух хорошо финансируемых инициативах, обещающих новый шаг в обеспечении полицейских, в том числе на низовом уровне, ИИ. Это – инициатива ФБР по созданию вертикально организованного, подключенного к разнообразным разноформатным базам данных ИИ постнейросетевой архитектуры, и британская инициатива о развертывании платформ ИИ «DSAAS версия Police».

С теоретической точки зрения ИИ наиболее активно будет использоваться для прогнозирования:

• криминальных актов;

• моделирования поведения преступников и распознавание признаков подготовки к преступлениям детализированных для всех основных видов преступлений;

• создания моделей индикаторов, свидетельствующих о степени уязвимости того или иного субъекта или объекта к преступным действиям, а также его привлекательности для криминала.

Перспективным направлением является использование ИИ для моделирования конкретных профилей преступников и прогнозирования динамики их психического состояния. В 2019 г. в г. Лион предполагается запустить первую опытную систему прогнозной психометрики преступного сообщества. Она будет построена на базе программно-аппаратного ядра, полностью изготовленного во Франции. Данная система базируется на следующих основаниях. Известно, что реальные чувства, долговременные мотивы и психические установки имеют свои корреляты в микромоторике или мельчайших сокращениях мускулатуры лица.

В условиях, когда видеонаблюдение носит практически тотальный характер и ведется не только на улицах, в торговых центрах и других местах скопления народа, но и внутри домов, именно видеоинформация становится наиболее достоверным, не фальсифицированным источником сведений о душевном состоянии.

Параллельно с видеодиагностикой данный комплекс будет использовать более чем 30-летние наработки французских психолингвистов в отражении психического состояния, мотивации в структуре письменных текстов. В мире, где все, включая преступников, постоянно участвуют в различных социальных сетях, используют мессенджеры и т. п., проблем с текстовой информацией также не возникает. Соответственно, комбинация визуальной и текстовой информации, соединенная с традиционными ориентировочными файлами на персону, позволит строить динамичные психопрофили и превратить психометрию из теоретической науки в практический инструмент полицейских.

Бесспорно, сколько-нибудь развернутое заключение об эффективности подобного комплекса можно будет дать лишь после двух-трех лет его практической работы. Однако с этим направлением связываются большие ожидания. Это подтверждается в частности тем, что в Париже создается аналогичный центр. Однако он будет специализироваться не на психометрике преступников и создании динамичной модели преступной личности, а на психометрике потенциальных жертв и соответственно создания моделей жертв, которые привлекает внимание преступников.

Пока даже в технологически продвинутых странах мира, таких как Соединенные Штаты, Япония, Франция, Великобритания, Нидерланды аналитико-прогностические платформы используются в основном на министерском уровне, а также в специальных полицейских аналитических центрах, ориентированных на поддержку расследований экстраординарных преступлений.

Что касается рядовых полицейских, экипажей патрульных машин и т. п., то для них ИИ, прогнозная аналитика и т. п. остаются кадрами из телевизионных фильмов и блокбастеров. Максимум, что удалось обеспечить для патрульных полицейских, и то исключительно в основном в Соединенных Штатах и Японии, это – геолокационные информационные системы, позволяющие выдавать без потери времени стандартные данные полицейских досье.

В то же время в данный момент скорее есть основания для оптимизма, чем для пессимизма. Упомянутые выше созданные и развертываемые в настоящее время аналитико-прогностические платформы, в том числе на базе ИИ, ориентированы на сквозной подход. В конечном счете полицейский ИИ должен поступить в распоряжение нижнего уровня – полицейских экипажей и полицейских на земле. Когда это произойдет, тогда и будет обеспечено на деле, а не на словах создание гибридных полицейских сил, противостоящих криминалу.

До конца второго десятилетия XXI века терминал ИИ окажется в распоряжении патрульных полицейских, как минимум нескольких мегаполисов США, а также агентов ФБР, полицейских Большого Лондона, специальных полицейских сил Израиля, а также вероятно полицейских одного-двух мегаполисов Франции, Германии и Нидерландов.