Архивы: по дате | по разделам | по авторам

Кивино гнездо: Серьёзные игры

АрхивКивино гнездо
автор : Киви Берд   21.11.2011

Научно-технические исследования американских военных в своё время дали миру интернет и GPS. Того же рода разработки спецслужб научат людей мыслить без предрассудков.

В новостях инфотехнологий всё чаще и чаще мелькает аббревиатура IARPA, которой обозначают инициативу Intelligence Advanced Research Projects Activity. На русский язык это словосочетание можно перевести как "Передовые исследовательские проекты разведки". Для новой затеи американских спецслужб умышленно выбрано название, фактически повторяющее название куда более известной организации DARPA - созданного полвека назад агентства передовых исследований министерства обороны США, которое за свою долгую историю породило, среди прочего, интернет и систему спутниковой навигации GPS. IARPA должна стать подобием DARPA, работающим на нужды шпионской деятельности.

IARPA состоит из трёх отделов, обеспечивающих организацию передовых исследований по разным направлениям. Первый отдел занимается так называемым "умным сбором", где целью программ обозначено "радикальное улучшение ценности данных", собираемых разведкой от всех возможных источников информации. Второй отдел заведует "острым анализом" с целью максимально эффективного извлечения смысла из собранных массивов информации, причём в оперативно приемлемые сроки. Направление деятельности третьего отдела озаглавлено словосочетанием "безопасные операции". Витиеватая формулировка его цели звучит так: "Противостоять новым возможностям наших противников, которые угрожают нашим способностям действовать свободно и эффективно в сетевом мире".

По вполне понятным причинам значительная часть исследовательских программ IARPA засекречена, так что рассказать о них что-либо содержательное пока не представляется возможным. Более того, в отличие от DARPA, засекречен и бюджет этой структуры, так что и о масштабах исследований-разработок судить адекватно довольно сложно. Впрочем, очевидно, что денег хватает. Об этом свидетельствует то, что всё больше проектов IARPA проявляется и в более-менее открытом секторе исследований (именно этим объясняются участившиеся упоминания в прессе).

Вот лишь несколько примеров того, чем занимались в IARPA в последнее время.

В июле 2011 года агентство объявило о запуске проекта по созданию инструментов для, грубо говоря, "предсказания будущего". Выражаясь аккуратнее, была заявлена программа под названием "Индикаторы открытых источников" (сокращённо OSI, от Open Source Indicators) для "разработки методов непрерывного и автоматизированного анализа публично доступных данных с целью распознавания и/или заблаговременного выявления таких социальных аномалий, как политические кризисы, очаги эпидемий, экономическая нестабильность, дефицит ресурсов и природные бедствия".

Среди великого множества всевозможных "социальных аномалий" особое беспокойство у разведки с некоторых пор вызывает непредсказуемость финансового рынка. Как результат в августе стало известно, что в IARPA решили заняться финансовым прогнозированием. Предыдущие несколько недель фондовые рынки демонстрировали резкое падение, индекс Доу-Джонса прыгал вверх и вниз на 400 пунктов чуть ли не ежедневно, ведущие экономисты озабоченно разводили руками, а трейдеры Уолл-стрита были близки к истерике. В столь нервной обстановке даже разведывательное сообщество начало волноваться, а потому шпионы решили взять рыночные прогнозы в собственные руки.

Насколько можно судить, в IARPA полагают, что аналитики разведки способны выделять осмысленные сигналы в поведении фондового рынка. Но для начала им требуется техническая помощь. На конференции, устроенной по этому поводу, IARPA представила новый план-программу разработки инструментов в помощь аналитикам, которые будут "быстро и аккуратно оценивать петабайты сложных анонимизированных финансовых данных".

Данная программа получила название MATCHES - сокращение от Markets Analysis and Testing of Contextual Hypotheses Enhancement System, то есть "Система для улучшения анализа рынков и проверки контекстных гипотез". Можно предположить, что этот продукт поможет шпионам в анализе гигантских объёмов данных - чтобы выявлять индикаторы поведения рынка, отыскивать взаимосвязи между внешне никак не связанными транзакциями на сотнях глобальных рынков, а в итоге "обеспечивать инсайты" относительно конкретных событий и общих финансовых тенденций... (В истории американской разведки уже есть несколько грандиозных ИТ-проектов, закончившихся тратой многих миллиардов и фактически пшиком на выходе. Похоже, обозначился ещё один вероятный кандидат в тот же бесславный ряд.)

В октябре стало известно о проекте совсем иного рода. Сообщается, что IARPA намерена профинансировать разработку технологии производства микросхем под общим названием TIC, или Trusted Integrated Chips, то есть "Доверенные интегральные чипы". Программа TIC подразумевает подход, получивший в IARPA назване "сплит-производство". Иначе говоря, речь идёт о таком процессе изготовления новых микросхем для нужд обороны и разведки, при котором производство чипов будет происходить раздельно в разных странах. Одни транзисторные слои будут изготовляться на зарубежных фабриках, а другие критично важные элементы схемы будут производиться на проверенных фабриках в США. Суть идеи подобного "расщепления" производства микросхем в том, чтобы, с одной стороны, воспользоваться преимуществами ведущих изготовителей полупроводниковых чипов, а с другой стороны, одновременно иметь уверенность, что будут обеспечены "безопасность и защита интеллектуальной собственности США".

Наконец, в ноябре 2011 года опубликована содержательная информация о ещё одном проекте IARPA под названием Sirius, который заслуживает более подробного рассказа. Заслуживает в том числе потому, что он уже перешёл в фазу конкретной реализации. Через структуру IARPA правительство США выделило компании BBN Technologies (дочернее предприятие корпорации Raytheon, гиганта американского военно-промышленного комплекса) сумму в размере десять с половиной миллионов долларов на разработку того, что с некоторых пор принято именовать "серьёзные игры" (Serious Games - первое слово по созвучию обыграно и в названии исследовательской разведывательной программы "Сириус").

Цель создаваемой "серьёзной забавы" - выработка у людей навыков для принятия оптимальных решений путём обучения играющих тому, как распознавать и корректировать эффекты их собственной необъективности и предубеждений при анализе всей имеющейся информации.

По условиям контракта, полученного от IARPA, фирма Raytheon BBN разработает тренировочные программы, основанные на компьютерной игре с общей темой "международного детектива". В воплощении этого проекта будут принимать участие профессиональные разработчики игр, ясное дело, а также эксперты в области анализа разведывательных данных, специалисты по когнитивной психологии и так далее.

Как говорится в комментариях IARPA к данному проекту, целым рядом научных исследований продемонстрировано, что серьёзные компьютерные игры, разработанные для образовательных, терапевтических или прочих неразвлекательных целей, могут вырабатывать у людей позитивные сдвиги в смысле полезных навыков для жизни в реальном мире или коррекции поведенческих проблем.

В частности, если цитировать один из документов, "существует широкий консенсус, согласно которому принятие решений людьми опирается на набор простых и быстрых эвристических правил, которые применяются в конкретных жизненно-бытовых ситуациях. Проблема в том, что эти же правила принятия решений нередко способны (обычно на бессознательном уровне) смещать оценки и при решении куда более общих проблем. Причём смещение происходит таким образом, что порождаются ошибочные результаты анализа".

Проблемы когнитивной смещённости в оценках наблюдаются во множестве самых разных профессий, где анализ данных является важным компонентом работы. Среди таких профессий можно назвать разведывательную деятельность, работу правоохранительных органов, медицину, авиацию, журналистику, научные исследования - и это далеко не полный перечень.

Если говорить более конкретно о шпионах, то когда при решении разведывательной задачи возникают подобные когнитивные смещённости, аналитики способны отмечать такие тенденции или поддерживать такие мнения, которые либо не обоснованы логически, либо не подтверждаются свидетельствами. И что ещё хуже, когнитивная смещённость в анализе при этом имеет тенденцию нарастать вместе с возрастанием уровня неопределённости в данных. Это приводит к появлению систематических ошибок, фильтрации восприятия, формированию заведомых предубеждений и ограничению возможных альтернатив.

Как свидетельствуют специалисты по когнитивной психологии, подобное поведение психики по сути дела укоренено в человеческом мозге, а потому когнитивные смещённости в работе аналитиков вряд ли удастся убрать полностью. Однако исследователи предполагают, что их эффекты можно понижать - путём ознакомления людей с важными особенностями в работе их сознания, стимуляции взаимного сотрудничества и разбора процедурных процессов мышления.

Запланированная проектом "Сириус" игровая система для шпионов будет сфокусирована на вполне конкретных типах когнитивной смещённости, которые часто осложняют эффективное принятие решений. Таких типов выделено шесть.

Подтвердительная смещённость (Confirmation bias). Тенденция искать или интерпретировать информацию таким образом, чтобы она подтверждала заранее имеющиеся у людей концепции. Эта тенденция должна быть прекрасно известна всем людям, когда-либо искавшим интересующую их информацию в интернете с помощью поисковых машин. Хорошо известно, что большинство ищущих - если у них заранее уже есть некоторое мнение по данному вопросу - обычно пропускает ссылки, не соответствующие их взглядам, а кликает лишь на те, что близки их собственным представлениям.

Смещённость слепых пятен (Blind spot bias). Этот термин означает тенденцию людей быть куда менее озабоченными собственными когнитивными сдвигами в оценках, нежели аналогичными предубеждениями у других людей. Ярчайший пример подобной девиации дает незабвенный шеф ФБР Джон Эдгар Гувер, который во имя борьбы с экстремистами всех мастей не гнушался нанимать в криминальной среде не только провокаторов, но и киллеров. Иначе говоря, занимался преступной деятельностью на государственном уровне, полагая мафию меньшим злом, нежели радикальные политические движения.

Ошибка фундаментальной атрибуции (Fundamental attribution error). Чрезмерное внимание к эффектам влияния на поведение людей особенностей их личности или характера. Одним из самых знаменитых исторических деятелей, грешивших подобными ошибками, можно назвать И.В. Сталина, который по каким-то своим субъективным причинам неправильно оценивал Гитлера и оставил страну совершенно не готовой к нападению со стороны Германии. Несмотря на многочисленные предупреждения разведки.

Якорная смещённость (Anchoring bias). Так называют чересчур сильную сконцентрированность лишь на одном из направлений анализа или на единственном фрагменте информации. Очень наглядный пример подобной ошибки даёт аналитическая работа ЦРУ в период резкого ухудшения отношений между СССР и Китаем после смерти Сталина. Несмотря на множество достоверных свидетельств о заметном охлаждении отношений между КПСС и компартией Китая после осуждения культа личности Сталина, в ЦРУ ещё многие годы продолжали заверять американское руководство, что всё это лишь хитроумные "козни коварных коммунистов". Так это и воспринималось вплоть до начала военных конфликтов на советско-китайской границе в конце 1960-х.

Репрезентативная смещённость (Representative bias). Суждение о правдоподобности гипотезы на основе её схожести с уже имеющимися данными. В несколько огрублённом варианте эта ошибка аналогична общеизвестному методу оценок и аргументации по принципу "этого не может быть, потому что не может быть никогда". Такого рода предубеждённость, к примеру, позволяет полностью игнорировать феномен НЛО в абсолютной независимости от того, насколько достоверные сведения поступают об инопланетных кораблях на Земле и о контактах людей с их обитателями.

Проективная смещённость (Projection bias). Линия рассуждений, заведомо предполагающая, что прочие люди разделяют ваши нынешние чувства, ценности или образ мыслей. На базе такого рода предрассудков, к примеру, страны вроде Великобритании, СССР, а теперь США уже не первое столетие безуспешно пытаются насадить свои порядки в Афганистане.

Уже этого краткого набора из типичных для людей когнитивных смещённостей, вероятно, достаточно, чтобы проиллюстрировать нехитрую в общем-то мысль. Огромное количество проколов разведки происходит отнюдь не из-за неумелых аналитиков, находящихся в плену своих предубеждений. А скорее из-за узости мышления политиков, которых разведка обслуживает.

Иначе говоря, в подобного рода умные игры, помогающие избавиться от когнитивных сдвигов и предрассудков, как можно больше следует играть высоким политикам. Ну и шпионам, конечно, тоже.

© ООО "Компьютерра-Онлайн", 1997-2018
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.