Архивы: по дате | по разделам | по авторам

Финансовая криптография и геодезическое хозяйство

Архив
автор : РОБЕРТ ХЕТТИНГА    23.02.1998

В 1983 году судья Гарольд Грин (Harold Greene) своим решением разбил американскую телефонную монополию на множество компаний, оперирующих междугородными и международными - а теперь и местными - телефонными линиями. Это решение стало первым шагом к демонополизации и повышению конкурентоспособности телефонного бизнеса в США, а затем и в других странах.

Через три года Грин поручил Питеру Хьюберу (Peter Huber) - специалисту с дипломами инженера (МТИ) и юриста (Гарвард), ныне признанному аналитику телекоммуникационной политики в Манхэттенском институте и обозревателю журнала "Forbes" - подготовить отчет о состоянии отрасли.

 

О Питере Хьюбере

П. Хьюбер - юрист и писатель. Доктор инженерии (MTI) и доктор права (Гарвард). Шесть лет преподавал в MTI, затем работал в различных судебных присутствиях, включая Верховный суд США.

В настоящее время - ведущий научный сотрудник Манхэттенского института, партнер в вашингтонской юридической фирме Kellogg, Huber, Hansen, Todd & Evans, президент консалтинговой фирмы Kellogg, Huber Consulting Group и обозреватель журнала "Forbes".

В 1987 году представил в Министерство юстиции отчет "Геодезическая сеть" о последствиях демонополизации телекоммуникационного сектора, который служит неиссякаемым источником вдохновения для демонополизаторов во всем мире.

Доктор Хьюбер - автор многочисленных специальных и популярных статей и нескольких книг, среди которых:

  • "Право и беспорядок в киберпространстве" (Law and Disorder in Cyberspace, 1997);
  • "Наука судит: научное знание и федеральные суды" (Judging Science: Scientific Knowledge and the Federal Courts, 1997);
  • "Ответственность: юридическая революция и ее последствия" (Liability: The Legal Revolution and Its Consequences, 1988);
  • "Месть Галилея: псевдонаука в зале суда" (Galileo's Revenge: Junk Science in the Courtroom, 1991).

Выводом Хьюбера стала вежливая версия призыва "Дерегулируйте всех, Господь признает своих 1". Это заняло десять лет, но теперь отдельные компании, прежде составлявшие "маму" Bell, конкурируют на рынке информационных услуг. И лишь вопрос времени - падение последней твердыни монополизма, местных центральных телефонных станций, которые должны будут конкурировать за клиентов, как любой другой бизнес.

Основой рекомендаций Хьюбера стало эмпирическое наблюдение, которое называют законом Мура, - в честь Гордона Мура (Gordon Moor), одного из основателей Intel. Мур подметил закономерность, крайне неприятную для всякого владельца компьютера: стоимость определенного количества вычислительных "лошадиных сил" падает вдвое за очень короткий промежуток времени. Когда Мур впервые сформулировал свой закон, этот срок равнялся 18 месяцам. Разумно предположить, что у такого падения есть свой предел (и сам Мур полагал, что он наступит где-то в 1980 г.), но непохоже, что это случится в обозримом будущем. За прошедшие два десятка лет "период полураспада" стоимости полупроводников сократился до одного года. Именно закон Мура повинен в том, что умные пользователи сразу после покупки нового компьютера начинают копить на следующий.

Так вот, падение цен на микропроцессоры заставило Хьюбера задуматься. Ведь сегодня телефонные коммутаторы - это микропроцессоры. Поскольку раньше роль коммутаторов выполняли люди, и поскольку линии были дешевы по сравнению с оплатой работы этих людей, первоначально телефонная сеть создавалась как иерархия. Операторы, осуществляющие междугородное соединение, продвигали звонок "вверх" по ступеням этой иерархии, а затем "вниз". Чем больше расстояние, тем выше к вершине иерархии нужно было подниматься. Ближе к вершине располагались более быстрые коммутаторы (то есть комнаты с большим количеством операторов).

Но развитие этой иерархии не могло продолжаться бесконечно, ведь люди - слишком дорогой ресурс, чтобы использовать их в качестве узлов телефонной сети, поэтому стали применять вначале электромеханические шаговые искатели, а затем и электронные коммутаторы. Не случайно изобретатель транзистора Уильям Шокли (William B. Shockley) работал в Bell Labs.

С развитием микропроцессорной технологии переключатели стали очень маленькими и дешевыми. Появилась возможность поставить свою мини-АТС, если размеры компании это оправдывали. Как только компании стали сами коммутировать свои звонки, все изменилось. Теперь грех было не купить несколько частных линий и не соединить штаб-квартиру компании с филиалами, организовав таким образом свою миниатюрную междугородную сеть.

Но когда речь заходила о снижении стоимости линий, все упиралось в то, что их приходилось приобретать у монополии. До 1980 годов конкуренции на рынке линий междугородной связи не существовало.

От иерархических к геодезическим структурам

 

О Ричарде Бакминстере Фуллере

Р. Б. Фуллер (1895-1983) - американский философ, ученый, инженер, архитектор и поэт. Один из самых ярких мыслителей нашего века.

Среди его достижений - разработка так называемой энергетически-синергетической (или просто фуллеровой) геометрии, задающей векторное членение пространства и полагающей в качестве основной единицы такого членения тетраэдр. Четырехгранные "ячейки" (дополняемые восьмигранными) позволяют добиться оптимального заполнения пространства и наиболее полного использования структурной прочности материалов.

Одно из приложений фуллеровой геометрии - "фуллерова проекция", используемая картографами для получения плоских карт с наименьшими искажениями.

Утилиту для рисования геодезических конструкций можно взять на http://www.cris.com/~rjbono/html/domes.html

Другое ее применение - "геодезические" инженерные сооружения, в частности, геодезический купол - единственная конструкция большого купола, которая может возводиться непосредственно на земле. Геодезический купол также является единственным практически реализуемым типом конструкции, масштабируемой без изменения (общая прочность пропорциональна логарифму размера).

Наиболее известной реализацией этой идеи стал павильон США, построенный к выставке "Expo 67" (Монреаль, Канада); в России первый геодезический купол был построен в Сокольниках в 1959 году. Впрочем, большинству россиян геодезические купола известны скорее по изящным полушариям из металлических трубок, часто возводимым на детских площадках.

Геодезические ("сетевые") структуры были затем обнаружены в природе химиками, физиками и биологами, в последнее время многие (в том числе наш сегодняшний автор Р. Хеттинга) пытаются применить эту идею в традиционно гуманитарных областях знания.

Сам Фуллер считал свои частные научные и инженерные достижения лишь побочным результатом движения к решению глобальной задачи наиболее эффективного использования человеком пространства, времени и материалов. Идеи Фуллера лежат в основе "замкнутых производственных циклов" и "экотехнологий", ему же принадлежат блестящие разработки в области альтернативных источников энергии, нетрадиционных средств передвижения и метафора Земли как космического корабля.

В 1975 году Фуллер был избран почетным профессором Университета Южного Иллинойса в Карбондейле, США, где он много лет до этого занимался исследованиями и преподаванием. Он награжден Королевской золотой медалью за достижения в архитектуре и Золотой медалью Национального института искусств и словесности.

Среди книг Фуллера:

  • "Девять цепочек к Луне" ("Nine Chains to the Moon", 1938);
  • "Довольно Бога, бывшего в употреблении" ("No More Secondhand God", 1962);
  • "Утопия или забвение" ("Utopia or Oblivion", 1969);
  • "Руководство по использованию корабля Земля" ("Operating Manual for Spaceship Earth", 1969);
  • "АО Земля" ("Earth, Inc.", 1973);
  • "Критический путь" ("Critical Path", 1981).

Как при жизни Фуллера, так и после его смерти о нем и его концепциях написаны десятки книг. Вполне возможно, что идеи Бакминстера Фуллера получат новую жизнь в информационном обществе третьего тысячелетия.М.О.


Хьюбер сумел увидеть в телекоммуникационных сетях структуры, ранее известные как "геодезические". Их открыл в сороковых годах Бакминстер Фуллер (R. Buckminster Fuller), пытавшийся воспроизвести в инженерных конструкциях способ образования мыльных пузырей. Он пришел к конструкциям из трубок и узлов, которые назвал "геодезическими". Геодезическая линия - это кратчайшая линия, соединяющая две точки на сфере, и именно так распределяются напряжения по сетке из трубок и узлов в геодезических куполах Фуллера.

С открытием Фуллера произошло то же, что и со многими открытиями Леонардо да Винчи: оказалось, что геодезические структуры широко распространены в природе. Например, материаловеды обнаружили, что геодезическую структуру (хотя и несовершенную) имеют молекулы сажи.

Органические химики назвали класс ароматических соединений, имеющих выраженную геодезическую структуру, фуллеренами (самый роскошный из фуллеренов назван, конечно же, бакминстерфуллереном).

Форму геодезических шариков, называемых "шариками Баки", принимает уголь, если процесс сгорания протекает оптимально. Шарики Баки, трубки Баки и другие бакиструктуры - среди первых успехов наноинженерии. Баки Фуллер, будь он жив сегодня, немало удивился бы этому, однако все это - лишь рассвет мира геодезических структур в телекоммуникациях, экономике и, в конечном итоге, в обществе.

Неслучайно именно этот класс конструкций называют еще "сетевыми структурами".

Конечно же, самой геодезической из всех сетей является Internet. Каждый раз, когда к Сети добавляется новый узел, будь то роутер-суперкомпьютер или мой (теперь уже древний, благодаря Закону Мура) PowerBook 180, количество возможных прямых, геодезических, равных-с-равным соединений растет по экспоненте.

Микропроцессорная коммутация в повсеместно распределенном Internet проделывает с любой концентрацией информации очень забавную штуку. Ее эффект подобен тому, который поверхностно активное вещество (ПАВ) оказывает на масло. Все видели рекламу, в которой капля моющего средства, упавшая в грязную воду, разрушает сгустки жира в ходе рекурсивного, фрактального процесса, приводящего к тому, что жир исчезает на наших глазах. На самом деле он остается в воде, но уже химически связанный с ПАВ, и поэтому не может слипаться в большие комки или приставать к чему-либо еще. На микроуровне он образует с водой суспензию. То же самое происходит и с информацией в геодезических сетях. Большие информационные иерархии распадаются на все меньшие фрагменты, непосредственно и легко доступные тем, кому она необходима. Когда в сети так много узлов, гораздо проще собрать информацию, опрашивая их в реальном времени, чем полагаться на централизованные хранилища, где информация начинает устаревать, как только собрана.

Поскольку наши общественные структуры достаточно точно отражают структуры коммуникации, становится понятно, что происходит сегодня в мире. С вавилонских времен мы строили все более громоздкие и иерархические структуры, а все потому, что коммутаторы (человеческие мозги) были дороже, чем каналы коммуникации (которыми служили сначала устное общение, затем переписка, телеграф и, наконец, телефон и факс).

В иерархической организации наиболее ценная информация собирается ближе к вершине каждой иерархии, и здесь же возможны самые значительные ошибки. На вершине отдача каждого успеха больше, но и неудача обходится дороже. Кроме того, часто выходит, что потери покрываются нижними этажами иерархии, в то время как прибыль имеет свойство концентрироваться наверху.

Сегодня, когда благодаря закону Мура мы можем буквально штамповать коммутаторы, причем по экспоненциально снижающейся цене, все эти иерархии распадаются на фрагменты все меньшего и меньшего размера.

"Разукрупнение", "реинжиниринг", "уплощение" организационных структур - за всеми этими модными терминами стоит все тот же отказ от индустриально организованных информационных иерархий, который произошел в телефонном бизнесе.

В гуманитарном смысле, каждый "узел" в современной организационной сети ничуть не хуже другого, потому что каждый из них имеет примерно равную пропускную способность и доступ к одинаковым объемам информации. Вместе же они работают эффективнее по той же причине, по какой стая гусей лучше, чем один гусь, летит, а косяк рыб лучше, чем одна рыба, плавает. Мы эффективно организуем совместную деятельность, не прибегая к "руководству", - смотрите, это та же организация, лежащая в основе работы чисто аукционного рынка.

Геодезическое хозяйство

Так что же при этом происходит с хозяйством? И, в особенности, с сетевым хозяйством? Достаточно забавно, но движение в будущее иногда совершается за счет шага назад. Хозяйство, претерпевающее тотальную автоматизацию, становится в то же время более непосредственным и персонализированным. Бизнес становится менее формальным, его язык перестает использовать безличные конструкции, свойственные корпоративным служащим. Хозяйство становится более хаотичным и стремящимся к самоорганизации. Хозяйственные процессы начинают говорить от первого лица. Они становятся гораздо более индивидуализированными и - как бы это сказать, - опирающимися на мнения…

Если задуматься, каждый раз, копируя и передавая дальше информацию в неизменном или обработанном виде, вы коммутируете ее поток. Подгружая из Сети цифры или текст, обрабатывая их и отправляя дальше (возможно, тиражируя для нескольких людей), вы выполняете те же функции, что и любой компьютер в Сети, будь он маршрутизатором, почтовым сервером, сервером новостей или коммерческим WWW-сервером. Как и коммерческий сервер, вы хотите, чтобы эта работа оплачивалась. И вот что интересно: в геодезическом хозяйстве плату за работу могут получать как люди (причем с минимальным количеством посредников между покупателем и продавцом - ведь "геодезическая" и означает кратчайший путь), так и оборудование или программное обеспечение. Да, именно так: машины получают плату непосредственно.

Наиболее эффективный способ что-либо продать или купить - это устроить аукцион за наличные. Сегодня близкая к аукционной модель реализована лишь в самом сердце фондовых рынков и бирж, да еще при внебиржевой торговле однородными товарами (например, на оптовом рынке подержанных автомобилей) и в других областях, где небольшая задержка стоит больших денег. А раньше аукционы были единственным способом заключения сделок. Сегодня мы можем увидеть, как они работают, отправившись на сельский рынок в одной из развивающихся аграрных стран. Однако в развитых странах этот способ ценообразования был вытеснен индустриальными технологиями.

Твердые цены - это результат преобладания длинных индустриальных производственных цепочек, которое, в свою очередь, есть результат экономии на масштабах, достигаемой за счет иерархического хранения и обработки информации. Когда информацию коммутируют дорогие люди, оказывается дешевле собрать все ресурсы и рабочую силу в одно место, где сконцентрирована необходимая информация. Так, резина и уголь, дерево и сталь, стекло и пластик стекаются в Детройт, центр промышленной империи Генри Форда.

Производственная иерархия, в свою очередь, порождает иерархию сбыта, которую образуют знакомые нам цепочки "производитель - дистрибьютор - дилер - покупатель". Сегодня можно наблюдать, как эти иерархии, благодаря закону Мура, распадаются и замещаются потребительскими кооперативами, осуществляющими оптовые закупки непосредственно у производителей.

Посмотрите на компанию Dell Computers, осуществляющую прямые продажи заказных комплектаций, или, еще лучше, на местного "кустарного" сборщика, делающего вам компьютер, пока вы ждете. Тогда вы поймете, что такое сеть, ориентированная на клиента, а не на производство. Службы курьерской доставки, подобные Federal Express, - тоже пример геодезической организации транспортировки.

Сегодняшний хозяйственный механизм приспособлен к нуждам индустриальной эры и ориентирован на иерархии. Он основан на обмене списанием безналичных единиц учета между покупателями, продавцами и различными финансовыми посредниками, такими как карточные консорциумы, брокерские фирмы и банки.

На рынках капиталов, где торгуют акциями и облигациями, это называют "безналичными расчетами", и когда мы анализируем сетевую коммерцию, разумно заимствовать это понятие, поскольку оно способствует лучшему пониманию сути дела.

Цифровые финансы - это финансовая криптография

Бухгалтерский учет с двойной записью был придуман в Средние века, чтобы люди могли измерять свой финансовый успех и (что более важно) чтобы хозяева могли доверять функции учета другим людям, бухгалтерам. Это изобретение итальянского монаха 2 позволило предпринимателю времен Возрождения (какому-нибудь венецианскому мавру) делегировать финансовый учет и, как следствие, построить предприятие больших масштабов, чем он мог бы контролировать непосредственно.

До изобретения двойной записи были известны другие рудиментарные способы учета (такие, как ведение описи), но расчеты при этом производились с помощью наличных денег. Даже располагая конторскими книгами, судить о том, что становишься богаче, можно было, лишь пересчитав содержимое чулка с выручкой, подобно легендарному предпринимателю времен рождения Силиконовой Долины. Весь малый бизнес работал так сравнительно долго, вплоть до Второй мировой войны.

В послевоенный же период правительственный контроль над системами расчетов усилился (в основном, за счет введения налогообложения, основанного на бухучете), и дело дошло до того, что сегодня нам нужен юридический консультант и профессиональный бухгалтер для проведения любых мало-мальски значимых операций. Хотя значительное количество бизнесменов продолжают работать в зоне наличных расчетов, особенно в, так сказать, неформальных секторах хозяйства.

На самом деле наличные финансовые инструменты были одним из первых применений письменности: вавилонская клинопись развилась из системы хозяйственного учета, включая глиняные таблички в виде многогранников с оттиском персональной печати, абстрагирующих стоимость, например: "Это стоит трех коров, так говорю я, Дж. Навуходоносор". Эти штуки использовались так же, как мы сегодня используем наличные деньги.

Между тем, вернемся снова во времена Возрождения. Безналичные расчеты позволяли создавать все большие и большие предприятия, и неудивительно, что примерно через сотню лет после изобретения бухгалтерии с двойной записью возникли акционерные компании и даже общества с ограниченной ответственностью.

Парадокс заключался в том, что рынок капитала продолжал функционировать на наличной основе. Люди встречались под определенным деревом на какой-нибудь Уолл-Стрит и торговали замысловато раскрашенными бумажками, представляющими часть капитала компании или ее долговых обязательств. Чтобы продать акции, нужно было физически доставить их на торговую площадку.

Но, в конце концов, безналичные расчеты добрались и до фондового рынка, и мы получили фондовую биржу. "Специалисты" или "маркетмейкеры"  3 стали принимать распоряжения и обмениваться ими, просто производя двойную запись в своей книге и книге партнера по сделке. На товарных биржах, где объем сделок гораздо выше, люди собираются в соответствующем отделе биржи, заключают сделки с партнерами и совершают их, подписывая необходимые распоряжения.

С развитием средств быстрой связи, в особенности телекоммуникаций, все это неимоверно усложнилось. Люди получили возможность торговать акциями из любой точки по телеграфу или посещая филиал брокерской фирмы, связанный с биржей через главный офис. Однако для расчетов и платежей все еще требовались наличные инструменты.

В ранние дни безналичных торгов для совершения сделки физические сертификаты необходимо было доставить в какой-либо из отделов брокерской фирмы, по понятным причинам называемых "клетками" (cages). Позднее для совершения безналичных расчетов по биржевым сделкам с ценными бумагами были учреждены клиринговые дома. И сегодня, когда кто-либо говорит "безналичные расчеты", он, скорее всего, подразумевает безналичную оплату по сделкам с ценными бумагами, поскольку безналичные расчеты стали нормой в других сделках, в которых используются чеки или кредитные карточки 4.

Клиринговый дом держит все бумажные акции в хранилище, а обладание ими отдельных участников торгов фиксируется в книге. Этим записям соответствуют записи в книгах брокеров, и мистерия бухучета с двойной записью заставляет балансы сходиться, так что споров не возникает. В Depository Trust Company 5 у многих фирм весь капитал представлен одним сертификатом, который находится в хранилище.

Однако сегодня криптографически стойкие протоколы делают экономически выгодными электронные торги по объектам, представляющим абстрагированную стоимость: цифровыми сертификатами на предъявителя (такими, как цифровая наличность). Если можно представить в форме сертификата на предъявителя деньги, можно создать и сертификаты на предъявителя, представляющие акции, облигации и любые производные финансовые инструменты.

И здесь мы приходим к тому, что можно назвать геодезической коммерцией.

Сегодня все знают о защищенном протоколе SSL, который шифрует сеансы связи между браузером и сервером, так что можно послать продавцу номер кредитной карточки и расплатиться за покупку. Если ключик в левом нижнем уголке окна Netscape Navigator не изображен разломленным, как обычно, во время отправки заполненной формы, значит, сеанс связи защищен SSL. VISA и MasterCard вот-вот начнут внедрять протокол SET, который наряду с шифрованием позволяет аутентифицировать сеансы с помощью цифровой подписи 6. Это позволяет сократить число мошенничеств (или "неисполнения обязательств", как люди с кредитными карточками предпочитают именовать мошенничество на своем изысканном жаргоне).

Кредитные компании заявляют, что будут относиться к транзакциям, заключенным с помощью SET, так же, как к физически подписанным слипам. Это на долю процента снизит расходы продавца.

Однако схема расчета остается слишком сложной. Процессинговые компании мостят асфальтом извилистые звериные тропы расчетов по карточкам, а результат называют "информационной супермагистралью". По сравнению со сложностью SET птолемеевские эпициклы - образец простоты и изящества. Криптографы уже отметили потенциальные проблемы SET, и, разумеется, после запуска системы будут найдены другие, причем не всегда о них будут сообщать сразу. Странно, но в сетевом мире для неразборчивого в средствах технолога оказывается иногда выгодным не говорить о безопасности вообще. Однако определенную защиту могут дать доверие и репутация.

Я не знаю, успели ли вы заметить, но речь уже идет о криптографии, не так ли? И это подходящий момент, чтобы сформулировать Первый закон Хеттинги о цифровой коммерции: "Цифровая коммерция и есть финансовая криптография".

Без одной у вас не будет и другой. Каждая из них является необходимым и достаточным условием для существования другой. Поскольку финансовая криптография является областью стойкой криптографии, которую мы определим позднее, без стойкой криптографии настоящей цифровой коммерции не будет.

Поэтому американская политика в области криптографии лежит гнилой колодой на рельсах развития Internet, и это вскоре будет ясно каждому. Сегодняшняя точка зрения Администрации предусматривает преднамеренное ослабление криптографических средств, все еще юридически приравненных к оружию. Тому есть исторические причины. Раньше слабые криптографические протоколы, как и болтливые языки, могли пускать на дно корабли, и это может подтвердить любой японский ветеран боев в Тихом океане. Если вы сумели узнать протокол (как союзники узнали протокол немецкой "Энигмы" или японской "пурпурной машины"  7), вы могли вскрыть шифр. Однако в 1970 годах гражданские специалисты сумели создать криптографические протоколы, которые не нужно держать в секрете, чтобы они оставались безопасными. Известие об этом не перестает удручать крипточиновников из Агентства национальной безопасности, где криптография всегда считалась "тайнорожденной". К тому же, оказалось, что метод, называемый сегодня криптографией с открытым ключом, уже предлагался для использования американскими ядерными контрольно-командными системами, начиная со времен администрации Кеннеди 8.

Поскольку криптографические протоколы больше не нужно держать в тайне, криптологи экспертируют результаты работы друг друга, и большинство протоколов патентуется, что означает их широкую известность. Именно поэтому, если кто-то пытается всучить вам средства, основанные на "секретном методе шифрования" - бегите от него бегом. Строгий термин, который профессиональные криптографы во всем мире используют для обозначения такого рода "секретных" шифровальных протоколов: "шарлатанское снадобье"  9.

Мы не будем углубляться в обсуждение самих криптографических протоколов, поскольку о них написано много хороших книг. Если вы хотите больше узнать об их применении в разрабатываемых вами программах, я рекомендую "Прикладную криптографию" Брюса Шнайера 10. Подзаголовок книги - "Протоколы, алгоритмы и исходные тексты на C++" - говорит сам за себя. Только не пытайтесь вывезти отсканированные и распознанные тексты из этой книги на флоппи-диске из США - это будет считаться преступлением. Конечно, можно "схитрить" и спокойно пронести через таможню книгу в печатном виде - никаких вопросов это не вызовет.

Вторым важнейшим качеством криптографии в ее применении к цифровой коммерции (т. е. финансовой криптографии) является возможность использовать закрытый ключ шифрования для наложения цифровой подписи так, что единственным человеком, от кого может исходить ваша подпись, остаетесь вы. При безналичных расчетах это действительно важно. Чтобы найти того, кто сделал фальшивую бухгалтерскую проводку (как Ник Лисон (Nick Leeson) из Barings), прежде нужно узнать, кто именно это был (вплоть до идентификации ДНК, хотя обычно достаточно отпечатков пальцев). Для формирования цифровой подписи нужно использовать самую стойкую криптографию, чтобы вы с уверенностью могли сказать, что подпись наложена данным человеком.

А такая уверенность нужна вам для того, чтобы поймать мошенника и посадить его в тюрьму за то, что он сделал фальшивую запись. Обратите внимание, что в этом "протоколе" божественным "обработчиком ошибок" становится применение физического насилия современной национальной государственностью, этой самой вертикально интегрированной монополией.

Рост преступности, включающей подделку подписи, является не единственным следствием правительственных попыток ограничить стойкость криптографических ключей. Ограничения на длину ключей, позволяющие людям, имеющим доступ к большим быстрым компьютерам (т. е. правительственным чиновникам), взламывать их, или, что еще хуже, различные схемы "депонирования" закрытых ключей, изобретаемые правительством (финансовые криптографы предпочитают родовой технический термин "ПДК" - "правительственный доступ к ключам") перестают быть правоохранительными мерами и становятся ростками тоталитаризма.

Почему? Да потому, что преднамеренно ослабленные или, еще хуже, "депонированные" ключи позволяют тому, кто вскарабкался достаточно высоко по иерархии государственной службы, выдавать себя за вас. И то, что он прикарманит все ваши сетевые деньги, будет только началом потехи. Финансовое сообщество указало на этот момент различным правительственным деятелям, и последние проекты регулирования использования криптографии предусматривают усложнение криптографических средств, так чтобы у каждого были ключи двух типов, один для подписи, а другой (ослабленный или депонированный) - для шифрования сообщений и данных.

Используя семантические фокусы такого рода, Verisign сумела получить разрешение на экспорт 128-битных ключей, используемых только для подписи. До этого наибольшая длина ключей, которые разрешалось экспортировать, равнялась 40 битам. Больше года назад один из моих сотрудников показал, что взломать 40-битный ключ можно средствами обычного университетского вычислительного центра за 4 часа. Поскольку каждый бит в длине ключа ведет к удвоению времени, необходимого для его взлома, стойкость 128-битного ключа больше стойкости 40-битного в 2128-40 раз (это число выражается тройкой с двадцатью шестью нулями). Подобная стойкость впечатляет, но использование стойких ключей только для цифровой подписи все еще оставляет все ваши действия в Сети "прозрачными" для любого, кому доступен эквивалент четырех часов работы университетского вычислительного центра (или четырех секунд работы специализированного процессора).

Новая правительственная политика означает, что никто не сможет выдать себя за вас, даже если бы он превратил в компьютер каждый атом Солнечной системы, по крайней мере, до следующего Большого взрыва. Однако, все ваши действия (и особенно, сделки) остаются видимыми. Я оставляю в качестве логического упражнения для читателя еще применение принципа "бритвы Оккама"  11- не говоря уже о принципах, выраженных в современных конституциях и декларациях прав человека, - к такому "подарку" от крипторегуляторов…

Сегодня любую форму безналичных расчетов - карточки, чеки, банковские и брокерские операции, сетевые чеки, даже внесение залоговых сумм для дальнейших расчетов наличными - мы можем перенести в Сеть. Все, что для этого нужно - стойкая финансовая криптография. Но не только для аутентификации, а и для шифрования. (Это не касается тех, кому нечего скрывать от высокопоставленных чиновников. Или от их друзей. Или от их деловых партнеров…)

Заметьте, что из всех перечисленных методов безналичных расчетов только один является подлинным, геодезическим, пригодным для сделки между равноправными сторонами и не требующим опосредующих серверов для совершения сделки. Это сетевые чеки. Существует еще один подобный способ - налично-безналичные расчеты с доверенной третьей стороной. Система называется Mondex, она по техническим (и юридическим) причинам ограничивает хранящуюся в электронном бумажнике сумму 750 долларами 12.

При наличии сетевых чеков по протоколу, подобному тому, что сейчас тестируется FSTC 13 (или другому, более дешевому, в разработке которого я участвую), я могу по электронной почте отправить вам чек, который вы передадите в банк в обмен на депозит, и при этом нам не потребуется вставать из-за стола. Пока пропускной способности Сети хватает, любой из нас или даже банк может находиться где угодно, хоть в Тимбукту, хоть на борту океанского лайнера: вот вам и геодезическая коммерция.

Так зачем же после всей финансовой эволюции, сопровождавшей индустриальную революцию, и после того, как мы научились переносить безналичные инструменты в публичные сети, подобные Internet, возвращаться к наличным инструментам? Причины есть. Во-первых, цифровые сертификаты на предъявителя являются геодезическими и симметричными, поэтому они отлично вписываются в Сеть и - соответственно - в общество, которое создается Сетью. Я плачу вам, а вы, как только получили платеж, можете использовать деньги для другой сделки. Это называется "немедленным расчетом".

Во-вторых, они не так опосредованы. Отпадает необходимость в громоздком институциональном аппарате процессинга кредитных карт, включающих как минимум два банка - мой и ваш, а также карточную ассоциацию в качестве клирингового института. На самом деле, чтобы безналично перечислить деньги из банка в банк, используется еще один институт, например, Федеральная резервная система, тоже участвующая в каждой транзакции 14. Смотрите: два, четыре, шесть посредников - и все лишь для того, чтобы я мог передать вам деньги. Далее, для этого нужен WWW-сервер, причем быстрый и на быстрой линии - вспомните, что нам нужно экономить на масштабах, чтобы безналичные расчеты оставались выгодными. Если я использую SET вместо простого SSL, мне придется вложить дополнительные средства, чтобы банк смог доверить мне расчеты в реальном времени.

А наличная транзакция, даже очень большого объема, с использованием подписи вслепую включает не более трех участников: покупателя, продавца, и эмитента цифровой наличности. Последнего можно назвать андеррайтером, так же как и того, кто выпускает бумажные сертификаты на предъявителя 15.

Снижается не только количество посредников, но и количество данных, которыми необходимо обменяться для совершения транзакции. Прежде всего, вспомните о бухгалтерских записях, которые нужно сохранять при безналичных расчетах, и все только для того, чтобы смошенничавшего партнера можно было поймать и засадить за решетку. А теперь, вспомните, как вы последний раз покупали газету в киоске за наличные. Почувствуйте разницу.

Все еще не чувствуете? Смотрите, большинство тех, кто постоянно имеет дело с наличными, могут с первого взгляда отличить подлинную купюру от фальшивой. И дело даже не в том, что можно позвать полицию, - можно просто отказаться принимать такую банкноту, что еще дешевле.

То же самое справедливо и для онлайновых форм цифровой наличности, например, для протокола с подписью вслепую 16, разработанного Дэвидом Чомом (David Chaum). В Сети продавец проверяет цифровую купюру с помощью эмитента и, если она является подделкой (уже "потрачена"), отказывается от сделки. Более того, поскольку используется цифровая подпись, эмитент может взять вашу копию сертификата, затем уже "истраченную" копию и использовать их для того, чтобы открыть "слепую подпись" и узнать, кто первый "истратил" купюру. Если это были не вы, вы просто теряете деньги, которые представляет этот сертификат, но виноваты в этом сами, так как не проверили их вовремя. Caveat vendor 17, как и раньше. Но если это вы пытаетесь второй раз "потратить" купюру - это конец, вас больше нет. Хотя, конечно, и не в физическом смысле.

Забавная часть протокола "подписи вслепую" начинается, когда мошенничество обнаружено. Эмитент не утруждает себя поимкой и отправкой за решетку мошенника, но он может сделать с ним кое-что похуже. Он может уничтожить навсегда способность соответствующего ключа покупать или продавать что-либо в Сети. Это - в буквальном смысле "казнь репутации"  18.

Последнее выражение - эзотерическая шутка в кругах финансовых криптографов. Дело в том, что когда кто-либо генерирует себе новую пару ключей, у ключа нет еще никакой репутации. Репутация, как мы успели заметить, очень ценна. Установленное доверие во все века было наиболее важной вещью в коммерции, а распространение безналичных систем расчетов позволило злоупотреблять этой концепцией.

Когда Дж. Пирпонта Моргана (J. Pierpont Morgan)  19 привели буквально со смертного одра свидетельствовать перед Конгрессом и задали ему вопрос, что является важнейшим качеством для банкира, он ответил: "Честность. Я не купил бы ничего у нечестного человека, даже если бы он предложил мне все сокровища мира". На рынке, обслуживаемом наличностью, репутация - самая важная вещь. Ее можно даже делегировать, чем и занимаются финансовые посредники типа банков. Чтобы кому-то стали доверять без поручителей, требуется достаточно долгое время. Понятно, что не стоит тратить с трудом заработанную репутацию ради чего-либо менее ценного, чем усилия, затраченные на ее приобретение, теряя при этом доверие, с которым к тебе относятся другие люди (если эта репутация не взята напрокат у банка). В финансовой криптографии это называется капиталом репутации, отсюда моя грубая шутка о "смертной казни" репутации. Однако с репутациями связано кое-что поважнее (да и повеселее).

Обратили ли вы внимание на то, что биометрическая идентификация (проверка отпечатков пальцев, сканирование радужной оболочки глаза или анализ ДНК) не нужна для работы протокола наличного расчета? Одно и то же физическое лицо может обладать несколькими ключами и - соответственно - репутациями в Сети. Никому не нужно знать вас лично до тех пор, пока ключ, используемый вами, обладает репутацией, достаточной для совершения данной сделки. Вы можете называть себя как угодно, лишь бы вы платили по счетам. Те, кого действительно заботит приватность, считают это свойство ценным. На самом деле, приватность рано или поздно начнет заботить и вас, ибо по мере все большего распространения Сети, разве вы действительно захотите, чтобы кто угодно и где угодно знал о вас все? Или все же нет?

Да, и еще одна вещь. Заметили ли вы, что "наличный" протокол не предусматривает применения физического насилия? Я ни разу не произнес слова: "монополия государства на легитимное насилие". На самом деле, я даже не использовал слово "закон", правда?

Если вы еще не поняли, в этой части статьи я подвел вас к обрыву и держу за шиворот, чтобы вы не упали, глядя на конец мира, каким мы его знаем…

Пишите код, а не кодексы

Вице-президент финансово-криптографической компании C2NET Дуг Барнз (Doug Barnes) как-то произнес слова, которые я называю законом Барнза. Он гласит: ""…И вы отправляетесь за решетку" - не самый лучший вариант завершения протокола Internet-коммерции". Подумайте, сколько будет стоить выследить кого-нибудь из Харраре (Зимбабве) и засадить его за решетку за то, что он смошенничал при безналичной сделке с сервером в Павкипси (шт. Нью-Йорк). Тогда вы поймете, что имел в виду Дуг. Конечно, эти проблемы можно решить, создав единое мировое правительство с универсальными и строго соблюдаемыми законами и правилами выдачи во всех существующих двух с половиной сотнях национальных государств. Это - еще одно логическое упражнение для читателя на применение "бритвы Оккама". Извините, но мы этот урок уже проходили. Подобные попытки человечество предпринимало на протяжении этого века не единожды, и опыт обеих мировых войн показывает, к чему такие попытки приводят.

Но и это еще не все. Не храним ли мы все эти записи в течение, скажем, семи лет для целей налогообложения. Не запретила ли Налоговая служба США облигации на предъявителя из-за невозможности контролировать их владельцев и облагать налогом их прибыль? Не стало ли "отмывание денег" сложнейшей проблемой, стоящей перед финансами? Не требует ли депонирование сумм от 10000 долларов и перевод сумм от 750 долларов уведомления правительственных служб? Не способна ли SEC, FinCEN или любая из целой кучи финансовых ТБА (ТрехБуквенных Аббревиатур) просматривать любую сделанную с помощью кредитной или банкоматной карточки или чека транзакцию, и не обязаны ли они делать это для того, чтобы защитить нас от инсайдер-трейдеров, отмывщиков денег и неплательщиков налогов?

На все эти вопросы можно ответить положительно, за исключением одного. Вопрос с подвохом касается "отмывки денег" как важнейшей проблемы финансовой системы. Общая сумма "отмываемых"  20 денег в мире не превышает 300 млрд. долларов в год. (Неизвестно, откуда взялась эта цифра, но ее из года в год повторяют те, кто посещает определенные конференции и приемы 21.) Общая же сумма пересылаемых каждый год по миру денег исчисляется квадриллионами долларов. Арифметические выкладки пусть делают студенты, а я лишь замечу, что так называемая отмывка денег проблемна лишь для национальных государств, теряющих возможность следить и облагать налогами эти потоки средств. Думаете, отследив неправедно полученные деньги, можно поймать преступников? В качестве еще одного упражнения примените то же самое отношение "отмываемых" денег к сумме общего потока средств еще раз к сумме "отмываемых" денег, чтобы получить процент людей, которых ловят на "отмывании", а теперь это же гомеопатическое соотношение - еще раз, чтобы получить процент тех, кто не делает этого, чтобы не платить подоходный налог.

Правда, я не готов защищать правильность любого из этих чисел, поскольку первое было, вероятно, просто придумано, чтобы было что обсуждать. На самом деле этих чисел никто не знает. Кроме квадриллионов, в которых даже для не слишком разбирающихся в математике людей, вроде меня, на шесть нулей больше, чем в миллиарде.

Короткий же ответ на все эти вопросы заключается в том, что на физике основывается экономика, на которой основывается, в свою очередь, и политика, но никак не наоборот. То есть правительства облагают налогами безналичные сделки прежде всего потому, что есть, что облагать. Вспомните: национальная государственность и безналичные расчеты связаны еще одним способом. Безналичные расчеты невозможно организовать без государственности или, по крайней мере, без физического насилия - к сегодняшнему дню это поняли на своем опыте даже московские банкиры.

В индустриальном обществе рынок насилия, как мы уже знаем, монополизирован. Я думаю, что в значительной степени способность правительства оплачивать массовое - и потому дешевое - производство оружия и следующая из этого монополия на насилие проистекают из ее возможностей облагать налогами сделки. Почему? Как ни странно, не только потому, что правительство может силой заставить нас платить, но и потому, что насилие необходимо, чтобы безналичные "протоколы" расчетов работали.

Наконец, мы пришли к самому глубокому основанию сравнительного анализа стоимости наличных и безналичных расчетов. При наличных расчетах нам не нужно нанимать правительство, принуждающее к исполнению безналичных расчетов. Стоимость монополии на насилие может быть измерена различными способами. Один из них - количество жизней, которые отнимают правительства, в том числе в войнах между собой.

Подумайте о финансовой криптографии

Казалось бы, мы только заглянули в пропасть, а на самом деле мы ее уже перепрыгнули. Как выглядит мир с другой ее стороны?

Наличные цифровые расчеты будут, вероятно, на порядки дешевле в использовании, чем безналичные, так что, в конце концов, мы придем к повсеместному рынку, функционирующему на наличной основе. На этот рынок выйдет все то, что может быть оцифровано и передано по линии связи (в основанном на информации хозяйстве это означает все ценное). Однако, не все так просто. За все нужно платить, и прежде всего, утратой альтернативы.

В качестве примера рассмотрим основную функцию национального государства: удержание монополии на насилие. Следует ожидать изменения способов, которыми сила продается, - геодезической войны, если угодно.

Большие, вертикально интегрированные национальные государства не смогут следить за всеми транзакциями и облагать их налогами типа подоходного, на прибыль, на продажи или НДС. То есть исчезнет почти целиком их финансовое основание. В результате, способность правительств экономить на масштабах производства или покупки вооружений резко уменьшится. Советский Союз коллапсировал, поскольку не смог централизованно рассчитывать оптимальные цены на ресурсы и неправильно их распределял. Его падение привело к тому, что народ оказался вброшенным прямо в "геодезическую" ситуацию, в которой каждый должен находить свой кратчайший путь для обмена товарами и услугами без поддержки со стороны распределительной иерархии. Это может показаться гигантским шагом назад, но на самом деле приводит чрезмерно иерархизированные в прошлом общества прямо в глобальное геодезическое хозяйство будущего.

Если народ сможет применить в нужном масштабе информационные технологии, такие как сотовая связь, персональные компьютеры, спутниковая телефония, этот процесс приведет к равновесию много быстрее.

Россия не только была вынуждена отказаться от большой части многовековой империи. Ее способность создавать новые централизованно управляемые ядерные вооружения оказалась жестко ограничена. Россия и ее бывшие сателлиты испытывают сложности в сохранении контроля даже над имеющимися у них ядерными вооружениями. Забавно, но в Америке некоторые хотели бы передать бывшим советским контрольно-командным системам технологию криптографии с открытым ключом, чтобы получить некоторые гарантии надежного контроля 22.

Однако сейчас формируется рынок даже старых вооружений, и если боеголовки еще не сменили хозяев, то скоро это произойдет. Терроризм (в особенности, связанный с использованием оружия массового поражения), опирающийся на оперативную глобальную коммуникацию - одна из форм геодезических вооружений наряду с умными бомбами, самонаводящимися ракетами и интеллектуальными минами.

Таким образом, потребность в силе сохраняется. Но в геодезическом хозяйстве она будет распределяться более эффективно. Пока неясно, к чему это приведет, но можно с уверенностью предположить, что люди будут действовать в своих интересах. Это может показаться странным, но при большем распределении власти (которое произойдет в геодезическом хозяйстве) обычно насилия меньше, а не больше. Но это мы еще посмотрим.

Если вам кажется, что в таком мире жить будет интересно, давайте доведем идею финансовой криптографии до логического предела. Представьте мир, в котором микроплатежи стали настолько же повсеместными, насколько и сама Сеть, а очень мелкие хозяйственные единицы используют что-то вроде протокола MicroMint Рона Райвеста (Ron Rivest) для постоянной аукционной торговли между собой.

Представьте, что вместо онлайнового протокола, такого как "подпись вслепую", у вас есть полностью оффлайновый протокол, при котором каждую монету нет необходимости проверять просто потому, что ее слишком дорого подделывать. Кстати, экономика чеканки таких "монет" такова, что первая из них может быть очень дорогостоящей, а все последующие - очень дешевыми в изготовлении. Тогда каждый эмитент будет стремиться отчеканить их как можно больше. Далее, представьте рынок, где тысячи таких эмитентов конкурируют между собой и подвергаются арбитражу как различные национальные валюты сегодня. И еще: хотя такие микросертификаты - настоящие деньги, их производство настолько дешево, что можно номинировать их в тысячных или даже миллионных долях цента.

Но что можно купить на миллионную долю цента? Ведь даже стоимость пересылки почтового сообщения, даже подгрузка одной страницы с сервера стоит дороже, верно? Может быть, вы и не сможете купить ничего, но представьте такой микрорынок: один маршрутизатор торгуется с другими о стоимости передачи пакета третьему, отправитель платит - покупает дешевле, продает дороже - на постоянно действующем наличном аукционе пакетной коммутации по всей Сети. Такую концепцию называют "цифровым Шелковым путем", поскольку товары передвигались по Шелковому пути в древний Китай именно таким способом. Может быть, наш маршрутизатор мог бы даже скопить себе на покупку помощника, чтобы чуток уменьшить свою рабочую нагрузку…

Я называю идею пиконаличности, как рабочего тела процессора, "микроденежной митохондрией" в честь маленьких органелл, которые превращают сахар в энергию в каждой клетке животного. Эти органеллы были когда-то самостоятельными организмами и в память об этом сохранили собственную ДНК. Я предвижу, что, в конце концов, все процессоры научатся финансовой криптографии (то есть искусству тратить и зарабатывать деньги) не хуже, чем сегодня они умеют управлять памятью или складывать числа.

Я уверен, что рано или поздно рой экономически автономных программных "роботов" разлетится по Сети, питаясь деньгами. Каждый из них торгует на аукционной основе информацией - то есть всем, что может быть оцифровано, - в рамках гигантской микроденежной экосистемы. Некоторое их количество сможет образовать синдикат, который одолжит вам денег на завтрак (как сегодня это делает VISA), участвуя в процессе перехода от иерархических безналичных к сетевым наличным геодезическим финансам.

Теперь вы понимаете, почему я считаю, что цифровые наличные расчеты смогут работать при любом масштабе транзакций - от пикоплатежей до оплаты строительных подрядов.

Уильям Гибсон (William Gibson), фантаст, придумавший слово "киберпространство", назвал как-то корпорации существами, пожирающими информацию и извергающими деньги. Я думаю, здесь он ошибся. Я думаю, мы движемся к миру, где машины и программы пожирают деньги, а информацию приводят в движение.

Другими словами, к миру с геодезическим способом хозяйствования. К геодезическому обществу.

Если в этом мире остается что-то действительно ценное, так это люди, причем они становятся ценнее, чем когда бы то ни было в истории человечества. Люди - единственные хозяйственные агенты, обладающие мнением, то есть эмоционально окрашенными представлениями о том, как мир должен выглядеть. Мнения, искусство, интуиция, и другое "хлипкое обеспечение" (wetware) станут самым редким ресурсом, и обладание ими станет самой важной вещью в мире, напичканном оборудованием и программами.

Перевод с англ. М.О.


1 Когда инквизиторы преследовали еретиков и брали штурмом европейские города в предреформационный период, периодически они направляли в Рим запросы: как отличить еретиков от истинно верующих. Ответом обычно было: "Убивайте всех, Господь признает своих". - здесь и далее прим. М.О.

2 Изобретателем двойной бухгалтерской записи принято считать Луку Пачоли (Lucas Pacioli), итальянского монаха, математика и топ-менеджера раннего Возрождения, изложившего ее основы в своем знаменитом "Трактате о счетах и записях".

3 Specialist (на Нью-Йоркской фондовой бирже) и market maker (на Лондонской фондовой бирже) - дилер, уполномоченный биржей совершать сделки по ценным бумагам от имени своих клиентов и оглашать стоимость сделки. Операционные правила могут предписывать такому дилеру регулярное совершение сделок в определенном минимальном объеме, чтобы поддерживать ликвидность рынка и адекватные котировки.

4 Сказанное характерно лишь для Америки. В Европе (включая Россию) и Ю.-В. Азии подавляющее число платежей, особенно розничных, продолжает совершаться в наличных деньгах.

5 Клиринговый дом Нью-Йоркской фондовой биржи.

6 SSL также позволяет использовать аутентификацию сеансов.

7 Автор называет два шифровальных устройства, использовавшихся державами Оси во время Второй мировой войны, чьи шифры были успешно взломаны Союзниками.

8 Британские и американские спецслужбы не раз намекали, что технология криптографии с открытым ключом была им известна до ее публикации гражданскими специалистами Уитфилдом Диффи (Witfield Diffie) и Мартином Хеллманом (Martin Hellman) в 1975-76 гг. В опубликованной недавно статье покойного военного криптоаналитика Джеймса Эллиса (James Ellis) из Великобритании утверждается, что ему и Клиффорду Коксу (Clifford Cocks) удалось получить работающую схему, близкую к RSA, за несколько лет до этого (см. подробнее: "Компьютерра" #1, 1998, с. 6). Однако этому до сих пор нет независимых подтверждений.

9 См. подробнее: "Компьютерра" #48, 1997, cc. 44-48.

10 Bruce Schneier. "Applied Cryptography: Protocols, Algorithms, and Source Code in C". 2nd ed., John Wiley & Sons: 1996.

11 Этот принцип, введенный англ. схоластом Уильямом Оккамом (William Occam) в XIV в., гласит: "Не умножай сущности сверх нужды".

12 Система Mondex (от британской компании Mondex International) первоначально позиционировалась как система цифровой наличности на основе аппаратных "электронных кошельков". Поскольку полные спецификации "кошелька" остаются закрытыми, ряд аналитиков высказал предположение, что декларированная функция "анонимности" (или "непрослеживаемости") платежей на самом деле не реализована.

13 Консорциум технологий финансовых услуг, США.

14 При международных платежах в каждой транзакции опосредованно участвуют, соответственно, центральные банки двух стран.

15 Underwriter - финансовый институт, организующий подписку на акции вновь созданной компании или новый выпуск ценных бумаг уже существующей компании. Договор о проведении подписки обычно предусматривает обязательства андеррайтера приобрести определенную долю ценных бумаг и создать, таким образом, первичную их ликвидность. Андеррайтеры проводят подписку на акции вне зависимости от того, представлены ли они именными сертификатами или сертификатами на предъявителя.

16 См. подробнее: "Компьютерра" # 38, 1997 г., с. 38.

17 "Продавец да поостережется" (лат.). Хеттинга переиначивает латинское выражение Caveat emptor ("Покупатель, будь бдителен").

18 Здесь и далее - непереводимая игра слов. "Reputation capital punishment" может читаться, как "наказание [лишением] капитала репутации" и "высшая мера наказания для репутации".

19 Дж. П. Морган-ст. возглавлял в конце XIX-начале XX в. банкирский дом Морганов, бывший самой влиятельной силой в американских финансах вплоть до Великой депрессии и Нового курса.

20 "Отмывка денег" (money laundering) была криминализирована в США в 1986 г., Америка постоянно оказывает давление на другие страны с целью достичь аналогичных изменений в их законодательстве. Данных о том, что выделение "отмывки денег" в отдельное уголовное преступление помогает сдерживать преступность, нет.

21 См. в частности: Money Laundering - A Framework for Understanding U.S. Efforts Overseas. Report to the Ranking Minority Member, Committee on Banking and Financial Services, House of Rep. Of the U.S. Congress. Washington, D.C.: 1996.

22 По некоторым данным, криптография с открытым ключом использовалась Советской Армией с 1980 гг., в том числе и в системах контроля над ядерным оружием.

© ООО "Компьютерра-Онлайн", 1997-2024
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.