Ситуация обмана (гипертост)

Архив

   Например, Леонард Адлеман (Leonard Adleman), тот самый, что отвечает за букву "А" в сверхпрочном (пока) шифре RSA, придумал недавно ДНК-компьютер, чтобы помочь коммивояжерам решать их непростые задачи. На вид же это просто котел с весьма неаппетитным бульоном из органических молекул. А может быть, в моду войдет нечто квантовое и бесследно исчезающее при любой попытке вступить с ним в контакт (1), но способное, если его не трогать, без особого труда сломать этот сверхпрочный RSA...

   За что же ухватиться? Что останется знакомым, что будет связывать воедино и эти, и многие другие диковинные создания, так непохожие на своих электроламповых прародителей? Скорее всего - человек, с его парадоксальным сознанием, неясными мотивами, безумными страстями, оригинальными желаниями: И тут в памяти вдруг всплыла короткая фраза, скорее даже формула, о которой я не раз задумывался в последние месяцы прошлого года: ситуация обмана...

   Эту фразу произнес Анатолий Кричевец в нашей с ним и Сергеем Бычковым беседе об искусственном и естественном разуме (2). Речь шла о знаменитом тесте Тьюринга на разумность программы. Несколько упрощая, можно сказать, что если вы, беседуя по телефону с программой, приходите к выводу, что с вами говорит человек, то эту программу, согласно Тьюрингу, следует признать обладающей разумом. "Ситуация этого теста - это ситуация обмана, - сказал тогда Кричевец. - Задача такова: обмануть человека, подсунув ему машину..."

   Меня восхитил этот изящный выход из неявно навязанной плоскости "угадаешь - не угадаешь", взгляд на проблему не с научной или технической, а с человеческой точки зрения. Давайте сейчас наугад выберем некоторые аспекты компьютерно-человеческих отношений и посмотрим, как они связаны с ситуацией обмана. Начнем с того, что постановка задачи в духе теста Тьюринга весьма плодотворна в техническом смысле. Причем не только в традиционном искусственном интеллекте, но и в более широком контексте. Совершенно очевидно, что в последние годы самым активным направлением, объединяющим все околокомпьютерные технологии, становится компьютерная имитация всего и вся (сюда относится, к примеру, создание виртуальной реальности). Но имитация во многих случаях отнюдь не предполагает понимания того, что имитируется. Задачу о понимании и поставить, и решить, как правило, безумно трудно. Задачу обмана поставить гораздо легче. И участники этой деятельности автоматически попадают в ситуацию обмана - в качестве одной из многих возможных сторон этого увлекательного процесса.

   Я не думаю, что компьютер-ХХI будет идеальной машиной для вранья. Несомненно, возможности обмана в прямом, житейском смысле этого слова могут радикально расшириться. Но в такой же степени расширятся и возможности защиты от обмана. Цифровые деньги подделать несравненно труднее, чем бумажные, а проследить за движением правильно изготовленных электронных купюр невозможно в принципе. Хороший протокол голосования оставит без работы многих профессиональных наблюдателей о-бэ-эс-е. Сейчас невозможно предвидеть принципиально новые будущие технологии, но внедрение, например, "квантовости" в компьютерное дело совсем не обязательно разрушит эту идиллию. Разрушить ее может только политическая диктатура, от которой криптопротоколы не помогают. Но если оставить за скобками эту грустную перспективу, более важной оказывается ситуация обмана, возникающая там, где мы сами этого хотим.

   Таких областей множество. Возьмем, к примеру, культуру. Очевидные уже сейчас области приложений продвинутого искусственного интеллекта - поп-музыка, поп-литература и т. п. Можно поставить вопрос: что будет с самим понятием авторства? Простой ответ: у рынка культуры много сегментов, среди них есть элитарная культура, где все будет о'кей (то есть так, как сейчас), и есть массовая, где никого не волнует, робот или человек написал то, над чем можно спокойно заснуть в метро. Но ведь возможен и менее безобидный поворот. Компьютерная имитация реальности может довольно скоро стать до жути правдоподобной, и тогда появятся новые виды искусства: или новые виды обмана? Мы не всегда отдаем себе отчет в том, что, например, европейская литература уже много веков немыслима без молчаливого соглашения: того, о чем идет речь в книге, на самом деле не происходило. Это - "нас возвышающий обман". Но ведь так было далеко не всегда. Древнейшие произведения европейской литературы, исландские саги, создавались людьми, у которых в языке даже не было обозначения "художественного вымысла", а само слово "автор" появилось в исландском языке только в XVIII веке (3). Дело в том, что многие фундаментальные понятия, такие как "человеческая личность" или даже "время", воспринимались тогда совершенно иначе, чем теперь. А если на новом витке развития цивилизации представления об авторстве, о художественной достоверности (и о достоверности вообще!) резко изменятся, не приведет ли это, в свою очередь, к резким сдвигам в структуре человеческого сознания?..

   Посмотрим на это еще и под таким углом. Чтение книги есть диалог, и вообще любой текст диалогичен, о чем много писал Михаил Бахтин. Компьютер уже в его нынешней несовершенной форме прекрасно приспособлен к диалогу. Автор (в привычном смысле слова) может оказаться излишним даже в элитарной культуре. Из автора произведения он превратится, скажем, в автора сочиняющей программы. На первый взгляд, это совсем другая профессия: но как сейчас гроссмейстеры играют не против шахматной программы, а против ее создателей, так и читатель (зритель) увидит, вероятно, личность автора сквозь синтезированный текст (фильм:). Кстати, вот забавная инверсия теста Тьюринга - скрыть свою индивидуальность при сколь угодно длинном (но хоть немного интересном - иначе вмешается невидимая рука рынка!) диалоге...   У метафоры "компьютерного обмана" есть и куда более ощутимая уже сейчас сторона - всеобщая тенденция работать с реальным миром, как с виртуальным. Повсеместное распространение термина "протокол" (в его программистском значении) далеко не случайно. Идея описания любой деятельности как последовательности простейших операций приобрела огромную популярность, причем в довольно неожиданных областях. Отлично раскупаются детские книжки-раскраски, где картинка заранее расчерчена на секторы, а рядом написано, какой сектор в какой цвет красить. Многие дети обожают соединять карандашом пронумерованные точки, получая в результате контур очередного мульт-утенка, которого они через час увидят на экране, в машинно-анимированном фильме.

   Постановки технических сверхзадач тоже словно диктуются желанием реализовать базовые компьютерные операции (например, копирование файла) не на каких-то там "данных", а на осязаемых, лучше всего - живых объектах. Нанотехнологии, клонирование - программа на среднесрочную перспективу. Как далеко удастся продвинуться по этому пути? В прекрасной и печальной книге Станислава Лема "Осмотр на месте" (4) картина жизни цивилизации, "ошустрившей" свой мир (то есть начинившей всю природу планеты полезными, невидимыми и интеллектуальными микророботами), дана с исчерпывающей полнотой. Эта картина отнюдь не воодушевляет. Однако позволю себе заметить, что она заставляет вспомнить виденные где-то рисунки художников-фантастов XIX века, изображавших загадочный, но прекрасный век ХХ: по улицам мчатся потоки экипажей на паровой тяге, в воздухе тесно от персональных летательных аппаратов со сверхмощными миниатюрными паровыми двигателями пятого поколения, довольно много телефонов, кажется, даже мобильных: А вот компьютеров почему-то нет. Возможно, и такой мир был технически реализуем. Но прогресс пошел совсем иначе.

   Еще один вариант ситуации обмана - хакерство. По-моему, этот феномен связан с глубочайшими свойствами человеческой натуры. Пафос хакерства - обмануть систему. Любую "внечеловеческую" систему. Я, например, однажды видел, как из проходной сильно засекреченного и хорошо охраняемого "почтового ящика", где я тогда работал (дело было в конце семидесятых), вышел солидный, средних лет рабочий и, отойдя метров на сто, внезапно извлек из широких штанин огромную электродрель, сунул ее в сумку и зашагал дальше. Теперь я понимаю: это был хакер. Этот пример кажется мне очень важным, и вот почему. Мой английский друг Грэм Симэн (Graham Seaman), которого могут помнить постоянные читатели КТ по его статьям о чипах FPGA и о цифровом телевидении, недавно обнаружил "на одном русском сайте" такой (иронический, по его мнению) лозунг: "Linux distributors make a big mistake if they ignore Russia, land of communists and hackers". Вряд ли читатели КТ нуждаются в переводе, но на всякий случай: "Дистрибьюторы Linux (5) совершают большую ошибку, игнорируя Россию - страну коммунистов и хакеров". Любопытно, понимают ли сами авторы лозунга, как остроумно они выразили одно из важнейших противоречий, определяющих развитие нашей дорогой "России-из-кризиса"? Противоречие между теми, кто стремится заставить всех не просто подчиниться той или иной системе, а с искренним воодушевлением служить ей, став ее частью (последними этой цели пытались добиться как раз коммунисты), - и теми, кто хочет этого избежать, но исключительно хакерскими методами (пример которых я только что привел). Между прочим, Василий Шукшин - вот кто действительно остро чувствовал поляризацию "человек-система" в русском сознании...

   Если согласиться с тем, что внедрение формальной, механизированной системы в человеческую жизнь всегда в той или иной мере - обман, то хакерство - в лучшем случае антиобман. Другая ипостась того же самого. Реальной, живой перспективы на этом пути не видно. Обман может уравновешивать только правда. А кто знает, что такое правда - хотя бы в узком, "околокомпьютерном" контексте?

   Допустим, у меня есть совершенно отчетливое ощущение, что когда компьютер решает уравнение (даже с ошибками!) - это правда, а когда имитирует живого актера на экране (решая при этом массу уравнений, и без ошибок!) - это обман. Ну и что? У других могут возникать совсем иные ощущения, которые тоже ничего не доказывают. Доказать что-либо в реальной жизни легче всего на опыте. А опыт, по-моему, говорит о том, что дальше всего от ситуации обмана отстоят приложения компьютеров, помогающие установить прямую связь между людьми - между коллегами по науке, между автором и читателем, между продавцом и покупателем и так далее. Самым непосредственным образом этому великому делу служит, конечно, Сеть. В самой ее природе заложены большие возможности для индивидуального противодействия массированному вранью, которое обрушивается на нас со все возрастающей силой. Мне бы хотелось, чтобы именно эти возможности получили максимальное развитие, причем не только в XXI, но и в оставшейся части XX века.

   И я предлагаю по случаю наступления Нового года "КТ" выпить за прямую интеллектуально-компьютерную связь между людьми, открывающую путь от массовой лжи к индивидуальной правде!

---

1 (обратно к тексту) - Говорят, правда, что это нечто уже попадается иногда в чашках с кофе - не с тем, который Java, а с самым настоящим, - но это только слухи (см., впрочем, ссылки на работы Henry Chong на http://feynman.stanford.edu/qcomp).

2 (обратно к тексту) - КТ, #40 [268], 13 октября 1998 г.

3 (обратно к тексту) - М. И. Стеблин-Каменский. Мир саги. Становление литературы. Ленинград, "Наука", 1984.

4 (обратно к тексту) - Присоединяюсь к Максиму Отставнову, который недавно призывал читателей КТ ознакомиться с этим произведением.

5 (обратно к тексту) - Вряд ли читатели КТ нуждаются в таких пояснениях, но на всякий случай: Linux - это бесплатно разработанная (и практически бесплатно распространяемая) версия операционной системы Unix для персональных компьютеров.

---