Архивы: по дате | по разделам | по авторам

Роботехника

автор : Станислав Лем 13.06.2002

Эссе деcятое из книги "Мгновение" + приложение

Мы живем в эпоху всеобщей специализации. Здесь мне хотелось бы ограничиться одной темой в развитии электроники. Сначала признаюсь, что я никогда не предвидел распространяющейся моды на неживые, но подвижные и даже наделенные голосом существа, которые становятся все более популярными заменителями домашних животных. У них имеются различные встроенные датчики, они могут передвигаться, но единственное, что я не в силах понять, - это большой покупательский спрос на этих псевдоживотных, так как они, по-моему, годятся только в качестве игрушек для детей. Тем временем в рекламе я читаю, что эти псевдособачки или кошечки, или пластиковые имитации коал приносят, якобы, своим взрослым владельцам много приятных минут. Эти псевдоживотные, питающиеся электрическим током, представляют собой пример многочисленных новых созданий, выброшенных на рынок по принципу, что недостаточно лишь удовлетворять потребности, надо их еще и создавать. Мне кажется, что эти пластиковые создания должны некоторым образом быть предзнаменованием (или прелюдией) якобы неотвратимо наступающего времени роботов.

О роботах давно уже писали в научной фантастике ¹ и помимо нее, но никто не относился достаточно серьезно к их предполагаемому или выдуманному присутствию. Сегодня же началось настоящее незаметное и разнообразное их проникновение, которое точно я описать не смогу, но определенное представление о нем могу предложить.

Примитивные гомеостаты пятидесятых годов, которые, собственно, и не перешагнули порога лабораторий, могли обходить преграды на ровной поверхности, а при снижении напряжения в аккумуляторах, приводящих их в движение, могли добраться к контакту, питающему их электричеством. Хотя они ни на что не годились, кроме как для поддержания у конструкторов хорошего настроения.

С каждым годом растет количество устройств, которые становятся все более и более успешными посредниками между человеком и объектом его воздействия. У нас уже есть манипуляторы, незаменимые при обработке субстанций, которые могли бы нанести вред человеку при непосредственном контакте (например, радиоактивные). В современной хирургии появились необычайно тонкие приспособления, которые с разной степенью умения могут, например, производить врачебные процедуры вроде операций на сосудах или тканях. Есть также так называемые педипуляторы, но конструкторы, по всей видимости, не очень доверяют их самостоятельности при использовании в качестве движущихся спускаемых аппаратов на Луне, Марсе или других планетах, поэтому пока высылаются не подобные членистоногим, а скорее колесные транспортные средства, как это было с американскими «лунными машинами» или со спускаемыми аппаратами, направленными на Марс. К совершенствованию и увеличению числа подобных (необязательно шагающих) аппаратов конструкторов вынуждает просто даже расстояние до Земли так, что если раньше человек мог управлять луноходом, то сейчас он уже не может с Земли руководить движущимся разведчиком на Марсе.

Наиболее интересно развивается роботехника sensu stricto ². И неважно, должны ли роботы, которым таким образом предоставлена самостоятельность, быть похожи на человека. Собственно, их «анатомия» несущественна, потому что в основном уже преодолены трудности, связанные с приведением в движение этих устройств, которые двадцать лет назад умели ходить только по такой плоской поверхности, как пол лаборатории, и падали на первых же хороших ступеньках. Самым твердым орешком является вопрос имитации центральной системы управления (или центральной нервной системы высших животных или человека). Надо честно сказать, что речь идет о вступлении в несуществующую еще область психозоической инженерии. В последние годы были существенно усовершенствованы встроенные в роботы программы, благодаря чему они уже могут не менее качественно, чем люди, работать на автомобильных и тракторных заводах. Основой для работы устройств, однако, является достаточно ограниченная повторяемость рабочих операций. Я не буду больше углубляться в затягивающие сети инженерного мастерства. Для программистов настоящим препятствием по-прежнему являются будто бы простые действия, выполняемые каждым человеком без усилий. Устройства, которые могут пыль как-то убрать в комнате с минимумом приносимого ущерба, по-прежнему являются непропорционально дорогими. В общем говоря, ситуация такова, что роботы или псевдороботы овладели только отдельными, сугубо специализированными функциями. Они могут выполнять рекомендации или приказы, но этого недостаточно для удовлетворения амбиций проектировщиков. Они ведут речь о роботах, которые, возможно, совершенно не подобны на человека, но проявляют такую самостоятельность в действиях, которая следует из решения как волевого акта. С этим же проблема потому, что мы по-прежнему не знаем, какие неврологические механизмы мозга отвечают за акт воли. Поэтому программисты занимаются созданием таких программных систем, которые имитируют наличие поведенчески воспринимаемого сознания. Таким образом появилось направление, которое должно не столько пройти, сколько обойти тест Тьюринга.

Я уверен, что как количество, так и качество этих программ, обычно ориентированных на очередные поколения параллельно работающих компьютеров, а также на смешанные соединения псевдонейронных сетей, будет достигать все большего уровня точности и тем самым будет все лучше имитировать присутствие обладающего умом сознания, которое многими людьми будет восприниматься как индивид или как воплощенная в машине индивидуальность. В определенном смысле это будет обман людей как собеседников или сотрудников машины, так как настоящим, присущим личности, сознательным интеллектом, называемым психической жизнью, подоные имитаторы еще обладать не будут. Следует уяснить себе, что эта дорога ведет к нагромождению трудностей, которые в «Големе» я назвал hill climbing toposophical theory ³. Речь идет о вступлении на территорию, пока недоступную для механических пришельцев, территорию, находящуюся в наших черепах. Невозможен какой-то неожиданный скачок от устройства, полностью подчиненного людям, пусть даже иногда и оказывающего сопротивление, которое мы скорее склонны называть ослиным упрямством, и которое хорошо известно пользователям зависающих компьютеров. Прогрессирующая компактность (сжатие) информационных носителей, которые будут все более совершенными эквивалентами твердых дисков, не может обеспечить абсолютную безошибочность. Одна логическая ошибка на миллиард элементарных вычислений - это доказанный предел безошибочности самых быстрых машин, обладающих наибольшей вычислительной мощностью. Не вдаваясь в подробности, скажу только, что за растущую, даже постепенно, быстроту операций надо платить появлением ошибок; быстрота операций, перевалившая за биллион логических шагов, начинает душить логически измеримую, ранее признаваемую совершенной, безошибочность системы.

Наш мозг наш является, как сказал фон Нейманн, совершенной системой, созданной из несовершенных нейронных элементов. Это еще и потому, что к каждому понятию, закодированному в человеческой памяти, ведет множество разнообразных дорог. Например, если я не могу вспомнить, как называется всем известная птица с красиво выгнутой шеей, то я мог бы выбрать из памяти правильное название (лебедь) или начинать припоминать обороты типа «лебединая песня», или даже балет «Лебединое озеро». А к находящимся в памяти компьютера «энграммам» обычно ведет одна дорога, поэтому ее блокировка ведет к полной «амнезии» компьютера. Подобных проблем, противостоять которым может только значительный охват сетями элементов памяти, будет множество. Тем более, что у самих людей есть трудности с припоминанием названий, таких как фамилии, потому что количество их пересечений со всем запасом нашей языковой идиоматики, вообще говоря, скромное. Надо также понимать, что от так называемого information retrieval ⁴ до псевдоинтеллектуальной независимости еще очень далеко.

Пока можно было бы выразить проблему такой фразой: распознавание сымитированной активности искусственного интеллекта будет зависеть как от точности работы машинного имитатора, так и от критических способностей настоящего человеческого интеллекта в контактах, носящих характер n-мерной игры. Если правда, что количество возможных шахматных партий составляет 10100, то количество возможных вариантов разговора человека с искусственным интеллектом и сосчитать невозможно, потому что каждый человек среднего интеллекта способен составлять и понимать семантически и синтаксически правильные предложения, которым его никто до этого времени не обучал. Когда машины покажут, и покажут ли вообще, такое лингвистическое совершенство, мы не знаем, и поэтому не стоит слишком доверять как негативным, так и позитивным заявлениям резвящихся на этом поле философов. Не какие-то крупнокалиберные, выдвигаемые на поле боя аргументы за и против, будут в далеком будущем позволять делать вывод о возникновении или крахе искусственной разумности. Без множества мечтаний, попыток, катастроф не было бы авиации. Без неустанных штурмов не может появиться искусственный интеллект. Решение этого спора я считаю преждевременным.

Примечание переводчика:

1 (обратно к тексту) - В свое время Станислав Лем выполнил обширное тематическое исследование литературных произведений разных авторов, опубликованное в двухтомнике «Фантастика и футурология» (1970 г., на русском языке не издавался), в котором роботам посвящена глава «Роботы и люди» (см. Приложение).
2 (обратно к тексту) - В строгом смысле (лат.).
3 (обратно к тексту) - Теория топософского (от греческих topos - место и sophia - мудрость) восхождения (англ.). Речь идет о дополнении к фантастическом эссе «Голем XIV»: «Лекция XLII: О себе» (1981 г., на русском языке не опубликовано).
4 (обратно к тексту) - Информационный поиск (англ.).

Книга "Мгновение" на Компьютерре":

Вступление
Что мне удалось предсказать
Плагиат и созидание
Дилеммы
Спор о бессмертии
Фатальное положение вещей
Космические цивилизации
Статистика космических цивилизаций
N = R* fp ne fe fi fc L
Человек в космосе
Глазами конструктора
Роботехника
Макрок
Интеллект, разум, мудрость
Парадоксы сознания

Проблемы роботов можно рассматривать в трех направлениях в соответствии с вопросами: можно ли будет их конструировать, и если да, то ради каких целей это будет осуществляться, а также какие сходства и различия они будут демонстрировать по сравнению с человеком. Присутствие в фантастике этой темы равно положительному ответу на первый вопрос; что касается двух остальных, то ответы, получаемые из литературы, отличаются очень большим разнообразием, которое, однако, в совокупности (после детального рассмотрения) с точки зрения пророчеств имеет никчемное качество, если вообще какое-либо.

Перечислим основные сюжеты этого сектора Science Fiction:

1) Интеллектроника (разум, механизированный при помощи цифрового устройства, не человекоподобного). Здесь фантазия поработала не особенно много. Вот несколько типичных тем:

Гигантский компьютер, управляющий государством или всем миром («безлюдная электрократия») – можно найти в произведениях Ван Вогта (Van Vogt), Азимова (Isaak Asimov), Лейбера (Fritz Leiber) и многих других. У Ван Вогта машина осуществляет периодическое психологическое тестирование граждан, у Азимова – прежде всего управляет экономикой. В моем рассказе «Друг» ¹ большой компьютер, укрывая от людей свои намерения, стремится к овладению миром. Такой же сюжет можно встретить, например, в повести «Gigant-Hirn» немецкого писателя Хаузера (H. Hauser). На «низших уровнях» власти цифровые машины выступают чаще, например, как вспомогательные приспособления в уголовном розыске (например, в новелле «The Organleggers» Нивена (Larry Niven) компьютер, а не детектив, сравнивает фотографии, чтобы выявить преступников), как машинная память в службе планетарного или космического поиска и т.д.
Большой компьютер-стратег (например, как Dinah в уже упомянутой новелле; идея «тайного сговора» двух цифровых антагонистических стратегов также была достаточно хорошо отражена в литературе).

2) Роботы (человекоподобные механические устройства) и андроиды (очень похожие на людей манекены).

Роботы, которые воспринимаются людьми как рабы.
Андроиды, выполняющие функции работников по дому, «садовников», а также – няньки и телохранители.
Роботы, опекающие людей для их же блага, например, обманывающие их, что будто бы война, давно завершенная, продолжается еще на поверхности земли, и запрещающие людям покинуть убежища: если бы это им разрешили, люди возобновили бы войну заново (так у Ф.Дика (Philip Dick)).
Роботы отчаявшиеся и беспомощные, оплакивающие человечество, погибшее в войне: тема достаточно часто встречающаяся (например, у Брайана Олдисса (Brian Aldiss) в «But Who Can Replace a Man?» или в «Orphans of the Void» Пола Андерсона (Poul Anderson), где бедняжки упоминаются даже в названии).
Роботы, ведущие между собой войны, ибо это забавляет их хозяев (например, у Д.Банча (David Bunch)).
Роботы, по инерции продолжающие воевать, хотя это уже потеряло смысл в связи с гибелью человечества.
Роботы, убегающие от людей, чтобы основать собственные государства (этот сюжет я выдумал, но как гротесковый).
Роботы, которые доработали собственную «метафизику», провозгласив свое превосходство над людьми (например, у Азимова в томе «I, Robot» есть такая новелла, однако творец онтологии роботов выглядит там несколько дефективным).
Роботы, которые во время работы, особенно в опасной, трудной ситуации, ошибаются по непонятным причинам; обычно речь идет о техническом дефекте.
Роботы, впадающие в бешенство, все уничтожающие, и даже убивающие людей (например, в «Fondly Fahrenheit» А.Бестера (Alfred Bester)), и не по причине какой-то «имманентной злобы», а только по причине аварии, порчи или потому, что поставленное им задание было невыполнимым; это опять по той причине, что попали они в ситуацию, которую конструктор не предусмотрел (такой лейтмотив появляется и в моем рассказе «Охота на Сэтавра» ²: горный робот в результате «сотрясения мозга» начинает действовать деструктивно и его нужно уничтожить).
Роботы неземные, т.е. происходящие с других планет, построенные не людьми (например, в «The City and the Stars» А.Кларка (Artur C. Clarke), а также в повести «Vor» Дж.Блиша (James Blish)); в этой последней речь идет об особенном роботе, так как он является не только металлическим чудовищем, с внутренностями из звездного огня, но при этом и мучающимся существом, желающим смерти (то есть робот – самоубийца, который убить себя не может, потому что имеет соответствующую защиту, и поэтому обращается к людям с просьбой, чтобы его уничтожили); «неземные роботы» выступают также в качестве стражи на космических кораблях и летающих тарелках, охраняя в этих случаях похищенных на их борт людей; иногда человеку удается такого робота перехитрить.
Роботы, выполняющие типично человеческую работу, например, редактирующие произведения Science Fiction (тема несколько раз был использована в юмористических вариантах), пишущие повести (например, в «Silver Eggheads» Фрица Лейбера); функции вспомогательного персонала (например, кассиров, официантов, гостиничных администраторов) в выполняются самими роботами.
Роботы настолько мудрые, что логически доходят до существования Господа Бога, таков «святой робот» в новелле «The Quest for St. Aquinas» Э.Бучера (Anthony Boucher); там же появляется «robass», механизированное соответствие ослицы Ваалама, который вводит в искушение благочестивого Фому.
Роботы, лишающие свободы одних людей по командам других, готовящие им специальные муки (это – в новеллах Д.Банча, в вымышленной им стране Moderan).
Робот-компьютер такой, как Доминатор - электронный надзиратель на космическом корабле - в новелле Дж.Шмитца (James H.Schmitz) «The End of the Line»; герой сумел, однако, победить это устройство и совершил побег вглубь Галактики, а доброжелательный автор подсовывает ему прекрасную девицу, которая была спутницей звездного экипажа и, наверное, станет Евой новой ветви человечества.
К теме роботов я причислил бы новеллы с «двойной инверсией», в которых (так у Азимова, например, в «Sucker Bait», а также в «But, I Don’t Think» Рэндалла Гарретта (Randall Garrett)) человек выполняет функции компьютера (обладает феноменальной памятью у Азимова, является феноменом молниеносных ассоциаций как «guesser» ³ у Гарретта: способности цифровой машины переносятся в мозг людей).
Микроробот-советник, например, размещаемый в ухе «миниатюрный умишко» - сюжет, псевдореалистически представленный Ф.Л.Уоллесом (F.L.Wallace) в «Delay in Transit» (путешественник на чужой планете может победить противников только благодаря подсказкам электросоветника, называемого Dimanche; то же самое, как шутка, у меня в новелле «Друг Автоматея» из «Сказок роботов» ⁴; у меня, впрочем, микроробот является другом макроробота).
То ли робот, то ли компьютер другой цивилизации, который удерживает ее в подчинении, подвергая ее гипнотическим воздействиям (например, «Wailing Wall» Роджера Ди (Roger Dee)).
Роботы со сменными мозгами и, благодаря этому, способностями (так у Клиффорда Саймака (Clifford Simak) в новелле «Installment Plant»: «встраивая» роботу новый тип мозга, превращают его из механика в хирурга, из хирурга в антрополога и т.д.).
Робот, власть над которым от людей получают какие-то «Другие»; так, например, в моем романе «Непобедимый» (из-за этого Циклоп выступает против людей).
Роботы, борющиеся друг с другом или с людьми; борьба эта имеет спортивный характер.
Старые, немощные роботы, которые должны уже идти на лом, но кому-то их очень жаль; жалеющей особой может быть, например, почтенная старая гувернантка или малый ребенок; тема эта появляется и в моем романе «Возвращение со звезд».
Роботы или андроиды – гибриды, т.е. имеющие части человеческого тела или мозга; в новелле «Join Now» Роберта Шекли (Robert Sheckley) выясняется, что невозможно скопировать «душу», и каждого человека делят на три части: одна часть остается человеку, а остальными двумя «одушевляют» двух роботов; эта идея основывается на фрейдовской (Sigmunt Freud) триаде («Superego» - «Ego» - «Id»): на планету с тяжелыми условиями жизни, какой является Венера, посылают робота, оснащенного «Id», потому что оно является той обезьяной, которая грубо бодрствует в нашем подсознании; такой робот называется Durrier Chassis. В другой версии человеческий мозг (покалеченного космонавта, ребенка) внедряется в управляющее устройство ракеты и называется в таком случае «трансплантант»; еще в одной версии – так у Деймона Найта (Damon Knight) в «Ask Me Anything» - на безвоздушной планете, в военных школах, воспитываются автоматы для сражений, у которых мозги и биологические части детей размещаются в бронированных коконах-протезах (речь идет о формах, «скомпонованных» из робота, андроида и человека).
Роботы, специально созданные для определенного задания (например, в новелле «The Stutterer» Мерлисса (R.R.Merliss)), после выполнения которого они должны идти на лом, но, понятное дело, им этого очень не хочется.
Роботы бастующие (не знаю такой истории, что странно – должна быть!).
Роботы, появление которых является панацеей для решения всех общественных проблем (например, у Дж. Уильямсона (Jack Williamson), а также у К.Саймака).

Итак, исчерпав весь алфавит, останавливаемся перед морем незатронутых вариантов. Читатель, благодаря представленной выше информации, может сориентироваться, почему я не приступаю к классифицирующей систематизации: это было бы чрезмерно утомительно…

Примечание переводчика:

1 (обратно к тексту) - Написан в 1958 г.
2 (обратно к тексту) - Написан в 1963 г., входит в цикл «Рассказы о пилоте Пирксе».
3 (обратно к тексту) - Предсказатель (англ.).
4 (обратно к тексту) - Сборник рассказов «Сказки роботов» впервые был издан в 1964 г. Входит в программу обязательного изучения в польской школе. Кроме него, роботам полностью посвящен цикл «Кибериада», рассказы которого были написаны в 1963-1976 гг.