Кафедра Ваннаха: Скольжение к сингулярности

Технологической сингулярностью называют состояние, в котором технология создает искусственные разумы возрастающей мощности.

Технологической сингулярностью принято называть состояние цивилизации, в котором технология позволяет создавать искусственные разумы всё возрастающей мощности. Будем пока считать, что такое вполне возможно - фундаментальный закон природы, запрещающий это, будет, в случае открытия, покруче законов сохранения и принципа неопределенности. Но сингулярность не может самозародиться, подобно гомункулусу алхимиков, в колбе из отбросов. Вехами на пути к сингулярности послужат дешёвые процессоры, мощностью превосходящие человеческий мозг; работающее на них программное обеспечение... То есть - самые капиталоемкие вещи из известных нам. (Посмотрите на рыночную стоимость процессорных и софтверных корпораций!). И вложиться в разработку таких вещей должны будут люди. Именно от их решений зависит - попадёт ли человечество в технологическую сингулярность. Безотносительно, причём, доступных технологий. Марк Твен восхищался же китайцами, что изобретя порох - они не создали огнестрельного оружия, а создав печатный станок - не учредили газет... Не ждет ли нечто подобное и ИТ-отрасль?

Действительно, игры с искусственным разумом могут быть почище игр с ядерной энергией. Бомба - это ведь инструмент войны, то есть проведения политики. А когда возникает угроза, что политиканствовать будет некому и не с кем, то она тихонько лежит на складе. И, - несмотря на энергетические кризисы, сотрясающие периодически хозяйство Первого мира, - углеводородное лобби, пусть и в "зелёных" личинах, без особых проблем инспирирует отказ от строительства новых АЭС. А тут вещь куда более пугающая - разум.

Наверное, многие скажут - пугает чуждый, машинный, иной разум. Но пугает ведь разум сам по себе. Вот сугубо практический пример - любой политтехнолог знает, что кандидат с уровнем интеллекта, существенно отличающимся от среднего уровня своих избирателей, шансов на успех не имеет. Такой человек может оказаться у власти лишь в недемократической системе, или, как минимум, с использованием механизмов, некогда блистательно описанных маркизом де Кондорсе. А умного, - вполне из рода Homo sapiens, - боятся. Частенько, сбиваясь в стаю, норовят расплатиться за страх агрессией. И - есть чего боятся. В генах-то сидит память о Homo neanderthalensis. "Собиратель грибов, склонный к раздумьям, страстно любящий искусство, кроткий, флегматичный... К сожалению его нет в живых." А тут людям предстоит самим запустить процесс, при котором они могут оказаться даже большими простецами, нежели неандертальцы. Возможно ли это?

Футурология - штука ненадежная. Обратимся лучше к творчеству давнишнего автора "Компьютерры" Станислава Лема. Вот видимо самая глубокая художественная вещь об искусственном интеллекте - "Голем XIV". Сверхразум порождается там в результате гонки вооружений, вслед за ядерной и ракетной сферами распространившейся на интеллетронику. Но гонки вооружений-то давно нет. Мощь ядерного оружия достигла предела в начале 1960-х. Ракеты летают практически на том же химическом топливе, что было исследовано в 1950-е и доведено "до железа" в 1960-х. Военные подрядчики, конечно, с помощью лоббистов продолжают осваивать государственные бюджеты... Но это так, бюрократические игры. Мала наша планетка для того оружия, что у нас уже есть. Вопросы решаются не силой, а хитростью, вспомним участь СССР и его танковых, прилично защищенных от ОМП, армий. И с Китаем у США скорее всего так же будет... (Взаимоотношения РФ и КНР могут принять совсем иной характер. Но, как бы это ни было обидно нам с вами, события эти произойдут на периферии цивилизации.) Не получится ли так и с искусственным разумом?

Рискнем предположить, что тут будет совсем по-иному. И аналог, скорее, мы сегодня можем видеть в автомобильном транспорте. С его взаимодействием с унаследованными от советской экономики городами. Вытоптанные шинами газоны. Бабушки, борющиеся за привычную среду обитания посыпанием крыш машин гречкой, очень привлекательной для ворон с мощным клювом, или сбрасыванием с десятого этажа в дождь заполненного водой противозачаточного средства на бедолагу, припарковавшегося вплотную к дому (замена кузова не самое страшное - все семейство пострадавшего бродит вокруг, не понимая, что случилось, ведь обрывки презерватива разбросаны далеко вокруг...) Столичная пробка превращается в бедствие, вызывающее патетический вопрос - "Кто виноват?", с намеком на власти. А виновата вся структура общества. Капиталистическая экономика требует расширенного воспроизводства. Зачем, полагаете, создан автомобиль - возить вас, поднимать ваш статус? Чушь! Автомобиль создан для того, что бы на вас могли зарабатывать. Все прочее - вторично. Стойло, ясли и бойня ведь не для жизни и кормления коровки сделаны... Но реальной альтернативой данной экономике является феодализм, а то и рабовладение... Так что возрастающие стада железных коней укротить не под силу ни одной демократической власти.

И, - очень может быть, - что и с искусственным разумом дела пойдут именно по такому сценарию. Во всяком случае, не видно, что, кроме глобальной катастрофы, может изменить ход событий. Отрасль харда должна продавать процессоры. А их и так уже много. Значит - нужны новые, много более мощные и дешёвые кристаллы. И софтостроители нуждаются в рынках сбыта. Гламурные обложки для нетбуков и новые кнопки на дисплеях, о которых радостно сообщают пиар-службы, это очень мило, но даже маркетологи давно поняли, что продаются мегагерцы. Реальному росту вычислительных мощностей альтернативы нет. То есть - есть. Вылет с рынка. Потеря капитализации. Сколько раз такое уже было на недлинной пока памяти ИТ-индустрии. Так что пока мы не упрёмся в фундаментальные физические ограничения, мощность процессоров и объёмы памяти, видимо, будут расти.

Но ведь для появления искусственного разума нужен ещё и соответственный софт. (Возможную неалгоритмизацию мышления вынесем пока за скобки.) А вычислительные и коммуникационные мощности-то можно загружать и не слишком связанными с разумом вещами - вот новая мода, возможность видеочатиться наугад, берут юные барышни, мордочку прикроют ("личико можно и газеткой прикрыть"), прочее выставят, и красуются... И техника задействована, и разум ни при чём!

Ну, да! Но только есть такая штука - конкуренция. И корпорации нужно не только обдурить лоха-покупателя, впарив ему сначала выдуманные потребности, а потом и соответствующий им товар или услугу (зады красны-девицы могли бы и из кустов казать, как в старь). Нужно ещё выиграть схватку с другой корпорацией за кормовой ресурс (лохов-потребителей). А для этого нужно шевелить мозгами. А по мере того, как школы по всему миру переключаются на подготовку квалифицированных потребителей и лояльных граждан, с мозгами начинаются некоторые проблемы. Которые, естественно, породят спрос на интеллектуальный софт. А он, как мы знаем, легко тиражируется - ну, сколько у каждого, читающего эти строки, последних версий дорогущих профессиональных пакетов? Так что, если не будет открыт какой ни будь фундаментальный запрет на копирование больших объёмов данных, пойти искусственному разуму по миру, занимая всё новые и новые кремниевые мозги. И процесс этот больше будет похож на эволюцию, на неконтролируемое размножение железных лошадок во дворах, чем на работу над масштабным техническим проектом, вроде программы Apollo. Прагоминид, круша костью ранее съеденного прагоминида черепок прагоминиду третьему, не воображал же ре-минорные токкаты и космологические уравнения, не составлял полных схем мозга будущего сапиенса - ему лишь хотелось пососать. Мозга, правда, но костного...