Архивы: по дате | по разделам | по авторам

Диалог о естественном и искусственном

Архив
автор : Константин Вяткин   03.06.2004

Сознание - тема неожиданная для компьютерных наук. Корректна ли постановка задачи о моделировании сознания программными средствами? Или это из области фантастики?

Участники:

Петр (П) - Программист,
Федор (Ф) - Философ,
Николай (Н) - Нейрофизиолог, специалист по высшей нервной деятельности.

Программист: Сознание - тема неожиданная для компьютерных наук. Программисты привыкли говорить о моделировании интеллекта, анализе познавательных свойств. Хотелось бы узнать - корректна ли постановка задачи о моделировании сознания программными средствами? Или это область фантастики?

Философ: Постановка задач зависит от нашего понимания проблемы. То есть от того, насколько наши представления готовы к их концептуальному и инструментальному описанию. Я склоняюсь к той точке зрения, что программист моделирует не феномены человека (сознание, интеллект), а коллективные представления научного сообщества о сознании, интеллекте и пр. Согласитесь, что это разные вещи.

Философ Томас Кун называл такие коллективные представления парадигмами и утверждал, что ученый ставит задачи исходя из парадигмы. Парадигма диктует видение и точку зрения на проблему. Она связана с культурными представлениями и коллективной интуицией научного сообщества.

Поэтому мне интересно понять, какие парадигмы влияли на постановку задач исследования сознания. Ясно, что в разное время сознание понималось не одинаково, а значит, возникали различные представления о возможностях науки и техники в этой области.

Нейрофизиолог: А меня интересует понимание сознания как продукта высшей нервной деятельности. И тут же возникает задача моделирования этой деятельности. В вашей терминологии - это уже определенная парадигма.

Философ: Верно. Под сознанием обычно понимается свойство человека воспринимать себя, свое мышление и свои действия.

Следует различать феноменологию (то есть, в рамках нашей парадигмы, проявления сознания) и ноуменологию сознания (то есть его природу, внутренние сущности).

Уточним суть терминов. Допустим, человек просыпается утром. Это состояние интуитивно осознается им как феномен сознания. Сознание становится характеристикой субъекта: человек проснулся, он уже не спит, осознанно принимает решения, гуляет, читает книги и т. п.

Философ Джон Серл1 описывает различные черты сознания: субъективность, интенциональность, модальность, единство, гештальтную структуру опыта сознания, избыточность сознания, структурированность сознательного опыта, зависимость сознания от настроения, удовольствия и пр. Рассмотрим основные из этих свойств.

Начнем с субъективности. Любое состояние сознания всегда чье-то состояние сознания. Сознание всегда содержит субъективную историю и не может быть отделено от субъективных характеристик носителя сознания (индивидуальные особенности, случайные факторы и пр.). Говоря иначе, феномены сознания (переживание своего "я", боль, ощущения) всегда содержат позицию наблюдателя - конкретного и индивидуального субъекта сознания.

Программист: А можно перенести сознание одного существа на другое?

Философ: Скорее всего, нет.

Программист: Почему?

Философ: Потому, что перенос сознания, часто используемый писателями-фантастами в своих произведениях, в любом случае порождает новое сознание, формируя новое "я" и новую историю субъективности. В этом смысле сознание невозможно объективировать, то есть отделить от субъекта - его носителя. Субъективный опыт уникален. Воспроизведя его, мы сконструируем новый субъективный опыт.

Еще одна важная черта сознания - возможность интенциональности, то есть направленности на внешние факторы. Например, осознание боли может быть не интенциональным, если боль не ассоциирована у человека с внешними факторами, или интенциональным, если боль осознается как результат травмы, драки и пр.

Интенциональность как ментальная характеристика человека, по-видимому, очень сильно связана с сознанием. Серл утверждает, что любое существо, обладающее интенциональными состояниями и актами, потенциально сознательно.

Программист: В свое время Тьюринг предложил мысленный эксперимент - тест на определение искусственного интеллекта. Существует ли какой-нибудь тест или мысленный эксперимент, позволяющий сказать, что инопланетное существо, находящееся перед нами, или, к примеру, некто посылающий нам сообщения по ICQ, обладает сознанием?

Философ: Ясно, что тест Тьюринга тут не годится. Дело в том, что интеллект объективен, поэтому его можно моделировать. Интеллект способен изобразить сознание, не будучи сознанием по существу. Сознание всегда субъективно. Его, скорее, надо выращивать через восприятие "я" и интенциональные акты субъекта.

Программист: То есть у машины, которая обыгрывает Каспарова, есть интеллект, но нет сознания, поскольку у нее нет восприятия себя - как обыгрывающей Каспарова, и нет интенциональных актов - самостоятельной активности познания внешних структур?

Философ: Совершенно верно.

Программист: Следовательно, существо, наблюдаемое нами, будет обладать сознанием в той степени, в какой оно ответит средствами языка на вопрос "Кто я такой?" и продемонстрирует активность по отношению к нам?

Философ: Вероятно, так.

Программист: Значит, если я, к примеру, общаюсь с сумасшедшим, который утверждает, что он Наполеон, и требует, чтобы я маршировал, как солдат, то этот сумасшедший обладает сознанием?

Философ: Не совсем. Сумасшедшему не интересно наше мнение. Сознанию же всегда интересно мнение окружающих о том, кем или чем это сознание является. Оно гибко и зависимо от окружения. В этом проявляется его интенциональность.

Программист: А если весь мир договорится и начнет маршировать по приказу сумасшедшего? Значит, этот ненормальный человек вылечится и войдет в сознание?

Философ: Если наша маршировка приведет к процветанию нашего социума - то да, конечно. Но ведь что-то нас останавливает и заставляет говорить о нереальности требований сумасшедшего.

Нейрофизиолог: Возможно, это связано с выживаемостью человека. Выживают те, кто имеет более адекватные внешнему окружению когнитивные модели, с помощью которых организм познает реальность. Когнитивная модель сумасшедшего неэффективна. С ней не выживешь. Она ведет не к жизни и продолжению рода, а к гибели. В этом, возможно, состоит связь сознания с интенциональностью. Интенциональность формирует когнитивные модели организма и постоянно уточняет их, проверяя на адекватность и жизнеспособность.

Программист: Хорошо, а какова ноуменология сознания? То есть феноменом чего является сознание?

Философ: Тут существуют разные точки зрения и, соответственно, разные парадигмы. Я их условно назову естественными и сверхъестественными.

Со сверхъестественной точки зрения, сознание есть феномен особых сущностей, постигаемых в результате трансцендентного (религиозного, мистического) опыта. А значит, человеческое тело и биология не имеют к сознанию никакого отношения.

Нейрофизиолог: Но в этом случае мне следует просто встать и удалиться. Так как, если мы станем на эту точку зрения, вы тут же начнете утверждать, что моя профессиональная деятельность никакого отношения к сознанию не имеет, поскольку активность мозга - это не источник феномена сознания. Сознание находится в другом месте. Например, в божественных сущностях. Или берет начало в обществе - в системе социальных отношений.

Философ: Совершенно верно. Недавно был такой случай. Читаю лекцию по философии сознания. Вдруг встает студент и говорит, что, с его точки зрения, сознание является результатом неких инграмм, посылаемых Высшим Разумом. И начинает рассказывать о структуре инграмм и способах познания Высшего Разума с помощью дыхания, медитации и цветных светофильтров.

Все это замечательно. Но я никак не могу к этому отнестись. Этот студент мыслит в другой, не коммуникативной мне парадигме. Я не могу найти связь между его представлениями и своими понятиями. И этот человек не хочет общаться со мной, связывать свои объяснения с научными представлениями.

Программист: А вы знаете, многие люди их запросто связывают. И занимаются одновременно сложнейшими задачами компьютерного моделирования искусственного интеллекта и наблюдением высшего разума с помощью сеансов медитации. По крайней мере, у меня есть знакомые, которые умеют это каким-то непостижимым образом совмещать.

Философ: Согласитесь, что это скорее их личная проблема, нежели вопросы философии или конкретных дисциплин, которыми занимаются ваши знакомые. Люди совмещают свои представления на уровне интуиции, но не на уровне теорий и парадигм.

Сознание человека, в силу неких малопонятных мне обстоятельств, действительно может пребывать в нескольких дисциплинах одновременно, которые находятся в некоммуникативных парадигмах.

Однако научные сообщества очень агрессивны на уровне коллективных представлений. Ваши знакомые никогда не опубликуют в научном журнале статью о связи численных моделей со своим мистическим опытом. Научное сообщество четко проводит и рьяно защищает границы парадигм.

Программист: Значит, вы считаете, что правильной при изучении сознания является "естественная" парадигма.

Философ: Вопрос надо ставить не так. Естественная парадигма коммуникативна. То есть она совместима с другими достижениями - например, с моделями естественных наук или с науками о языке. Религиозные и сверхъестественные парадигмы уничтожают коммуникации, формируя догматы, исходя из которых ищутся доказательства или опровержения.

Кроме того, естественнонаучная парадигма интенциональна. Она, как всякое научное знание, стремится объективировать результаты исследования внешнего мира когнитивной моделью. Поэтому существует подобие интуиций сознания и интенций естественнонаучной парадигмы сознания. Хотя внутри нее есть свои конкурирующие парадигмы - направления и точки зрения.

Нейрофизиолог: Интересно, а фрейдизм, по вашему мнению, к какой парадигме принадлежит?

Философ: Конечно же, к сверхъестественной. Фрейд утверждал, что сознание зависит от неких бессознательных и внесознательных факторов. Они явно ненаблюдаемы, но их можно выявить на психотерапевтических сеансах. Например, взрослый человек, казалось бы, напрочь забыл детские травмы и стрессы, и тем не менее они определяют его сознательное поведение, заставляя принимать неэффективные решения, вводя в депрессии и пр.

Программист: А марксизм тоже находится в сверхъестественной парадигме?

Философ: И марксизм отчасти там же. В этой теории роль сверхъестественной сущности играют общественные связи и общественные отношения, которые детерминируют сознание человека. Кроме того, сверхъестественной сущностью является общественное сознание - как набор коллективных представлений, ценностей сообщества, которые формируют особенности индивидуального сознания.

В марксизме есть интересная мысль об активности сознания. Индивидуальное сознание конструирует и меняет социальный и природный мир. Человек сознательно может сконструировать нужную ему социальную реальность - более разумную и эффективную. И эта социальная реальность может порождать новых людей.

Нейрофизиолог: Но если это верно, то сознание можно менять, помещая человека в другое общество, другие социальные условия?

Философ: Совершенно верно! Во времена Советского Союза была идея формирования человека с другим сознанием за счет целеустремленного и проектного изменения общественных ценностей и институтов. Идея оказалась невыполнимой.

Программист: Однако эта идея присутствует не только в марксизме. Индивидуальное сознание и нового человека аналогичным образом пытались формировать в ХХ веке германские национал-социалисты.

Философ: А в ХХI веке с этой идеей живут исламские фундаменталисты.

На мой взгляд, идея о проективном формировании сознания через общественные институты (религию, государство) принципиально неверна. Я согласен с тем, что государство можно метафорически уподобить селекционеру. Государство отбирает и усиливает поведенческие черты людей, формирует ценности и установки сознания. Это верно. Но я не согласен с тем, что эта задача может быть решена в форме социального проекта, что она однозначна и технологична. Нельзя вырастить человека с новым сознанием с помощью искусственно сконструированных коллективных представлений и ценностей. Сама постановка этой задачи государством или каким-то общественным движением - игра со спичками на бензоколонке. Она социально взрывоопасна и влечет непредсказуемые последствия.

Я надеюсь, что миллионы людей, убитых и замученных в ХХ веке во благо создания нового человека, послужат уроком людям будущего. Надо понять бесперспективность любых проектов конструирования сознания нового человека. Мы можем сформировать и запустить процесс трансформации социальной реальности и выращивания человеческих индивидов с новым сознанием. Но мы неспособны предсказать, что при этом получится на индивидуальном и социальном уровнях. Уж очень сложно устроен человек.

Программист: Поэтому вы стали сторонником естественной парадигмы? Вы можете сформулировать ее установки?

Философ: Да, конечно.

На мой взгляд, в рамках естественнонаучной парадигмы никаких ноуменов сознания нет. Нет особых мистических или социальных сущностей, которые определяют сознание. Все разговоры о социальных или нейрофизиологических причинах сознания ненаучны и являются либо идеологическими артефактами, либо попытками получить грант.

Нейрофизиолог: Сильно сказано! А как же свидетельства того, что дети, выросшие в стае животных, никогда не становились по уровню сознания полноценными?

Философ: Эти факты говорят не о социальной детерминированности сознания, а о социализации (формировании через вхождение в сообщество) сознания человека. Интенции всегда в сообществе. Нет человеческого сообщества - нет человеческих интенций. Нет интенциональных актов - нет сознания. Но о сознании эти факты нам не говорят ничего. Социальность - необходимое, но не достаточное условие сознания. Поэтому категория социального не есть ноумен сознания. Обезьяна никогда не осознает себя человеком в человеческом сообществе.

Программист: А как быть с общественным сознанием?

Философ: Социальный мир - развитие сознания человека. Социальный мир влияет на человека, но истоки - в биологической организации людей, а не в особых, отделенных от природы и естественных причин сущностях. Говоря метафорами русской философии, сознание и общество растут из тела человека, как трава из почвы.

Программист: Но в этом случае человек с его сознанием не слишком сильно отличается от животного. И сознание в редуцированном виде уже есть у других живых существ.

Философ: Совершенно верно. В рамках естественной парадигмы сознание видится как часть процесса развития когнитивных способностей живых существ. У человека, конечно же, как у социального и биологического вида, есть специфика. Но она объяснима в рамках естественнонаучной парадигмы и не требует привлечения дополнительных мистических или социальных сущностей.

Нейрофизиолог: А лично ваша парадигма? Она объективна или субъективна?

Философ: Она антропна - то есть содержит черты сознания и субъективность меня как человека с таким телом - мозгами, руками, ногами и когнитивными моделями. Наука антропна. Физика антропна. Антропный принцип универсален. Если бы компьютерные вирусы вдруг стали бы самостоятельно эволюционировать и дошли до разума и сознания, то они, скорее всего, выдумали бы какую-нибудь свою естественную науку - с другой физикой, химией и геометрией. Тела вирусов отличаются от тела человека.

Программист: Если сознание объяснимо в рамках естественнонаучной парадигмы, то тогда проблематика сознания согласуется с проблематикой исследования интеллекта вообще и искусственного интеллекта в частности.

Философ: Конечно! От интеллекта до сознания - один шаг. Дайте интеллекту когнитивную модель себя и интенциональности, и вы получите сознание.

Программист: Значит, мы на пороге великих открытий? Ведь конец ХХ века - время выдающихся достижений в области искусственного интеллекта. Некоторые программы достигли уровня экспертов-людей в решении различных задач. Можно сказать, что искусственный интеллект уже создан в таких областях, как медицинская диагностика, компьютерный поиск данных, распознавание почерка или голоса. Компьютерная вирусология становится, скорее, квазибиологической, чем технической наукой.

Философ: Позвольте, коллега, немного охладить ваш пыл. На мой взгляд, Искусственный Интеллект (ИИ) - научный проект или, как говорят некоторые методологи науки, исследовательская программа в компьютерных науках, целью которой является создание искусственной системы, способной заменить человека и обладающей проявлениями, неотличимыми от проявлений человеческого сознания. Такой системы у нас нет.

Программист: Вы, похоже, говорите о сильном ИИ. Мы различаем сильный ИИ - как исследовательскую программу, подразумевающую возможность технического моделирования человеческого интеллекта и сознания в целом - во всех его аспектах, и прикладной ИИ - как моделирование тех или иных сторон или способностей человеческого разума, а также моделирование сложного поведения технических систем (поиск и обработка информации, поведение роботов и пр.).

Философ: Соглашусь с вашей терминологией. Но, на мой взгляд, к концу ХХ века исследовательская программа сильного ИИ себя исчерпала. По крайней мере, в той постановке, которая была сделана при старте проекта в 1950-х годах.

Что это значит? Постановку задач на проект сильного ИИ надо рассматривать исходя из социокультурных ожиданий общества от науки в то время. Однако результаты развития технических систем за пятьдесят лет оказались более чем скромны: техника полувековой давности не слишком сильно отличается от современной. Это же, как ни странно, можно сказать и о компьютерных технологиях. Несмотря на прогресс в скорости обработки информации и вместимости памяти, компьютеры принципиально не изменились. Вряд ли можно считать эпохальным, с точки зрения задач ИИ, выигрыш машины у чемпиона мира по шахматам. Хвастаться этим - все равно что хвастаться победой гаубицы над человеком в соревнованиях по метанию ядра…

Программист: То есть программисты, говоря метафорами, пытались создать человека, а создали гаубицу, которая никогда человеком не станет?

Философ: Я просто высказался в духе Ноама Хомского2. Вслед за ним я считаю, что эти шахматные победы не приблизили нас ни к пониманию того, что есть человеческий интеллект и сознание, ни к пониманию того, как этот интеллект надо моделировать.

Налицо своеобразный "кризис жанра". Кризис постановки задач на ИИ. Программисты, занимающиеся ИИ, не знают, чем они занимаются. Скажу яснее: программными методами сейчас моделируют не интеллект и даже не современные представления о нем, а представления об интеллекте у научного сообщества середины прошлого века. Само понятие ИИ находится в устаревшей парадигме!

Программист: Стоп! Программисты знают, чем они занимаются. Они люди точные - в отличие от философов. Мы можем сказать достаточно ясно, в какой постановке задачи ИИ мы находимся. Давайте я попытаюсь ее сформулировать, и вы уже будете неголословно утверждать - приблизились ли мы или отдалились от понимания того, что есть интеллект и сознание.

Философ: Давайте.

Программист: Во-первых, мы можем распознать наличие или отсутствие интеллекта по поведению системы. Например, мы говорим, что поведение пчелы не является осознанным. Почему? Потому, что оно инстинктивно. Пчела обладает набором инстинктов - встроенных поведенческих программ, в соответствии с которыми она себя ведет. Если эти программы адекватны с точки зрения задач, решаемых пчелой, и изменения условий жизни, то пчела живет. Если нет - пчела все равно "работает" по этим программам, не видя изменений, и зачастую погибает из-за того, что не способна менять инстинкты.

Нейрофизиолог: То есть ваша трактовка интеллекта исходит из представления психологов, согласно которому интеллект - это способность к целенаправленному адаптивному поведению: извлечению пользы из опыта, решению задач, логическому рассуждению.

Программист: Верно. Интеллект нельзя описать одной формулой, поэтому задача ИИ состоит в том, чтобы промоделировать и запрограммировать различные функции человеческого интеллекта - изучение и обучение, умозаключение и рассуждения, решение проблем, восприятие, языковые способности.

Философ: Не совсем понял - в вашем понимании, это сильный ИИ или прикладной?

Программист: Это сильный ИИ.

Нейрофизиолог: То есть моделирование интеллекта методами ИИ - это моделирование функций высшей нервной деятельности человека?

Программист: Да. Рассмотрим, как мы понимаем эти функции. Ясно, что основной функцией является процесс обучения. Например, можно с помощью системы правил смоделировать запоминание тех или иных случаев, классификацию событий, выделение признаков. Сложнейшей проблемой является обобщение - выделение прошлого опыта в виде набора правил, которые надо учитывать в будущем.

Аналогичным образом обстоят дела с моделированием рассуждения. Можно "научить" машину правилам вывода суждений, однако сложно учесть и формализовать многозначность и контекстуальность суждений - зависимость значений суждения в цепочке рассуждений от контекста.

Отдельная область ИИ - моделирование принятия решений. Идея в том, что те или иные решения, характерные для различных проблемных областей можно формализовать и описать. В частности, можно сформировать множество целей и, исходя из их достижимости, сформировать принципы и ограничения принятия решений технической системой.

Отдельная задача ИИ - моделирование восприятия. Уже появляются роботехнические системы, оснащенные сенсорами, сигналы от которых влияют на поведение робота. Например, пылесос, который включается, заряжает батареи и путешествует по рабочей поверхности, "принимая во внимание" степень запыленности, наличие препятствий, уровень заряда батарей.

И, наконец, ключевой проблемой ИИ является моделирование разумного лингвистического взаимодействия людей.

Философ: Вы великолепно описали феноменологию интеллекта - то, как нам видится интеллект; сформулировали наблюдаемые нами показатели интеллекта - то, чем, на ваш взгляд, интеллект характеризуется. Но вы не сказали, чем, с точки зрения парадигм компьютерных наук, интеллект является.

Программист: Аллен Ньюэлл и Герберт Саймон утверждали возможность редукции интеллекта к системе физических символов. Проще говоря, сознание и интеллект - это не более чем манипулирование символами с помощью формальных правил.

С этой точки зрения любой интеллект есть система физических символов. Любую достаточно большую систему физических символов (алгоритм, базу данных) можно организовать таким образом, чтобы она демонстрировала разум. Система физических символов обладает необходимыми и достаточными средствами для порождения разумных действий.

Философ: Это называется редукционизмом - сведением сознания к оперированию символами. Покажу, что этот подход феноменологичен. Мы наблюдаем феномены превращения одних символов в другие в рамках языков, коммуникаций и обучения. Группируя и объясняя феномены, мы, согласно редукционизму, постепенно моделируем интеллект.

Программист: Замечу, что организацию символов в этом подходе можно описать в терминах хранения и переработки информации. Таким образом, интеллект можно редуцировать к механизмам локализации, хранения и переработки информации в человеческом мозге..

Философ: Истоки своей гипотезы авторы видели в философских идеях Готлоба Фреге, Бертрана Рассела, Альфреда Норта Уайтхеда, которые, в свою очередь, были наследниками атомистической рационалистической традиции (Декарт, Гоббс, Лейбниц).

В чистом виде этот подход сформулировал Людвиг Витгенштейн в своем "Логико-философском трактате":

- Мир есть совокупность фактов, а не вещей.

- Все факты можно разложить на простые объекты - атомарные факты.

- Факты - это и есть символы языка, научившись группировать которые, появляется интеллект.

Витгенштейн утверждает:

- Мы создаем для себя образы фактов.

- То, что элементы образа соединяются друг с другом определенным способом, показывает, что так же соединяются друг с другом и вещи.

Программист: Правильно ли я понял, что с точки зрения редукционизма, для того чтобы понять, что такое интеллект, а в более общем случае - сознание, надо отыскать в субъекте (человеке или компьютере) простые элементы и логические отношения, отражающие объекты и отношения мира. Зафиксировав эти отношения де-факто в виде правил, можно решить задачу ИИ.

Философ: Совершенно верно. Философской вершиной редукционизма можно считать работы Эдмунда Гуссерля, развившего сложную теорию интенциональности ментальной деятельности и описавшего механизм феноменологической редукции - редукции познания к анализу логических отношений между феноменами.

Программист: То есть, говоря очень упрощенно, Гуссерль объяснял сознание через возможности логических связей - правил операций и процедур. Поняв связи и отношения между феноменами, мы понимаем, как работает сознание, потому что сознание постоянно выделяет эти связи и отношения и анализирует с помощью интенциональных актов.

Философ: Да, с этой точки зрения, Гуссерля можно назвать дедушкой искусственного интеллекта - точнее, его следует назвать дедушкой редукционистского подхода к искусственному интеллекту.

Нейрофизиолог: Однако если интеллект редуцирован до хранения и переработки логических отношений между наблюдаемыми вещами в виде некоторых символов, то, очевидно, можно найти некий носитель интеллекта и носитель сознания, помогающего человеку структурировать феномены - типа программного обеспечения, но для сознания и интеллекта человека. То есть теоретически можно найти места хранения информации, записи алгоритмов ее переработки - места локализации мыслей, идей, воспоминаний, которые являются своеобразными теориями, структурируя воспринимаемые феномены.

Поиски этих мест предпринимались физиологами еще со времен Декарта, но до сих пор не увенчались успехом. Физиологи знают зависимость активности или развитости тех или иных областей мозга от интеллектуальных качеств, однако где находится информация об установленных отношениях между феноменами, где хранятся символьные массивы информации - этого мы сказать не можем.

Если мозг и содержит интеллект и сознание, как некоторое свое свойство, то не там, где мы его ищем.

Философ: Я же говорил, что не найдете. Сознание феноменологично. Хотя я соглашусь, что у Гуссерля и вообще с этой установкой, разделяющей знание на феноменологическое и ноуменальное, не все так просто.

Программист: Что вы имеете в виду?

Философ: Парадоксы. Вот в чем тут дело. Человек пытается промоделировать свое сознание средствами своего же сознания. И попадает в замкнутый круг - так как средства описания заведомо беднее той области, которую человек описывает. Кроме того, ему надо некоторые высказывания принимать "на веру" - так как у него нет средств их доказательства или опровержения.

Программист: Вы имеете в виду работы Гёделя, которые блестяще интерпретировал еще один последователь сильного ИИ, Даглас Хофштадтер?

Философ: Да. Предположение о наличии феноменологического и теоретического описания неизбежно порождает парадоксы, особенно тогда, когда мы не различаем высказывания о предметах и высказывания о высказываниях.

Нейрофизиолог: Но мы ведь каждый день можем наблюдать удивительную способность человеческого разума познавать вещи, не впадая в циклы и парадоксы (например, создавая теорию постфактум или вовсе ее не создавая), не объявляя принципы и связи в описании феноменов в явном виде.

Философ: Тут надо понять, с чем мы имеем дело и насколько возможна здесь постановка задачи ИИ.

Ход рассуждений следующий. Можно предположить, что не все знание можно редуцировать к символьным конструкциям. Это подметил немецкий философ Мартин Хайдеггер, критикуя Гуссерля. Он обнаружил, что обыденный мир нельзя репрезентировать посредством некоторого набора бесконтекстных элементов. Именно Хайдеггер заставил Гуссерля рассмотреть эту проблему, указав, что есть иные способы встречи с вещами, нежели отнесение к ним как к объектам, заданным некоторым набором предикатов.

Программист: Как-то все это туманно и иррационально.

Философ: Постараюсь упростить. Допустим, вы умеет забивать гвоздь в стену. Как разумное существо, вы вряд ли будете каждый раз, забивая гвоздь, оперировать в мозгу символьно-алгоритмическими конструкциями. Вы не будете, как машина, всякий раз сопоставлять свои действия с неким алгоритмом. У вас уже есть некоторое нередуцируемое к символьным конструкциям знание - то есть навык, благодаря которому вы и забиваете гвоздь.

Если редукционизм ищет сознание и интеллект в системе физических символов, то коннекционизм ищет сетевое сознание. Виртуальный "орган" сознания ищется коннекционизмом в макроструктуре - паттерне отношений элементов сети.

Установка парадигмы (в ее экстремальной форме) приблизительно следующая: сознание и интеллект являются процессом коллективных взаимодействий, самоорганизации в некоторой единой сети взаимодействий. Достаточно сложная сеть может демонстрировать свойства интеллекта и сознания.

Программист: Эти красивые слова пока еще не подкреплены такими же красивыми достижениями коннекционизма. Современные операционные системы и большинство программ построены в редукционистской парадигме. Коннекционизм силен, скорее, концепциями и идеями, чем их реализацией.

Философ: Мы знаем, что коннекционизм исповедовал в 1950-х годах Франк Розенблатт - идеолог моделей с параллельной распределенной обработкой. Розенблатт создал перцептрон - модель вычислений, в которой знание об индивидуальных образах хранится не в виде некоторого конкретного паттерна, сопоставляемого с данным паттерном (как в репрезентационных схемах), а распределено по множеству связей между многими обрабатывающими элементами.

Таким образом, можно сделать вывод, что новые вычислительные способности могут возникать из коллективного поведения большого числа простых обрабатывающих элементов.

Нейрофизиолог: Выходит, сознание в коннекционизме рассматривается не как совокупность феноменов сознания, а как состояние неких сетевых структур?

Философ: Да. Изначально создается структура - сеть, результатом которой должен стать интеллект и сознание. Сознание связано, скорее, с фоновыми умениями, навыками этой сети. Оно основано, вероятнее всего, на цельных образах, а не на правилах.

Программист: А почему это естественная, а не сверхъестественная парадигма? Ведь эти структуры - паттерны сети, цельные образы - и есть ноумены сознания.

Философ: Потому, что ноумены спекулятивны. Ноумены фрейдизма или марксизма не отсылают нас к эксперименту, который бы делал их наблюдаемыми. Паттерны активности мозга, связанные с активностью сознания, можно наблюдать.

Нейрофизиолог: Действительно. Мы знаем связь между состоянием сознания и электроэнцефалограммой мозговой активности. Во время бодрствования имеют место быстрые нерегулярные волны малой амплитуды. Напротив, во время сна, мозговые волны гораздо медленнее и большей амплитуды. То есть феноменами сознания являются определенные паттерны сети нейронов мозга, генерирующие сигналы определенной формы.

Философ: Человеческое сознание предстает пограничным эффектом двух сетей единого мира - сети нейронов мозга и сети социальных коммуникаций. В этой парадигме целостный организм сцеплен с целостным миром культуры, и для описания сознания надо попытаться создать понятия и образы этого сцепления.

Принимая гипотезу сцепления, мы должны сделать вывод о подобии процессов, происходящих в сетях мозга и сетях общества. Изучая и моделируя мозг, мы изучаем и моделируем общество и культуру, и наоборот, анализируя общество и культуру, мы анализируем мозг и сознание.

Программист: Опять красивые слова...Как анализировать?

Философ: Для анализа сетевых структур постепенно формируется новая парадигма. Ее называют синергетической или хаотической. Формируется новый аппарат, новые точки зрения.

Нейрофизиолог: Интересно было бы услышать примеры.

Философ: Пожалуйста. Для меня примером новой парадигмы является голографическая гипотеза работы мозга. Я думаю, мой коллега лучше меня расскажет о работах Карла Прибрама.

Нейрофизиолог: Выдающийся американский нейрофизиолог Карл Прибрам обратил внимание на подобие концептуальных подходов голографии и нейрофизиологии. Как известно, голография реконструирует образ не по интенсивности излучения, а по волновому фронту, фиксируемому фотографической пленкой. Проще говоря, каждая точка голограммы формируется волной, которая отражается не от какой-то части, а от всего объекта. Поэтому голограмма обладает удивительным свойством - по любому ее фрагменту можно восстановить целое. Целое оказывается распределенным в каждой части своего отображения.

Прибрам выдвинул и обосновал гипотезу о том, что подобными голографическими свойствами обладает сеть нейронов нашего мозга при распределенной обработки данных восприятия.

Философ: Укажу еще на одно очень важное представление, характеризующее то, что я называю новой парадигмой сознания. Каждая парадигма несет в себе определенные топологические интуиции - интуиции пространственных форм. Голографическая гипотеза содержит представления о самоподобии структур паттернов мозга. Эти представления согласуются с представлениями фрактальной геометрии, которая сформулировала топологические интуиции новой парадигмы в явном виде.

Программист: Причем тут фракталы? Фракталы - это ведь картинки и алгоритмы сжатия.

Философ: Не только. Фракталы - это новый стиль мышления, несущий черты парадигмы. Если наши пространственно-временные интуиции становятся фрактальными, это влечет полное изменение концептуального и теоретического аппарата.

Программист: А как это связано с коннекционизмом?

Философ: Фрактал, как геометрическая форма, обладает голографическим свойством. Будучи задана через преобразование подобия, каждая часть фрактала содержит в себе целое. Это свойство фракталов Мандельброт описывает понятием самоподобия - подобия части целому.

На мой взгляд, с помощью понятий самоподобия или голографичности можно интерпретировать случаи социальной мобильности индивида, культурные трансформации групповой мобильности.

Случай такого рода социальной мобильности описывает Даниель Дефо в романе о Робинзоне Крузо. Очутившийся на необитаемом острове моряк самоподобен универсуму европейской культуры и, оказавшись в одиночестве, конструирует космос вокруг себя. То есть социальный мир Робинзона сконструирован его сознанием. Его структуры сознания самоподобны социальным отношениям. По фрагменту своего сознания Робинзон выстраивает мир вокруг себя.

Программист: В этом и проявляется фрактальность сознания и мира?

Философ: Конечно. Человек разворачивает артефакты вокруг себя таким же естественным образом, как дышит или переваривает пищу, - как правило, без апелляции к теоретическим конструкциям. Общество, культура, спонтанные контексты жизни трансформируют человека, его тело и нейронную организацию, меняя смыслы и космос его внутреннего мира.

Программист: Можно ли все это запрограммировать?!

Философ: Запрограммировать можно. Вычислить, - наверное, нельзя. То есть мы не сможем предугадать - что натворит Робинзон в той или иной ситуации и как трансформируется его сознание.

В связи с только что сказанным можно также обратить внимание на идеи Василия Налимова.

Программист: Кстати - это пример мистика из сверхъестественной, как вы выразились, парадигмы и в то же время весьма интересного классического ученого.

Философ: Согласен. В вероятностной модели сознания Налимова распаковка делокализованного на некоторой оси m смысла с функцией распределения p (m) осуществляется в некотором контексте y, который является условием распаковки смысла посредством возникающего фильтра p (y/m). Ситуация возникновения нового смысла с вероятностью распределения p (y/m) может быть метафорически записана в виде формулы Байеса для условной вероятности:

р (m/y) = k p(m) p(y/m),

где k - константа нормировки.

Налимов приводит следующий пример мыслительной операции: Однажды на двери Бюро переводов я прочитал такую фразу: "Из-за отсутствия переводчиков переводы будут выполняться в минимальный срок 7–10 дней".

Здесь контекст, окружающий слово "отсутствие", заставляет нас выбрать фильтр, позволяющий понять, что речь идет не об абсолютном отсутствии переводчиков, а об их нехватке.

Читая объявление - по Налимову, - мы не получаем информацию, мы распаковываем смыслы, и эта ситуация связана с двумя вещами - социокультурной ситуацией и контекстом прочтения.

Нейрофизиолог: То есть сознание субъективно "распаковывает" смыслы?

Философ: Важно, что Налимов уловил эмерджентность сознания - его статистические феномены. Можно предположить, что коллективные паттерны, на границах которых разворачивается сознание, не предопределены. Они неустойчивы и могут порождать различные причудливые структуры.

Сознание в этой парадигме формируется новой - фрактальной - логикой3. В ней сознание не есть результат логических выводов. Это макропаттерн случайных блужданий, трансформаций, перескоков на микроуровне.

Сознание - это фрактальное блуждание субъекта, выстраивающего когнитивные модели себя и мира с помощью интенциональных актов - бесконечных интерактивных итераций.

Программист: А это можно запрограммировать?

Нейрофизиолог: Попробуйте, коллега. Интересно посмотреть, что из этого получится...


1 Серл Д. Открывая сознание заново. Пер. с англ. А. В. Грязнова. - М.: Идея-пресс, 2002. - 240 с.

2 Noam Chomsky (род. 1927 г.) - американский лингвист, получивший известность благодаря теории генеративных грамматик и активно занимающийся проблемами языка и сознания. Его работы очень интересны с точки зрения понимания того, что есть интеллект.

3 В. Тарасенко. Фрактальная логика. - М.: Прогресс-традиция, 2002.

© ООО "Компьютерра-Онлайн", 1997-2018
При цитировании и использовании любых материалов ссылка на "Компьютерру" обязательна.