Философские ориентации исследовательских программ искусственного интеллекта

Лингвистические аспекты теории понимания, которые традиционно исследует герменевтика, делают саму герменевтику, ее методологический аппарат приемлемым в деле решения конкретных научных задач. Так достижения философской герменевтики были использованы Виноградом¹ для описания нового подхода к пониманию естественного языка. Он начинает с того, что стремится преодолеть ловушки ранних подходов, ставшие мишенью феноменологической критики, выдвинутой Дрейфусом. Фокусируясь на теории значения, Виноград утверждает, что предыдущие разработки в этом направлении, включая его собственную систему SHRDLU, попали в ловушку «объективизма», заключающегося в том, что содержание теории или модели должно непосредственно соотноситься с реальностью (корреспондентская теория истины). Он добавляет, что дедуктивная природа формализмов, используемых разработчиками ИИ, вынуждает их принять объективистскую позицию, но эти формализмы не в состоянии учесть неформальное, феноменологическое знание или опыт понимания (понимание развертывается тогда, когда истолковываются высказывания). Схожая проблематика, рассматриваемая непосредственно в зоне герменевтического анализа, предстает несколько в ином ракурсе.

Философы-герменевтики отождествляют этот круг проблем с историчностью процесса понимания (историчностью смысла) и при этом настаивают на необходимости учитывать «историю вопроса» в качестве необходимого фона, сопутствующего пониманию сущности той или иной рассматриваемой проблемы. Рассуждают о роли знания в качестве фона понимании, утверждая, что именно «фон» опосредует понимание.

Возвращаясь к рассмотрению дедуктивной природы формализмов, напомню, что дедуктивный формализм был предметом онтологической критики Гуссерля Хайдеггером. Однако их ошибочная или неудачная привязка к фундаментальной онтологии языка, типизируемой разговорной ситуацией, ведет к неспособности учета роли контекста при отождествлении говорящего и слушающего в подразумеваемых значениях высказываний. Следуя за Хайдеггером в оценке фундаментального значения языка, Виноград подкрепляет хайдеггеровскую критику аргументами и примерами, взятыми из философии обыденного языка. Подобным же образом опираясь на Гадамера, Виноград утверждает, что^[1][2]

наделение высказывания смыслом требует знания того, каков должен быть бы предполагаемый (ожидаемый) ответ на (эксплицитные или имплицитные) вопросы, предложенные в речевом, разговорном контексте. Дедуктивная логика, скорее всего, может учесть только малую долю человеческих рассуждений, и поэтому новые успехи в понимании естественного языка требуют использования «исчисления натурального вывода».

Виноград предлагает триаду: Язык — Представления — Знания (ЯПЗ) в качестве исходного пункта для альтернативного подхода — ЯПЗрассуждений, основанных на ограниченных вычислительных ресурсах. По его мнению, подобный язык соответствует хайдеггеровскому тезису конечности Dasein, а также отражает смысл понятия об «ограниченной рациональности» Саймона, используемой им в теории принятия решений^[3]. Согласно Винограду, эффективные стратегии рассуждения при ограниченном или переменном вычислительном ресурсе соответствуют «естественному рассуждению», которое (хотя формально и неполно) может лучше учесть использование естественного разговорного языка компьютером, чем это может сделать фрагмент, соответствующий полной дедуктивной логике. Ядро ЯПЗ также включает в себя понятие бутстрапирования, содержащееся в различных герменевтических концепциях, частично — в работах Хайдеггера и Гадамера.

Ложная реификация, или неуместная конкретизация, по мнению Винограда, свела на нет все усилия по разработке формализма для представления естественного языка. Ложная реификация появляется тогда, когда компетенция приписывается пониманию не потому, что понимание действительно использует специфическую способность в своем осуществлении, но в силу того, что наблюдатель классифицирует исполнение как пример частичной способности к пониманию. Вместо того, чтобы исходить из понятий и структур предметного уровня понимания, Виноград пытается избежать ложной реификации путем конструирования формальных репрезентаций, основанных на онтологических рассмотрениях, заимствованных из методологической герменевтики. Таким образом, мы можем утверждать, поскольку никакой существенный проект ИИ не пытался использовать ЯПЗ, идеи, которые рассчитывали охватить его проектировщики, обладают ценностью теоретического знания в большей степени, нежели практического.

Обсуждая герменевтику, Виноград не только предлагает новую исследовательскую программу для ИИ, но утверждает, что фундаментальные допущения и философские ориентации, лежащие в основе исследований повседневного естественного языка, должны быть эксплицитно анализированы и подтверждены. Отвергая «объективизм» Виноград оправдывает «субъективистскую» герменевтическую позицию, основанную на понятии Матураны нервной системы как «детерминированной структуры», пластичной и замкнутой. Согласно этой модели действия вне системы (стимулы) возмущают структуру системы и эти возмущения, в свою очередь, приводят к «образцам деятельности, которые отличаются от тех, которые могли бы быть следствием различных возмущений»^[4]. Аналогичное понятие понимания у Винограда предполагает замкнутую систему, в которой предпонимание возникает посредством последовательности актов истолкования. Как в хайдеггеровском герменевтическом круге, возможные горизонты понимания ограничиваются исторически детерминированной структурой предпонимания^[5] или множества запомненных схем^[6]. Понимание открыто к окружающей среде, но только лишь в данном диапазоне.

В отличие от Хайдеггера, признающего важность окружающей среды, но не анализирующего ее, идеи Винограда подталкивают нас к анализу окружающей среды в нескольких направлениях. Среди них «этнометодология» Гарфинкеля^[7], который подчеркивал социальный контекст, сёрлевский фокус на речи как социальном действии, и утверждение Лакатоса о том, что даже в математике значения терминов случайны по отношению окружающему контексту.

Виноград обосновывает свою теорию значения в терминах социального действия, и таким образом занимает позицию между релятивизмом и объективизмом, близкую к критической герменевтике. При этом приходится тщательно учитывать границы социального контекста. В частности, Гарфинкеля и его последователей часто упрекают в безадресности их «неискушенной» эпистемологической установки. В то время как этнометодологи разрабатывают и анализируют установки социального контекста, общий ресурс всего сообщества составляют правила и образцы речевого поведения. Они могут быть обсуждаемы и адаптируемы, однако бесполезны для этнометодологического анализа.

Воодушевленный некоторыми идеями Винограда, Бэйтмен^[8] исследует следствия хайдеггеровской экзистенциальной феноменологии и согласен с Дрейфусом, что эта философия отрицает возможность моделирования мышления и деятельности, используя специфическую формализацию, предложенную функционалистской парадигмой когнитивных наук. Бэйтмен говорит, что все формализмы такого рода основываются на «онтологическом допущении» истолкователя, который следует правилам в деятельности по ментальному основанию и представлению ситуации. Хайдеггеровское понятие «бытия-в-мире», которое включает и ситуационность и понимание как онтологические способы действий, устраняет субъектно-объектную дихотомию в этом допущении. Поскольку каждый всегда пребывает в ситуации, а ее структура и значение детерминированы ее уместностью по отношению к его планам и целям, никакое контекстно-свободное представление не является возможным.

Бэйтмен, однако, не отклоняет возможность функционалистской парадигмы для когнитивистики. Вместо этого он основывает ее на поздней хайдеггеровской идее языка, которая согласно Бэйтмену стремится сделать интеллигибельным опыт «бытия-в-мире» как он есть для «всякого», т. е., для обобщенного субъекта или члена языкового сообщества. В качестве коллективного артефакта язык рассматривается как частичный шифр истории языкового сообщества, как для допустимой, так и для недопустимой комбинации (или ассоциации) слов и фраз. Результирующая соозначающая структура представляет собой некую разновидность коллективного фонового знания и налагает априорные ограничения на действия индивидуумов, которые рассматривают действия в терминах языка. В «систематической грамматике» Холлидея^[9], на которую ссылается Бэйтман, имеется понятие «социальная семиотика», которая признает, что групповая культура может сужать возможные значения высказываний посредством ограничений на возможные способы действий в ситуациях. Бэйтмен рассматривает эту ориентацию как совместимую с герменевтической точкой зрения, и верит, что «систематическая грамматика» после соответствующего пересмотра может обеспечить адекватные теоретические рамки для понимания естественного языка. Все же, несмотря на эту открытость к социальным ограничениям, Бэйтмен не рассматривает герменевтиков, пришедших после Хайдеггера (например, Гадамера и Хабермаса).

Парадоксальным образом герменевтические идеи используются как в создании теории ИИ, так и для того, чтобы поставить под сомнение всю программу ИИ. Так Виноград и Флорес^[10], развивая собственные положения теории ИИ, опираются и на философскую герменевтику, и на работу Матураны^[11] по биологии знания, чтобы отрицать как возможность конструирования мыслящего компьютера, так и компьютерного понимания естественного языка. Они утверждают, что поскольку Хайдеггер и Гадамер дают убедительную картину того, что некоторые базисные свойства человеческого существования являются фундаментальными вообще, то сам по себе поиск мыслящей машины является просто донкихотством. Эти свойства включают «брошеность», «слепоту» и «упадок». «Брошеность» означает, что люди брошены в ситуацию повседневной жизни и редко имеют время поразмышлять над альтернативным образом действий. Люди не могут быть беспристрастными, отстраненными наблюдателями мира, в котором они живут, но они должны принимать решения и использовать собственные эвристические способности, которыми они обладают как частью их действительной истории. Хотя множественность потенциальной человеческой эвристики делает доступными (осознаваемыми и реально понимаемыми) некоторые возможности действий, те же самые эвристики также делают людей «слепыми» к некоторым иным возможностям действий, которые могли бы преобладать, если бы их действительные истории были другие. Когда люди сталкиваются с ситуациями, в которых прожитые ими истории не в состоянии обеспечить адекватное руководство к действиям и также делают их невосприимчивыми к этим действиям, способным помочь им в достижении их целей, люди испытывают разновидность «расстройства», которое может принять форму острой депрессии, анемии и даже побуждать к иррациональным действиям.

Хотя экспертные системы могут успешно оперировать в хорошо знакомых, ограниченных областях, экспертные системы в сложных областях могут быть «заброшены» в ситуации, где они не в состоянии оценивать и контролировать все возможные действия и они, как следствие, «сдают». Поэтому системы, предназначенные для сложных областей, должны основываться на эвристических правилах, но эти последние могут вызвать «слепоту» программы к более подходящим действиям. Виноград и Флорес считают, что программист экспертных систем вводит свои собственные «ограничения» или свои собственные предубеждения в программу. Ввиду этих трудностей Виноград и Флорес рекомендуют переформулировку целей искусственного интеллекта. Вместо приложения усилий к достижению предположительно невозможной цели создания машин, способных к пониманию, программы должны быть разработаны как инструменты, служащие улучшению качества жизни. Это может быть сделано путем правильного понимания роли подобных программ в паутине речевых актов, конституирующих социальное существование. Следует стремиться минимизировать «ограниченность», которую они порождают, и наряду с этим предвидеть заранее диапазон их потенциальных «крушений».

Все же Винограду и Флоресу до конца не удается продемонстрировать, что компьютерное понимание выходит за рамки возможного. Они лишь демонстрируют, что цель гораздо более трудна, чем большинство людей, включая многих специалистов по ИИ, могут себе представить.

Jc 'к

Подводя итоги, можно констатировать, что герменевтическая традиция используется разработчиками систем ИИ двояким образом. Во-первых, негативно. В этом случае герменевтика используется как основание для аргументации против принципиальной возможности создания ИИ вообще. Утверждается, что герменевтика как раз и открыла и продемонстрировала в человеческом существовании такие качества, которые не только важны для жизненной ситуации человека, но и не воспроизводимы механически. Так как эти сомнения порождены вполне определенной интеллектуальной традицией и так как они достаточно при этом обогащают наши интуитивные прозрения, то их нельзя с легкостью отбросить как разновидность «иррационального технологического пессимизма». Вдобавок они способны консолидировать часть разработчиков ИИ в борьбе с подобного рода сомнениями и способствовать уточнению стратегии и тактики их разработок.

Позитивное же использование герменевтики связано с тем обстоятельством, что герменевтика может предложить разработчикам ИИ определенные методы, способы и критерии, которые подразумевают понимание естественных языков и представление знаний социального мира. И здесь как раз возникает необходимость в более широком использовании методов и методик когнитивной герменевтики^[12]. Наряду с этим уяснение философской перспективы разработок ИИ может в свою очередь привести к точке зрения на ИИ как на некий «экспериментальный» философский полигон, способный поддержать или отвергнуть некоторые философские позиции и идеи в области онтологии, эпистемологии и когнитологии.

• [1] 1 Winograd Т What Does It Mean to Understand Natural Language // Cognitive Science
• [2] 209—241 (1980).
• [3] Н. A. Simon. Rational Decision Making in Business Organizations // American EconomicReview 69, 493—513 (1979).
• [4] Н. R. Maturana. Biology of Knowledge // The Neurophysiology of Language /R. W. Reiber, ed. Plenum Press, New York, 1977.
• [5] Более подробно проблема предпонимания рассматривается в моей книге. См.:Е. Н. Шулъга. Проблематика предпонимания в герменевтике, феноменологии и социологии. М., ИФ РАН. 2004.
• [6] Т. Winograd. What Does It Mean to Understand Natural Language // Cognitive Science4, 209—241 (1980), C. 223—224.
• [7] H. Garfinkel. What is Ethnomethodology? // F. R. Dallmayr and T. A. McCarthy, Understanding and Social Inquiry, University of Notre Dame Press, Notre Dame, 1977.C. 240—261.
• [8] J. A. Bateman. Cognitive Science Meets Existential Phenomenology: Collapseor Synthesis? // Working Paper No. 139, Department of Artificial Intelligence, Universityof Edinburgh, Edinburgh, April, 1983; J. A. Bateman. The Role of Language in The Maintenanceof Intersubjectivity: A Computational Investigation // G. N. Gilbert and C. Heath, Social ActionAnd Artificial Intelligence, Grower, Brookfield, VT, 1985, 40—81.
• [9] М. А. К. Holliday. Language as Social Semiotic, Edward Arnold, London, 1978.
• [10] T. Winograd and F. Flores. Understanding Computers and Cognition: A New Foundationfor Design, Addison-Wesley, 1995.
• [11] H. R. Maturana. Biology of Cognition // H. R. Maturana and F. Varela, Autopoeisis andCognition: The Realization of the Living. Reidel, Dordrecht, 1980, 2—62.
• [12] См.: Е. Н. Шулъга. Когнитивная герменевтика. М., 2002.