Génération et explications : le module d'explication dans l'architecture de l'Explainable Expert System - article ; n°106 ; vol.26, pg 63-74

C. Paris

Description

Langages - Année 1992 - Volume 26 - Numéro 106 - Pages 63-74
12 pages
Source : Persée ; Ministère de la jeunesse, de l’éducation nationale et de la recherche, Direction de l’enseignement supérieur, Sous-direction des bibliothèques et de la documentation.

Informations

• Publié par: LANGAGES
• Publié le: 01 janvier 1992
• Nombre de lectures: 11
• Langue: Français
• Poids de l'ouvrage: 1 Mo

Extrait

Cécile L. Paris
Génération et explications : le module d'explication dans
l'architecture de l'"Explainable Expert System"
In: Langages, 26e année, n°106, 1992. pp. 63-74.
Citer ce document / Cite this document :
Paris Cécile L. Génération et explications : le module d'explication dans l'architecture de l'"Explainable Expert System". In:
Langages, 26e année, n°106, 1992. pp. 63-74.
doi : 10.3406/lgge.1992.1632
http://www.persee.fr/web/revues/home/prescript/article/lgge_0458-726X_1992_num_26_106_1632Cecile L. Paris
USC/Information Sciences Institute
4676 Admiralty Way
Marina del Rey, CA 90292-6695
GÉNÉRATION ET EXPLICATIONS :
LE MODULE D'EXPLICATION DANS L'ARCHITECTURE
DE L'« EXPLAINABLE EXPERT SYSTEM »
1. Introduction
La génération d'explications pour des systèmes-experts est rarement considérée par les
constructeurs de systèmes-experts comme un problème de Génération de Langage Naturel
(GLN), mais comme relevant de leur seul domaine. De plus, ceux-ci sont souvent ignorants des
recherches en GLN '. Nous montrons, dans cet article, en quoi le développement d'un module
d'explication exige l'emploi des techniques sophistiquées développées en linguistique info
rmatique et pourquoi une collaboration des deux communautés (LN et systèmes-experts) doit
avoir lieu. D'une part, les systèmes-experts représentent un champ d'étude propice à l'étude
d'un certain nombre de phénomènes qui sont étroitement liés au Langage Naturel (LN) [14,
31] 2. D'autre part, le problème des explications impose des contraintes fortes sur la
construction d'un système-expert.
Nous adoptons cette position dans le projet « Explainable Expert System » (EES). EES
est un outil qui permet le développement de systèmes-experts pouvant expliquer leur
comportement en LN. Le module d'explication joue un rôle important dans EES. Nous
décrivons ici le projet EES à travers les problèmes posés par la génération de textes.
analysons les contraintes imposées au module d'explication et présentons notre approche et le
module d'explication qui la concrétise.
2. Génération de Langage Naturel et Explications pour Systèmes-Experts
2.1. Les modules d'explication des systèmes-experts actuels
II est généralement reconnu que l'utilisateur d'un système-expert accepte d'autant plus
facilement les conclusions données par le système que celui-ci est capable d'expliquer de
manière satisfaisante son raisonnement, ses conclusions, ses conseils, e.g., [5, 35, 42]. La
génération d'explications pour système-expert est donc un problème important auquel de
nombreux travaux ont été consacrés, e.g., [8, 9, 35, 44]. Pourtant, les modules d'explication
des systèmes actuels ne donnent pas vraiment de résultats satisfaisants, pour différentes
raisons :
• Les connaissances expertes ne sont généralement pas explicites dans le système [8, 9, 36,
40]. Un système-expert dispose d'une quantité importante d'informations pour résoudre un
problème spécifique dans un domaine particulier. Cependant, le système ne « comprend » pas
ces informations et ne peut donc pas justifier son raisonnement et ses conclusions.
1. Le contraire est aussi souvent vrai.
2. Ceci est aussi illustré par les études que les chercheurs en LN font sur les dialogues experts-novices, e.g. [6, 22,
33].
63 Génération d'explication et résolution de problèmes sont souvent couplées. Les modules •
d'explication sont ajoutés a posteriori, sous forme de méthodes ad hoc, comme textes préétablis
ou instanciables. Ces méthodes produisent souvent des textes calqués sur la structure de
raisonnement du système, sans prendre en compte des facteurs linguistiques importants pour
la composition de textes cohérents. Malheureusement, l'efficacité informatique (reflétée dans
les textes produits) réduit la transparence du raisonnement du système à l'utilisateur.
• Les études sur les interactions entre experts et novices montrent que les explications
émergent d'un dialogue. Or, les modules d'explications actuels sont incapables de participer à
un dialogue, ni même de prendre en considération tout l'historique de la conversation dans
leur réponse à une question. De plus, l'utilisateur ne peut pas demander des éclaircissements
sur une réponse du système.
2.2. Générer une « bonne » réponse
Des chercheurs se sont intéressés au manque de connaissances (e.g., [4, 7, 9, 35, 36, 38, 40,
41, 47]) en complétant la base de connaissances par des connaissances nécessaires pour
expliquer le raisonnement du système. Du coup, un système peut à présent fournir des
explications plus riches. Par contre, la richesse et la complexité de la base de connaissances qui
en résultent impliquent que le système soit capable de sélectionner et d'organiser en texte
cohérent les informations à présenter à l'utilisateur. Le problème de sélection est d'autant plus
compliqué que le système doit tenir compte du type d'utilisateur auquel il a affaire. Ces
contraintes nous permettent de définir les caractéristiques que doit présenter la réponse du
système pour être efficace et appropriée :
• informative : elle doit contenir des informations que l'utilisateur ne connaît pas encore ;
• cohérente : les informations doivent être organisées et structurées ;
• compréhensible : l'utilisateur doit obtenir les informations dans un langage accessible et
acceptable ;
• pertinente : la réponse doit permettre à l'utilisateur de progresser vers la compréhension
de ce qui lui posait question.
Ces caractéristiques ont déjà été largement étudiées en LN en tenant compte, par exemple,
de différents contextes éventuels. Par contre, les techniques utilisées dans les systèmes-experts
paraissent relativement frustes 3. Il semble donc naturel d'allier les travaux faits dans ces deux
domaines. En particulier, nous insistons sur la nécessité de découpler la génération d'expli
cations de la ligne de raisonnement du système et d'étudier le problème de génération
d'explications en temps que tel. La nécessité de ces deux tâches commence seulement à être
reconnue par d'autres chercheurs, e.g., [3, 4, 14, 31, 46, 47]. De plus les méthodes de GLN
ouvrent le champ à tout un ensemble de questions plus riches que les questions traditionnelles
telles que pourquoi ? comment ?
Toutefois, les techniques actuelles ne résolvent pas tous les problèmes. La production
d'explications par un système-expert reste encore un champ d'investigations très actif,
notamment en linguistique informatique. Ainsi, les fonctionnalités que l'on pourrait attendre
d'un module d'explication restent à développer. Dans le projet EES, la génération d'explica
tions est étudiée comme un problème de génération de langage, et, pour satisfaire ses besoins,
nous avons développé une nouvelle technique de génération de textes.
3. L'architecture de EES et ses effets sur la production d'explications
Nous avons souligné le besoin de connaissances supplémentaires pour produire un certain
nombre d'explications. Un des soucis majeurs dans l'architecture de EES est de pouvoir
3. Le système XSEL étant une exception : en effet, dans XSEL, Kukich (1985) utilise des « schémas d'explica
tions » qui servent de structures intermédiaires entre le raisonnement du système-expert et les connaissances
linguistiques nécessaires à la génération de langage naturel.
64 produire de bonnes explications sur le raisonnement du système ainsi que sur les connaissances
mises en jeu. EES attaque ce problème en incorporant au système des connaissances qui ne
sont pas nécessaires au raisonnement mais qui sont essentielles pour sa justification [7, 28, 36,
37, 38, 39]. Ces connaissances, étant de natures diverses, voire hétérogènes, ont été
représentées de manière explicite et séparée. Elles comprennent :
• une description de la terminologie du système : cette terminologie correspond à la
définition des termes employés par le système. Par exemple, le prototype d'un système de
diagnostic de circuits digitaux possède le terme ADDER qui correspond à : «