|
|
7.1.4 Description des fonctions principales de l'algorithme
7.1.4.1 OrdonnerCritères (E, Yd)
Soit Yd= {A1,...,Ap},l'ensemble des attributs applicables au noeud courant.
L'ordonnancement des critères est fondée sur l'application des principes de la
théorie de l'information et de l'entropie [Shannon, 1949].
L'entropie de Shannonest une mesure de probabilité sur la difficulté de
prévoirlaquelle des valeurs possibles d'un attribut est applicable à un nouvel
individu choisi au hasard parmi l'ensemble des exemples décrits [Estabrook,
1967]. Elle possède une signification statistiqueindépendante du contenu du
message véhiculé : l'entropie est basée sur la mesure du degré d'incertitude de la
réalisation d'évènements aléatoires par rapport à des expériences possédant un
nombre k d'issues ayant chacune une certaine probabilité d'apparition [Yaglom
A.M. & Yaglom I.M., 1957]. Par exemple, si notre expérience consiste à
déterminer la couleur de la première corneille rencontrée, nous pourrons
considérer la couleur noire avec une certitude presque entière (bien qu'il existe
quelques rares corneilles blanches dans la nature selon les zoologues). Notre
incertitude sera plus grande si l'expérience est de déterminer si le premier homme
rencontré sera gaucher : le résultat de l'expérience peut être prédit presque sans
hésitation, mais les craintes quant à l'exactitude de cette prédiction seront plus
fondées que dans le premier cas. Il est sensiblement plus difficile de prédire
d'avance le sexe de la première personne que nous rencontrerons. Mais cette
expérience possède encore un degré d'indétermination relativement petit en
comparaison de la tentative de désigner d'avance le vainqueur d'un tournoi dont
|
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
