Inteligenta Artificiala Universitatea Politehnica Bucuresti Anul universitar 2008-2009
Adina Magda Florea
http://turing.cs.pub.ro/ia_08 si curs.cs.pub.ro
Inteligenta Artificiala Universitatea Politehnica Bucuresti Anul universitar 2008-2009
Adina Magda Florea
http://turing.cs.pub.ro/ia_08 si curs.cs.pub.ro
Curs nr. 7
* Reprezentarea cunostintelor incerte
Teoria probabilitatilor
Retele Bayesiene
Factori de certitudine
1. Teoria probabilitatilor
* 1.1 Cunostinte incerte
p simpt(p, Dur_d) factor(p,carie)
p simpt(p, Dur_d) factor(p,carie) factor(p,infl_ging) …
LP
- dificultate (« lene »)
- ignoranta teoretica
- ignoranta practica
Teoria probabilitatilor un grad numeric de incredere sau plauzibilitate a afirmatiilor in [0,1]
Gradul de adevar (fuzzy logic) gradul de incredere
1.2 Definitii TP
* Probabilitatea unui eveniment incert A este masura gradului de incredere sau plauzibilitatea produceri unui eveniment
Camp de probabilitate, S
Probabilitate neconditionata (apriori) - inaintea obtinerii de probe pt o ipoteza / eveniment
Probabilitate conditionata (aposteriori) - dupa obtinerea de probe
Exemple
P(Carie) = 0.1
P(Vreme = Soare) = 0.7
P(Vreme = Ploaie) = 0.2
Vreme - variabila aleatoare
Distributie de probabilitate
Definitii TP - cont
* Probabilitate conditionata (aposteriori) - P(A|B)
P(Carie | Dur_d) = 0.8
Masura probabilitatii producerii unui eveniment A este o functie P:S R care satisface axiomele:
0 P(A) 1
P(S) = 1 ( sau P(adev) = 1 si P(fals) = 0)
P(A B) = P(A) + P(B) - P(A B)
P(A ~A) = P(A)+P(~A) –P(fals) = P(adev)
P(~A) = 1 – P(A)
Definitii TP - cont
* A si B mutual exclusive P(A B) = P(A) + P(B)
P(e1 e2 e3 … en) =
P(e1) + P(e2) + P(e3) + … + P(en)
e(a) – multimea de evenimente atomice mutual exclusive si exhaustive in care apare a
P(a) = P(ei)
eie(a)
1.3 Regula produsului
* Probabilitatea conditionata de producere a evenimentului A in conditiile producerii evenimentului B
P(A|B) = P(A B) / P(B)
P(A B) = P(A|B) * P(B)
1.4 Teorema lui Bayes
* P(A|B) = P(A B) / P(B) – regula produsului
P(A|B) = P(A B) / P(B)
P(B|A) = P(A B) / P(A)
P(B|A) = P(A|B) *P(B)/ P(A)
Teorema lui Bayes
* P(B|A) = P(A|B) *P(B)/ P(A)
Daca B si B sunt mutual exclusive si exhaustive, probabilitatea de producere a lui A in conditiile producerii lui B se poate scrie
P(A) = P(A B) + P(A B) = P(A|B)*P(B) +P(A| B)*P(B)
P(B|A) =
P(A | B) * P(B) / [P(A|B)*P(B) +P(A| B)*P(B)]
Teorema lui Bayes
* Generalizarea la mai multe ipoteze
B - h, A - e
P(h|e) = P(e | h) * P(h) / [P(e|h)*P(h) +P(e| h)*P(h)]
Daca hi mutual exclusive si exhaustive
Teorema lui Bayes
* Generalizarea la mai multe ipoteze si evenimente
hi – evenimente / ipoteze probabile (i=1,k);
e1,…,en - probe
P(hi)
P(hi | e1,…,en)
P(e1,…,en| hi)
Teorema lui Bayes - cont
* Daca e1,…,en sunt ipoteze independente atunci
PROSPECTOR
* Generalizare
P(Carie | Dur_d) =
[P(Carie Dur_d Evid) + P(Carie Dur_d ~Evid)] *
X – variabila de interogat (Carie)
E – multimea de probe (Dur_d)
e – valorile observate pt E
y – variabile neobservate (Evid)
P(X | e) = * P(X , e) = * y P(X, e, y)
1.6 Limitari ale TP
* Cantitate mare de date statistice
Valoare numerica unica
Ignoranta = incertitudine
Paradoxul lui Hempel
P(h|e)
h1 - toti corbii sunt negrii
h2 - orice obiect care nu este negru nu este corb
e - vaza este verde
P(h2|e) h1 logic echivalent cu h2 P(h1|e)
2 Retele Bayesiene
* Reprezinta dependente intre variabile aleatoare
Specificarea distributiei de probabilitate
Simplifica calculele
Au asociata o reprezentare grafica convenabila
DAG care reprezinta relatiile cauzale intre variabile
Pe baza structurii retelei se pot realiza diverse tipuri de inferente
Calcule complexe in general dar se pot simplifica pentru structuri particulare
2.1 Structura retelelor Bayesiene
*
O RB este un DAG in care:
Nodurile reprezinta variabilele aleatoare
Legaturile orientate XY: X are o influenta directa asupra lui Y, X=Parinte(X)
Fiecare nod are asociata o tabela de probabilitati conditionate care cuantifica efectul parintilor asupra nodului, P(Xi | Parinti(Xi))
Exemplu
Vreme, Carie Dur_d, Carie Detect
Structura retelelor Bayesiene - cont
* Cutremur Alarma TelMihai TelDana Hot P(H)
0.001 P(C)
0.002 H C P(A)
T T 0.95
T F 0.94
F T 0.29
F F 0.001 A P(M)
T 0.9
F 0.05 A P(D)
T 0.7
F 0.01 H C P(A | H, C)
T F
T T 0.95 0.05
T F 0.94 0.06
F T 0.29 0.71
F F 0.001 0.999 Tabela de probabilitati
conditionate
2.2 Semantica retelelor Bayesiene
* A) Reprezentare a distributiei de probabilitate
B) Specificare a independentei conditionale – constructia retelei
A) Fiecare valoare din distributia de probabilitate poate fi calculata ca:
P(X1=x1 … Xn=xn) = P(x1,…, xn) =
i=1,n P(xi | parinti(xi))
unde parinti(xi) reprezinat valorile specifice ale variabilelor Parinti(Xi)
Comments