Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable...

24
Fuzzy- Systeme AS2-6

Transcript of Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable...

Page 1: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Fuzzy-Systeme

AS2-6

Page 2: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 2 -

Fuzzy-Variable

Definition Zugehörigkeitsfunktion m(x)

m(x) 1

0 x

xA

AllgemeinKontin. Zuordnung: „x hat den Zustand xA“ durch m(x)

z.B. Person ist „normal“ groß

0 und 1 sind nur Extremwerte von m(x)

X = Sandmenge

m(x)z.B. m(x) für „Sandhaufen“

Page 3: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme

Fuzzy-Regelsysteme

Anwendung in der Medizin

- 3 -

Page 4: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 4 -

Fuzzy-Regeln

Beispiel Zugehörigkeitsfunktionen für „Wetter“

Naß

1

0

schlechtschön

Wetter

PrinzipienWENN (Helligkeit = normal) UND (Feuchte = trocken)

DANN (schönes Wetter)

WENN (Helligkeit = dunkel) UND (Feuchte = naß)DANN (schlechtes Wetter)

Wetterzustand (b1,b2) = ?

my1(y) my2(y)

Page 5: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 5 -

Fuzzy-Regeln

Beispiel Zugehörigkeitsfunktionen für „Wetter“(b1,b2)

PrinzipienWENN (m12(x1=b1)) UND (m21(x2=b2)) DANN (schönes Wetter)

WENN (m11(x1=b1)) UND (m22(x2=b2)) DANN (schlechtes Wetter)

Auswertung

„UND“-Terme: i mi(xi) = ?

„DANN“-Term: Verrechnung mit my?

Multiple Regeln: Verrechnung, Defuzzifikation ?

Page 6: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 6 -

m2 (x

2 )=1

m2(x

2)

x2

m

1(x

1)=1

m1(x1)

x1

x1

x2

Fuzzy-Regeln

Auswertung der UND-Terme S(x1,x2) = m1(x1) UND m2(x2)

Core region

Support region

Core-Region

S(x1,x2) = 1

Support-Regionm1=1,m2<1: S = m2

m2=1,m1<1: S = m1

Also S = min(m1,m2)

oder S = m1· m2

Page 7: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 7 -

schlecht schön

my1 my2

Auswertung

Auswertung des DANN-Terms WENN S(x1,x2) DANN my(y)

S1(x)

Zugehörigkeit

schlecht schön

my1 my2

correlation minimum encoding

Mij(y) = min (Si, myj(y))

S (x) 1

correlation product encoding Mij(y) = Si ·myj(y)

Ergebnisse UND-Terme: Y1 = S1(b1,b2) für „schlecht“,

Y2 = S2(b1,b2) für „schön“

Erstellen neuer Zugehörigkeitsfunktionen M(y):

S2(x) S2(x)

Page 8: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 8 -

Auswertung

Verrechnung multipler Regeln

Jedes Prinzip, Regel = Bewertung einer AusgabemengeBilden der gemeinsamen Ausgabefunktion

Zugehörigkeit

S2(x)

schlecht schön

my1 my2

S1(x)

correlation minimum encoding

S2(x)

S1(x)

schlecht schön

my1 my2

correlation product encoding

M(y) = max (my1,my2)

Page 9: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 9 -

Auswertung

Defuzzifikation

Gesucht: numer. Wert der AusgabefunktionSchwerpunkt bilden der gewichteten Ausgabefunktion M(y)

Zugehörigkeit

S2(x)

schlecht schön

my1 my2

S1(x)

correlation minimum encoding

S2(x)

S1(x)

schlecht schön

my1 my2

correlation product encoding

y = p(y) y dy mit p(y) = Normierung dy)y(M

)y(M

Page 10: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Fuzzy-Regel

Regel = m(x) AND m(y) bzw. m(x) DANN m(y)

R. Brause: Adaptive Systeme - 10 -

Page 11: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 11 -

Auswertung der Regelmenge

Approximation Rechnung

f(x) = = i wi yi

dyyM

dyyyM

wenig überlappend

Fuzzy Regeln Defuzzifizierung S1F1(x)

Sry Fry (x)

f(x)

i i ii

k kk

S w F

S F

k kk

ii

FS

FSmit yi =

RBF-Netzwerk !

Page 12: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme - 12 -

Adaption von Fuzzy-Systemen

Problem - Lage der Zentren - Breite der Zugehörigkeitsfunktionen

LösungAbbildung der initialen Prinzipien auf RBF-NeuroneModellierung der UND-Terme als RBF-Neuron:

S (x1,...,xn) = mi(x1)·…· mk(xn) correlation product enc.

Zusätzliche Integration der Schlussfolgerung

SRBF(x1,...,xn,y) = S (x1,...,xn)·mr(y)

Trainieren des RBF-NetzesErmitteln der Parameter für mi,...,mk,mr

Rückabbildung auf Prinzipien

Page 13: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

R. Brause: Adaptive Systeme

Fuzzy-Regelsysteme

Anwendung in der Medizin

- 13 -

Page 14: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Diagnose mit neuronalen Netzen

Was ist Septischer Schock?

Nach Infektion (oder Verletzung) kann eine körperliche Reaktion spezielle Zustände hervorrufen (erhöhte Herz-frequenz & Temperatur, geringer Blutdruck, ...)

Septischer Schock hat geringe Auftrittswahrscheinlichkeit (ca. 3-7%), aber hohe Letalität (ca. 50%) durch Multiorgan-versagen

Es existieren bisher keine erfolgreiche Frühwarnung und keine erfolgreiche Therapie

- 14 -R. Brause: Adaptive Systeme

Page 15: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Diagnose von Septischem Schock 1Methode: überwachtes, wachsendes neuronales Gas

Mittel- Standard- min % max %wert in % Abweichung

Diagnose ok 67,84 6,96 61,17 75,05Sensitivität 24,94 4,85 19,38 28,30Spezifität 91,61 2,53 89,74 94,49

Klasse überlebend

Klasse verstorben

Merkmal 1

Mer

kmal

2

1. Schicht 2. Schicht

- 15 -R. Brause: Adaptive Systeme

Page 16: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Diagnosen durch Neuronale Netze Probleme

Interpretation der Ergebnisse von Netzen ist für Ärzte nicht zumutbar

Es gibt nur wenige Beispiele, aber viele Merkmale pro Beispiel (Fluch der Dimensionen)

Lösungen

Verwendung von Fuzzy-Zugehörigkeiten bzw. RBF-Netzen für die linguist. Bezeichnungen

Wachsende rezept. Felder und wachsende Netze

Ergebnisse in Form von Regeln

R. Brause: Adaptive Systeme - 16 -

Page 17: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

1. 4.

6. 7.

2. 3.

5.

- 17 -R. Brause: Adaptive Systeme

Regelgenerierung

Aufteilen und Verschmelzen von Regionen

Page 18: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Regelgenerierung

Alternativ kann man auch anhand der Daten direkt versuchen, Rechtecke zu finden mit einer Fehlertoleranz und einer Generalisierung;

• das Rechteck kann adaptiv wachsen

• überflüssige Regeln werden gelöscht.

Vorteil:

Für gleichfarbige Punkte innerhalb eines Rechteckes muss kein Rechteck mehr generiert werden.

- 18 -R. Brause: Adaptive Systeme

Page 19: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Aufstellen von Regeln

Suche RBF-Bereich (und Klasse), durch WTA. Dann….

4 Phasen für Einbeziehung eines Sample x : Berthold 1999

Abdecken (Cover)Wenn x im Support-Bereich eines RBF liegt, erweitere den Core-Bereich auf x. Erhöhe das Gewicht des RBF in der 2.Schicht.

Hinzufügen (Commit)Wenn nicht, füge eine neue RBF ein an Position x mit Gewicht 1.Core = 0, Support = ∞

Schrumpfe neuen Bereich (Shrink committed)Verringere den Support-Bereich des neuen RBF so, dass er ex. Bereiche anderer Klassen nicht überdeckt. Dies für jede Dimension.

Schrumpfe überdeckte Bereiche (Shrink conflict)Verringere Core und Support anderer RBF, die eine andere Klasse haben.

R. Brause: Adaptive Systeme - 19 -

Page 20: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Aufstellen von Regeln

ProblemeDie Regeln sind abhängig von der Präsentationsreihenfolge

Ausreißer erhalten extra Regeln

Die Supportbereiche überlappen stark

Die Core-Bereiche unterschiedlicher Klassen können überlappen (Konfusion!)

Abhilfe Paetz 2002

Ähnliche Regeln werden zu einer zusammengefasst

Ausreißer werden nicht extra eingefügt, sondern zunächst registriert in einem Zähler bei jeder Klasse. Erst ab einem Schwellwert wird eine eigene Klasse erstellt. Dadurch gibt es weniger überlappende Bereiche.

R. Brause: Adaptive Systeme - 20 -

Page 21: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Leistungsmaße

Testen aller Modifikationen: Aufstellung von Leistungsmaßen für die Regeln !

Hk = Support von RBF-Neuron k mit Regel Rk

Häufigkeit freq (Rk) = #samples of class k / all samples

Konfidenz conf (Rk) = #samples of class k / samples in Hk

Ähnlichkeit von Regeln Ri und Rj sim(Ri,Rj) = | Ri Rj | _

max{ |Ri|, |Rj| }

Problem: unterschiedl. Werte für freq() und conf() beider Regeln

sind im Maß nicht enthalten

Lsg: Addition von |1-Diff| der Regelwerte

R. Brause: Adaptive Systeme - 21 -

Page 22: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Diagnose mit neuronalen NetzenDaten Paetz, Brause 2001

362 Patienten mit sept. Schock (1996-1999), 15% verstorben 30 binäre Variablen (JA/NEIN): min.12, max.30, mittl. 25

VerfahrenRegelbasierte Diagnose mit wachsendem RBF-Netz

Ergebnisseverstorben: 1284 Regeln mit Konfidenz >75%, Häufigkeit >2%

† IF minimal_use_of_three_diff_antibiotics=YES AND artificial_respiration=YES AND tube_feeding=NO THEN class deceased WITH conf=0.82 AND freq=0.03

† IF organ_failure=YES AND antiarrythmics=YES AND haemodialysis=YES AND peritoneal_lavage=YES THEN class_deceased WITH conf=0.8 AND freq=0.03

überlebend: 9976 Regeln mit Konfidenz >98%, Häufigkeit >16,5%♥ IF peritoneal_lavage=NO AND thrombocyte_concentrate=NO AND

haemodialysis=NO THEN class_survived WITH conf=0.98 AND freq=0.42

♥ IF haemofiltration=NO AND reoperation=NO AND acute_renal_failure=NO ANDliver_cirrhosis=NO THEN class_survived WITH conf=0.99 AND freq=0.29

- 22 -R. Brause: Adaptive Systeme

Page 23: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Diagnose von Septischem Schock 2Methode: Diagnose durch regelbasiertes RBF-Netz

mitt. standard min maxWert Abweich.

Klasse ok 68.42 8.79 52.92 74.74Sensitivität 18.15Spezifität 88.00

~ 23 Regeln für überlebend

~ 18 Regeln für verstorben

Regeltyp

IF var1 in (-,50) AND IF var2 in (20,40)THEN class1 WITH class_confidence=80%

AND frequency=5%

Keine Zeitdynamik!

- 23 -R. Brause: Adaptive Systeme

Page 24: Fuzzy- Systeme AS2-6. R. Brause: Adaptive Systeme - 2 - Fuzzy-Variable DefinitionZugehörigkeitsfunktion m(x) m(x) 1 0 x x A Allgemein Kontin. Zuordnung:

Diagnose von Septischem Schock 3Variable: „ Blutdruck und Thrombozytenzahl “

IF BlutdruckSystolisch in (114.50,140.91) AND Thrombozyten in (169.00,678.00) THEN class survived WITH testfrequency=0.33 AND testconfidence=0.87

FROM 28 different patients

IF BlutdruckSystolisch in (102.29,118.17)AND Thrombozyten in ( 29.00,171.00) THEN class deceased WITH testfrequency=0.11 AND testconfidence=0.89

FROM 12 different patients

- 24 -R. Brause: Adaptive Systeme