Universität Marburg IDBS Seite 448 12. Information Retrieval und Multimedia-Datenbanken Diese...

Seite 1

Universität MarburgIDBS

12. Information Retrieval und Multimedia-Datenbanken

Diese Folien stellen eine Auswahl des Foliensatzes der Vorlesung Multimedia-Datenbanken dar, die Herr Dr, Ingo Schmitt an der Uni Magdeburg gehalten hat.

Medium– Medium vermittelt zwischen zwei oder mehreren

Kommunikationspartnern– Sender erzeugt Signale auf Medium– Empfänger (Rezeptor) nimmt Signale auf zur

• Interpretation• Wandlung• Weiterleitung

Medium ist Nachrichtenträger– Physische Medien

• Schall in festen, flüssigen und gasförmigen Stoffen• elektromagnetische Wellen

Seite 2


Medium Medium vermittelt zwischen zwei oder mehreren Kommunikationspartnern

– Sender erzeugt Signale auf Medium

– Empfanger (Rezeptor) nimmt Signale auf zur�• Interpretation

• Wandlung

• Weiterleitung Medium ist Nachrichtenträger

– Physikalische Medien

• Schall in festen, flüssigen und gasförmigen Stoffen

• elektromagnetische Wellen

EmpfängerMediumerzeugt interpretiert

Sender

Seite 3


Abstrakte Medien Unter Verwendung von physikalischen Medien werden abstrakte Medien

erzeugt.

erzeugt interpretiertSender Empfänger

Multimedia

– Komposition verschiedener Medien

– Darstellungsmächtigkeit z.B. Geruch versus Bild

– Medienumsetzung oft möglich

Seite 4


Klassifizierung der Medien (1)

nach Sinnesorganen visuell (optisch)

– sprachlich (symbolgebunden)

• Text

• Piktogramme

– nicht-sprachlich

• Grafiken

• Gotos akustisch

– Sprache

– Musik haptisch (tasten) gustorisch (schmecken) olfaktorisch (riechen)

Seite 5


Klassifizierung der Medien (1)

nach Zeit relativ zeitinvariant (statisch): Text, Bild, Photos, ... relativ zeitgebunden (dynamisch): gesprochene Sprache, Video,

engl.: continuous media

Seite 6


Medien auf Computern Text Grafik Rasterbild Tonaufnahmen (Audio) Bewegte Bilder (Video)

Begriffe Dokument: logisch zusammenhängender, digital kodierter Text Multimedia-Dokument: besteht aus Text und anderer Medien-Typen Multimedia-Objekt

– computerverwaltete logische Informationseinheit in einem oder mehreren Medien (mindestens ein Medium ist nicht alphanumerisch)

Medien-Daten bzw. Multimedia-Daten

– heterogene Menge von Medien-Objekten bzw. Multimedia-Objekten

Seite 7


Multimedia-Datenbank-Managementsystem

= DBMS

+ Multimedia-Datenbankmodell

– Medien-Typen: Darstellung + Operationen

– Substitutions- und Synchronisationsbeziehungen

+ Information Retrieval (inhaltsbasierte, unscharfe Suche)

+ Multimediadatenunabhängigkeit

– Medienabstraktion

– Unabhängigkeit von Speicherformaten

– Unabhängigkeit von Speichergeräten

– Präsentationsunabhängigkeit

+ Speicher- und Ein-/Ausgabegeräte

+ Zeitaspekt (etwa Echtzeit für dynamische Medien)

+ Benutzerschnittstellen

Seite 8


Beispielanwendung Polizeiinformationsystem

– Relationale Daten– Dokumente– Bilddaten– Überwachungsvideos– Telfondaten

Anfragen Image-Query:

– Suche alle Bilder, die die selbe Person zeigen wie auf diesem Bild!• entweder über Beschreibungsinformationen oder Bildverarbeitung

Audio-Query: – Kann Person zu gesprochener Stimme identiziert werden? Hat die selbe Person andere

Gespräche geführt?• Unter Verwendung von Sprachvektoren

Text-Query: – Finde alle Dokumente, bei denen es um Drogenkartell-Finanztransaktionen mit Firma

ABC geht!• keine reine Stichwortsuche Berücksichtigung von Semantik

Video-Query: – Finde alle Videosegmente, wo das Angriffsopfer erscheint!

Seite 9


Komplexe Anfragen heterogene Query

– Finde alle Personen, die des versuchten Mordes in Nordamerika überführt wurden und elektronische Geldüberweisung auf deren Konto von der ABC Corp. kommen!

• mehrere heterogene Datenbanken heterogene Multimedia-Query:

– Finde alle Personen, die mit Jose Smith photographiert wurden und als versuchte Mörder in Nordamerika überführt wurden und von ABC Corp. Geld bekommen haben!

Unscharfe heterogene Multimedia-Query:

– Finde alle interessanten Personen, die Kontakt zu Jose Smith hatten

Seite 10


Prinzipien des Information Retrieval

Einführung Information-Retrieval-Modelle Relevance Feedback Bewertung von Retrieval-Systemen Nutzerprole Literaturempfehlungen

Seite 11


Motivation Besonderheit: Verwaltung von Daten anhand ihrer Interpretation Suche von relevanten Dokumenten notwendig zur Suche von Multimedia-Objekten in Datenbanken

– z.B. Bild mit Flusslandschaft Information Retrieval versus Daten Retrieval

– Datenbankanfrage anhand exakt formulierter Bedingungen

select ISBN

from Buch

where Titel = "Multimedia-Datenbanken".

– unscharfe Formulierung in IRS

Finde alle Text-Dokumente, die sich mit dem Thema "Multimedia-Datenbanken" beschäftigen.

Information-Retrieval-System (IRS)

Seite 12


Historie von IRS Einsatz in Bibliotheken seit 70er Jahren Stärke bei Verwaltung schwachstrukturierter Daten, etwa

– Text-Dokumente

– XML Aufgrund Datenflut:

– Problem des Findens geeigneter Informationen Thema hatte lange Zeit kaum Relevanz, aber erfährt derzeit wieder eine

Art Wiedergeburt!

– Internet-Suchmaschinen

Seite 13


Grundproblem

Inhalt von Dokumenten und Medien-Objekten oft nur schwer anhand Datenbankschema strukturierbar und erschließbar

Lösungsansatz: Ähnlichkeitssuche mittels IR-Techniken

Formulierung einer Anfrage als Dokument (Ähnlichkeitssuche oder query by example)

– Liefere alle Text-Dokumente, die zum Text-Dokument #0815 ähnlich sind.

– Liefere alle Text-Dokumente die ähnlich zum Multimedia-Dokument "Urlaub Sommer Mittelmeer" sind.

als Anfrage (Eingrenzung durch Bedingungen)

– Datenbank and (Bild or Video)

Seite 14


Daten versus Information Retrieval Daten sind unstrukturiert implizit formulierte Information

– erfordert Interpretation Suche nach Dokumenten, die ausreichend wahrscheinlich relevant bzgl.

Anfrage sind

– z.B. Suche von Text-Dokumenten anhand eines Texts Toleranz bzgl. Fehler bei Anfrageformulierung

auch irrelevante Ergebnisse möglich

– Wiederholung der Anfrage unter Verwendung der bisher erzielten Ergebnisse

Ergebnisreihenfolge ist wesentlich Einschränkung der Ergebnisgröße durch

– Schwellwert

– Ergebnisanzahl

Seite 15


Zusammenfassung der UnterschiedeMerkmal Daten Retrieval Information Retrieval

Information explizit implizitErgebnisse exakt unscharfAnfrage einmalig iterativ verfeinerndFehlertoleranz keine vorhandenErgebnistypMenge Liste

Seite 16


Schritte des IRStatt eines direkten Vergleichs zwischen Anfrage und Dokumenten:

1. Überführung Anfrage und Dokumente in interne Darstellung

– Extraktion von Daten, welche Semantik der Dokumente beschreiben

– relevante Informationen explizit und kompakt

• z.B.: Zusammenfassungen von Texten

2. Vergleich der internen Darstellungen durch Ähnlichkeitsfunktion

– numerischer Relevanzwert drückt Ähnlichkeit aus

• abhängig von Distanzfunktion

3. Ergebnis

– Dokumente mit höchsten Relevanzwerten absteigend sortiert

– Einschränkung der Ergebnisliste durch Schwellwert bzw. Ergebnisanzahl

4. Relevanzbewertung und Feedback, wenn Ergebnis nicht zufriedenstellend

– Anfrage-Iteration

– Modifikation der Anfrage

– Modifikation der internen Darstellung

Seite 17


Information-Retrieval-Modelle IR-Modell definiert

– interne Dokumentdarstellung,

– Anfrageformulierung und interne Anfragedarstellung,

– Vergleichsfunktion zwischen jeweils zwei Dokumenten beziehungsweise zwischen Anfrage und jeweils einem Dokument.

Text-Retrieval

– Modelle wurden ursprünglich für Text-Retrieval entwicklt.

– Indexvokabular

• vordefinierte Menge von Indextermen

– Darstellung eines Dokumentes über auftretende Indexterme

– verschiedene Arten von Termgewichten Text-Model lässt sich auch auf andere Medien-Typen anwenden.

Seite 18


Traditionelle IR-Modelle Boole'sches Modell Fuzzy-Modell Vektorraummodell

Boole'sches Modell basiert auf Mengentheorie und Boole'scher Algebra sehr einfaches Modell mit klarer Semantik Dokumente als Mengen von Indextermen

– Termgewichte sind binÄR: im Dokument enthalten oder nicht enthalten

Test auf Enthaltensein als Vergleichsfunktion Verknüpfung von Enthaltenseinsbedingungen mittels

– Boole'scher Junktoren

– and (Mengendurchschnitt), or (Mengenvereinigung), not (Mengendifferenz)

Seite 19


Beispiel

Indexvokabular {Korsika, Sardinien, Strand, Ferienwohnung, Gebirge}

– Dokument d1 : {Sardinien, Strand, Ferienwohnung}

– Dokument d2 : {Korsika, Strand, Ferienwohnung}

– Dokument d3 : {Korsika, Gebirge}

Anfrage

– Korsika liefert {d2, d3}

– Ferienwohnung liefert {d1, d2}

– Ferienwohnung and Korsika liefert {d2}

– Ferienwohnung or Korsika liefert {d1, d2, d3}

– Ferienwohnung and not Korsika liefert {d1}

Seite 20


Neue Anfragesyntax

but-Junktor Anfrage: not Korsika liefert alle Dokumente, die "Korsika" nicht enthalten,

– u.U. qualifiziert sich die ganze Dokumentkollektion

– Statt dessen Verwendung but-Junktor

• (entspricht and not, also Komplement bzgl. einer Vorauswahl)

• Beispiel:Ferienwohnung but Korsika

of-Konstrukt Suche nach Dokumenten, die m von n (m < n) Termen enthalten

– 2 of (Korsika, Strand, Ferienwohnung) Ersetzt den komplexen Boole'schen Ausdruck

– (Korsika and Strand) or (Korsika and Ferienwohnung) or (Strand and Ferienwohnung)

Seite 21


Naive Anfrageauswertung jeder Term liefert Menge von Dokumenten, die diesen Term enthalten komplexe Anfrage: Kombination der Dokumentmengen durch

entsprechende Mengenoperationen Normalisierung der Anfrage durch Überführung in DNF

– kleine Zwischenergebnisse (zuerst Durchschnitt, dann Vereinigung)

Seite 22


Nachteile des Boole'schen Modells exaktes Modell aufgrund binärer Gewichte

– Entspricht eher Daten-Retrieval

– keine Ähnlichkeitssuche durch zu scharfe Suche Größe des Ergebnisses

– alle Dokumente sind bzgl. Anfrage gleichrangig Präsentation der gesamten Ergebnismenge

– Ergebnismenge in Abhängigkeit von Anfrage oft zu groß oder zu klein bzw. leer

Boole'sche Junktoren

– schwierige Anwendung Boole'scher Junktoren

– Verwechslung mit "und", "oder" und "nicht"

Seite 23


Milderung Problem "Größe des Ergebnisses"

faceted query

– zweistufiges Suchverfahren

• Formulierung und Verfeinerung der Anfrage anhand benannter Anfragen und Ergebnisanzahl

• Ergebnis zur finalen Anfrage anzeigen

Beispiel:

– Korsika liefert Q1: 1345Q1 and Strand liefert Q2: 13

– Anzeige Q2 liefert die 13 Ergebnisdokumente

Seite 24


Fuzzy-Modell Erweiterung des Boole'schen Modells um Unschärfe (fuzzy) Verallgemeinerung Boole'scher Junktoren Unschärfe durch graduelle Zugehörigkeit von Dokumenten zu Termen

Definition: Eine Fuzzy-Menge A = {(u,A(u)} über einem Universum U ist durch eine

Zugehörigkeitsfunktion A: U [0; 1] charakterisiert, welche jedem Element u des Universums U einen Wert A(u) aus dem Intervall [0; 1] zuordnet.

Fuzzy-Mengen beim IR

– Universum ist Menge aller gespeicherten Dokumente

– Term definiert Fuzzy-Menge

– Zugehörigkeit (Fuzzy-Wert) des Dokuments d zu Term t durch Wert t(d)

• 0 für keine Relevanz

• 1 für maximale Relevanz

• Zwischen 0 und 1: graduelle Relevanz

Seite 25


Beispiel Universum umfasst 3 Dokumente {d1, d2, d3}

– Dokument d1 : {Sardinien, Strand, Ferienwohnung}

– Dokument d2 : {Korsika, Strand, Ferienwohnung}

– Dokument d3 : {Korsika, Gebirge} Fuzzy-Mengen Korsika bzw. Strand drücken Zugehörigkeit zu Term

"Korsika" bzw. "Strand" aus:

– Korsika = {(d1, 0,1), (d2, 0,6), (d3, 1)}

– Strand = {(d1, 0,3), (d2, 0,2), (d3, 0,8)}

Seite 26


Fuzzy-Junktoren Jedes Dokument ist in jeder Fuzzy-Menge vertreten

– übliche Mengenoperationen nicht anwendbar Junktoren ermitteln neue Zugehörigkeitswerte

– and durch Min-Funktion A B(u) = min(A(u), B(u))

– or durch Max-Funktion A B(u) = max(A(u), B(u))

– not durch Subtraktion von 1: A(u) = 1 - A(u)

Beispiel

1. Q1 = Korsika and Strand

2. Q2 = Korsika or Strand

3. Q3 = not Korsika

Anfrage d1 d2 d3

Korsika 0,1 0,6 1

Strand 0,3 0,2 0,8

Q1 Korsika Strand 0,1 0,2 0,8

Q2 Korsika Strand 0,3 0,6 1

Q3 Korsika 0,9 0,4 0

Seite 27


Fuzzy-Anfrageverarbeitung Überführung der Anfrage in disjunktive Normalform Jeder Suchterm induziert eine Fuzzy-Menge Anwendung entsprechender Fuzzy-Operationen auf Fuzzy-Mengen Erstellung der Rangliste der Ergebnisse:

– Dokumente absteigend sortieren nach Zugehörigkeitsgrad

Begrenzung Fuzzy-Ähnlichkeitsanfrage Ergebnis umfasst alle Dokumente des Universums Begrenzung der Anzahl durch

– Schwellwert für Zugehörigkeitswerte

– vorgegebene Anzahl von Ergebnisdokumenten Beispiel: Korsika and Strand

– Schwellwert 0,5 liefert d3

– Anzahl 2 liefert d2; d3

Seite 28


Berechnung von Zugehörigkeitswerte viele Möglichkeiten Beispiel (Ansatz von Ogawa, Morita, Kobayashi):

– mittels Term-zu-Term-Korrelationsmatrix

– Zeile entspricht Term i und Spalte entspricht Term j Parameter

– ni,j = Anzahl der Dokumente, welche die Terme ti und tj enthalten

– ni = Anzahl Dokumente, welche Term ti enthalten

Matrixelemente:ci,j = ni,j / (ni + nj - ni,j)

Zugehörigkeitsgrad eines Terms ti zu einem Dokument dj

ti(dj) = 1 - (1-ci,k)

k=1,2,..

Seite 29


Beispiel (Term-zu-Term Korrelationsmatrix) Dokumente

– d1 : {Sardinien, Strand, Ferienwohnung}

– d2 : {Korsika, Strand, Ferienwohnung}

– d3 : {Korsika, Gebirge} Korrelationsmatrix

tSardinien tStrand tFerienwohnung tKorsika tGebirge

tSardinien 1 0,5 0,5 0 0

tStrand 0,5 1 1 0,33 0

tFerienwohnung 0,5 1 1 0,33 0

tKorsika 0 0,33 0,33 1 0,5

tGebirge 0 0 0 0,5 1

Seite 30


Vektorraummodell weit verbreitetes Retrieval-Modell Dokumente als Vektoren eines Vektorraums

– Überführung Retrieval-Problem in Gebiet der linearen Algebra Voraussetzung

– Abbildung des Medien-Objekt auf eine feste Anzahl von numerischen Merkmalswerten

Beispiel (Bild-Retrieval):

– Vektorwerte etwa anhand Farbverteilung Beispiel Text-Retrieval:

– jeder Indexterm eine eigene Dimension

– Termgewicht (meist Häufigkeiten) als Vektorwert einer Dimension

Seite 31


Ähnlichkeit im Vektorrraum Darstellung der Anfrage selbst als Vektor

– Ähnlichkeit zwischen Anfrage q und Dokument d über deren Vektoren Kosinusmaß

– Kosinus des eingeschlossenen Winkels als Ähnlichkeitsmaß

Universität Marburg IDBS Seite 448 12. Information Retrieval und Multimedia-Datenbanken Diese...

Documents

Transcript of Universität Marburg IDBS Seite 448 12. Information Retrieval und Multimedia-Datenbanken Diese...