MPEG-7 - Universität Mannheim

20
Bridging the Semantic Gap Seminar Universität Mannheim Lehrstuhl für Praktische Informatik IV Sommersemester 2006 Victor Schan [email protected] MPEG-7

Transcript of MPEG-7 - Universität Mannheim

Page 1: MPEG-7 - Universität Mannheim

Bridging the Semantic GapSeminar

Universität MannheimLehrstuhl für Praktische Informatik IV

Sommersemester 2006

Victor [email protected]

MPEG-7

Page 2: MPEG-7 - Universität Mannheim

Inhalt

Überblick

Struktur

Ausgewählte Deskriptoren

Distanzmaß

Anwendungen

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Fazit

Einleitung

Page 3: MPEG-7 - Universität Mannheim

Einleitung

MPEG-7 ist

- kein Kompressionsstandard wie seine Vorgänger MPEG 1/2.

- kein (semi-)automatisches Verfahren zur Merkmals- extraktion aus Multimediadokumenten.

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

(Quelle: http://www.members.cox.net, 2004)

Page 4: MPEG-7 - Universität Mannheim

Einleitung

- universelle Beschreibungssprache für multimediale Daten

- Metadaten werden in einem XML-Dokument gespeichert.

- XML-Darstellung kann verlustfrei in eine binäre Dar- stellung umgewandelt werden (z.B. für Streaming).

- Informationen über Informationen (Metadaten)

- Format und Medium spielen keine Rolle.

MPEG-7:

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Page 5: MPEG-7 - Universität Mannheim

Einleitung

- stetig wachsender Informationsberg

Motivation:

- große Multimediabibliotheken

- effizient suchen

- in Multimediadaten enthaltene Metadaten effizient und intelligent nutzen

- neue Anwendungen

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

(Quelle: http://www.ibm.com, 2004)

Page 6: MPEG-7 - Universität Mannheim

Überblick Struktur Deskriptoren Distanzmaß Anwendungen

Der MPEG-7 Standard:

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Syst

ems

DDL

VisualDescriptors

AudioDescriptorsMD

SR

efer

ence

Sof

twar

e

Confor

mance

Extraction & Useof descriptors

Profiles

Schem

a

Definition

Fazit

Page 7: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Erzeugung undProduktion

VerwendungMedientyp

semantischeAspekte

strukturelleAspekte

Audio Bild / Video

Inhaltsmanagement

Inhaltsbeschreibung

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

(Quelle: Ohm, 2005)

Page 8: MPEG-7 - Universität Mannheim

“A” “B”

“D”

“1”

“2”

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Description Scheme

S

S

Descriptor

Description Value

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

(Quelle: Höynck, 2004)

Page 9: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Description Definition Language (DDL)

- basiert auf XML

- erweitert XML um Datentypen wie z.B. Arrays, Matrizen, Ländercodes, ...

- erlaubt die Erstellung eigener Descriptions und Description Schemes (DS)

- kann bestehende Descriptions und DS erweitern und modifizieren

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Page 10: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Media Description Schemes (MDS)

Collections ModelsContent organisation

Navigation& Access

Basic elements

Summaries

Basicdatatypes

Links & media localisation

Basictools

Creation andProduction

UsageMedia

Semanticaspects

Structuralaspects

Content management

Content description Views

Variations

SchemaTools

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

(Quelle: Martinez, 2004)

Page 11: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

(Quelle: Martinez, 2004)

Page 12: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

gelb

schwarz

Color Structure Descriptor

kompakt

sehr unstrukturiert

- unabhängig vom Format- unabhängig von der Größe

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Page 13: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Gelb

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Orange

Dominant Color Descriptor

- charakterisiert einen Ausschnitt anhand der dominanten Farbe

Page 14: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Homogeneus Texture Descriptor

- Man kann ein Bild auch als Mosaik aus homogenen Texturen betrachten.

- Blickwinkel und Entfernung spielen keine Rolle.

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Page 15: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Objekterkennung ist ein wichtiger Bestandteil der Videoanalyse.

- Das menschliche Gehirn erkennt anhand der Kontur(änderung) dreidimensionale Objekte.

MPEG-7 Contour Shape Descriptor

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

(Quelle: Kopf, 2006)

Page 16: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Contour Shape Descriptor

(Quelle: Kopf, 2006)

Page 17: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Suchanwendungen benötigen ein Maß, mit dem Eigenschaften verglichenwerden können

Euklidische Distanz:

Da viele Deskriptoren als Vektoren(paare) dargestellt werden können,ist die Verwendung der Euklidischen Distanz sehr verbreitet.

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Distanzmaß

Page 18: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

- Multimodale Suche: Skizze oder Sprache anstatt eines Begriffs

- Inhaltsadaption: Speech-to-Text, Picture-to-Text, ...

- Videoüberwachung: Erkennung von gefährlichen Objekten

- Video-on-Demand: Untertitel, Sprache oder Musik nach persöhnlichen Präferenzen

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Page 19: MPEG-7 - Universität Mannheim

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Überblick Struktur Deskriptoren Distanzmaß Anwendungen Fazit

Vorteile von MPEG-7:

Nachteile von MPEG-7:

- sehr komplex

- durch DDL erweiterbar

- universell einsetzbar

- Binärformat für Streaming

- wird bisher nur vereinzelt eingesetzt

Page 20: MPEG-7 - Universität Mannheim

Anwendung

Bridging the Semantic Gap Seminar: MPEG-7 Victor Schan 07. Juni 2006

Offene Fragen ?