Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung...

28
LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 1 Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von Dr. Martin Wagner

Transcript of Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung...

Page 1: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 1

Tracking, Teil 1: Einführung

Vorlesung „Augmented Reality”

Prof. Dr. Andreas Butz

WS 2006/2007

Folien heute überw. von Dr. Martin Wagner

Page 2: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 2

Ein Generisches AR-System

RealitätTracking

(Ortsbestimmung)Virtualität

Rendering undRealitätserweiterung

SensorikEinbeziehung der Ortsinformation in

virtuelle Welt

Kombinationrealer und virtueller

Inhalte

Feedbackan Benutzer

Page 3: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 3

Überblick

• Was ist Tracking?

• Koordinaten im 3D-Raum

• Transformationen im 2D-Raum

• Transformationen im 3D-Raum

• Darstellung von Rotationen im 3D-Raum

• Kombination von Transformationen

• Homogene Koordinaten

• Räumliche Beziehungen

• Mögliche Fehlerquellen beim Tracking

Page 4: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 4

Was ist Tracking?

• Korrekte Registrierung zwischen realenund virtuellen Objekten zwingend für AR

• Kalibrierung ist (offline-) Bestimmung allerunveränderlichen Parameter, z.B.– Position fester Sensoren– Feste Eigenschaften von Kameras (z.B.

Brennweite)

• Tracking ist (online-) Bestimmung zeitlichvariabler Parameter, meist Position von– Benutzern– Realen Objekten

Page 5: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 5

Koordinaten im 3D-Raum

• Kartesische Koordinaten– Orthogonales System

– Koordinatenlinien sindGeraden mit konstantemAbstand

– Achtung: Einheit beachten

• 2 Möglichkeiten (Obacht!):– Linkshändiges System

– Rechtshändiges System in Zukunft verwendet

x

yz

xy

z

Page 6: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 6

Affine Transformationen

• Bewahrung von Parallelität

• Kein Bewahrung von Winkeln und Längen

• Arten:– Translation

– Rotation

– Skalierung

– Scheren

Page 7: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 7

Transformationen im 2D-Raum (1)

• Punktdarstellung:

• Translation:+

+=+=+=

y

x

y

x

ty

tx

t

t

y

xtpp'

=y

xp

x

y

x + tx

y + ty

tx

ty

Page 8: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 8

Transformationen im 2D-Raum (2)

• Rotation:

• Skalierung:

py

x

yx

yxp ==

+= R

cossin

sincos

cossin

sincos'

==sy

sx

y

xsp'

x

y

x’

y’

x

y

sy

sx

Page 9: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 9

Transformationen im 3D-Raum

• Punktdarstellung:

• Translation:

• Skalierung:

=

z

y

x

p

+

+

+

=+=+=

z

y

x

z

y

x

tz

ty

tx

t

t

t

z

y

x

tpp'

==

sz

sy

sx

z

y

x

sp'

Page 10: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 10

Rotationen im 3D-Raum (1)

• Matrixdarstellung:

++

++

++

====

zryrxr

zryrxr

zryrxr

z

y

x

rrr

rrr

rrr

z

y

x

r

r

r

pp

zzz

yyy

xxx

zzz

yyy

xxx

T

z

T

y

T

x

321

321

321

321

321

321

' R

x

y

z

rx

rz

ry

Page 11: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 11

Rotationen im 3D-Raum (2)

• Eigenschaften von Rotationsmatrizen:– Orthonormal:

– Also auch:

– Determinante +1, sonst (-1) Rotoinversion,d.h. Rotation gefolgt von Spiegelung (führtrechts- in linkshändiges System über)

• Alle orthonormalen 3x3 Matrizen mitDeterminante +1 bilden die Gruppe SO(3)

kjkiji rr,,,

=

IRRRR ==TT

;1

Page 12: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 12

Rotationen im 3D-Raum (3)

• Vorteile der Matrixdarstellung:– Recht intuitiv

– Einfache, lineare Berechnungsvorschrift

– Eindeutige Darstellung

• Probleme der Matrixdarstellung:– Matrix muss orthonormal sein (problematisch

bei numerischen Instabilitäten) hoheRedundanz in Darstellung, 9 Parameter für 3Freiheitsgrade

– Keine einfache Interpolation von Rotationen

Page 13: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 13

• Rotationsmatrizen:

Rotationen im 3D-Raum (4)

R ,R ,R =

1 0 0

0 cos sin

0 sin cos

,

cos 0 sin

0 1 0

sin 0 cos

,

cos sin 0

sin cos 0

0 0 1

Page 14: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 14

Rotationen im 3D-Raum (5)

• Eulerwinkel:– Jede Rotation kann als Folge dreier

Rotationen um drei Koordinatenachsenausgedrückt werden

– Häufigste Darstellung: um z-Achse, dann um neue y-Achse,

dann um ganz neue z-Achse

Page 15: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 15

• Eulerwinkel in Matrixdarstellung:

Rotationen im 3D-Raum (6)

R =R R R =

cos sin 0

sin cos 0

0 0 1

cos 0 sin

0 1 0

sin 0 cos

cos sin 0

sin cos 0

0 0 1

=

=

cos cos cos sin sin sin cos cos + cos sin sin cos

cos cos sin sin cos sin cos sin + cos cos sin sin

cos sin sin sin cos

Page 16: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 16

Rotationen im 3D-Raum (7)

• Einziger Vorteil der Eulerwinkel:– Häufig verwendet, v.a. in traditionellen

Trackinganwendungen der Luftfahrt(„Roll/Pitch/Yaw“ – Rollen/Neigen/Gieren)

• Nachteile der Eulerwinkel:– Darstellung alles andere als eindeutig (Welche

Achsenfolge? Neue/alte Achsen als Bezug?)– Nur auf den ersten Blick intuitiv– Möglicher Verlust eines Freiheitsgrades, wenn nach

einer Rotation eine „neue“ auf eine „alte“ Achse fällt(Gimbal lock, von „Gimbal“ = Kardanring beiGyroskopen)

– Teure Berechnung: Sinus/Kosinus

Page 17: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 17

• Axis/Angle Darstellung:– Jede Rotation kann als Drehung um eine bestimmte

Achse x und einen bestimmten Winkel dargestelltwerden (Eulers Theorem)

– Da Rx = x, ist x Eigenvektor zum Eigenwert 1 deräquivalenten Rotationsmatrix R (1 ist einziger realerEigenwert von R).

• Vorteile:– Intuitiv, weitgehend eindeutig– Geringe Redundanz (4 Parameter, 3 Freiheitsgrade,

mit Normierung von x reichen 3 Parameter)

• Problem:– Kombination mehrerer Rotationen schwierig

Rotationen im 3D-Raum (8)

Page 18: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 18

• Quaternionen (Hamilton, 1843):– Hyperkomplexe Zahlen vom Rang 4,

bestehend aus Skalar q0 und Vektor q– Mit Einheitsquaternionen können Rotationen

im 3D ausgedrückt werden– Berechung aus Axis/Angle x/ :

– Vor-/Nachteile:• wie Axis/Angle, aber jetzt schnelle Kombination

von Rotationen durch Quaternionenmultiplikation

• Interpolation leicht möglich ( Übung)

Rotationen im 3D-Raum (9)

xq ==2

sin;2

cos0q

Page 19: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 19

Rotationen in 3D: Zusammenfassung

• Verschiedene Darstellungsmöglichkeiten

• Orthonormale Rotationsmatrizen undQuaternionen vorteilhaft– Eindeutige Darstellung

– Leichte/effiziente Kombination mehrererRotationen

• Vorsicht bei Eulerwinkeln!

Page 20: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 20

Kombination von Transformationen

• Eigentlich kein Problem, aber…die Reihenfolge macht den Unterschied:

• Inversion von Transformationen: Wechseldes Bezugssystems

Zuerst Rotation, dann Translation: Zuerst Translation, dann Rotation:

Page 21: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 21

Szenengraph

• Hierarchische Kombinationvon Transformationen(Konzept ausComputergraphik)

• Beispiel: Benutzer ist ineinem Raum, Kamera aufseinem Kopf wird getrackt.Aus dem Kamerabild wirdzudem die Position derHände des Benutzersbestimmt.

• Hauptvorteil:Gruppierung von Objekten

Raum

KopfBenutzer

Hand links

Hand rechts

DaumenKleinerFinger

Page 22: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 22

Homogene Transformationsmatrizen (1)

• Wie kann man Kombination aus Translationen,Rotationen und Skalierungen als einzigeTransformation darstellen?

• Rotationen und Skalierungen:– Darstellung als Matrix

– Kombination: Produkt mehrerer Matrizen

• Translation:– Darstellung als Vektor

– Kombination mehrerer Translationen: Summe derVektoren

– Kombination mit Rotations-/Skalierungsmatrix ??

Page 23: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 23

• Durch 4. Komponente („homogeneVektoren“) können auch Translationen alsMatrix dargestellt werden:

• Kombination mit Rotationen/Skalierungendurch einfaches Aufmultiplizieren:

Homogene Transformationsmatrizen (2)

p =

x

y

z

1

; H t =

1 0 0 tx0 1 0 ty0 0 1 tz0 0 0 1

; H t p =

x + txy + tyz + tz1

==

1000

000

000

000

;

1000

0

0

0

333

222

111

z

y

x

s

zyx

zyx

zyx

rs

s

s

rrr

rrr

rrr

HH

Page 24: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 24

Homogene Transformationsmatrizen (3)

• Homogene Matrizen sind Standard in derComputergraphik (z.B. OpenGL)

• Weitere Berechnungen möglich:– Projektionen in 2D (perspektivisch/orthogonal)

– Ebenen in 3D und Schnitte

Page 25: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 25

Räumliche Beziehungen

• Zurück zum Tracking:Bestimmung räumlicher Beziehungen

• Klassifikation:– Absolute vs. relative Ortsbestimmung

– Ableitungen: Geschwindigkeit,Beschleunigung

• Am wichtigsten & häufigsten:Absolute Position und Orientierung im 3D-Raum

Page 26: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 26

Anforderungen an AR-Tracker

• Hohe Genauigkeit

• Geringe Latenzzeit

• Hohe Wiederholrate (min. 10 fps)

• Kleine Baugröße, v.a. von mobilen Bestandteilen

• Meist 6 DOF, absolute Messung

• Simultane Unterstützung mehrererObjekte/Benutzer

• Niedriger Preis

Gesucht: eierlegende Tracking-Wollmilchsau.

Page 27: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 27

Mögliche Fehlerquellen (1)

• Latenz ist DIE Fehlerquelle– Jede Millisekunde führt max. zu 1mm, im

Schnitt zu 1/3mm Registrierungsfehler– D.h.: ein System, das eine Genauigkeit von

1mm haben soll, darf eine Gesamtlatenzzeitvon 1ms nicht überschreiten

• Ursachen der Latenz– Tracker– Bearbeitungszeit auf dem Host– Bildgenerierung– Diverse Displayeigenschaften

Page 28: Tracking, Teil 1: Einführung - LMU Medieninformatik...Tracking, Teil 1: Einführung Vorlesung „Augmented Reality” Prof. Dr. Andreas Butz WS 2006/2007 Folien heute überw. von

LMU München – Medieninformatik – Butz – Augmented Reality – WS2006/07 – Folie 28

Mögliche Fehlerquellen (2)

• Numerische Fehler bei der Akkumulationvon Koordinatensystemen

• Optische Fehler: Kissenverzerrung,fehlendes Augentracking

• Trackermessfehler:– Statische Fehler (unveränderlich, können

durch gute Kalibrierung behoben werden)– Jitter (Rauschen, kann nicht behoben werden)– Dynamische Fehler (abhängig von der

Bewegung des Sensors und/oder getracktenObjekts)