Seminar Intelligente Systeme 11.04.2014

1

Seminar Vorbesprechung„Intelligente Systeme“, Sommersemester 2014

Betreut von:

Prof. Dr. PauliDipl.-Inf. BürgerDipl.-Inform. HerwigDipl.-Inform. HoefinghoffDipl.-Ing. Morariu

Künstliche Intelligenz

Lernen durch Belohnung/Bestrafung

Wie verarbeitet das Gehirn Belohnungen/Bestrafungen?

Wie werden Modelle für die KI abgeleitet?

Mit welchen Methoden wird menschliches Lernen untersucht?

Literatur:Oshin Vartanian, David R. Mandel: Neuroscience of Decision Making; Psychology

Press 2011(Section 3)Paul W. Glimcher et al.:Neuroeconomics: Decision Making and the Brain: Elsevier

2009 (Part IV und Part V)

Weitere Literatur muss den jeweiligen Büchern entnommen werden und durch weitere Recherche ermittelt werden!

Lernen durch Belohnung/Bestrafung

Modellierung von individuellen Entscheidungen

Wie kann das Verhalten von Individuen modelliert werden?

Können allgemeingültige Gemeinsamkeiten gefunden werden?

Warum entscheiden sich Menschen in gleichen Situation unterschiedlich?

Modellierung von individuellen Entscheidungen

Literatur:Lee I. Newmann et al.: Revealing Individual Differences in the Iowa Gambling Task.

Proceedings of the 30th Annual Conference of the Cognitive Science Society, Washington, DC, 2008

Amir K. Dezfuli et al.; Understanding Addictive Behavior on the Iowa Gambling Task Using Reinforcement Learning Framework. Proceedings of the 30th Annual Conference of the Cognitive Science Society, Washington, DC, 2008

Weitere Literatur muss den jeweiligen Literaturlisten entnommen werden und durch weitere Recherche ermittelt werden!

Bildverarbeitung und Machine Learning

Wie funktioniert die Objekterkennung im Gehirn?

Joe

Jim

● Wie kann das Gehirn mühelos invariante Objekterkennung erreichen?

● Invarianz: Translation, Skalierung, Drehung, Beleuchtung, visueller Kontext

● Verarbeitung hochdimensionaler Signale/Daten

Joe

Jim

Objekterkennung

Gehirn

Methodenschwerpunkte: Neuronale Netze, bildbasierte Objekterkennung

Literatur:● DiCarlo, James J., and David D. Cox. "Untangling invariant object recognition."

Trends in cognitive sciences 11.8 (2007): 333-341.● DiCarlo, James J., Davide Zoccolan, and Nicole C. Rust. "How does the brain

solve visual object recognition?" Neuron 73.3 (2012): 415-434.● Vortrag: James DiCarlo, “How the brain solves visual object recognition”, ICCV

2011,http://www.iccv2011.org, Video: http://iccv2011.org/oral_videos/day_3/3-0-keynote2.m4v

Weitere Literatur ist in den Artikeln zu finden oder selbst zu suchen (z.B. scholar.google.de)

Wie funktioniert die Objekterkennung im Gehirn?

Dimensionsreduktion mit Manifold Learning

● Problem: hochdimensionale Merkmalsvektorräume → Fluch der Dimensionalität

● Lösung: Lernen von niedrig-dimensionalen geometrischen Zusammenhängen (Manifolds)

● Local Linear Embedding, ISOMAP, Deep Auto Encoder, Kernel-PCA, Laplacian Eigenmaps, Manifold Charting, ...

ISOMAP

Deep Auto Encoder

Methodenschwerpunkte: Maschinelles Lernen, Geometrie, Graph-Algorithmen, Neuronale Netzwerke

Literatur:● Ma, Yunqian, and Yun Fu, eds. Manifold Learning Theory and Applications.

CRC Press, 2012. (E-Book in der Bibliothek)● van der Maaten, L. J., Postma, E. O., & van den Herik, H. J. (2009).

Dimensionality reduction: A comparative review. Journal of Machine Learning Research, 10(1-41), 66-71.

● Lin, Tong, and Hongbin Zha. "Riemannian manifold learning." Pattern Analysis and Machine Intelligence, IEEE Transactions on 30.5 (2008): 796-809.

● van der Maaten, L. J., Matlab Toolbox for Dimensionality Reduction, http://homepage.tudelft.nl/19j49/Matlab_Toolbox_for_Dimensionality_Reduction.html

Weitere Literatur ist in den Artikeln zu finden oder selbst zu suchen (z.B. scholar.google.de)

Hinweis: 1-2 Bearbeiter möglich

Dimensionsreduktion mit Manifold Learning

Deep Learning

● Aktueller Forschungstrend● verschiedene Bereiche

● Deep Neural Networks● Convolutional Neural Networks

● Fokus● Überblick geben● Anwendungsbeispiele suchen

Convolutional Neural Networks

Image Retrieval

Methodenschwerpunkte: Bildbasierte Objekterkennung, künstliche Neuronale Netze

Literatur:● Le, Quoc V. "Building high-level features using large scale unsupervised

learning." Acoustics, Speech and Signal Processing (ICASSP), 2013 IEEE International Conference on. IEEE, 2013.

● Markoff, John, How Many Computers to Identify a Cat? 16,000, The New York Times, 2012

● Cireşan, Dan C., et al. "Flexible, high performance convolutional neural networks for image classification." Proceedings of the Twenty-Second international joint conference on Artificial Intelligence-Volume Volume Two. AAAI Press, 2011.

● Hörster, Eva, and Rainer Lienhart. "Deep networks for image retrieval on large-scale databases." Proceedings of the 16th ACM international conference on Multimedia. ACM, 2008.

Weitere Literatur ist in den Artikeln zu finden oder selbst zu suchen (z.B. scholar.google.de)

Deep Learning

Extreme Learning Machine

● Klassische neuronale Netzwerke: Multilayer Perzeptron: viele Schichten, viele Gewichte, langsames Trainingsverfahren (Backpropagation)

● Extreme Learning Machines (ELM):● Nur eine verdeckte Schicht● Zufällige Gewichte● Nicht iterativer Lernalgorithmus● Klassifikation oder Regression

● Schwerpunkte● Funktionsweise und Varianten ● Anwendungen

Multilayer Perzeptron

ELM

Methodenschwerpunkte: zufallsbasiertes Maschinelles Lernen, Optimierungsverfahren

Literatur:● Huang, Guang-Bin, Qin-Yu Zhu, and Chee-Kheong Siew. "Extreme learning

machine: theory and applications." Neurocomputing 70.1 (2006): 489-501.● Huang, Guang-Bin, Dian Hui Wang, and Yuan Lan. "Extreme learning

machines: a survey." International Journal of Machine Learning and Cybernetics 2.2 (2011): 107-122.

Weitere Literatur ist in den Artikeln zu finden oder selbst zu suchen (z.B. scholar.google.de)

Extreme Learning Machine

Anwendungsorientierte Themen

Digital Face Beautification

OriginalBeautified

Video by Bogie: Noveau Parfum

Digital Face Beautification

Literatur:Tommer Leyvand, Daniel Cohen-Or, Gideon Dror and Dani Lischinski;Data-Driven Enhancement of Facial Attractiveness; ACM SIGGRAPH 2008

Weitere Literatur ist evtl. selbständig zu recherchieren.

Einzusetzende Mittel:Merkmalsextraktion, Neuronale Netze, Bildregistrierung, Modellbildung

Google+

Was steckt hinter diesenBild-Funktionen von Google+?

Wie könnte „Auto-Highlights“implementiert worden sein?

Wie kann automatisch einPhotobuch mit den

“wichtigsten“ Bilderneiner Reise erstellt werden?

Google+

Literatur:6 Image Qualities Which May Drive More Likes on Instagram;http://blog.curalate.com/image-qualities-that-drive-likes-on-instagram/

Tie Liu, Jingdong Wang, Jian Sun, Nanning Zheng, Xiaoou Tang, Heung-Yeung Shum;Picture Collage; IEEE Trans. on Multimedia, 2009

Yoann Baveye, Fabrice Urban, Christel Chamaret, Vincent Demoulin, Pierre Hellier;Saliency-Guided Consistent Color Harmonization; LNCS, 2013

Daniel Cohen-Or, Olga Sorkine, Ran Gal, Tommer Leyvand, Ying-Qing Xu;Color Harmonization; ACM, 2006

Weitere Literatur ist evtl. selbständig zu recherchieren.

Einzusetzende Mittel:Merkmalsextraktion, Modellbildung, Vergleichsmetriken, Bildverarbeitung

Immersive Art & Buildings

Sochi Winter Olympics: Living Medal Count

● Wie kann ein Gebäude/Gerätmit Menschen interagieren?

● Welche Sensoren eignen sich?● Art der Signalverarbeitung...

Benjamin Grosser: Interactive Robotic Painting Machine Tetro and Christopher Bauder: GRID

Immersive Art & Buildings

Literatur:● Benjamin Grosser: Interactive Robotic Painting Machine;

http://bengrosser.com/projects/interactive-robotic-painting-machine/● Tetro and Christopher Bauder: GRID;

http://www.wired.com/design/2014/01/watch-epic-kinetic-light-installation-dangle-audience/● Michael Burton: WaterBoard; https://www.youtube.com/watch/T1K-dTMpkRo● Chris Besham und Tony Dewan: Waterwall; http://waterwall.org oder

http://vimeo.com/moogaloop.swf?clip_id=4142629● HTW Medienfassade Berlin;

http://inka.htw-berlin.de/inka/experimentelle-bespielung-der-medienfassade-des-fki/● Mercedes-Benz: Invisible Car; https://www.youtube.com/watch/vWtcz9PMFHo● http://www.interactiveartwall.com/

Weitere Literatur ist evtl. selbständig zu recherchieren.

Einzusetzende Mittel:Merkmalsextraktion, Modellbildung, Sensoren & Aktuatoren

Medizinische Bildverarbeitung

Graph based tracking for stenosis stent simulation

… initialization

… segmentation

… tracking

… 3D model

Characteristics of the tracking method?

Graph based tracking for stenosis stent simulationLiteratur:

– Egger, J., O’Donnell, T., Hopfgartner, C., & Freisleben, B. (2009, January). Graph-based tracking method for aortic thrombus segmentation. In 4th European Conference of the International Federation for Medical and Biological Engineering (pp. 584-587). Springer Berlin Heidelberg.

– Egger, J., Mostarkic, Z., Maier, F., Kaftan, J. N., Großkopf, S., & Freisleben, B. (2007, August). Fast self-collision detection and simulation of bifurcated stents to treat abdominal aortic aneurysms (AAA). In Engineering in Medicine and Biology Society, 2007. EMBS 2007. 29th Annual International Conference of the IEEE (pp. 6231-6234). IEEE.

– Dissertation Egger (2009)

Dissektionen der Aorta

Schematische Darstellung

Einrisse der Aorteninnenwand: Bildung eines neues, parallelen Blutkanals (falsches Lumen)

Axiale CT-Aufnahme

(mit Kontrastmittel)

Wahres Lumen in gelb, falsches Lumen in blau

(Segmentierungsergebnisse)

Welche Möglichkeiten existieren zur automatisierten Erkennung der beiden Lumina?

Vorgehensweisen bei einer gesunden Hauptschlagader?

Dissektionen der Aorta Literatur:

– Lee, N., Tek, H., & Laine, A. F. (2008, March). True-false lumen segmentation of aortic dissection using multi-scale wavelet analysis and generative-discriminative model matching. In Medical Imaging (pp. 69152V-69152V). International Society for Optics and Photonics.

– Lohou, C., Łubniewski, P., Fetnaci, N., Feuillâtre, H., Courbon, J., Sauvage, V., & Sarry, L. (2013). Interventional planning and assistance for ascending aorta dissections. IRBM, 34(4), 306-310.

– Krissian, K., Carreira, J. M., Esclarin, J., & Maynar, M. (2014). Semi-automatic segmentation and detection of aorta dissection wall in MDCT angiography. Medical image analysis, 18(1), 83-102.

Einzusetzende Mittel: Objekterkennung in CT-Bildern, Tracking, CT

Aortenaneurysmen

Herausforderung für die Bildverarbeitung: Separierung der Aorta von anderen angrenzenden Gefäßen sowie Gewebe

Als Folge von z.B. Arteriosklerose (80% der Fälle) erfolgt eine lokalisierte, permanente Erweiterung des Querschnitts von Blutgefäßen => lebensbedrohlicher Riss der Gefäß-wand möglich

Ansätze: Region Growing, Active Shape Models, Hough Transformation für Kreise

Im rechten Bild (CT): eine der beiden Beckenarterien ist infolge eines Aneurysmus stark vergrößert

AortenaneurysmenLiteratur:

– Duquette, A. A., Jodoin, P. M., Bouchot, O., & Lalande, A. (2012). 3D segmentation of abdominal aorta from CT-scan and MR images. Computerized Medical Imaging and Graphics, 36(4), 294-303.

– Demirci, S., Lejeune, G., and Navab, N. (2009, June). Hybrid deformable model for aneurysm segmentation. In Biomedical Imaging: From Nano to Macro, 2009. ISBI'09. IEEE International Symposium on (pp. 33-36). IEEE.

– De Bruijne, M., Van Ginneken, B., Viergever, M. A., & Niessen, W. J. (2004). Interactive segmentation of abdominal aortic aneurysms in CTA images. Medical Image Analysis, 8(2), 127-138.

Einzusetzende Mittel: Objekterkennung in CT-Bildern, Tracking, Angiographie

Active Contours driven by Statistical Distributions

Active Contours driven by Statistical Distributions Literatur:

– Michailovich, O., Rathi, Y., & Tannenbaum, A. (2007). Image segmentation using active contours driven by the Bhattacharyya gradient flow. Image Processing, IEEE Transactions on, 16(11), 2787-2801.

– Freedman, D., & Zhang, T. (2004). Active contours for tracking distributions. Image Processing, IEEE Transactions on, 13(4), 518-526.

– Ayed, I. B., Li, S., Ross, I., & Islam, A. (2009). Myocardium tracking via matching distributions. International journal of computer assisted radiology and surgery, 4(1), 37-44.

– Ayed, I.B., Li, S., & Ross, I. (2009). Embedding overlap priors in variational left ventricle tracking. Medical Imaging, IEEE Transactions on, 28(12), 1902-1913.

Seminar Intelligente Systeme 33

Organisatorisches

Dieser Vortrag sowie weitere aktuelle Informationen stehenunter http://www.is.uni-due.de/seminar zurVerfügung.

Seminar Intelligente Systeme 34

Organisatorisches

Anforderungen:– Einarbeitung in das gewählte Thema– mehrmalige Besprechung mit dem jeweiligen Betreuer– Erstellen von Vortragsfolien im PDF oder PowerPoint-

Format (max 30 Folien)– Erstellen einer schriftlichen Ausarbeitung im PDF-Format

(ca. 20 Seiten)

– Vorbereitung auf die Vorträge der anderen Teilnehmer– Teilnahme an der Diskussion nach den Vorträgen

Seminar Intelligente Systeme 35

Organisatorisches

Themenvergabe

1. Besprechung

Weitere Besprechungen

Abgabe der Ausarbeitung

Abgabe der FolienVortrag

VorbereitungDiskussion

t

-7

-10

+3

vorläufige Folien -2

t in Wochen