Wieland Rhenau, [email protected] 1 Seminar über Algorithmen Einführung in die Spieltheorie...

Wieland Rhenau, [email protected] 1

Seminar über Algorithmen

Einführungin die Spieltheorie

Wieland Rhenau

Freie Universität Berlin, Institut für InformatikSS 2006


Inhalt

• Motivation der Spieltheorie

• Geschichtlicher Hintergrund

• Das „Nash Gleichgewicht“

• Spiele, Strategien und Lösungen

• Spieltypen und Eigenschaften

• Ausblick

• Quellen


Motivation der Spieltheorie I

• Spieltheorie ist Teilgebiet der Mathematik Beschäftigt sich mit Gesellschafts-/Strategiespielen

und Strategien der Spieler und Lösungen

• Allgemein: Interaktionssysteme mit mehreren Akteurenderen Strategien wirken sich auf andere Akteure aus

• Die Spieltheorie ist: Keine einzelne Theorie an sich Sammlung von Analysewerkzeugen (Algorithmen) Anwendungsgebiete: Informatik, Wirtschafts- und

Sozialwissenschaften, Psychologie


Motivation der Spieltheorie II

• Relevant für die Informatik:

• Algorithmische Spieltheorie Interaktive Systeme wie Internet/dezentrale Netzwerke Akteure teilen sich Ressourcen Bsp: Netzwerkentwurf, Routing, Load Balancing… Ziel: Finden von Gleichgewicht(en) und dominanten

Strategien

• Entwickeln von Strategien Optimale Lösung für alle Akteure Stauvermeidung Ressourcen sparen


Geschichtlicher Hintergrund

• Ursprung der Spieltheorie: John von Neumann 1928 Analyse von Gesellschaftsspielen

allgemeine Theorie zuvor von Anderen nur einzelne

Aspekte betrachtet „Theory of Games and Economic

Behavior” 1944 - Neumann und Oskar Morgenstern

Beginn der modernen Spieltheorie

• Anfänglich auf wirtschaftliche Fragestellungen angewendet

von Neumann [2]

Morgenstern [3]


Das „Nash Gleichgewicht“ I

• John Forbes Nash Jr. Mathematiker, der Theorie von

Morgenstern und Neumannerweiterte

Resultat: Nash Equilibrium 1949 • Nash Gleichgewicht (Equilibrium)

Beschreibt Zustand, in dem kein Spieler einen Vorteil gegenüber den anderen erreicht, wenn er alleine seine Strategie ändert

Nash hat dieses Gleichgewicht definiert und den Existenzbeweis erbracht

Nash [4]


•Mathematische Darstellung eines Spiels in Normalform

•Ist Tripel G aus Menge von Spielern I wobei

•Σi ist Strategiemenge des Spielers i

•Strategieprofil Strategie des Spielers i ist beste Antwort auf Strategien aller Gegenspieler

•Und Auszahlungsfunktion Hi für jeden Spieler i, abhängig von seiner gewählten Strategie und der Strategie der anderen Spieler•Es existiert kein Strategieprofil, welches eine höhere Auszahlung liefert

Das „Nash Gleichgewicht“ II


Das „Nash Gleichgewicht“ III

• Finden von Nash Gleichgewichten Einfacher Fall: 2 Spieler, Normalform(simultan) Matrix Darstellung möglich

• Algorithmus: Für alle Spieler i=1,…n werden die Auszahlungen

resultierend aus der Strategie und der möglichen Strategien der anderen Spieler als Tupel dargestellt

Das Auszahlungsoptimum wird für i=1,..n Spieler markiert

Alle Felder, in denen alle Werteder Tupel markiert sind, sind„Nash Gleichgewichte“!


Spiele, Strategien und Lösungen I

• Spieltheorie schafft ein Modell für Interaktionssysteme System wird als Spiel betrachtet Spielt ist definiert durch:

Wer sind Spieler (Entscheidungsträger)?Welche Strategien sind wählbar (Σi für alle i)?Welche Reihenfolge haben die Spielzüge?Was sind die Konsequenzen jeder Kombination an Entscheidungen aller Spieler (Hi für alle i)?

• Komplexe Spiele: Welche Informationen hat jeder Spieler über die Anderen? Welche Annahmen trifft jeder über die anderen?

• Ziel eines Spielers: Optimierung des Wertes der Auszahlungsfunktion


Spiele, Strategien Lösungen II

• Lösungskonzepte: Nach Definition des Spiels Ermittlung optimaler Strategien Berechnung: Ergebnis bei Verfolgung dieser Strategien

durch alle Spieler Aktion==Handlung in bestimmter Situation Strategie== Funktion die Spielsituation eine Aktion zuweist

• Reine vs. Gemixte Strategien

Reine Strategie Funktion die jeder Situation im Spiel genau eine Aktion zuteilt

Gemixte Strategie Wahrscheinlichkeitsverteilung über gesamte Aktionsmenge, danach wird zufällig eine Aktion vom Spieler gewählt (Beispiel später)


Spiele, Strategien, Lösungen III

•Darstellungen eines Spiels Zwei Arten: Normalform und extensive Form Grundsätzlich alle Spiele in beiden darstellbar

•Normalform für einstufige Spiele Darstellung in Matrix mit Werten der Auszahlungsfunktion Spieler1 Zeilen – Spieler2 Spalten


Spiele, Strategien, Lösungen IV

•Extensive Form Sequenzielle Spiele Also mehrstufig (über

mehrere Runden) Darstellung durch gerichtete

Graphen Jeder Knoten ist Situation

von dem Spieler ein Aktion durchführen, Pfeile sind Aktionen

Jede Aktion führt zu neuer Spielsituation

Letzter Knoten bedeutet Spielende

„Spielbaum“

Knoten A

Aktion a1

Aktion a2

Aktionsraum ist leer – Spielende -Auszahlungen berechnen

Knoten BKnoten C


Spiele, Strategien, Lösungen V

• Einmalige vs. Wiederholte Spiele

• Einmaliges Spiel „one-shot-game“ Eine Durchführung Danach Auszahlung

• Wiederholte Spiele Durchführung mehrmals hintereinander Auszahlungen werden summiert Strategisch relevant: Spieler kennen Rundenzahl? Ist Wiederholung unendlich „Superspiel“


Spiele, Strategien, Lösungen VI

• „kooperative“ vs. „nicht-kooperative“ Spieltheorie

• „kooperative Spieltheorie“ Spieler können (bindende) Verträge abschließen Handeln demnach nicht 100%-ig egoistisch

• „nicht-kooperative“ Spieltheorie Jeder Spieler sieht nur seinen eigenen Vorteil Bezogen auf Einsatz und Forschung relevanter Reale Probleme bieten oft keine Kooperation der

Konkurrenten


Eigenschaften von Spielen

• Nullsummen-Eigenschaft Die Summe aller Auszahlungen ergibt 0 Was einer gewinnt, verliert der andere

• Perfekte Information Jedem Spieler ist in Entscheidungssituation bisheriger

Spielablauf (Entscheidungen der Mitspieler) bekannt Beispiel: Schach

• Perfektes Erinnerungsvermögen Information aus vorherigen Entscheidungssituationen sind

weiterhin bekannt Beispiel: Skat aus bereits gespielten Karten kann man

Wahrscheinlichkeiten oder sichere Information gewinnen


Spieltypen I

•Einfaches Beispiel: „Goal-Kick“ -2x2 Matrix Ein Schütze, ein Torwart Vereinfacht: nach links/rechts schießen

links/rechts springen

Es existiert kein Nash-Gleichgewicht Der Verlierer kann immer Strategie ändern

und damit gewinnen!


Spieltypen II

•Coordination Game (oder Kampf der Geschlechter,…) Zwei Personen wollen zusammen spielen Möglichkeiten: Fußball oder Tennis Beide wollen zusammen spielen Jeweils aber das andere Spiel Zwei Gleichgewichte entstehen, jedoch keines dominant Dominanz ein Gleichwicht bringt höhere Auszahlungswerte

als ein anderes


Spieltypen III

•Spiel mit dem Untergang Zwei Autos fahren aufeinander zu Wer ausweicht ist der „Angsthase“

Zwei Nash Gleichgewichte in reiner Strategie: Fahrer1 ausweichen/Fahrer2 weiterfahren und Fahrer1 weiterfahren/Fahrer2 ausweichen Ein Nash Gleichgewicht in gemixten Strategien

ausweichen/ausweichen Weil: beide weichen mit Wahrscheinlichkeit von ½ aus


Spieltypen IV

•Gefangenen Dilemma Zwei Gefangene werden verhört Haben keine Absprachemöglichkeit Ausgangspunkt ist rationales Verhalten beider Gestehen ist individuell immer besser Wenn ich gestehe komme ich frei wenn der andere schweigt Wenn ich gestehe 4 Jahre und nicht 5 wenn er gesteht

Individuell: Gestehen immer besser jedoch nicht kollektiv Nashgleichgewicht ist pareto-ineffizient


Preis der Anarchie

• Wiederholtes Spiel konvergiert gegen Nash-Gleichgewicht

falls Akteure egoistisch falls selbe Rahmenbedingungen gelten

• Nash-Gleichgewicht nicht zwangsweise Optimum! jeder Spieler optimiert nur seine Auszahlung Es könnte auch uU. jeder einzelne besser sein

wenn sie nicht im Nash-Gleichgewicht sind Gefangenen Dilemma als Beispiel Preis der Anarchie: Quotient aus der besten Lösung

(Optimum) und dem Nash-Gleichgewicht


Braess Paradoxon I

•Braess Paradoxon (nach Dietrich Braess) Zusätzliche Handlungsalternative kann bei

rationalem Verhalten Verschlechterung für alle bedeuten Ursprung in der Verkehrsplanung 1968 von Braess entwickelt Vier Städte sind durch Autobahnen/Landstraßen verbunden Auf Autobahnen ist man schneller als auf Landstraßen trotz kürzeren Strecken Alle wollen optimale FahrzeitT= Fahrtzeit in minP= Verkehrsfluss(1000 Fahrzeuge pro Stunde)Gesamtmenge 6000

(Rechenbeispiel [2])

Hindernis

Autobahn

Autobahn

Landstraße LandstraßeA

B

C

D


Braess Paradoxon II

•T(Autobahn)= (50+P)min•T(Landstraße)=(0+10P)min•Mit Verkehrsdichte steigt die Fahrtdauer•Jeder Fahrer (Pendler) fährt daher konstant•Optimale Verteilung: jeweils die Hälfte der 6000 Fährt Route ABD und die anderen 3000 fahren ACD

Fahrzeit für alle Fahrer von:(50+3)min+(0+30)min= 83min

•Damit ist die Strecken optimal ausgelastet und die Fahrzeit ist für alle im Gleichgewicht Hindernis

Autobahn

Autobahn


B

C

D

P=3

P=3

P=3

P=3


Braess Paradoxon III

•Bau einer Verbindungsstraße Überwindet Hindernis Sehr kurze Strecke mit T(10+P)min

•Gleichgewicht aller Fahrtdauern: 2.000 Fahrer wählen die Strecke ABD 2.000 Fahrer wählen die Strecke ACD 2.000 Fahrer wählen die Strecke ABCD

•Dauer für alle: 92min! Landstraßen werden mehr genutzt höhere Fahrtdauer auf AB und CD

Hindernis

Autobahn

Autobahn


B

C

DVerbindung


Braess Paradoxon IV

Hindernis

Autobahn

Autobahn


B

C

D

P=2

P=2 P=4P=4Verbindung

P=2

•Fahrtdauern im Nash Gleichgewicht ändert ein Fahrer die Route, braucht er selbst länger Fahrer seiner alten Route weniger Zeit nicht das Ziel eines

einzelnen•Beispiel für Änderungen:

3.000 Fahrer ABD=93min 2.000 Fahrer ACD=82min 1.000 Fahrer ABCD=81min

•Fahrt dauert 1min länger Würde kein Fahrer machen

•FAZIT: egoistisches Handeln des Einzelnen ergibt insgesamt ein suboptimales Gleichgewicht für alle• Streckenneubau nutzlos!


Diskretes (atomares) Load Balancing Game I

•n Benutzer wollen Jobs durchführen

•m Rechner stehen zur Verfügung

•Jeder Benutzer möchte einen Job dauerhaft von einer Maschine durchführen lassen (also nicht Round Robin)

•pi ist die „Jobgröße“ vom Benutzer i•Menge der Rechner•A ist die Zuweisung eines Jobs pi auf einen Rechner j•L ist die Gesamtlast eines Rechners j


Diskretes (atomares) Load Balancing Game II

•Da jeder Nutzer egoistisch ist, kann die Spieltheorie eingesetzt werden•Beispiel: 4 Benutzer und 3 Rechner

•Antwortzeit ist rj(L)•die Jobgrößen seien (pi =1 für i=1,2,3,4)•Lasten: Rechner1=2, Rechner2=1 Rechner3=1•ri(L) = iL

•Antwortzeiten sind: Rechner1+Rechner2 = 2 Rechner3 = 3


Diskretes (atomares) Load Balancing Game III

• Formulierung des Nash Gleichgewichts Eine ausführbare Zuweisung A ist ein Nash Gleichgewicht,

wenn kein Benutzer i das einseitige Bedürfnis hat, seinen Job auf einem anderen Rechner zuzuweisen.

und für alle

• Einfaches Beispiel mit 2 Benutzern und 2 Rechnern p1 = p2 =1 und S1 = S2 = {1,2} Beide Jobs gleich groß und beide Benutzer können auf

beide Maschinen zugreifen r1(L) =2 und r2(L) =L Rechner1 hat konstante Antwortzeit Rechner2 hat Antwortzeit = linear zur Last


Diskretes (atomares) Load Balancing Game IV

• 4 mögliche Zuweisungen• {(1,1),(2,1)} ist nicht im Gleichgewicht• Die anderen 3 Möglichkeiten stellen alle ein Nash

Gleichgewicht dar


Diskretes (atomares) Load Balancing Game V

• Jedes diskrete Load Balancing Game hat ein Nash Gleichgewicht

• Man beginnt mit irgendeiner Zuweisung

• Alle Spieler wechseln gleichzeitig die Rechner, wenn sie unzufrieden sind

• Findet man eine Funktion, (Zuweisung ist Argument)deren Wert sich verringert mit jedem Wechsel, wird der Vorgang des Wechselns irgendwann terminieren, weil kein Spieler mehr in eine für ihn bessere Situation kommen kann.


By the Way

• Es gibt keinen Nobelpreis für Mathematik

• Bisher 6 Wirtschaftsnobelpreise für spieltheoretische Arbeiten:

• 1994 an John Forbes Nash Jr., John Harsanyi und Reinhard Selten

• 1996 an William Vickrey

• 2005 an Robert Aumann und Thomas Schelling


Ausblick

• Anwendungen Informatik: Entwicklung von Routingverfahren in dezentralen

Netzwerken/ ad hoc Netzwerken (Sensornetze) Lösungen für Load Balancing bei knappen Ressourcen

• Anwendungen Wirtschaft: u.a. Konzeptionen von Versteigerungen, z.B. von Rundfunk-

und Mobilfunklizenzen Duopolisten teilen Marktsegmente

• Spieltheorie im Alltag: Filme: „A beautiful Mind“ (angelehnt an Nash), Π,

Memento… Tools zum „Finden“ von Gleichgewichten und dominanten

Strategien bei http://www.gametheory.net


Quellen

• [1] http://www.cs.cornell.edu/courses/cs684/2005fa/

• [2] http://de.wikipedia.org/wiki/John_von_Neumann

• [3] http://www.gametheory.net/dictionary/People/OskarMorgenstern.html

• [4] http://nobelprize.org/economics/laureates/1994/nash-autobio.html

• [5] http://www.gametheorie.net

• [5] http://de.wikipedia.org/wiki/Spieltheorie

• [6] Osborne & Rubenstein „A Course in Game Theory“, 1994

• [7] Garing, Lücking, Monien, Tieman „Nash Equilibria, the Price of Anarchy and the Fully Mixed Nash equilibrium Conjecture“ University of Paderborn

http://www.cs.cornell.edu/courses/cs684/2005fa/

http://de.wikipedia.org/wiki/John_von_Neumann

http://www.gametheory.net/dictionary/People/OskarMorgenstern.html

http://nobelprize.org/economics/laureates/1994/nash-autobio.html

http://www.gametheorie.net/

http://de.wikipedia.org/wiki/Spieltheorie


Danke!!!

Fragen?!?!

Wieland Rhenau, [email protected] 1 Seminar über Algorithmen Einführung in die Spieltheorie...

Documents

Transcript of Wieland Rhenau, [email protected] 1 Seminar über Algorithmen Einführung in die Spieltheorie...