Seminar über Algorithmen Einführung in die Spieltheorie Wieland Rhenau Freie Universität Berlin, Institut für Informati

1. Seminar über AlgorithmenEinführungin die SpieltheorieWieland RhenauFreie Universität Berlin, Institut für InformatikSS 2006 Wieland Rhenau, rhenau@inf.fu-berlin.de1

2. Inhalt • Motivation der Spieltheorie • Geschichtlicher Hintergrund • Das „Nash Gleichgewicht“ • Spiele, Strategien und Lösungen • Spieltypen und Eigenschaften • Ausblick • Quellen Wieland Rhenau, rhenau@inf.fu-berlin.de2

3. Motivation der Spieltheorie I • Spieltheorie ist Teilgebiet der Mathematik • Beschäftigt sich mit Gesellschafts-/Strategiespielen und Strategien der Spieler und Lösungen • Allgemein: Interaktionssysteme mit mehreren Akteuren deren Strategien wirken sich auf andere Akteure aus • Die Spieltheorie ist: • Keine einzelne Theorie an sich • Sammlung von Analysewerkzeugen (Algorithmen) • Anwendungsgebiete: Informatik, Wirtschafts- und Sozialwissenschaften, Psychologie Wieland Rhenau, rhenau@inf.fu-berlin.de3

4. Motivation der Spieltheorie II • Relevant für die Informatik: • Algorithmische Spieltheorie • Interaktive Systeme wie Internet/dezentrale Netzwerke • Akteure teilen sich Ressourcen • Bsp: Netzwerkentwurf, Routing, Load Balancing… • Ziel: Finden von Gleichgewicht(en) und dominanten Strategien • Entwickeln von Strategien • Optimale Lösung für alle Akteure • Stauvermeidung • Ressourcen sparen Wieland Rhenau, rhenau@inf.fu-berlin.de4

5. Geschichtlicher Hintergrund • Ursprung der Spieltheorie: • John von Neumann 1928 • Analyse von Gesellschaftsspielen  allgemeine Theorie • zuvor von Anderen nur einzelne Aspekte betrachtet • „Theory of Games and Economic Behavior” 1944 - Neumann und Oskar Morgenstern • Beginn der modernen Spieltheorie • Anfänglich auf wirtschaftliche Fragestellungen angewendet von Neumann [2] Morgenstern [3] Wieland Rhenau, rhenau@inf.fu-berlin.de5

6. Das „Nash Gleichgewicht“ I • John Forbes Nash Jr. • Mathematiker, der Theorie von Morgenstern und Neumann erweiterte • Resultat: Nash Equilibrium 1949 • Nash Gleichgewicht (Equilibrium) • Beschreibt Zustand, in dem kein Spieler einen Vorteil gegenüber den anderen erreicht, wenn er alleine seine Strategie ändert • Nash hat dieses Gleichgewicht definiert und den Existenzbeweis erbracht Nash [4] Wieland Rhenau, rhenau@inf.fu-berlin.de6

7. Das „Nash Gleichgewicht“ II • Mathematische Darstellung eines Spiels in Normalform • Ist Tripel G aus Menge von Spielern I wobei • Σi ist Strategiemenge des Spielers i • Strategieprofil Strategie des Spielers i ist beste Antwort auf Strategien aller Gegenspieler • Und Auszahlungsfunktion Hi für jeden Spieler i, abhängig von seiner gewählten Strategie und der Strategie der anderen Spieler • Es existiert kein Strategieprofil, welches eine höhere Auszahlung liefert Wieland Rhenau, rhenau@inf.fu-berlin.de7

8. Das „Nash Gleichgewicht“ III • Finden von Nash Gleichgewichten • Einfacher Fall: 2 Spieler, Normalform(simultan) • Matrix Darstellung möglich • Algorithmus: • Für alle Spieler i=1,…n werden die Auszahlungen resultierend aus der Strategie und der möglichen Strategien der anderen Spieler als Tupel dargestellt • Das Auszahlungsoptimum wird für i=1,..n Spieler markiert • Alle Felder, in denen alle Werte der Tupel markiert sind, sind „Nash Gleichgewichte“! Wieland Rhenau, rhenau@inf.fu-berlin.de8

9. Spiele, Strategien und Lösungen I • Spieltheorie schafft ein Modell für Interaktionssysteme • System wird als Spiel betrachtet • Spielt ist definiert durch: Wer sind Spieler (Entscheidungsträger)? Welche Strategien sind wählbar (Σi für alle i)? Welche Reihenfolge haben die Spielzüge? Was sind die Konsequenzen jeder Kombination an Entscheidungen aller Spieler (Hi für alle i)? • Komplexe Spiele: • Welche Informationen hat jeder Spieler über die Anderen? • Welche Annahmen trifft jeder über die anderen? • Ziel eines Spielers: • Optimierung des Wertes der Auszahlungsfunktion Wieland Rhenau, rhenau@inf.fu-berlin.de9

10. Spiele, Strategien Lösungen II • Lösungskonzepte: • Nach Definition des Spiels Ermittlung optimaler Strategien • Berechnung: Ergebnis bei Verfolgung dieser Strategien durch alle Spieler • Aktion==Handlung in bestimmter Situation • Strategie== Funktion die Spielsituation eine Aktion zuweist • Reine vs. Gemixte Strategien • Reine Strategie Funktion die jeder Situation im Spiel genau eine Aktion zuteilt • Gemixte Strategie Wahrscheinlichkeitsverteilung über gesamte Aktionsmenge, danach wird zufällig eine Aktion vom Spieler gewählt (Beispiel später) Wieland Rhenau, rhenau@inf.fu-berlin.de10

11. Spiele, Strategien, Lösungen III • Darstellungen eines Spiels • Zwei Arten: Normalform und extensive Form • Grundsätzlich alle Spiele in beiden darstellbar • Normalform für einstufige Spiele • Darstellung in Matrix mit Werten der Auszahlungsfunktion • Spieler1 Zeilen – Spieler2 Spalten Wieland Rhenau, rhenau@inf.fu-berlin.de11

12. Spiele, Strategien, Lösungen IV • Extensive Form • Sequenzielle Spiele • Also mehrstufig (über mehrere Runden) • Darstellung durch gerichtete Graphen • Jeder Knoten ist Situation von dem Spieler ein Aktion durchführen, Pfeile sind Aktionen • Jede Aktion führt zu neuer Spielsituation • Letzter Knoten bedeutet Spielende • „Spielbaum“ Wieland Rhenau, rhenau@inf.fu-berlin.de12

13. Spiele, Strategien, Lösungen V • Einmalige vs. Wiederholte Spiele • Einmaliges Spiel „one-shot-game“ • Eine Durchführung • Danach Auszahlung • Wiederholte Spiele • Durchführung mehrmals hintereinander • Auszahlungen werden summiert • Strategisch relevant: Spieler kennen Rundenzahl? • Ist Wiederholung unendlich  „Superspiel“ Wieland Rhenau, rhenau@inf.fu-berlin.de13

14. Spiele, Strategien, Lösungen VI • „kooperative“ vs. „nicht-kooperative“ Spieltheorie • „kooperative Spieltheorie“ • Spieler können (bindende) Verträge abschließen • Handeln demnach nicht 100%-ig egoistisch • „nicht-kooperative“ Spieltheorie • Jeder Spieler sieht nur seinen eigenen Vorteil • Bezogen auf Einsatz und Forschung relevanter • Reale Probleme bieten oft keine Kooperation der Konkurrenten Wieland Rhenau, rhenau@inf.fu-berlin.de14

15. Eigenschaften von Spielen • Nullsummen-Eigenschaft • Die Summe aller Auszahlungen ergibt 0 • Was einer gewinnt, verliert der andere • Perfekte Information • Jedem Spieler ist in Entscheidungssituation bisheriger Spielablauf (Entscheidungen der Mitspieler) bekannt • Beispiel: Schach • Perfektes Erinnerungsvermögen • Information aus vorherigen Entscheidungssituationen sind weiterhin bekannt • Beispiel: Skat aus bereits gespielten Karten kann man Wahrscheinlichkeiten oder sichere Information gewinnen Wieland Rhenau, rhenau@inf.fu-berlin.de15

16. Spieltypen I • Einfaches Beispiel: „Goal-Kick“ -2x2 Matrix • Ein Schütze, ein Torwart • Vereinfacht: nach links/rechts schießen links/rechts springen • Es existiert kein Nash-Gleichgewicht • Der Verlierer kann immer Strategie ändern und damit gewinnen! Wieland Rhenau, rhenau@inf.fu-berlin.de16

17. Spieltypen II • Coordination Game (oder Kampf der Geschlechter,…) • Zwei Personen wollen zusammen spielen • Möglichkeiten: Fußball oder Tennis • Beide wollen zusammen spielen • Jeweils aber das andere Spiel • Zwei Gleichgewichte entstehen, jedoch keines dominant • Dominanz ein Gleichwicht bringt höhere Auszahlungswerte als ein anderes Wieland Rhenau, rhenau@inf.fu-berlin.de17

18. Spieltypen III • Spiel mit dem Untergang • Zwei Autos fahren aufeinander zu • Wer ausweicht ist der „Angsthase“ • Zwei Nash Gleichgewichte in reiner Strategie: • Fahrer1 ausweichen/Fahrer2 weiterfahren und • Fahrer1 weiterfahren/Fahrer2 ausweichen • Ein Nash Gleichgewicht in gemixten Strategien ausweichen/ausweichen • Weil: beide weichen mit Wahrscheinlichkeit von ½ aus Wieland Rhenau, rhenau@inf.fu-berlin.de18

19. Spieltypen IV • Gefangenen Dilemma • Zwei Gefangene werden verhört • Haben keine Absprachemöglichkeit • Ausgangspunkt ist rationales Verhalten beider • Gestehen ist individuell immer besser • Wenn ich gestehe komme ich frei wenn der andere schweigt • Wenn ich gestehe 4 Jahre und nicht 5 wenn er gesteht • Individuell: Gestehen immer besser jedoch nicht kollektiv  Nashgleichgewicht ist pareto-ineffizient Wieland Rhenau, rhenau@inf.fu-berlin.de19

20. Preis der Anarchie • Wiederholtes Spiel konvergiert gegen Nash-Gleichgewicht • falls Akteure egoistisch • falls selbe Rahmenbedingungen gelten • Nash-Gleichgewicht nicht zwangsweise Optimum! • jeder Spieler optimiert nur seine Auszahlung • Es könnte auch uU. jeder einzelne besser sein wenn sie nicht im Nash-Gleichgewicht sind • Gefangenen Dilemma als Beispiel • Preis der Anarchie: Quotient aus der besten Lösung (Optimum) und dem Nash-Gleichgewicht Wieland Rhenau, rhenau@inf.fu-berlin.de20

21. Braess Paradoxon I • Braess Paradoxon (nach Dietrich Braess) • Zusätzliche Handlungsalternative kann bei rationalem Verhalten Verschlechterung für alle bedeuten • Ursprung in der Verkehrsplanung • 1968 von Braess entwickelt • Vier Städte sind durch Autobahnen/Landstraßen verbunden • Auf Autobahnen ist man schneller als auf Landstraßen • trotz kürzeren Strecken • Alle wollen optimale Fahrzeit T= Fahrtzeit in min P= Verkehrsfluss (1000 Fahrzeuge pro Stunde) Gesamtmenge 6000 • (Rechenbeispiel [2]) Wieland Rhenau, rhenau@inf.fu-berlin.de21

22. Braess Paradoxon II • T(Autobahn)= (50+P)min • T(Landstraße)=(0+10P)min • Mit Verkehrsdichte steigt die Fahrtdauer • Jeder Fahrer (Pendler) fährt daher konstant • Optimale Verteilung: jeweils die Hälfte der 6000 Fährt Route ABD und die anderen 3000 fahren ACD • Fahrzeit für alle Fahrer von: • (50+3)min+(0+30)min= 83min • Damit ist die Strecken optimal ausgelastet und die Fahrzeit ist für alle im Gleichgewicht Wieland Rhenau, rhenau@inf.fu-berlin.de22

23. Braess Paradoxon III • Bau einer Verbindungsstraße • Überwindet Hindernis • Sehr kurze Strecke mit T(10+P)min • Gleichgewicht aller Fahrtdauern: • 2.000 Fahrer wählen die Strecke ABD • 2.000 Fahrer wählen die Strecke ACD • 2.000 Fahrer wählen die Strecke ABCD • Dauer für alle: 92min! • Landstraßen werden mehr genutzt • höhere Fahrtdauer auf AB und CD Wieland Rhenau, rhenau@inf.fu-berlin.de23

24. Braess Paradoxon IV • Fahrtdauern im Nash Gleichgewicht •  ändert ein Fahrer die Route, braucht er selbst länger • Fahrer seiner alten Route weniger Zeit nicht das Ziel eines einzelnen • Beispiel für Änderungen: • 3.000 Fahrer ABD=93min • 2.000 Fahrer ACD=82min • 1.000 Fahrer ABCD=81min • Fahrt dauert 1min länger • Würde kein Fahrer machen • FAZIT: egoistisches Handeln des Einzelnen ergibt insgesamt ein suboptimales Gleichgewicht für alle • Streckenneubau nutzlos! Wieland Rhenau, rhenau@inf.fu-berlin.de24

25. Diskretes (atomares) Load Balancing Game I • n Benutzer wollen Jobs durchführen • m Rechner stehen zur Verfügung • Jeder Benutzer möchte einen Job dauerhaft von einer Maschine durchführen lassen (also nicht Round Robin) • pi ist die „Jobgröße“ vom Benutzer i • Menge der Rechner • A ist die Zuweisung eines Jobs pi auf einen Rechner j • L ist die Gesamtlast eines Rechners j Wieland Rhenau, rhenau@inf.fu-berlin.de25

26. Diskretes (atomares) Load Balancing Game II • Da jeder Nutzer egoistisch ist, kann die Spieltheorie eingesetzt werden • Beispiel: 4 Benutzer und 3 Rechner • Antwortzeit ist rj(L) • die Jobgrößen seien (pi =1 für i=1,2,3,4) • Lasten: Rechner1=2, Rechner2=1 Rechner3=1 • ri(L) = iL • Antwortzeiten sind: Rechner1+Rechner2 = 2 Rechner3 = 3 Wieland Rhenau, rhenau@inf.fu-berlin.de26

27. Diskretes (atomares) Load Balancing Game III • Formulierung des Nash Gleichgewichts • Eine ausführbare Zuweisung A ist ein Nash Gleichgewicht, wenn kein Benutzer i das einseitige Bedürfnis hat, seinen Job auf einem anderen Rechner zuzuweisen. • und für alle • Einfaches Beispiel mit 2 Benutzern und 2 Rechnern • p1 = p2 =1 und S1 = S2 = {1,2} • Beide Jobs gleich groß und beide Benutzer können auf beide Maschinen zugreifen • r1(L) =2 und r2(L) =L • Rechner1 hat konstante Antwortzeit • Rechner2 hat Antwortzeit = linear zur Last Wieland Rhenau, rhenau@inf.fu-berlin.de27

28. Diskretes (atomares) Load Balancing Game IV • 4 mögliche Zuweisungen • {(1,1),(2,1)} ist nicht im Gleichgewicht • Die anderen 3 Möglichkeiten stellen alle ein Nash Gleichgewicht dar Wieland Rhenau, rhenau@inf.fu-berlin.de28

29. Diskretes (atomares) Load Balancing Game V • Jedes diskrete Load Balancing Game hat ein Nash Gleichgewicht • Man beginnt mit irgendeiner Zuweisung • Alle Spieler wechseln gleichzeitig die Rechner, wenn sie unzufrieden sind • Findet man eine Funktion, (Zuweisung ist Argument) deren Wert sich verringert mit jedem Wechsel, wird der Vorgang des Wechselns irgendwann terminieren, weil kein Spieler mehr in eine für ihn bessere Situation kommen kann. Wieland Rhenau, rhenau@inf.fu-berlin.de29

30. By the Way • Es gibt keinen Nobelpreis für Mathematik • Bisher 6 Wirtschaftsnobelpreise für spieltheoretische Arbeiten: • 1994 an John Forbes Nash Jr., John Harsanyi und Reinhard Selten • 1996 an William Vickrey • 2005 an Robert Aumann und Thomas Schelling Wieland Rhenau, rhenau@inf.fu-berlin.de30

31. Ausblick • Anwendungen Informatik: • Entwicklung von Routingverfahren in dezentralen Netzwerken/ ad hoc Netzwerken (Sensornetze) • Lösungen für Load Balancing bei knappen Ressourcen • Anwendungen Wirtschaft: • u.a. Konzeptionen von Versteigerungen, z.B. von Rundfunk- und Mobilfunklizenzen • Duopolisten teilen Marktsegmente • Spieltheorie im Alltag: • Filme: „A beautiful Mind“ (angelehnt an Nash), Π, Memento… • Tools zum „Finden“ von Gleichgewichten und dominanten Strategien bei http://www.gametheory.net Wieland Rhenau, rhenau@inf.fu-berlin.de31

32. Quellen • [1] http://www.cs.cornell.edu/courses/cs684/2005fa/ • [2] http://de.wikipedia.org/wiki/John_von_Neumann • [3] http://www.gametheory.net/dictionary/People/OskarMorgenstern.html • [4] http://nobelprize.org/economics/laureates/1994/nash-autobio.html • [5] http://www.gametheorie.net • [5] http://de.wikipedia.org/wiki/Spieltheorie • [6] Osborne & Rubenstein „A Course in Game Theory“, 1994 • [7] Garing, Lücking, Monien, Tieman „Nash Equilibria, the Price of Anarchy and the Fully Mixed Nash equilibrium Conjecture“ University of Paderborn Wieland Rhenau, rhenau@inf.fu-berlin.de32

33. Danke!!! Fragen?!?! Wieland Rhenau, rhenau@inf.fu-berlin.de33