Willkommen zur Vorlesung KomplexitätstheorieV5, 21.11.2011 n Komplexitätstheorie WS 2011-2012 2...

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn

Komplexitätstheorie WS 2011-2012

1

Willkommen zur Vorlesung

Komplexitätstheorie

WS 2011/2012

Friedhelm Meyer auf der Heide

V5, 21.11.2011

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


2

Themen

1. Turingmaschinen

Formalisierung der Begriffe “berechenbar”,

“entscheidbar”, “rekursiv aufzählbar “

Komplexitätsklassen

2. Eine untere Schranke für 1-Band DTMs

3. Hierarchiesätze

4. Nichtdeterminismus:

Eigenschaften nichtdeterministischer Platzkomplexitätsklassen

NP- und PSPACE-Vollständigkeit

5. Die polynomielle Hierarchie

6. Randomisierte Komplexitätsklassen

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


3

Nichtdeterministische

Turingmaschinen

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


4

Definition von nichtdeterministischen

Turingmaschinen

Eine nichtdeterministische (1-Band) Turingmaschine (1-Band)-

NTM kann durch ein

6-Tupel M=(Q, , , , q0, F) beschrieben werden.

Q, , , q0, F sind wie bei deterministischen TMs, ist nun wie

folgt definiert:

: Q £ ! P(Q £ £ {R, N, L})

(q, a) = , falls q 2 F ist.

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


5

Rechnungen einer NTM

Berechnungsbaum einer NTM bei Eingabe w

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


6

Wann akzeptieren NTMs ?

Definition: Eine NTM akzeptiert eine Eingabe x, falls es

mindestens eine akzeptierende Rechnung von M gestartet mit x

gibt.

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


7

Laufzeit / Speicherplatz von NTMs

Laufzeit:

TM(x) = {

Länge einer kürzesten akz. Rechnung,

falls M die Eingabe x akzeptiert

1 sonst

Platz:

SM(x) = { geringster Platzbedarf einer akz. Rechnung,

falls M die Eingabe x akzeptiert

1 sonst

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


8

Nichtdeterministische Komplexitätsklassen

NSPACE

NSPACE

NSPACE NSPACE

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


9

Nichtdeterministischer

Speicherplatz

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


10

Deterministischer versus nichtdeterministischer

Platzbedarf, der Satz von Savitch

Die einfache Simulation aus EBKFS zeigt:

Satz: Jede NTM M kann durch eine DTM M‘ simuliert werden. Falls M t(n)-zeit-

und s(n)-platzbeschränkt ist, so ist M‘ 2O(t(n))-zeit- und O(s(n).t(n))-platzbeschränkt.

Da t(n) exponentiell in s(n) sein kann, liefert diese Simulation nur ein exponentiell beschränktes Blowup.

Das geht viel besser!!!

Satz (von Savitch): Sei s: 𝑁 → 𝑁 sei platzkonstruierbar. Dann gilt:

NSPACE(s(n)) ⊆ DSPACE(s(n)²).

Nur quadratisches beschränktes Blowup!!

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


11

Beweis des Satzes von Savitch I

Satz (von Savitch): Sei s: 𝑁 → 𝑁 sei platzkonstruierbar. Dann gilt: NSPACE(s(n)) ⊆ DSPACE(s(n)²).

Beweis: M sein c∙s(n) platzbeschränkte 1-Band NTM mit einer akz. Endkonfiguration K*.

Wir beschreiben nun einen Algorithmus, der bei Eingabe Konfigurationen von M der Länge höchstens l , entscheidet, ob es in M eine Rechnung von

𝐾1 nach 𝐾2 gibt, die Länge höchstens t und Platzbedarf höchstens l hat.

Das Problem kann wie folgt interpretiert werden:

Betrachte den gerichteten Graphen, dessen Knoten alle (höchstens 2𝑂(𝑙) viele) Konfigurationen der Länge höchstens l sind. Eine gerichtete Kante von K nach K‘ existiert

genau dann, wenn K‘ direkte Nachfolgekonfiguration von K ist.

Dann möchten wir testen,

ob es in diesem Graphen einen gerichteten Weg von 𝐾1 nach 𝐾1 gibt.

(Erreichbarkeit)

(Dabei ist der Graph nicht Teil der Eingabe, seine Knoten und Kanten sind implizit

gegeben.)

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


12

Beweis des Satzes von Savitch I

Satz (von Savitch): Sei s: 𝑁 → 𝑁 sei platzkonstruierbar. Dann gilt: NSPACE(s(n)) ⊆ DSPACE(s(n)²).

Beweis: M sein c∙s(n) platzbeschränkte 1-Band NTM mit einer akz. Endkonfiguration K*.

Wir beschreiben nun einen Algorithmus, der bei Eingabe Konfigurationen von M der Länge höchstens l , entscheidet, ob es in M eine Rechnung von

𝐾1 nach 𝐾2 gibt, die Länge höchstens t und Platzbedarf höchstens l hat.

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


13

Beweis des Satzes von Savitch II

Beweis:

t > 1: Organisation des Bandes

Die rekursiven TEST-Aufrufe benutzen

für alle 𝐾3 und jeweils beide Tests den gleichen Speicherbereich R.

Rekursion: SP(1) ≤ 3 l Für t>1: SP(t ) ≤ ( 3 l + log(t)) + SP(t/2)

SP(t ) ≤ ( 3 l + log(t)) (log(t)+1)

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


14

Beweis des Satzes von Savitch III

Bemerkung:

Also folgt:

O(s(|x|)²)

K*

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


15

Eine wichtige Folgerung

Korollar: PSPACE = NPSPACE

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


16

Komplementklassen und Abschlusseigenschaften

Einige einfache Beziehungen von Komplementklassen:

DSPACE

NSPACE

Co-DSPACE

NSPACE Co-NSPACE Co-NSPACE

Ist NSPACE(s(n))

abgeschlossen

gegenüber

Komplement

-bildung?

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


17

Ist NSPACE(s(n)) abgeschlossen gegenüber

Komplementbildung?

JA!!

Satz (Immerman, Szelepcsenyi, 1988):

Sei s(n) platzkonstruierbar. Dann gilt: NSPACE(s(n)) = Co-NSPACE(s(n)).

Ein wichtiges Korollar:

Aus EBKFS ist CS, die Menge der kontextsensitiven Sprachen, bekannt.

Eventuell haben sie dort in Übungsaufgaben gezeigt:

Satz: CS = NSPACE(n)

Damit ergibt sich:

Korollar: CS =Co-CS, d.h.: die kontextsensitiven Sprachen sind gegen

Komplementbildung abgeschlossen.

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


18

Beweis des

Satzes von Immerman und Szelepcsenyi - I

Satz (Immerman, Szelepcsenyi):

Sei s(n) platzkonstruierbar. Dann gilt: NSPACE(s(n)) = Co-NSPACE(s(n)).

Wir zeigen NSPACE(s(n)) ⊆ Co-NSPACE(s(n)). Die andere Richtung funktioniert analog.

Sei L ∈ NSPACE(s(n)), M eine O(s(n))-platzbeschr.1-Band NTM für L, x Input der Länge n.

Wegen „s(n) platzkonstruierbar“:

o.B.d.A. gilt: Jede Rechnung von M gestartet mit x hat Länge höchstens 2c∙s(n) und besteht aus Konfigurationen der Länge höchstens c∙s(n), für geeignetes c>0.

Gesucht: Eine O(s(n))-platzbeschränkte NTM, die x genau dann akzeptiert, wenn alle

Rechnungen von M gestartet mit x verwerfend sind.

Erste Idee: Probiere alle Rechnungen aus benötigt auf DTM Platz O(s(n)²).

Wie können wir das Verfahren mithilfe von Nichtdeterminismus platzeffizienter machen??

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


19

Wir zeigen: NSPACE(s(n)) ⊆ Co-NSPACE(s(n)). Sei L ∈ NSPACE(s(n)), M eine 1-Band NTM für L, x Input, |x|=n.

Jede Rechnung von M gestartet mit x hat Länge höchstens 2c∙s(n) und besteht aus Konfigurationen der Länge höchstens c∙s(n), für geeignetes c>0.

Gesucht: Eine O(s(n))-platzbeschränkte NTM, die x genau dann akzeptiert, wenn alle Rechnungen von M gestartet

mit x verwerfend sind.

Angenommen, wir kennen die Zahl N der (indirekten) Nachfolgekonfigurationen von 𝑞0x.

Haupt-Algorithmus (Eingabe: x, N):

- Zähler:=0

- For i:=1 to 𝑙(𝑚) do

- Rate eine Rechnung R startend in 𝑞0x der Länge höchstens 2c∙s(n).

- If R ist akzeptierend

Then verwerfe, stoppe.

- Else If R endet in Konfiguration 𝐾𝑖 Then erhöhe Zähler um 1.

- If Zähler = N, Then akzeptiere.

Beweis des

Satzes von Immerman und Szelepcsenyi - II

𝐾1, 𝐾2, …, 𝐾𝑙(𝑚) ist lex. Aufz.

der Konf. Der Länge höchstens m.

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


20

Haupt-Algorithmus (Eingabe: x, N):

- Zähler:=0

- For i:=1 to 𝑙(𝑚) do

- Rate eine Rechnung R startend in 𝑞0x der Länge höchstens 2c∙s(n).

- If R ist akzeptierend

Then verwerfe, stoppe.

- Else If R endet in Konfiguration 𝐾𝑖 Then erhöhe Zähler um 1.

- If Zähler = N, Then akzeptiere.

Korrektheit: Algorithmus akzeptiert x Es wurden für alle N Nachfolgekonfigurationen

von 𝑞0x Rechnungen gefunden und keine war akzeptierend x ist nicht in L.

Platzbedarf: Auf dem Band stehen maximal 3 Konfigurationen (𝑞0x , K, aktuelle

Konfiguration der simulierten Rechnung), sowie N (≤ 2c∙s(n)), und 2c∙s(n).

Platzbedarf O(s(n)).

Wir müssen N berechnen!

Beweis des

Satzes von Immerman und Szelepcsenyi - III

© P

rof.

Dr.

math

. F

. M

eyer

auf

der

Heid

e,

Hein

z N

ixdorf

Institu

t, U

niv

ers

ität P

aderb

orn


21

Heinz Nixdorf Institut

Universität Paderborn

Algorithmen und Komplexität

Fürstenallee 11

33102 Paderborn

Tel.: 0 52 51 / 60 64 80

Fax.: 0 52 51 / 60 64 82

E-Mail: [email protected]

www.hni.uni-paderborn.de/alg

Vielen Dank für Ihre

Aufmerksamkeit

Willkommen zur Vorlesung KomplexitätstheorieV5, 21.11.2011 n Komplexitätstheorie WS 2011-2012 2...

Documents

Transcript of Willkommen zur Vorlesung KomplexitätstheorieV5, 21.11.2011 n Komplexitätstheorie WS 2011-2012 2...