Algorithmen und Turingmaschinen:Eine historische Perspektive

Informatik-Didaktik-Kolloquium, Jena, M arz 2012

Wolfgang Thomas

Alan M. Turing (1912-1954)

Wolfgang Thomas

Plan

1. ”Pr ahistorisches”: Al-Khwarizmi und Leibniz

2. Der Weg zu Hilberts ”Entscheidungsproblem”

3. Turings Durchbruch von 1936

4. Was ist ein “Algorithmus”?

Wolfgang Thomas

”Pr ahistorisches”: Al-Khwarizmi andLeibniz

Wolfgang Thomas

Bagdad um das Jahr 800

Wolfgang Thomas

Muhammad Abu-Abdullah Abu-Jafar ibn MusaAl-Khwarizmi Al-Madjusti Al-Qutrubulli

(ca. 780-850)

Wolfgang Thomas

Al-Khwarizmi: Uber die indischen Zahlen

Wolfgang Thomas

Gottfried Wilhelm Leibniz (1646-1716)

Wolfgang Thomas

Aus einem Brief an den Herzog JohannFriedrich

“In Philosophia habe ich ein Mittel funden, dasjenige wasCartesius und andere per Algebram et Analysin in Arithmeticaet Geometria gethan, in allen scientien zuwege zu bringen perArtem Combinatoriam [. . .]. Dadurch alle Notiones compositaeder ganzen welt in wenig simplices als deren Alphabetreduciret, und aus solches alphabets combination wiederumballe dinge, samt ihren theorematibus, und was nur von ihnenzu inventiren m uglich, ordinata methodo, mit der zeit zufinden, ein weg gebahnet wird.”

Wolfgang Thomas

Arithmetisierung der Logik I (1685-87)Non inelegans specimen demonstrandi in abstractis

(Eine nicht unelegante Art des abstrakten Schließens)

Theorem XIII.

Si coincidentibus addendo alia fiant coincidentia, addita suntinter se communicantia.

Wenn von Gleichen durch Hinzuf ugen von Neuem Gleicheentstehen, dann gibt es unter den Hinzuf ugungenUberschneidungen.

Wenn A + B = A + N und A , A + B, dann B ∩ N , 6O

Diese Untersuchung bereitet die Boolesche Algebra vor, unterVerwendung arithmetischer Notation.

Wolfgang Thomas

Arithmetisierung der Logik II (1679)Elementa calculi

(Elemente eines Kalk uls)

Verbi gratia quia Homo est Animal rationale (et quia Aurum estmetallum ponderosissimum) hinc si sit Animalis (metalii)numerus a ut 2 (m ut 3) Rationalis (ponderosissimi) veronumerus r ut 3 ( p ut 5) erit numerus hominis seu h idem quotar id est in hoc exemplo 2, 3 seu 6 (et numerus auri solis sidem quot mp id est in hoc exemplo 3, 5 seu 15.

Dies nimmt die Idee der ”G odelisierung” (G odel 1931) vorweg:die Kodierung zusammengesetzter Begriffe durch Zahlen,unter Benutzung der Primfaktorzerlegung.

Wolfgang Thomas

Optimismusaus dem Manuskript “Grundlagen einer universalenCharakteristik”:

Denn wenn einmal von den Missionaren diese Spracheeingef uhrt sein wird, dann wird auch die wahre Religion, diemit der Vernunft am besten vereinbar ist, auf festem Grundstehen, und einen Abfall von ihr wird man in Zukunft ebensowenig zu bef urchten haben, wie man eine Abkehr derMenschen von der Arithmetik und der Geometrie, die sieeinmal gelernt haben, bef urchtet.

Ich glaube, dass einige Auserlesene die Sache in f unf Jahrenleisten k onnen, dass sie jedoch schon nach zwei Jahren soweit sein werden, die Lehren, die im Leben am meistengebraucht werden, d.h. die der Moral und Metaphysik, nacheinem unfehlbaren Rechenverfahren zu beherrschen.

Wolfgang Thomas

Der Weg zu HilbertsEntscheidungsproblem

Wolfgang Thomas

Gottlob Frege (1848-1925)

Wolfgang Thomas

Wolfgang Thomas

Wolfgang Thomas

B. Russell A.N. Whitehead

Wolfgang Thomas

Wolfgang Thomas

David Hilbert (1862-1943)

Wolfgang Thomas

Hilberts Programm

Kodiere das mathematische Vorgehen in formaler Weise:

Entwicklung eines Beweiskalk ulsEntwicklung einer Axiomatisierung mathematischerTheorienAnalyse der formalen Beweise zwecks Ausschluss vonWiderspr uchen

Fundamentale Ergebnisse f ur die Logik erster Stufe:

Korrektheit und Vollst andigkeit des Beweiskalk uls(Godel 1930)Unvollst andigkeit jeder Axiomatisierung der Struktur(N,+, ·, 0, 1) (Godel 1931)

Wolfgang Thomas

Kurt G odel (1906-1978)

Wolfgang Thomas

Entscheidungsprobleme HilbertsHilberts Entscheidungsproblem (1928)Das Entscheidungsproblem ist gel ost, wenn man einVerfahren kennt, das bei einem vorgelegten logischenAusdruck durch endlich viele Operationen dieEntscheidung uber die Allgemeing ultigkeit bzw.Erf ullbarkeit erlaubt.

Das 10. Hilbertsche Problem (1900)Eine diophantische Gleichung mit irgendwelchenUnbekannten und mit ganzen rationalenZahlenkoeffizienten sei vorgelegt: Man soll ein Verfahrenangeben, nach welchem sich mittels einer endlichenAnzahl von Operationen entscheiden l asst, ob dieGleichung in ganzen rationalen Zahlen l osbar ist.

Wolfgang Thomas

Axel Thue (1863-1922)

Wolfgang Thomas

Thues Problem (1910)

Gegeben zwei Terme s, t und eine Axiomenmenge ausGleichungen u(x1, . . . , xn) = v(x1, . . . , xn)

entscheide, ob man von s durch endlich viele Anwendungender Axiome schließlich t erhalten kann.

Thues Einsch atzung:

Eine L osung dieser Aufgabe im allgemeinsten Falle d urftevielleicht mit un uberwindlichen Schwierigkeiten verbundensein.

Wolfgang Thomas

Wolfgang Thomas

Turings Durchbruch

Wolfgang Thomas

Wolfgang Thomas

Turings Beitr age in dieser Arbeit

1. Ein abstraktes Maschinenmodell (”Turingmaschine”),darauf aufbauend eine Pr azisierung von ”berechenbar”,

2. eine sorgf altige Rechtfertigung daf ur,

3. Konzeption und Definition einer universellen(programmierbaren) Maschine,

4. Nachweis eines (Turing-) unentscheidbaren Problems,

5. Nachweis der Unl osbarkeit des HilbertschenEntscheidungsproblems,

6. Grundlegung einer ”berechenbaren Analysis”

7. Aquivalenz zwischen Turingmaschinen and ” λ-Kalk ul”

Wolfgang Thomas

Motivierung der Turingmaschine

Wolfgang Thomas

Wolfgang Thomas

Turingmaschine

Unendliches, in Felder eingeteiltes ”Rechenband”

Beschriftung eines Feldes jeweils durch Symbol einesendlichen Alphabets (Leersymbol als Standardeintrag)

Kontrolleinheit, mit endlich vielen Zust anden

Zugriff auf Band uber Lese- und Schreibkopf, der sich aufeinem Feld (dem ”Arbeitsfeld” AF) befindet

Instruktion f ur einen Schritt:”in Zustand p mit a auf AF:uberschreibe a durch b, bewege den Kopf ein Feld nachlinks bzw. rechts, und gehe in Zustand q”

Wolfgang Thomas

Zwei Dimensionen

Naturlicherer Zugang: Zweidimensionale Rechenebene

Konkretisierung zum Beispiel mit Kara(Reichert-Nievergelt-Hartmann)

Komplikationen:

Vier statt zwei Bewegungsrichtungen

Schwerf alligere Notation einer Konfiguration

Schwerf alligerer Nachweis einer universellen Maschine

Technisch etwas m uhsam, aber elementar ist der formaleAquivalenznachweis zu Turingmaschinen.

Wolfgang Thomas

Rechtfertigung der Church-Turing-These

1. Turings Analyse des Rechenvorgangs(”Intuition”)

2. Formale Aquivalenz zu anderen Zug angen(” Ubergeordnete Signifikanz”)

3. Erfolgreiche Behandlung komplexer Beispiele(”Erfahrung”)

Wolfgang Thomas

Universalit at und Unentscheidbarkeit(in heutiger Formulierung)

Man ordnet einer Turingmaschine eine ”S.D” zu,eine ”standard description”, die auf das Band geschriebenwerden kann.

Zu einer S.D s sei Ms die durch s beschriebeneTuringmaschine.

Es gibt eine Turingmaschine U, die bei Vorgabe einer S.D sund einer weiteren Eingabe e so arbeitet wie dieTuringmaschine Ms auf e.

Heute sagt man: U ist eine Turingmaschine, die als Interpreterfur Turingmaschinen funktioniert.

Wolfgang Thomas

Unentscheidbarkeit

Folgende Eigenschaft einer S.D s ist nichtTuring-entscheidbar:

Ms angesetzt auf s druckt irgendwann das Symbol 0

und ebenfalls folgende Eigenschaft:

Ms angesetzt auf das leere Band druckt irgendwann dasSymbol 0

Wolfgang Thomas

Zum Hilbertschen Entscheidungsproblem

Turing f uhrt dazu eine Problemreduktion durch:

Zu jeder Turingmaschine M konstruiert er eine Logik-FormelFM erster Stufe mit:

M angesetzt auf das leere Band druckt irgendwann 0

gdw.

die Formel FM ist allgemeing ultig(oder, nach G odels Vollst andigkeitssatz: ist im Beweiskalk ulableitbar)

Wolfgang Thomas

Konfluenz der Ideen 1936

A. Church S. Kleene E. Post

Wolfgang Thomas

Wolfgang Thomas

Die Church’sche These

We now define the notion, already discussed, of an effectivelycalculable function of positive integers by identifying it withthe notion of recursive function of positive integers (or of aλ-definable function of positive integers).

Wolfgang Thomas

Wolfgang Thomas

Wolfgang Thomas

Wolfgang Thomas

Wolfgang Thomas

Godels Bewertung (1946)

Godel betont

[. . .]

the great importance of the concept of general recursiveness(or Turing’s computability). It seems to me that this importanceis largely due to the fact that with this concept one has for thefirst time succeeded in giving an absolute definition of aninteresting epistemological notion, i.e., one not depending onthe formalism chosen.

[. . .]

By a kind of miracle it is not necessary to distinguish orders

[. . .]

Wolfgang Thomas

Was ist ein “Algorithmus”?

Wolfgang Thomas

Spielarten von Algorithmen

Turing bezieht sich auf Algorithmen zur Symbolmanipulation,wie sie in der Arithmetik und der formalen Logik benutztwerden.

Andere Typen von Algorithmen

Algorithmen der Euklidischen Geometrie(etwa f ur Dreieckskonstruktionen),

Abstrakte Algorithmen uber den reellen Zahlen,etwa das Horner-Schema:a + x(b + x(c + dx)) zur Auswertung vona + bx + cx2 + dx3

Graphalgorithmen, Algorithmen uber B aumen etc.

Wolfgang Thomas

Abstrakte Zustandsmaschinen

Vorl aufer:

A. N. Kolmogorov, V. A. Uspenski, On the definition of analgorithm (1963)

R. Gandy, Church’s Thesis and principles for mechanism(1980)

Ausgestaltung durch ”abstract state machines”’ (”ASM’s”):

Y. Gurevich, Sequential abstract state machines capturesequential algorithms (2000)

N. Dershowitz, Y. Gurevich, A natural axiomatization ofcomputability and proof of Church’s Thesis (2008)

Wolfgang Thomas

Neue Dimensionen

Nicht-terminierende reaktive SystemeBeispiel: Controller in industriellen Anlagen

Etablierung von Gleichgewichten in verteilten SystemenBeispiel: Auktionsmechanismen im Internet

Verfahren der Kognition und KlassifikationBeispiele: Data Mining, Bildverarbeitung,automatische Sprach ubersetzung

Schichtung von Algorithmen zu hochkomplexen SystemenBeispiele:Betriebssysteme, Systeme der Unternehmensverwaltung

Der Sprung von der Turingmaschine zum Betriebssystementspricht dem Sprung vom Atom zum Lebewesen.

Wolfgang Thomas

Schlusswort

Turings Analyse des Begriffs ”berechenbar” ist

der Abschluss von jahrhundertelangen Bem uhungen umdie Kl arung dessen, was ”symbolisches Rechnen” (inArithmetik und Logik) vermag,

der Beginn einer neuen mathematischen Wissenschaftund dann auch Ingenieuerdisziplin, der Informatik.

In der Informatik wird heute eine F ulle algorithmischerVerfahren studiert, die nicht mehr unmittelbar in denTuring’schen Rahmen (des symbolischen Rechnens) passen.

Wolfgang Thomas