Lucia M. Sommerer Personenbezogenes Predictive Policing
Transcript of Lucia M. Sommerer Personenbezogenes Predictive Policing
Personenbezogenes Predictive Policing
Lucia M Sommerer
Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose
Nomos
Schriften zur Kriminologie 19
Schriften zur Kriminologie herausgegeben von
Prof Dr Katrin Houmlffler Georg-August-Universitaumlt GoumlttingenProf Dr Johannes Kaspar Universitaumlt AugsburgProf Dr Joumlrg Kinzig Eberhard Karls Universitaumlt TuumlbingenProf Dr Ralf Koumllbel Ludwig-Maximilians-Universitaumlt Muumlnchen
Band 19
BUT_Sommerer_6233-0indd 2BUT_Sommerer_6233-0indd 2 040520 0724040520 0724
Lucia M Sommerer
Personenbezogenes Predictive Policing
Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose
BUT_Sommerer_6233-0indd 3BUT_Sommerer_6233-0indd 3 040520 0724040520 0724
Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar
Zugl Goumlttingen Univ Diss 2019
ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)
1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier
OnlineversionNomos eLibrary
BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724
Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris
Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1
1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)
5
Danksagung
ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett
Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner
Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend
Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit
Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit
Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken
Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova
7
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Schriften zur Kriminologie herausgegeben von
Prof Dr Katrin Houmlffler Georg-August-Universitaumlt GoumlttingenProf Dr Johannes Kaspar Universitaumlt AugsburgProf Dr Joumlrg Kinzig Eberhard Karls Universitaumlt TuumlbingenProf Dr Ralf Koumllbel Ludwig-Maximilians-Universitaumlt Muumlnchen
Band 19
BUT_Sommerer_6233-0indd 2BUT_Sommerer_6233-0indd 2 040520 0724040520 0724
Lucia M Sommerer
Personenbezogenes Predictive Policing
Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose
BUT_Sommerer_6233-0indd 3BUT_Sommerer_6233-0indd 3 040520 0724040520 0724
Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar
Zugl Goumlttingen Univ Diss 2019
ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)
1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier
OnlineversionNomos eLibrary
BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724
Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris
Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1
1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)
5
Danksagung
ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett
Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner
Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend
Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit
Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit
Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken
Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova
7
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Lucia M Sommerer
Personenbezogenes Predictive Policing
Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose
BUT_Sommerer_6233-0indd 3BUT_Sommerer_6233-0indd 3 040520 0724040520 0724
Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar
Zugl Goumlttingen Univ Diss 2019
ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)
1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier
OnlineversionNomos eLibrary
BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724
Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris
Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1
1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)
5
Danksagung
ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett
Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner
Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend
Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit
Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit
Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken
Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova
7
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar
Zugl Goumlttingen Univ Diss 2019
ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)
1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier
OnlineversionNomos eLibrary
BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724
Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris
Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1
1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)
5
Danksagung
ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett
Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner
Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend
Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit
Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit
Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken
Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova
7
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris
Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1
1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)
5
Danksagung
ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett
Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner
Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend
Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit
Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit
Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken
Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova
7
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Danksagung
ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett
Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner
Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend
Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit
Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit
Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken
Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova
7
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben
Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken
Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019
Danksagung
8
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Inhaltsuumlbersicht
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Technologischer HintergrundE 45
Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73
Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
9
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137
Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242
Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258
Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260Risiko eine BegriffsbestimmungA 262
DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300
Fazit zum Kapitel III Algorithmische WendeD 340
Inhaltsuumlbersicht
10
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsuumlbersicht
11
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Inhaltsverzeichnis
Abbildungsverzeichnis 25
Tabellenverzeichnis 27
Danksagung 7
Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34
Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend
239
Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren
II40
ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44
Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46
Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51
Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung
b)52
Basisratec) 52Fehlerrated) 53Cut-Offe) 54
13
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57
Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme
159
Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)
a)63
Unterschiede Festlegung der Zielvariablen(Schritt 2)
b)65
Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)
c)65
Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)
d)67
Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)
e)69
Unterschiede Anwendung auf den Einzelfall(Schritt 6)
f)69
Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71
Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71
Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74
USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83
Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)
1
85Entwicklunga) 85Anwendungb) 86
Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89
Palantir Gotham ndash hessenDATA2 90
Inhaltsverzeichnis
14
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94
Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95
Fluggastdatenmusterabgleich4 96Zusammenfassung5 99
Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105
Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111
Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113
Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114
Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115
Rechtliche Grenzen des personenbezogenen PredictivePolicing
Kapitel II116
Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118
Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124
Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen
b)126
Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134
Fehler der RisikoscoreerstellungII 135
Inhaltsverzeichnis
15
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139
Standardbefugnissea) 139Rasterfahndungaa) 139
Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140
bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142
Generalklauseln der Datenspeicherung undWeiterverarbeitung
bb)143
Datenspeicherung in automatisiertenDateisystemen
(1)143
Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147
Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150
Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154
Informationelle SelbstbestimmungI 154Umfang1 155
Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten
a)156
Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158
Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP
3161
Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166
Inhaltsverzeichnis
16
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167
Anforderung des BVerfG zurRasterfahndung
(1)167
Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr
(2)167
Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169
DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174
Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175
Rechtliche Einordnung3 176Gleichheitssaumltzea) 177
Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178
Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180
Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung
bb)183
Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG
(1)190
Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191
Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG
(2)192
Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194
Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195
Inhaltsverzeichnis
17
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198
Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt
cc)202
Fallbasierte algorithmischeEntscheidungssysteme
(1)202
Regelbasierte algorithmischeEntscheidungssysteme
(2)203
Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204
Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206
Erste Transparenzdimension Zeitpunkt derOffenlegung
a)207
Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis
b)208
Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209
Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213
Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis
dd)214
Dritte Transparenzdimension Umfang derOffenlegung
c)215
Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218
Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220
Inhaltsverzeichnis
18
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223
bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224
Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen
dd)231
Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231
Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233
Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung
aa)234
Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237
Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240
UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug
C244
VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248
bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251
sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253
Inhaltsverzeichnis
19
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung
b)254
sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel
c)255
Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz
(1)256
a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257
Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258
Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse
Kapitel III
260
Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272
Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273
Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat
a)277
sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung
c)279
Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283
Inhaltsverzeichnis
20
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze
II284
Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293
Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende
C295
Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale
2296
bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300
Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301
Strafrechta) 303Polizeirechtb) 304
Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit
2305
Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme
d)309
Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313
Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit
e)314
Zusammenfassungf) 317
Inhaltsverzeichnis
21
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321
Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie
aa)322
Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle
bb)323
Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325
Anwendung auf algorithmengestuumltzteEntscheidungssysteme
a)328
Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur
bb)329
Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo
b)
331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren
bb)333
bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335
Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340
Fazit zum Kapitel III Algorithmische WendeD 340
Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen
Kapitel IV343
EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345
EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346
KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349
Inhaltsverzeichnis
22
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Schlusswort Tyrannenmord und NeuanfangKapitel V 351
ThesenKapitel VI 353
Literaturverzeichnis 357
Inhaltsverzeichnis
23
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Abbildungsverzeichnis
Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35
Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38
Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121
Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132
Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186
Abb 6 Drei Schichten algorithmischer Intransparenz 200
Abb 7 Drei Transparenzdimensionen 206
Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241
Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275
Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348
25
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Tabellenverzeichnis
Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59
Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76
Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84
Tbl 4 Transparenz Zeitpunkt der Offenlegung 207
Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208
Tbl 6 Transparenz Umfang der Offenlegung 215
Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221
27
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Grundlagen des personenbezogenen PredictivePolicing
Einfuumlhrung
bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die
Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen
haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich
was sich auch wirklich begabldquondash James Joyce Ulysses2
Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4
Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)
Kapitel I
A
2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-
sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223
29
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30
Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-
5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106
6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ
2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f
8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff
9 S ausfuumlhrlich u S 260 ff
Kapitel I Grundlagen des personenbezogenen Predictive Policing
30