Lucia M. Sommerer Personenbezogenes Predictive Policing

30
Personenbezogenes Predictive Policing Lucia M. Sommerer Kriminalwissenschaftliche Untersuchung über die Automatisierung der Kriminalprognose Nomos Schriften zur Kriminologie 19

Transcript of Lucia M. Sommerer Personenbezogenes Predictive Policing

Page 1: Lucia M. Sommerer Personenbezogenes Predictive Policing

Personenbezogenes Predictive Policing

Lucia M Sommerer

Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose

Nomos

Schriften zur Kriminologie 19

Schriften zur Kriminologie herausgegeben von

Prof Dr Katrin Houmlffler Georg-August-Universitaumlt GoumlttingenProf Dr Johannes Kaspar Universitaumlt AugsburgProf Dr Joumlrg Kinzig Eberhard Karls Universitaumlt TuumlbingenProf Dr Ralf Koumllbel Ludwig-Maximilians-Universitaumlt Muumlnchen

Band 19

BUT_Sommerer_6233-0indd 2BUT_Sommerer_6233-0indd 2 040520 0724040520 0724

Lucia M Sommerer

Personenbezogenes Predictive Policing

Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose

BUT_Sommerer_6233-0indd 3BUT_Sommerer_6233-0indd 3 040520 0724040520 0724

Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar

Zugl Goumlttingen Univ Diss 2019

ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)

1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier

OnlineversionNomos eLibrary

BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724

Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris

Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1

1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)

5

Danksagung

ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett

Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner

Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend

Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit

Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit

Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken

Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova

7

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 2: Lucia M. Sommerer Personenbezogenes Predictive Policing

Schriften zur Kriminologie herausgegeben von

Prof Dr Katrin Houmlffler Georg-August-Universitaumlt GoumlttingenProf Dr Johannes Kaspar Universitaumlt AugsburgProf Dr Joumlrg Kinzig Eberhard Karls Universitaumlt TuumlbingenProf Dr Ralf Koumllbel Ludwig-Maximilians-Universitaumlt Muumlnchen

Band 19

BUT_Sommerer_6233-0indd 2BUT_Sommerer_6233-0indd 2 040520 0724040520 0724

Lucia M Sommerer

Personenbezogenes Predictive Policing

Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose

BUT_Sommerer_6233-0indd 3BUT_Sommerer_6233-0indd 3 040520 0724040520 0724

Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar

Zugl Goumlttingen Univ Diss 2019

ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)

1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier

OnlineversionNomos eLibrary

BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724

Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris

Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1

1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)

5

Danksagung

ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett

Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner

Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend

Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit

Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit

Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken

Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova

7

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 3: Lucia M. Sommerer Personenbezogenes Predictive Policing

Lucia M Sommerer

Personenbezogenes Predictive Policing

Kriminalwissenschaftliche Untersuchung uumlber die Automatisierung der Kriminalprognose

BUT_Sommerer_6233-0indd 3BUT_Sommerer_6233-0indd 3 040520 0724040520 0724

Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar

Zugl Goumlttingen Univ Diss 2019

ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)

1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier

OnlineversionNomos eLibrary

BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724

Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris

Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1

1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)

5

Danksagung

ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett

Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner

Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend

Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit

Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit

Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken

Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova

7

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 4: Lucia M. Sommerer Personenbezogenes Predictive Policing

Gedruckt mit Unterstuumltzung des Foumlrderungsfonds Wissenschaft der VG WORT

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie detaillierte bibliografische Daten sind im Internet uumlber httpdnbd-nbde abrufbar

Zugl Goumlttingen Univ Diss 2019

ISBN 978-3-8487-6233-0 (Print)ISBN 978-3-7489-0348-2 (ePDF)

1 Auflage 2020copy Nomos Verlagsgesellschaft Baden-Baden 2020 Gedruckt in Deutschland Alle Rechte auch die des Nachdrucks von Auszuumlgen der fotomechanischen Wiedergabe und der Uumlbersetzung vorbehalten Gedruckt auf alterungsbestaumlndigem Papier

OnlineversionNomos eLibrary

BUT_Sommerer_6233-0indd 4BUT_Sommerer_6233-0indd 4 040520 0724040520 0724

Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris

Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1

1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)

5

Danksagung

ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett

Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner

Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend

Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit

Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit

Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken

Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova

7

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 5: Lucia M. Sommerer Personenbezogenes Predictive Policing

Quelle Petrarch des Remegravedes de lune et lautre fortune prospegravere et adverse Paris1524 Mit freundlicher Genehmigung der Bibliothegraveque Nationale Paris

Fortuna die roumlmische Schicksalsgoumlttin (links) und die Goumlttin der Weisheitund Wissenschaft Sapientia (rechts) sind in dieser Abbildung im traditionel-len Gegensatz dargestellt Fortunas Rad laumlsst das Schicksal der Menschenscheinbar zufaumlllig steigen und fallen waumlhrend die Wissenschaft Sicherheitverspricht Die Untersuchung der bdquoZaumlhmung des Zufallsldquo und dadurch derspezifisch modernen Vereinigung der Erzrivalen Fortuna und Sapientiadurch algorithmengestuumltzte Vorhersagen bildet den Kern der vorliegendenArbeit1

1 Abbildung bereits bei Gigerenzer 1997 xiii xviii Ders 2015 22 (ldquoBy lsquotamingchancersquo in Ian Hackingrsquos evocative phrase (Hacking 1990) probability and statisticshad reconciled Scientia to her archrival Fortunardquo)

5

Danksagung

ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett

Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner

Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend

Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit

Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit

Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken

Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova

7

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 6: Lucia M. Sommerer Personenbezogenes Predictive Policing

Danksagung

ldquoA scholar is just a libraryrsquos way of making another libraryrdquondash Daniel Dennett

Eine wissenschaftliche Arbeit ist nie das Werk einer einzelnen Person Des-halb gilt mein Dank all denjenigen die mich in den vergangenen Jahrenpersoumlnlich unterstuumltzt und mir die Erstellung meiner Dissertation ermoumlg-licht haben aber auch denjenigen Autorinnen und Autoren deren Biblio-thek an Werken Grundlage und Inspirationsquelle fuumlr diese Arbeit war ndashdazu zaumlhlen insbesondere die Arbeiten von Mireille Hildebrandt BernardE Harcourt Tobias Singelnstein und Lucia Zedner

Ganz besonderer Dank gebuumlhrt jedoch meiner Doktormutter Professo-rin Dr Katrin Houmlffler fuumlr die herausragende und unkomplizierte Betreu-ung und die Freiheit die mir waumlhrend der Anfertigung der vorliegendenArbeit gelassen wurde Interessiert und stets ermutigend hat sie mich aufmeinem Weg begleitet viel Vertrauen in mich gesetzt und mich die Kunstder Wissenschaft gelehrt Sie ist mir die denkbar beste Mentorin gewesenIhre Liebe und Leidenschaft fuumlr Strafrecht Kriminologie und Rechtssozio-logie ist wahrlich ansteckend

Bedanken moumlchte ich mich zudem fuumlr die Unterstuumltzung und Erstkor-rektur durch Professor Dr Johannes Kaspar und bei Professor Dr Dr h cJoumlrg-Martin Jehle fuumlr die Zweitkorrektur dieser Arbeit

Zu tiefem Dank verpflichtet bin ich daruumlber hinaus Eva Marguerite Her-zog Maximiliane Berger und Elena Rittinghausen ohne deren Zuspruchund Unterstuumltzung diese Arbeit nicht haumltte realisiert werden koumlnnen so-wie Felix Butz und Henrike Kruse fuumlr die sehr groszligzuumlgige Spende ihrerZeit

Meine Dankbarkeit gilt auch der Yale Law School insbesondere demdortigen Information Society Project das mir waumlhrend meines LLM-Stu-diums die Moumlglichkeit der Vertiefung der internationalen Perspektive aufdiese Arbeit geboten hat Fuumlr den anregenden Austausch und das hilfrei-che Feedback besonders von Professor Jack Balkin und Professor Tom Ty-ler moumlchte ich mich ganz herzlich bedanken

Ich danke zudem den Mitarbeiterinnen und Mitarbeitern des Graduier-tenprogramms der Yale Law School insbesondere Maria Dino Allegra DiBuenaventura und Gordon Silverstein sowie den herausragenden Biblio-thekaren der Law School insbesondere Lucie Olejnikova

7

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 7: Lucia M. Sommerer Personenbezogenes Predictive Policing

Mein Dank gilt schlieszliglich der Studienstiftung des deutschen Volkes fuumlrdie Finanzierung meiner Forschung insbesondere Professor Dr Florian Ja-coby und Professor Dr Henning Ernst Muumlller die durch ihre Gutachtenschon zu Beginn meiner Doktorarbeit ihr Vertrauen in mich gesetzt ha-ben

Die Kernideen fuumlr diese Arbeit haben sich ndash fern der Zwaumlnge des Alltagsndash im Sommer 2017 auf der Insel Gozo herauskristallisiert Dem Eigentuuml-mer des einsamen Strandhauses in der Bucht von Ghajn Barrani moumlchteich ebenfalls ganz herzlich fuumlr seine Gastfreundschaft danken

Die Arbeit beruumlcksichtigt Literatur und Rechtsprechung bis einschlieszlig-lich Dezember 2019

Danksagung

8

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 8: Lucia M. Sommerer Personenbezogenes Predictive Policing

Inhaltsuumlbersicht

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Technologischer HintergrundE 45

Traditionelle statistische VerfahrenI 46Algorithmengestuumltzte VerfahrenII 58Fazit zu technologischem HintergrundIII 73

Bestandsaufnahme gegenwaumlrtiger EinsatzF 74USA und GroszligbritannienI 74Deutschsprachiger RaumII 83

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

9

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 9: Lucia M. Sommerer Personenbezogenes Predictive Policing

Fehler der RisikoscoreerstellungII 135ErmaumlchtigungsgrundlageIII 137

Verfassungsrechtlicher RahmenB 154Informationelle SelbstbestimmungI 154DiskriminierungsverbotII 170TransparenzgebotIII 194UnschuldsvermutungIV 242

Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258

Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260Risiko eine BegriffsbestimmungA 262

DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Neue HerausforderungenII 300

Fazit zum Kapitel III Algorithmische WendeD 340

Inhaltsuumlbersicht

10

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 10: Lucia M. Sommerer Personenbezogenes Predictive Policing

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsuumlbersicht

11

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 11: Lucia M. Sommerer Personenbezogenes Predictive Policing

Inhaltsverzeichnis

Abbildungsverzeichnis 25

Tabellenverzeichnis 27

Danksagung 7

Grundlagen des personenbezogenen Predictive PolicingKapitel I 29EinfuumlhrungA 29Gang der UntersuchungB 32Terminologie und AbgrenzungC 34

Arten des Predictive PolicingI 36Personenbezogen und ortsbezogen1 36Gefahrverdacht bestaumltigend und Gefahrverdachterzeugend

239

Abgrenzung zum Einsatz von Algorithmen imStrafverfahren Strafvollzug und Ermittlungsverfahren

II40

ForschungszuschnittD 41Aktualitaumlt1 41Transformatives Potenzial2 43Forschungsluumlcke3 44

Technologischer HintergrundE 45Traditionelle statistische VerfahrenI 46

Zusammenstellen der Fallbasis1 47Festlegung der Zielvariablen2 48Festlegung der praumldiktiven Inputvariablen3 49Ableitung eines praumldiktiven Modells4 50Risikouumlbersetzung und -kommunikation5 51

Prozentsatza) 51Kriminalitaumltswahrscheinlichkeit im Vergleich zurDurchschnittsbevoumllkerung

b)52

Basisratec) 52Fehlerrated) 53Cut-Offe) 54

13

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 12: Lucia M. Sommerer Personenbezogenes Predictive Policing

Anwendung auf den Einzelfall6 54Personenkreis der Beurteiltena) 55Personenkreis der Beurteilendenb) 57

Algorithmengestuumltzte VerfahrenII 58Regelbasierte algorithmengestuumltzteEntscheidungssysteme

159

Fallbasierte algorithmengestuumltzte Entscheidungssysteme2 62Unterschiede Zusammenstellen desTrainingsdatensatzes (Schritt 1)

a)63

Unterschiede Festlegung der Zielvariablen(Schritt 2)

b)65

Unterschiede Festlegung praumldiktiver Inputvariablen(Schritt 3)

c)65

Unterschiede Ableitung eines praumldiktiven Modells(Schritt 4)

d)67

Unterschiede Risikouumlbersetzung und-kommunikation (Schritt 5)

e)69

Unterschiede Anwendung auf den Einzelfall(Schritt 6)

f)69

Personenkreis der Beurteiltenaa) 70Personenkreis der Beurteilendenbb) 71

Von Prognose-Experten zu Prognose-Laien(1) 71Automation Bias(2) 71

Fazit zu technologischem HintergrundIII 73Bestandsaufnahme gegenwaumlrtiger EinsatzF 74

USA und GroszligbritannienI 74Beware1 76HART (Harm Assessment Risk Tool)2 78Strategic Subject List3 80Zusammenfassung4 83

Deutschsprachiger RaumII 83RADAR-iTE (Regelbasierte Analyse potenzielldestruktiver Taumlter zur Einschaumltzung des akuten Risikos ndashislamistischer Terrorismus)

1

85Entwicklunga) 85Anwendungb) 86

Personenkreis der Beurteilendenaa) 88Personenkreis der Beurteiltenbb) 88Intransparenzcc) 89

Palantir Gotham ndash hessenDATA2 90

Inhaltsverzeichnis

14

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 13: Lucia M. Sommerer Personenbezogenes Predictive Policing

DyRiAS (Dynamisches Risiko-Analyse-System)3 92Entwicklunga) 93Anwendungb) 94

Personenkreis der Beurteilendenaa) 95Personenkreis der Beurteiltenbb) 95

Fluggastdatenmusterabgleich4 96Zusammenfassung5 99

Tatsaumlchliche GrenzenG 100Keine Gesamtbetrachtung ndash Big Data heiszligt nicht All DataI 101Keine KausalitaumltII 102Keine NeutralitaumltIII 105

Datenauswahlprozesse1 106Mangelnde Datenqualitaumlta) 106Dunkelfeld in den Statistikenb) 107Keine Repraumlsentativitaumlt der Stichprobec) 109Perpetuierung gesellschaftlicher Diskriminierungd) 110Zwischenfazit und Loumlsungsmoumlglichkeitene) 111

Festlegung der Zielvariablen2 112Auswahl der Inputvariablen3 112Kalibrierung und Uumlberwachung des Lernprozesses4 113

Fehlerratea) 113Uumlberanpassung ndash Zufaumlllige Korrelationenb) 114

Zusammenfassung5 115Fazit zum Kapitel I GrundlagenH 115

Rechtliche Grenzen des personenbezogenen PredictivePolicing

Kapitel II116

Polizeirechtlicher RahmenA 118Einordnung in die Gefahr-DogmatikI 118

Konkrete Gefahr1 118Gefahrverdacht2 121Risikoscore als konkrete Gefahr3 124

Gegenargumentea) 124Quantifizierbarkeit von normativenAbwaumlgungsentscheidungen

b)126

Risikoscore als Gefahrverdacht4 129Risikoscore als ein tatsaumlchlicher Anhaltspunkt5 131Zwischenergebnis6 134

Fehler der RisikoscoreerstellungII 135

Inhaltsverzeichnis

15

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 14: Lucia M. Sommerer Personenbezogenes Predictive Policing

ErmaumlchtigungsgrundlageIII 137Erforderlichkeit einer Ermaumlchtigungsgrundlage1 137Vorliegen einer Ermaumlchtigungsgrundlage2 139

Standardbefugnissea) 139Rasterfahndungaa) 139

Errichten eines PPP-Systems(1) 140Erzeugen eines Risikoscores(2) 140

bdquoStehendesldquo System(a) 141bdquoMusterldquo statt Datenbestand(b) 141Neues Datum(c) 141Erhoumlhte Intransparenz(d) 142

Generalklauseln der Datenspeicherung undWeiterverarbeitung

bb)143

Datenspeicherung in automatisiertenDateisystemen

(1)143

Datenverarbeitung und Datenabgleich(2) 144Datenverarbeitung(a) 145Datenabgleich(b) 147

Automatisierte Anwendung zur Datenanalysecc) 147Allgemeine polizeirechtliche Generalklauselb) 148Datenschutzrechtc) 150Fluggastdatengesetzd) 150

Neue Standardbefugnis3 153Verfassungsrechtlicher RahmenB 154

Informationelle SelbstbestimmungI 154Umfang1 155

Entscheidung uumlber die Preisgabe und Verwendungpersoumlnlicher Daten

a)156

Geschuumltzte Datenb) 157Verbot der Persoumlnlichkeitsprofilbildungc) 157Gemeinwohldimension und Einschuumlchterungseffekted) 158

Grenzen und Verhaumlltnismaumlszligigkeit2 159Konkrete Anforderungen des Rechts auf informationelleSelbstbestimmung an PPP

3161

Vorliegen einer hohen Eingriffsintensitaumlta) 162Heimlichkeit und Mangel an Transparenzaa) 162Streubreitebb) 163Automatisierungcc) 164Naumlhe zu Persoumlnlichkeitsprofilendd) 165Stigmatisierungee) 166

Inhaltsverzeichnis

16

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 15: Lucia M. Sommerer Personenbezogenes Predictive Policing

Folgen einer hohen Eingriffsintensitaumltb) 166Hinreichend gewichtige Straftatenaa) 166Konkrete Gefahrbb) 167

Anforderung des BVerfG zurRasterfahndung

(1)167

Kein Absenken der Eingriffsschwelle untereine konkrete Gefahr

(2)167

Organisations- und Verfahrensvorgabenc) 168Zusammenfassung4 169

DiskriminierungsverbotII 170Einfuumlhrung1 170Quellen algorithmischer Diskriminierung2 174

Datenauswahlprozessea) 174Festlegung der Zielvariablenb) 174Auswahl der Inputvariablenc) 175Kalibrierung und Uumlberwachung des Lernprozessesd) 175

Rechtliche Einordnung3 176Gleichheitssaumltzea) 177

Besondere Gleichheitssaumltzeaa) 177Ungleichbehandlung(1) 177Frage nach einer Rechtfertigung(2) 178

Allgemeiner Gleichheitssatzbb) 179Ungleichbehandlung(1) 179Frage nach einer Rechtfertigung(2) 180

Besonderheiten im Rahmen von PPPb) 182Erkennen einer Ungleichbehandlungaa) 183Ausdifferenzierte Fallgruppen derUngleichbehandlung

bb)183

Statistische Rechtfertigungencc) 189Rechtfertigung einer Diskriminierung nachArt 3 Abs 3 S 1 GG

(1)190

Argument des bdquoRational Racismldquo(a) 190Argument des bdquokleineren Uumlbelsldquo(b) 191

Rechtfertigung einer Diskriminierung nachArt 3 Abs 1 GG

(2)192

Fazit zum Diskriminierungsverbot4 193TransparenzgebotIII 194

Exkurs Januskoumlpfigkeit des Blackbox-Narrativs1 195

Inhaltsverzeichnis

17

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 16: Lucia M. Sommerer Personenbezogenes Predictive Policing

Drei Schichten der Intransparenz2 198Begriffsklaumlrunga) 198

Unzugaumlnglichkeit qua Geheimhaltungaa) 200Unzugaumlnglichkeit qua fehlendem Fachwissenbb) 201Unzugaumlnglichkeit qua systemimmanenterKomplexitaumlt

cc)202

Fallbasierte algorithmischeEntscheidungssysteme

(1)202

Regelbasierte algorithmischeEntscheidungssysteme

(2)203

Beispiele(3) 203Loumlsungsansaumltze bdquoExplainable AIldquo(4) 204

Fazit zu Transparenzschichtenb) 205Transparenzmechanismen3 206

Erste Transparenzdimension Zeitpunkt derOffenlegung

a)207

Zweite Transparenzdimension Zur Einsichtnahmeberechtigter Personenkreis

b)208

Subjektiv Betroffeneaa) 208Einzelperson(1) 208Kollaboratives Crowdsourcing(2) 209

Staatliche Kontrollinstitutionbb) 210Moumlgliche Ausgestaltungen(1) 211Personelle Ausstattung(2) 211Organisatorisch-strukturelle Uumlberlegungen(3) 212Fazit zu staatlichen Kontrollinstitutionen(4) 213

Breite Oumlffentlichkeitcc) 214Fazit zum zur Einsichtnahme berechtigtenPersonenkreis

dd)214

Dritte Transparenzdimension Umfang derOffenlegung

c)215

Abstrakte Informationenaa) 216Existenz und Einsatz im Einzelfall(1) 216Abstrakte Wirkungsprinzipien(2) 216Quellcode(3) 217Output-Testing(4) 217Protokollierungspflichten der Designphase(5) 218

Begruumlndung im Einzelfallbb) 219Fazit zum Transparenzgebotcc) 220

Inhaltsverzeichnis

18

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 17: Lucia M. Sommerer Personenbezogenes Predictive Policing

Argumente gegen Transparenz4 221Unmoumlglichkeit von Transparenza) 222Unnoumltigkeit von Transparenzb) 223

bdquoHuman in the Loopldquoaa) 223Vergleich mit bereits bestehender Intransparenzbb) 224

Uumlberwiegen konkurrierender Interessenc) 226Betriebsgeheimnisaa) 226Ausspaumlhung des Algorithmusbb) 229Datenschutz Drittercc) 230Fazit zum Uumlberwiegen konkurrierenderInteressen

dd)231

Fazit zu Argumenten gegen Transparenzd) 231Rechtliche Verortung des Transparenzgebots5 231

Einfachgesetzlicha) 232Datenschutzrechtaa) 232Informationsfreiheitsgesetzebb) 232Verwaltungsprozessrechtcc) 233

Verfassungsrechtb) 234Menschenwuumlrdekern des Rechts aufinformationelle Selbstbestimmung

aa)234

Demokratieprinzipbb) 236Legitimationskette(1) 236Demokratische Willensbildung(2) 237Demokratische Kontrolle(3) 237

Rechtsstaatsprinzipcc) 238Fazit zum Transparenzgebot6 240

UnschuldsvermutungIV 242Strafprozessuale Betrachtung Umwidmung zumTatermittlungswerkzeug

C244

VoruumlberlegungenI 245Keine Beweisgeeignetheit1 245Zweifelhafte Aufklaumlrungsgeeignetheit als Spurenansatz2 246Keine Ermittlungen bdquoins Blaue hineinldquo3 247Konkreter Ermittlungsansatz4 248

bdquoDoppeltuumlrenldquo der DatenweiterverarbeitungII 249Doppeltuumlr gefahrenabwehrrechtliche Seite1 250Doppeltuumlr strafprozessuale Seite2 251

sect 98 c S 1 StPO maschineller Abgleich von Datena) 252Fehlen besonderer Eingriffsschwellenaa) 252Keine Anwendbarkeit auf PPPbb) 253

Inhaltsverzeichnis

19

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 18: Lucia M. Sommerer Personenbezogenes Predictive Policing

sect 161 Abs 2 StPO katalogabhaumlngige Maszlignahmen derDatenerhebung

b)254

sectsect 161 Abs 1 163 Abs 1 StPOErmittlungsgeneralklausel

c)255

Vergleich mit der Onlinedurchsuchung vor 2017aa) 256e A Zulassen der Verwendung alsSpurenansatz

(1)256

a A Ablehnung jeglicher Verwertung(2) 257Uumlbertragung auf PPPbb) 257

Fazit zur Umwidmung zum TatermittlungswerkzeugIII 258Fazit zum Kapitel II Rechtliche GrenzenD 258

Algorithmische Wende in der Kriminalitaumltskontrolle ndashkriminologische soziologische und rechtstheoretischeAnalyse

Kapitel III

260

Risiko eine BegriffsbestimmungA 262DoppeldeutigkeitI 262Negative Konnotation in der RisikogesellschaftII 263Ungleiche Verteilung von RisikenIII 265Gesellschaftliche SinnzuweisungIV 265Quantitative RisikoabschaumltzungV 267RisikowahrnehmungVI 268Tolerierte RisikenVII 269Begriffliche Abgrenzung von Risiko und GefahrVIII 270Fazit zu RisikoIX 272

Gegenwaumlrtige Situation Risikogestuumltzte KriminalitaumltskontrolleB 273Exemplarische Normen der RisikoorientierungI 273

Materielles Strafrecht ndash Versuchsvorfeld1 275sect 89 a StGB ndash Vorbereitung einer schwerenstaatsgefaumlhrdenden Gewalttat

a)277

sect 129 a StGB ndash Bildung terroristischer Vereinigungenb) 278Gruppenrisiko einer zukuumlnftigen ungewissenRechtsgutsverletzung

c)279

Strafprozessrecht2 279Sanktionenrecht3 281Polizeirecht4 282Zusammenfassung5 283

Inhaltsverzeichnis

20

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 19: Lucia M. Sommerer Personenbezogenes Predictive Policing

Kriminologische soziologische und rechtstheoretischeInterpretationsansaumltze

II284

Risikostrafrecht ndash Strafrecht als Groszligsteuerungsmittel1 284Kriminalpraumlventionsrecht und symbolisches Strafrecht2 285Risikokriminologie3 286Feindstrafrecht ndash Die bdquoriskanteldquo Person als Feind4 287Sicherheitsgesellschaft5 289Actuarial Turn6 291Zusammenfassung7 293

Entwicklung Algorithmengestuumltzte Kriminalitaumltskontrolle ndashMerkmale der algorithmischen Wende

C295

Fortschreibung der risikogestuumltzten KriminalitaumltskontrolleI 295Vorfeldfokussierung1 295Individualisierte Risikozuschreibung anhanduumlberindividueller Gruppenmerkmale

2296

bdquoFeindldquo-Perspektive3 297Verschleierung politischer Wertentscheidungen4 298Sonderopfer5 299Zusammenfassung6 300

Neue HerausforderungenII 300Ruumlckkehr der Lebensfuumlhrungsschuld1 301

Strafrechta) 303Polizeirechtb) 304

Legitimitaumltsverlust durch mangelndeVerfahrensgerechtigkeit

2305

Legitimitaumlt und Rechtsbefolgunga) 306Kernelemente der Verfahrensgerechtigkeitb) 307Stand der Forschung in Deutschlandc) 308Verfahrensgerechtigkeit algorithmengestuumltzterEntscheidungssysteme

d)309

Beteiligungaa) 310Neutralitaumltbb) 311Respektvoller Umgangcc) 312Vertrauen in die Motivedd) 313

Transparenz als Antwort auf mangelndeVerfahrensgerechtigkeit

e)314

Zusammenfassungf) 317

Inhaltsverzeichnis

21

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 20: Lucia M. Sommerer Personenbezogenes Predictive Policing

Kriminalitaumltskontrolle ohne Kriminologie3 317Algorithmenkundige Kriminologiea) 321

Nutzen algorithmengestuumltzter Methoden fuumlr dieKriminologie

aa)322

Kritische Begleitung algorithmengestuumltzterKriminalitaumltskontrolle

bb)323

Zusammenfassungb) 324Selbst auferlegte Gedankenlosigkeit4 325

Anwendung auf algorithmengestuumltzteEntscheidungssysteme

a)328

Entmenschlichung ndash bdquoMoral Bufferldquoaa) 328Verantwortungsentledigung ndash Vom Werkzeugzur Autoritaumltsfigur

bb)329

Zwischenergebniscc) 331Steigerung Selbst verschuldete Unmuumlndigkeit ndashBewusstes Begeben in eine Situation des bdquoNicht-Verstehen-Koumlnnensldquo

b)

331Deskillingaa) 332Systemimmanent intransparenteEntscheidungsverfahren

bb)333

bdquoUumlbermenschlichldquo mediierte Wissensvermittlungcc) 333Zwischenergebnisc) 335

Zwang des Rechts unter die Maschinenlogik5 335Zwischenfazit zu Neuen Herausforderungen6 340

Fazit zum Kapitel III Algorithmische WendeD 340

Empfehlungen fuumlr Mindestanforderungen analgorithmengestuumltzte Straftatprognosen

Kapitel IV343

EntwicklungsmodalitaumltenA 344Nachvollziehbarkeit und TransparenzI 344UnvoreingenommenheitII 345

EinsatzmodalitaumltenB 346RechtsgrundlageI 346RisikokommunikationII 346

KontrollmodalitaumltenC 347Fazit zum Kapitel IV Empfehlungen fuumlr MindestanforderungenD 349

Inhaltsverzeichnis

22

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 21: Lucia M. Sommerer Personenbezogenes Predictive Policing

Schlusswort Tyrannenmord und NeuanfangKapitel V 351

ThesenKapitel VI 353

Literaturverzeichnis 357

Inhaltsverzeichnis

23

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 22: Lucia M. Sommerer Personenbezogenes Predictive Policing

Abbildungsverzeichnis

Abb 1 Uumlbersicht uumlber moumlgliche Verwendungskontextepraumldiktiver Algorithmen zur Kriminalitaumltsprognose 35

Abb 2 Streubreite verschiedener Predictive-Policing-Ansaumltzezwischen den Polen bdquoGefahrverdacht bestaumltigendldquo undbdquoGefahrverdacht erzeugendldquo 38

Abb 3 Kernelemente des polizeilichen GefahrenbegriffsTatsaumlchliche Anhaltspunkte und Prognose 121

Abb 4 Einordnung des algorithmischen Risikoscores in denpolizeirechtlichen Gefahrenbegriff Variante Nr 1(Risikoscore = tatsaumlchliche Anhaltspunkte + Prognose) istunzutreffend Variante Nr 2 (Risikoscore = eintatsaumlchlicher Anhaltspunkt) ist zutreffend 132

Abb 5 Uumlbersicht uumlber neue Fallgruppen algorithmischerDiskriminierungen und die gegen sie vorgebrachtenstatistischen Rechtfertigungen 186

Abb 6 Drei Schichten algorithmischer Intransparenz 200

Abb 7 Drei Transparenzdimensionen 206

Abb 8 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 241

Abb 9 Risikoorientierte Kriminalitaumltskontrolle 275

Abb 10 Dreieck algorithmischer Transparenz fuumlr PPP-Systeme 348

25

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 23: Lucia M. Sommerer Personenbezogenes Predictive Policing

Tabellenverzeichnis

Tbl 1 Vergleich traditionell statistische und algorithmengestuumltzteKriminalprognosen (Hervorhebung der Unterschiededurch Umrandung) 59

Tbl 2 Uumlbersicht ausgewaumlhlter in den USA und Groszligbritannieneingesetzter algorithmengestuumltzter Entscheidungssystemezur Straftatprognose 76

Tbl 3 Uumlbersicht uumlber im deutschsprachigen Raum zum Einsatzkommende algorithmengestuumltzte Entscheidungssystemeund ihre Vorstufen zur Straftatprognose 84

Tbl 4 Transparenz Zeitpunkt der Offenlegung 207

Tbl 5 Transparenz Zur Einsichtnahme berechtigterPersonenkreis 208

Tbl 6 Transparenz Umfang der Offenlegung 215

Tbl 7 Uumlbersicht uumlber Transparenzmechanismen der dreiTransparenzdimensionen 221

27

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 24: Lucia M. Sommerer Personenbezogenes Predictive Policing

Grundlagen des personenbezogenen PredictivePolicing

Einfuumlhrung

bdquoWaumlre Pyrrhus nicht von einer alten Vettel Hand in Argos gefallen und Juli-us Caesar nicht zu Tode gemessert worden Sie sind nicht fortzudenken Die

Zeit hat sie unausloumlschlich gezeichnet und gefesselt sind sie nun unterge-bracht im Raum der unbegrenzten Moumlglichkeiten die sie ungenutzt gelassen

haben Aber koumlnnen die denn uumlberhaupt moumlglich gewesen sein angesichtsdessen dass sie niemals waren Oder war allein das moumlglich

was sich auch wirklich begabldquondash James Joyce Ulysses2

Inwieweit ist unsere Zukunft vorbestimmt und kann Vorbestimmtes auchvorausgesagt werden Was wird als Naumlchstes geschehen Und was wird auf-grund gegenwaumlrtiger Handlungen nicht mehr geschehen koumlnnen Diessind Fragen die die Menschheit seit jeher umtreiben Von der Konsultati-on des Delphischen Orakels der Antike bis hin zum modernen datenge-stuumltzten Staat ndash stets wollen wir wissen was die Zukunft fuumlr uns bereithaumlltZur Beantwortung dieser Frage in ihrer juumlngsten Ausformung wird im Sys-tem der Kriminalitaumltskontrolle seit einiger Zeit auf praumldiktive Algorith-men3 zuruumlckgegriffen4

Praumldiktive Algorithmen d h computergestuumltzte Systeme mit dem Zielmenschliches Verhalten vorauszusagen sind in unserem Alltag bereits all-gegenwaumlrtig Jeder der eine Suchmaschine verwendet sich um einen Kre-dit beworben oder online ein Produkt gekauft hat hat sich bereits praumldik-tiven Algorithmen ausgesetzt Sie sagen voraus an welchen Suchergebnis-sen wir am meisten interessiert sind (Personalised Browsing) ob wir in derLage sein werden unseren Kredit zuruumlckzuzahlen (Credit Scoring) undwas wir als Naumlchstes kaufen moumlchten (Personalised Advertising)

Kapitel I

A

2 Joyce 2006 353 Zum Begriff s Fn 22 und begleitenden Textabschnitt4 Zur anhaltenden Faszination des Science-Fiction-Genres mit Kriminalitaumltsvorher-

sagen s nur bdquoMinority Reportldquo Dick 2013 [orig 1956] 223

29

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30

Page 25: Lucia M. Sommerer Personenbezogenes Predictive Policing

Nun werden praumldiktive Algorithmen auch zur Vorhersage kriminellenVerhaltens herangezogen Weltweit setzen immer mehr Polizeiabteilungendas sog bdquoPredictive Policingldquo5 ein Auch greifen Gerichte in anderen Laumln-dern bei Entscheidungen uumlber Untersuchungshaft Bewaumlhrung6 und Straf-zumessung7 zur Bestimmung der Kriminalprognose auf praumldiktive Algo-rithmen zuruumlck International sind computergestuumltzte Vorhersagen somitin alle Bereiche sowohl praumlventiver als auch repressiver staatlicher Krimi-nalitaumltskontrolle vorgedrungen Dabei ist das Treffen von Entscheidungenanhand mathematisch-statistischer Berechnungen in der Kriminalitaumltskon-trolle zunaumlchst nichts Neues Statistische Verfahren der Kriminalprognosewerden in Deutschland bereits seit Jahrzehnten zur Unterstuumltzung vonEntscheidungen im Strafverfahren sowie im Straf- und Maszligregelvollzugeingesetzt8 Doch die Beschleunigung und Vereinfachung der zuvor lang-wierigen Verfahren mithilfe von Algorithmen eroumlffnet nun nicht nur neueAnwendungsbereiche in der auf schnelles Reagieren angewiesenen praumlven-tiven Polizeiarbeit Vielmehr veraumlndert sie die Kriminalitaumltskontrolle alsGanzes grundlegend Diese bdquoalgorithmische Wendeldquo der Kriminalitaumltskon-trolle9 ist dabei mehr als eine schlichte Fortschreibung des sog bdquoActuarialTurnldquo den Feeley amp Simon dem Strafrechtssystem Ende des 20 Jahrhun-

5 Der Begriff ist etwa mit vorausschauender oder vorhersagebasierter Polizeiarbeit zuuumlbersetzen s Ostermeier in SingelnsteinPuschke 2018 101 106

6 S Uumlbersicht bei Mayson Yale LJ 2018 490 5127 Vgl den internationalen Uumlberblick bei de Keijser et al 2019 Eaglin Emory LJ

2017 59 61 Slobogin in PetersiliaReitz 2012 196 203-05 s zur ersten Diskussi-on in Deutschland den Forschungsbereich des bdquoSmart Sentencingldquo des 2019 neuge-gruumlndeten bdquoLegal Tech Lab Cologneldquo wwwstrafrechtprof2jurauni-koelnde18250html [httpspermaccU842-VPMM] s auch das Gutachten von Kaspar zumThema bdquoSentencing Guidelinesldquo zwar wird hier keine bdquoMathematisierungldquo oderbdquoComputerisierungldquo der Strafzumessung gefordert aber immerhin das Festhaltenvon Strafmaszligempfehlungen fuumlr bestimmte Fallkonstellationen in einer Strafzu-messungsdatenbank Kaspar 2018 114 f

8 S u S 46 ff Die Einholung von Sachverstaumlndigengutachten in deren Rahmenauf statistische Prognoseinstrumente zuruumlckgegriffen werden kann ist u a zwin-gend vorgeschrieben bei bei Unterbringung in einem psychiatrischen Krankenhausund in einer Entziehungsanstalt sowie bei Sicherungsverwahrung (sect 63 StGB sect 64StGB sect 66 StGB jeweils i V m sect 246 a StPO) vgl Pollaumlhne in NK-StGB Rn 4258 ff Dessecker in NK- StGB Rn 81 ff 85 ff Sachverstaumlndigengutachten koumlnneneingeholt werden wenn es um die Feststellung der Schuldfaumlhigkeit des Angeklag-ten geht vgl Krehl in KK-StPO Rn 47 s ausfuumlhrliche Uumlbersicht bei Boetticher etal NStZ 2006 537 538 ff Ders et al NStZ 2019 553 559 ff TondorfTondorf2011 4 ff

9 S ausfuumlhrlich u S 260 ff

Kapitel I Grundlagen des personenbezogenen Predictive Policing

30