PropStop Technischer Bericht

Bundestagswahl 2017:Social-Media-Angriff auf das#kanzlerduell?Christian Grimme, Dennis Assenmacher, Mike Preuss, Lena Adam,Justus Frederik Hermann Lutke-StokdiekWestfalische Wilhelms-Universitat Munster, Wirtschaftsinformatik und Statistik

6. September 2017

Seit der uberraschenden Brexit-Entscheidungder Briten und der ebenso unerwarteten Wahlvon Donald Trump zum 45. Prasidenten der

USA sind potentielle Einflusse sozialer Netzwerkeauf die Entscheidung der Wahler und damit aufden Wahlausgang in den Fokus der offentlichen De-batte geruckt. Die Nutzung sozialer Medien ist in-zwischen allgegenwartig, so dass auch aktuelle ge-sellschaftliche Themen und Ereignisse uber dieseKanale begleitet und diskutiert werden. Mit derzunehmenden Verbreitung sozialer Medien wachstauch die Attraktivitat dafur, diese Wege strategischzur Beeinflussung von Nutzern oder gesellschaft-lichen Stromungen zu verwenden (siehe etwa [1],[3], [5]). Inzwischen wird insbesondere der Einsatzteil- oder vollautomatisierter Methoden im Kontextder verdeckten und gesteuerten Manipulation nichtmehr bezweifelt [2, 6].

Die Verbreitung politischer Inhalte uber soge-nannte

”Political“ oder

”Social Bots“ wird insbe-

sondere im Umfeld von Wahlen verstarkt diskutiert.Bei der Wahl des US-Prasidenten wurden automa-tisierte Accounts beobachtet [4, 9], ebenso bei derVolksabstimmung zum Brexit in Großbritannien [7].Von besonderem Interesse waren bereits im Vor-feld von internationalen Wahlen Beobachtungen vonKandidatenduellen [8]. Die im TV ausgetragenenDuelle wurden - neben dem ublichen redaktionellenMedieninteresse - auch in den sozialen Medien in-tensiv begleitet. Speziell bei der Beobachtung derSocial-Media-Aktivitaten wurde ein hohes Maß anAutomatisierung bei der Verbreitung von Inhalten

festgestellt, was schließlich als Indiz fur automati-sierte Kampagnen und politische Manipulationsver-suche gewertet wurde.

In Deutschland wurde politisch motivierte Auto-matisierung in sozialen Medien bisher nicht oder nurfur einzelne Accounts nachgewiesen. Die massiveNutzung von sozialen Netzwerken zu Wahlkampf-zwecken ist jedoch inzwischen auch in Deutschlandublich. Zudem haben Parteien im Vorfeld der Bun-destagswahl 2017 unterschiedliche Uberlegungen zurNutzung von Automatisierung und Social Bots an-gestellt [10, 11].

Zielsetzung dieses Berichtes ist es, Daten zuBeobachtungen im sozialen Netzwerk Twitter imUmfeld des TV-Duells der Kanzlerkandidaten derzwei großten Parteien CDU (Amtsinhaberin An-gela Merkel) und SPD (Parteichef Martin Schulz)vom 03.09.2017 bereitzustellen, zusammenzufassenund auf mogliche automatisierte Aktivitaten hin zuuntersuchen.

Der Bericht gliedert sich in drei Abschnitte. Dererste Abschnitt erlautert kurz die Datengrundlagefur die Analyse. Der zweite Abschnitt behandeltdie eingesetzten Indikatoren und deren Interpretati-on im Kontext des Berichtes. Der letzte Abschnittreferiert und diskutiert die Ergebnisse der Analyse.

Es soll darauf hingewiesen werden, dass die Ana-lysen dieses Berichtes im Gegensatz zu den meis-ten anderen aktuellen Studien1 auf zahlreichen In-dikatoren basieren und damit im Zusammenspiel

1die sich oftmals auf einen oder zwei Indikatoren stutzen,etwa die Aktivitat eines Nutzers oder einer Nutzergruppe

Technischer BerichtSeite 1 von 9

Parteien Spitzenkandidaten TV-Duell

@afd @alice weidel #altersarmut@afd bund @cem oezdemir #bpk@alternativefuerde @c lindner #btw2017@adeutscherd @goeringeckardt #btw@bayernpartei @martinschulz@bergpartei @swagenknech #deinewahl@bgepartei #deinwal@brauchtbewegung #angelamerkel #duell@BuendnisCinfo #gauland #europa@cdu union #kanzlerin #kanzlerduell@csu #martinschulz #merkel@deutscheMitte #merkelschulz@diegrauen #schulz #traudichdeutschland@dieHumanisten #tvduell@dielinke@dieurbane@die gruenen #wahl2017@familienpartei #wahlkampf@fdp #wahlen2017@feministischeP #wahlomat@gruenenrw@gruene jugend@junge union@jusos@lijusolid@mieterpartei@neue liberal@oedpPresse@piratenPartei@republikaner@spdberlin

Tabelle 1: Hashtags und Mentions zum TV-Duell

eine informative Einschatzung von Aktivitaten insozialen Medien liefern konnen. Eine individuelleBetrachtung jedes einzelnen Indikators ist fur dieBeurteilung und insbesondere den Nachweis vonAutomatisierung unserer Ansicht nach in der Regelnicht aussagekraftig genug.

1 Datengrundlage

Grundlage fur die Analysen sind Daten des sozialenNetzwerks Twitter, die uber den offentlichen Stream(Twitter Stream API) und den kommerziellenStream Decahose abgegriffen wurden. Die Daten furden offentlichen Stream wurden nach speziellen The-men/Hashtags und Mentions im Kontext des TV-Duells gefiltert. Der Decahose-Stream liefert kon-tinuierlich eine reprasentative 10%-Stichprobe desgesamten, weltweiten Twitter-Datenverkehrs. Furdie Untersuchung wurden dem Decahose-Streamausschließlich deutschsprachige Tweets entnommen.

Es ist anzumerken, dass die Sprachenerkennung furTweets von Twitter automatisch durchgefuhrt wird.

2 Indikatoren

Grundlage fur die Auswertung sind verschiedeneIndikatoren, die auf Haufigkeitsanalysen und Zeitrei-hen basieren. Die einzelnen Indikatoren und derenInterpretation werden im Folgenden jeweils kurzdargestellt.

2.1 Grundlegende Metriken

Anzahl Tweets: Die Kennzahl gibt an, wie vieleTweets in der eingestellten Zeitspanne gestre-amt wurden.

Tweets pro Minute: Diese Metrik ermittelt denUmfang des aktuellen Datenverkehrs auf demuberwachten Stream fur das Zeitfenster [t =−1min, t = 0]. Im vorliegenden Fall werden

Technischer BerichtSeite 2 von 9

Abbildung 1: Die haufigsten Hashtags im Beobachtungszeitraum unter Einbeziehung des Alters der Accounts. GruneBalken stellen Accounts dar, die alter als 1 Monat sind, pinke Balken reprasentieren neue Accounts.

mit der Metrik alle uberwachten Hashtags undMentions (siehe Tabelle 1) aggregiert.

Trending Hashtags: Diese Standardmetrik erfasstdie zehn im betrachteten Zeitfenster amhaufigsten genutzten Hashtags. Die resultie-rende Liste wird nach Haufigkeit absteigendsortiert erstellt. Es ist zu beachten, dass die-se Metrik nicht deckungsgleiche Ergebnisse zuden von Twitter selbst bereitgestellten Tren-ding Topics liefert. Die von Twitter eingesetz-ten Mechanismen berucksichtigen personlicheVorlieben des Beobachters und das Alter derverbreitenden Accounts fur die (gewichtete) Er-stellung der Trending Topics. Die hier verwen-dete Metrik orientiert sich ausschließlich anden Haufigkeiten der verwendeten Hashtags.Dabei liefert der Decahose-Stream einen ob-jektiven Trend als Querschnitt uber das 10 %-Sample. Die Daten der Stream-API betrachtenden Trend gemaß der in Tabelle 1 genanntenSchlusselworter. Durch sukzessives Verschiebendes Zeitfensters kann mithilfe dieser Metrikeine einfache Zeitreihe generiert werden.

2.2 Weiterfuhrende Maße

Alter von Twitter-Accounts: Die Metrik unter-teilt Twitteraccounts der gestreamten Datenin zwei Klassen, Accounts, die nicht alter als

ein Monat sind und solche, die alter als einMonat und junger als sechs Jahre sind. DieNutzung neuer und fur diesen Zweck speziellangelegter Accounts ist nach vielfaltigen Be-richten ublich, um in orchestrierten AktionenInhalte zu verbreiten.

Tweet-Retweet-Verhaltnis: Diese Metrik stelltvon Twitter als originare Tweets gekenntzeich-nete Nachrichten und Retweets ins Verhaltnis.Dabei sind Retweets jene Nachrichten, die ohneKommentierung Inhalte anderer Autoren wie-dergeben. Alle anderen Nachrichten (Tweetsund Kommentare) werden als originare Nach-richten verstanden. Da Retweets grundsatzlicheinfach automatisiert werden konnen und zu-gleich auch im manuellen Einsatz (durch aus-reichend viele, koordiniert arbeitende Nutzer)als Vehikel zur Verbreitung von Inhalten undHashtags dienen konnen, wird ein geringesTweet/Retweet-Verhaltnis als moglicher Indi-kator fur massive (ggf. automatisierte) Verbrei-tung betrachtet.

Hashtag/Nutzer Netzwerk: Die Metrik setzt dien haufigsten Hashtags (Standardwert n = 15)mit den m aktivsten Nutzern (Standardwertm = 25) bzgl. dieses Hashtags in Beziehung.Dabei wird die Haufigkeit der Nutzung des Has-htags durch einen Nutzer uber die Liniendicke

Technischer BerichtSeite 3 von 9

der Relationskante dargestellt. Neben der Ak-tivitat von Nutzern bzgl. eines Hashtags, kannuber diese Metrik zudem ermittelt werden, wel-che Nutzer bzgl. mehrerer Hashtags sehr aktivsind. Ein solcher Nutzer wird als Knotenpunktzwischen verschiedenen Hashtags dargestellt.

3 Ergebnisse und Auswertung

Im Rahmen des Experimentes wurden am 3.Sep-tember 2017 im Zeitraum von 18:00 bis 24:00 Uhrinsgesamt 111.317 Tweets mit der Twitter StreamAPI persistiert und ausgewertet. Bei etwa 45.000Nachrichten handelte es sich um normale, originareTweets, wahrend es sich bei den restlichen Nach-richten um Retweets handelt.

Dieser Bericht konzentriert sich auf die Analyseeiner Auffalligkeit, die bereits vor Beginn des TV-Duells festgestellt werden konnte und die nahelegt,dass hier strategisch vorgegangen wurde, um einHashtag massiv zu verbreiten. Erwartungsgemaßwaren bereits vor dem TV-Duell prasente Hash-tags wie #tvduell und #kanzlerduell in den Trendsvertreten, wurden also haufig verwendet. Ab exakt19:25 Uhr entwickelten sich uberraschend zwei weite-re Hashtags, die neben den bereits aktiven Hashtagssehr haufig verwendet wurden: #verraterduell und#hockeforkanzler.

Bereits wahrend sich dieser Trend entwickelte,konnte uber die definierte Metrik zum Alter derTwitter Accounts eine signifikante Auffalligkeit be-obachtet werden. Wie in Abbildung 1 dargestellt,verbreiteten uberporportional viele

”neue“ Accounts

(also solche, die junger als 1 Monat waren) das Has-htag #kanzlerduell. Ein analoges Verhalten konntefur das Hashtag #hockeforkanzler identifiziert wer-den. Bei beiden Hashtags ist der Anteil neuer Ac-counts signifikant großer, als bei alteren Accounts.

Die Betrachtung der drei Hashtags #kanzlerdu-ell, #verraterduell und #hockeforkanzler zusam-men mit dem Hashtag #tvduell und dem gesamtenTwitter-Verkehr des Twitter Streams uber die Zeitzeigt eine Aufalligkeit des Verhaltens der drei zu-erst genannten Hashtags zwischen 19:25 und 20:30Uhr, siehe Abbildung 2. Insbesondere fur die Hash-tags #kanzlerduell und #verraterduell ist ein starkkorreliertes Verhalten und ein annahernd deckungs-gleicher Verlauf zu finden.

Die Abbildungen 3 und 4 erlauben einen detail-lierteren Blick auf diese Auffalligkeit. Abbildung 3schrankt die Betrachtung auf die Nutzung des Has-htag #kanzlerduell ein und zeigt, dass die Nutzung

dieses Tags insbesondere im Zusammenhang mitdem Hashtag #verraterduell geschieht. Abbildung 4beschrankt die Betrachtung zusatzlich auf neue Ac-counts und weist nach, dass insbesondere jungeAccounts fur die Verbreitung der Hashtags genutztwurden.

Analoge, wenn auch nicht im gleichen Maße aus-gepragte Beobachtungen konnen auch bei einer Ein-schrankung auf das Hashtag #hockeforkanzler ge-macht werden, siehe Abbildung 5.

Die zusatzliche Beobachtung des Tweet/Retweet-Verhaltnisses, siehe Abbildung 6 zeigt zudem, dassim beobachteten Zeitraum massiv Retweets zur Ver-breitung der beobachteten Hashtags eingesetzt wur-den. Im Zeitraum von 19.00 Uhr bis 21.00 Uhr sind69,8 % des gesamten Nachrichtenverkehr Retweets.Fur die neu angelegten Accounts belauft sich dieserAnteil signifikant hoher auf fast exakt 79 %. DiesesVorgehen bietet sich insbesondere fur eine Auto-matisierung an, es konnte also vermutet – wennauch nicht nachgewiesen – werden, dass an dieserStelle der Einsatz von Social Bots zu beobachtenwar. Schlussendlich ist hier methodisch nicht si-cher nachweisbar, inwieweit solche Aktivitaten vonmenschlichen Nutzern oder (teil-)automatisiertenAccounts ausgefuhrt wurden.

Abschließend bestatigt auch die Analyse desHashtag-Nutzer-Netzwerks die Erkenntnis, dass dasHashtag #kanzlerduell fur die Verbreitung der Has-htags #verraterduell und #hockeforkanzler miss-braucht wurde. Abbildung 7 zeigt die thematischstarke Verbindung von Nutzern und Hashtags (gruneingefarbt) als eigenes Cluster. Es ist in dieser Dar-stellung insbesondere auf die enge Verbindung derHashtags hinzuweisen. Diese kommt dadurch zu-stande, dass die auf den Verbindungen zwischenHashtags liegenden Nutzer (also jene Nutzer, dieim Kontext mehrerer Hashtags zu den haufigstenSendern gehoren) hoch aktiv sind. Im Gegensatzzur Betrachtung der ubrigen, ebenfalls viel genutzenHashtags im Kontext des TV-Duells sind diese Ver-bindungen auffallig stark. Als zweiter interessanterPunkt ist abschließend zu erwahnen, dass die the-matische Verbindung zum Hashtag #afd in diesemCluster ebenfalls sehr eng ist.

Technischer BerichtSeite 4 von 9

Abbildung 2: Zeitreihe uber die Entwicklung ausgewahlter Hashtags im Beobachtungszeitraum.

Anmerkung: Kurz vor der Veroffentlichung die-ses Berichtes wurde vom MedienunternehmenBuzzFeeda berichtet, dass das Hashtag #kanz-lerduell tatsachlich gezielt von einer Grup-pe rechtsgerichteter Aktionisten (unter demSchlagwort Reconquista) missbraucht wurde,um das Hashtag #verraterduell unter der Nut-zung neu angelegter Profile massiv zu verbrei-ten. Die Redaktion von BuzzFeed veroffentlichthierzu interne Gruppen-Chat-Protokolle. Ausdiesen Protokollen ist ersichtlich, dass die Ak-tion eine erhebliche Zahl von Akteuren um-fasste, die neue Profile fur einen koordiniertenRetweet-Angriff auf das Hashtag #kanzlerduellnutzten [12].

ahttps://www.buzzfeed.com

4 Fazit

Dieser Bericht fasst erste Analyseergebnisse auf ge-sammelten Twitter-Daten zusammen, die wahrenddes TV-Duells der Kanzlerkandidaten der zweigroßen deutschen Parteien fur die Bundestagswahl2017 erhoben wurden. Dazu wurden zuerst Analyse-maße / Indikatoren entworfen, die einen detailliertenEinblick in die Daten erlauben und zugleich das Po-tenzial haben, orchestrierte Manipulationsversucheuber soziale Medien - hier insbesondere den KanalTwitter - abzubilden. Tatsachlich konnte der Ver-

such nachgewiesen werden, das neutrale Hashtag#kanzlerduell fur die Verbreitung eines politischwertenden Hashtags, namlich #verraterduell, zubesetzten. Es konnte eine einfache Strategie nachge-wiesen werden, bei der eigens fur den beobachtetenZweck erzeugte Profile eingesetzt wurden, um durchden Einsatz von Retweets vorgegebene Satze undeinfache Inhalte massiv zu verbreiten.Es konnte je-doch im Zeitverlauf auch beobachtet werden, dassder Angriff nach einer Stunde ohne weitere Reso-nanz im Sande verlief.

Interessanterweise, und fur die Validierung deshier prasentierten Ansatzes von großer Bedeutung,gelang es Journalisten des MedienunternehmensBuzzFeed, die Strageie im Hintergrund der Aktion,durch Insiderinformationen aufzudecken [12]. Wirschließen daraus, dass der gewahlte (prototypische)Beobachtungsansatz basierend auf verschiedenenIndikatoren und der menschlichen Interpretationals ein geeigneter Weg erscheint, Auffalligkeiten insozialen Netzwerken und zu entdecken und nachzu-weisen.

Es ist jedoch darauf hinzuweisen, dass die bis-herigen Methoden und Indikatoren (auch im Zu-sammenspiel) nicht ausreichen, um alle moglichenAngriffe uber soziale Medien nachzuweisen. Die hiervorgestellten Methoden stellen einen Startpunkt furdie weitere Forschung dar - die jetzigen Ergebnissebelegen aber, dass technische Hilfsmittel bei derErkennung von Angriffen sinnvoll eingesetzt werdenkonnen. Es bleibt ebenfalls festzuhalten, dass die

Technischer BerichtSeite 5 von 9

Abbildung 3: Zeitreihe uber die Entwicklung solcher Hashtags, die zusammen mit dem Hashtag #kanzlerduellverwendet wurden.

tatsachlichen Akteure und Personen sowie die (ggf.politische) Motivation hinter den Accounts auf dieseWeise nicht zweifelsfrei nachzuweisen sind.

Literatur[1] Z. Chu, S. Gianvecchio, H. Wang, and S. Jajodia.

Who is Tweeting on Twitter: Human, Bot, or Cy-borg? In Proceedings of the 26th Annual ComputerSecurity Applications Conference, ACSAC ’10, pa-ges 21–30, New York, NY, USA, 2010. ACM.

[2] Jane Cordy. The social media revolution: Politicaland security implications. Draft CDS Report [064CDSDG 17 E], NATO Parliamentary Assembly, Sub-Committee on Democratic Governance, 2017.

[3] C. Elliott. The readers’ editor on. . . pro-Russia trolling below the line on Ukrai-ne stories. online, Mai 2014. http://www.

theguardian.com/commentisfree/2014/may/04/

pro-russia-trolls-ukraine-guardian-online.

[4] Emilio Ferrara, Onur Varol, Clayton Davis, FilippoMenczer, and Alessandro Flammini. The rise ofsocial bots. Commun. ACM, 59(7):96–104, 2016.

[5] R. Fredheim. Putin’s bot army – part one: a bitabout bots. online, 2013.

[6] Christian Grimme, Mike Preuss, Lena Adam, andHeike Trautmann. Social bots: Human-like bymeans of human control? CoRR, abs/1706.07624,2017. http://arxiv.org/abs/1706.07624.

[7] Philip N. Howard and Bence Kollanyi. Bots, #Stron-gerin, and #Brexit: Computational Propaganda

During the UK-EU Referendum. SSRN, 2016.https://ssrn.com/abstract=2798311.

[8] Bence Kollanyi, Philip N. Howard, and Samuel C.Woolley. Bots and automation over twitter duringthe third u.s. presidential debate. Technical Re-port Data Memo 2016.3, Oxford, UK: Project onComputational Propaganda, www.politicalbots.org,2016.

[9] Bence Kollanyi, Philip N. Howard, and Samuel C.Woolley. Bots and automation over twitter duringthe u.s. election. Technical Report Data Memo2016.4, Oxford, UK: Project on Computational Pro-paganda, www.politicalbots.org, 2016.

[10] Martin Pfaffenzeller. Bundestagswahlkampf: CDUerwagt Einsatz von Chatbots, Mar 2017.

[11] Spiegel Rosenbach, Marcel. Internet-Kommentare von Automaten: AfD will imWahlkampf Meinungsroboter einsetzen, Oct 2016.http://www.spiegel.de/netzwelt/netzpolitik/

afd-will-im-wahlkampf-social-bots-einsetzen

-a-1117707.html.

[12] Karsten Schmehl. Diese geheimen Chatszeigen, wer hinter dem Meme-Angriff#Verraterduell aufs TV-Duell steckt, 09 2017.https://www.buzzfeed.com/karstenschmehl/

willkommen-in-der-welt-von-discord-teil1.

Danksagung

Die Arbeit der Autoren ist im Rahmen des ProjektesPropStop entstanden, das durch das Bundesminis-terium fur Bildung und Forschung gefordert wird.

Technischer BerichtSeite 6 von 9

Abbildung 4: Zeitreihe uber die Entwicklung solcher Hashtags, die zusammen mit dem Hashtag #kanzlerduell undausschließlich von neuen Accounts verwendet wurden.

Summary

Due to the conjectured social media influence onrecent political events as the Brexit vote and theUS election that brought Trump into power, thereis high interest in social media usage related to theGerman general election 2017. This work analysesTwitter usage during the TV debate between theGerman Chancellor Angela Merkel (CDU) and hercontender Martin Schulz (SPD), with an emphasison detecting organized communication, be it exe-cuted by social bots or by large human groups. Asdata source, the German language tweets containingany of the related hash tags contained in table 1 arefiltered out from the normal Twitter stream andfrom the Decahose stream (10% of all tweets) from6 pm to 0 am on September 3, 2017, resulting in111,317 tweets.

In stark contrast to existing studies, we employmore than one or two indicators, some of whichare the tweet/retweet relation, the age of twitteraccounts, and more. As a first result, we see thata very high number of very new accounts simulta-neously tried to push the hashtags #kanzlerduell(chancellor duel) and #verraterduell (traitor duel).These accounts are younger than one month and ha-ve mostly been used for retweeting existing content(without commenting it, to a fraction of 79 %). Asimilar attempt that was seemingly targeted at pu-shing the hash tag #hockeforkanzler (Bjorn Hockeis a politician of the populist right-wing party AfD)

obviously failed. However, we have seen that the-re is a certain overlap between Twitter accountsthat use the hash tag #afd and the ones that use#verraterduell.

We presume that what we have documented herewas an attempt of an orchestrated attack on Twitterthat tried to establish a pejorative hash tag hookedonto a neutral one by means of hundreds of Twitteraccounts, many of which have been established justfor being used for this or similar purposes duringthe election phase. Interestingly, this hypothesis isstrengthened by a very recent BuzzFeed publicationthat referred to an inside report of chat groups thatplanned to plant the hash tag #verraterduell (underthe operation name Reconquista).

Technischer BerichtSeite 7 von 9

Abbildung 5: Zeitreihe uber die Entwicklung solcher Hashtags, die von neuen Accounts zusammen mit dem Hashtag#hockeforkanzler verwendet wurden.

Abbildung 6: Zeitreihe uber die Tweets und Retweets fur das Hashtag #kanzlerduell im Beobachtungszeitraum.

Technischer BerichtSeite 8 von 9

Abbildung 7: Hashtag / Nutzer-Netzwerk fur den Beobachtungszeitraum. Pinke Knoten reprasentieren die 15haufigsten genutzten Hashtags, blaue Knoten reprasentieren die 25 aktivsten Nutzer im Zusammenhangmit den verbundenen Hashtags. Ein Nutzer, der mit mehreren Hashtags gleichzeitig verbunden ist,gehort fur all diese Hashtags zu den aktivsten Nutzern.

Technischer BerichtSeite 9 von 9