Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

45
Madsack Market Solutions GmbH Niels Dahnke Belügen wir uns selbst? Was sind die relevanten Zahlen? Wie erkennt man Manipulationen? Lügen meine Leistungskennzahlen?

description

Teilweise lassen wir uns von hübschen Diagrammen täuschen und gelegentlich belügen wir uns selbst. In dieser Präsentation geht es um Online-KPIs und wie man mit vollkommen korrekten Zahlen trotzdem zu falschen Ergebnissen kommen kann. Den Abschluss bilden 10 Punkte, wie man Statistik-Manipulationen erkennen kann. Lassen Sie Sich von hübschen Grafiken belügen? Finden Sie es heraus!

Transcript of Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Page 1: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Madsack Market Solutions GmbH

Niels Dahnke

Belügen wir uns selbst? Was sind die relevanten Zahlen? Wie erkennt man Manipulationen?

Lügen meine Leistungskennzahlen?

Page 2: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Niels Dahnke

Folie: 2

•  Seit 2011 bei Madsack •  Vorher 10 Jahre heise online •  EDV-Beratung seit 1997 •  Erste kommerzielle

Online-Projekte 1995 •  Veröffentlichungen in

Fachzeitschriften •  Redner auf Fachkonferenzen •  Mitglied im IHK-Prüfungsausschuss •  Referent der Niedersächsischen Akademie

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 3: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Wieso können KPIs lügen?

Folie: 3

•  Weil wir die falschen Fragen stellen.

•  Weil wir sie falsch berechnen.

•  Weil wir uns verrechnen.

•  Weil wir sie missbrauchen.

Niels Dahnke – Lügen meine Leistungskennzahlen?

Abbildung: depositphotos.com

Page 4: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Leistungskennzahlen (KPIs)

Der Begriff Key Performance Indicator (KPI)

bzw. Leistungskennzahl bezeichnet in der

Betriebswirtschaftslehre Kennzahlen, anhand derer der

Fortschritt oder der Erfüllungsgrad hinsichtlich wichtiger

Zielsetzungen oder kritischer Erfolgsfaktoren innerhalb

einer Organisation gemessen und/oder ermittelt werden

kann. Quelle: Wikipedia

Folie: 4 Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 5: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Eigenschaften von KPIs

•  Kennzahlen sind stets mit direkten oder indirekten Geschäftszielen verbunden.

•  Kennzahlen zeichnen sich durch ihre Aussagekraft in einem bestimmten geschäftlichen Rahmen aus.

•  Kennzahlen verdichten verschiedene Informationen zu einer Zahl, um Ziele kurz und klar darstellen und messen zu können.

•  Kennzahlen beweisen sich in der Praxis oder sind über"üssig.

•  Kennzahlen beantworten die Frage des Erfolgs.

Folie: 5 Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 6: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

•  Wer nicht fragt... ...bekommt keine Antwort.

•  Wer falsch fragt... ...bekommt keine zielführenden Antworten.

•  Wer nicht hinterfragt... ...trifft falsche Entscheidungen.

Ziele messen mit KPIs

Folie: 6 Niels Dahnke – Lügen meine Leistungskennzahlen?

Abbildung: depositphotos.com

Page 7: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Ziele erreichen mit KPIs

Folie: 7 Niels Dahnke – Lügen meine Leistungskennzahlen?

Kennzahlen sind Antworten,

die mit klaren

Verantwortlichkeiten

&

Handlungsoptionen

verknüpft sein sollten. Abbildung: depositphotos.com

Page 8: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Was sind die SEO-KPIs?

Folie: 8 Niels Dahnke – Lügen meine Leistungskennzahlen?

•  Pagerank •  Sichtbarkeit / Reichweite •  Kennzahlen aus Alexa und Compete •  Indexierte Seiten / Videos / Bilder •  Google News Oneboxen •  Backlinks •  verlinkende Domains •  verlinkende IPs •  Linkstärke •  Linktexte

Abbildung: depositphotos.com

Page 9: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Noch mehr relevante KPIs?

Folie: 9 Niels Dahnke – Lügen meine Leistungskennzahlen?

•  Reichweite •  Click-Through-Rate (CTR) / Klickrate •  Page Impressions / Seitenabrufe •  Visits / Besuche •  wiederkehrende Besucher •  Verweildauer •  Stickiness •  Performance der Keywords •  Markenbekanntheit •  durchschnittliche Bestellwert •  Abbruchrate im Bestellprozess •  ausgefüllte Kontaktformulare •  Zahl der Downloads •  Umsatz je Besucherklasse

•  durchschnittliche Bestellwert •  Abbruchrate im Bestellprozess •  ausgefüllte Kontaktformulare •  Zahl der Downloads •  Umsatz je Besucherklasse •  Social Media

•  Erwähnungen •  Recommendations •  Engagement •  Involvement •  Sentiment •  Markenbekanntheit •  Zahl der Nennungen •  Reichweite

(Freunde / Follower) Abbildung: depositphotos.com

Page 10: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Was sind denn nun relevante KPIs?

Folie: 10

•  KPIs für wen? •  Geschäftsführung / Entscheider •  Controlling •  PR / Kommunikation / Marketing •  Einkauf / Vertrieb •  Kundenservice •  Marktforschung •  Produktion / Entwicklung •  Strategie

Niels Dahnke – Lügen meine Leistungskennzahlen?

Abbildung: depositphotos.com

Page 11: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Was sind denn nun relevante KPIs?

Folie: 11

•  KPIs für was? •  Agenturpitch •  Monitoring / Marktbeobachtung •  Planung

•  Strategie •  Themen / Produkte •  Ressourcen (Budget, Personal, Zeit)

•  Dashboard •  Tages- / Monats-Analyse •  Echtzeit-Monitoring

Niels Dahnke – Lügen meine Leistungskennzahlen?

Abbildung: depositphotos.com

Page 12: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Wieso können KPIs lügen?

Folie: 12

•  Weil wir die falschen Fragen stellen.

•  Weil wir sie falsch berechnen.

•  Weil wir uns verrechnen.

•  Weil wir sie falsch bewerten.

•  Weil wir sie falsch visualisieren.

•  Weil wir sie missbrauchen.

Niels Dahnke – Lügen meine Leistungskennzahlen?

Abbildung: depositphotos.com

Page 13: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Mögliche Fragen

Folie: 13

•  Welche Keywords erzeugen hohe Deckungsbeiträge? •  Woher kommen die wertvollsten Besucher? •  Wie kann ich die Abbruchrate im Bestellprozess

verringern? •  Wie hoch ist die vorhandene Reichweite einer

Website im Verhältnis zum Potential? •  Welche Kampagnen oder Partnerseiten generieren

den wertvollsten Traffic? •  Was kostet ein neuer Kunde?

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 14: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch Bewerten, falsche Fragen

Folie: 14

•  Korrelationen – Was ist Ursache und was ist Wirkung? •  Bewirkt Social Media ein besseres Ranking? •  Oder führt ein gutes Ranking zu mehr Social Signals?

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 15: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch Bewerten, falsche Fragen

Folie: 15

•  Korrelationen – Was ist Ursache und was ist Wirkung? •  Bewirkt Social Media ein besseres Ranking? •  Oder führt ein gutes Ranking zu mehr Social Signals?

Niels Dahnke – Lügen meine Leistungskennzahlen?

Ist McDonalds für den Weltfrieden wichtig?

Page 16: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch Bewerten, falsche Fragen

Folie: 16

•  Korrelationen – Was ist Ursache und was ist Wirkung? •  Bewirkt Social Media ein besseres Ranking? •  Oder führt ein gutes Ranking zu mehr Social Signals?

Niels Dahnke – Lügen meine Leistungskennzahlen?

Es haben noch nie zwei Länder gegeneinander Krieg geführt, in denen es McDonalds gibt.

Page 17: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch Bewerten, falsche Fragen

Folie: 17

•  Korrelationen – Was ist Ursache und was ist Wirkung? •  Bewirkt Social Media ein besseres Ranking? •  Oder führt ein gutes Ranking zu mehr Social Signals?

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 18: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch bewertet?

Folie: 18

Alles wird besser, obwohl sich nichts ändert.

Niels Dahnke – Lügen meine Leistungskennzahlen?

Garten   Heimwerken   KFZ  

Banner-­‐A   Banner-­‐B   Banner-­‐A   Banner-­‐B   Banner-­‐A   Banner-­‐B  

Ad-­‐Impressions   200   40   20   20   30   100  

Klicks   60   8   16   2   24   70  

CTR   30%   20%   80%   10%   80%   70%  

Welche Kampagne ist erfolgreicher, gemessen an der CTR?

Page 19: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch bewertet?

Folie: 19

Alles wird besser, obwohl sich nichts ändert.

Niels Dahnke – Lügen meine Leistungskennzahlen?

Garten   Heimwerken   KFZ  

Banner-­‐A   Banner-­‐B   Banner-­‐A   Banner-­‐B   Banner-­‐A   Banner-­‐B  

Ad-­‐Impressions   200   40   20   20   30   100  

Klicks   60   8   16   2   24   70  

CTR   30%   20%   80%   10%   80%   70%  

Aufsummiert  Banner-­‐A   Banner-­‐B  

Ad-­‐Impressions   250   160  Klicks   100   80  CTR   40%   50%  

Page 20: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch bewertet?

Folie: 20

Alles wird besser, obwohl sich nichts ändert.

Niels Dahnke – Lügen meine Leistungskennzahlen?

Garten   Heimwerken   KFZ  

Banner-­‐A   Banner-­‐B   Banner-­‐A   Banner-­‐B   Banner-­‐A   Banner-­‐B  

Ad-­‐Impressions   200   40   20   20   30   100  

Klicks   60   8   16   2   24   70  

CTR   30%   20%   80%   10%   80%   70%  

Aufsummiert  Banner-­‐A   Banner-­‐B  

Ad-­‐Impressions   250   160  Klicks   100   80  CTR   40%   50%  

Aus diesem als Will-Rogers-Phänomen bekannten

Effekt, sollte man folgenden Schluss ziehen:

Ohne Drill-Down trifft man

eventuell falsche Entscheidungen!

Page 21: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch gerechnet, falsche Daten

Folie: 21

•  90% der Analysten erstellen ihre Berechnungen in Excel

•  50% alle Excel-Tabellen sind die Basis für Entscheidungen

•  Nur 33% der Kalkulationen sind Dokumentiert

•  Durchschnittliche Lebenszeit eines Excel-Sheets ist 5 Jahre, eine Prüfung der Berechnung $ndet fast nie statt.

•  Geschätzte Verluste jährlich 10 Milliarden US-Dollar

Niels Dahnke – Lügen meine Leistungskennzahlen?

Felienne Hermans

Page 22: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Falsch Visualisieren

Folie: 22 Niels Dahnke – Lügen meine Leistungskennzahlen?

Quelle: www.businessobjects.com

Page 23: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Richtig Visualisieren

Folie: 23 Niels Dahnke – Lügen meine Leistungskennzahlen?

Quelle: www.graphomate.com

Page 24: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 24

Keine Manipulation: Ausgangsdaten

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 25: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 25

Skalen-Manipulation: Zeitraum begrenzen

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 26: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 26

Skalen-Manipulation: höheres Maximum der y-Achse

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 27: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 27

Skalen-Manipulation: niedrigeres Max. auf y-Achse

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 28: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 28

Skalen-Manipulation: Abstände x-Achse

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 29: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 29

Skalen-Manipulation: abgeschnittene y-Achse

Niels Dahnke – Lügen meine Leistungskennzahlen?

Quelle: www.hichert.com

Page 30: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 30

Skalen-Manipulation: zweite y-Achse

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 31: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 31

Skalen-Manipulation: logarithmische Teilung

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 32: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 32

Ausgangsdaten

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 33: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 33

Skalen-Manipulation: logarithmische Teilung

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 34: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 34

Manipulation: Ausgangsdaten

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 35: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 35

Manipulation: Zeitfenster wählen

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 36: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 36

Manipulation: Selektion der Datenpunkte

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 37: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 37

Manipulation: Selektion der Datenpunkte

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 38: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 38

Manipulation: Selektion der Datenpunkte

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 39: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 39

Manipulation: Selektion der Datenpunkte

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 40: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 40

Steigerung in Prozent Sichtbarkeit zu Beginn: 0,0002 – extrem irrelevant Sichtbarkeit am Stichtag: 0,0054 – sehr irrelevant Steigerung um 2.600%

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 41: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Visualisierungs-Tricks

Folie: 41

Steigerung in Prozent Sichtbarkeit zu Beginn: 0,0002 – extrem irrelevant Sichtbarkeit am Stichtag: 0,0054 – sehr irrelevant Steigerung um 2.600%

Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 42: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Wieso können KPIs lügen?

Folie: 42

Typische Datenmanipulationen •  Skalen-Manipulation •  Achsen stauchen / strecken •  Achsen abschneiden •  Datenreihen abschneiden •  Wahl des Zeitfensters •  Darstellungsformen •  Einheiten-Tricks •  Wahl der Vergleichswerte •  Begrenzte Fragestellung •  Stichproben

Niels Dahnke – Lügen meine Leistungskennzahlen?

Abbildung: depositphotos.com

Page 43: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

So prüft man Statistiken

Folie: 43

1.  Sind die Werte für mich überhaupt relevant? 2.  Sind die Zahlen überhaupt ermittelbar? 3.  Visuelle Manipulationen ausschließen. 4.  Vergleichsdaten besorgen und vergleichen. 5.  Ein"ussfaktoren & deren Gewichtung bestimmen. 6.  Nachrechnen mit eigenen Formeln. 7.  Daten hinter den Gra$ken anfordern. 8.  Was genau werde berechnet? 9.  Querdenken um Fehler zu $nden. 10.  Je höher die Investitionssumme,

desto mehr Zeit für die Prüfung einplanen. Niels Dahnke – Lügen meine Leistungskennzahlen?

Page 44: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

KPIs vs. Firmenpolitik

Folie: 44 Niels Dahnke – Lügen meine Leistungskennzahlen?

Quelle: www.dilbert.com

Page 45: Statistik-Manipulationen: Lügen meine Leistungskennzahlen?

Sie haben noch Fragen?

Niels Dahnke