Jedes Unternehmen verfügt über Kundendaten. Die Frage ist: Geht es damit auf juristisch und ethische einwandfrei Weise um? Angesichts immer strengerer Datenschutzvorschriften ist sie für jedes Unternehmen relevant.
Egal ob Sie Datenanalyse eher nach Gefühl oder durch ein Team von Data Scientists betreiben: Ihre Ergebnisse sollten zu besseren Entscheidungen und effizienteren Geschäftsprozessen beitragen – und damit zu besserer Unternehmensleistung und mehr Erfolg. Das funktioniert nur, wenn Ihre Datenanalyse juristische Fallstricke und ethische Zwickmühlen vermeidet.
Kenne deinen Kunden – aber bitte mit Maß und Ziel
Kundendaten sind nicht nur ein Treibstoff für Ihren Erfolg – ihre Analyse birgt auch Zündstoff, wenn man gewisse Grenzen überschreitet. Ein Beispiel für eine Grenzüberschreitung lieferte der US-Einzelhandelsriese Target, dem es 2012 gelang, mithilfe von Data Mining die Schwangerschaft von Kundinnen vorherzusagen, die diesen Zustand selbst noch nicht öffentlich kundgetan hatten.
Kritisch sind Ergebnisse dann, wenn sie einzelne Personen nachhaltig oder größere Gruppen marginal beeinflussen – Vorsicht ist also immer geboten. Eine Datenanalyse beeinflusst die Kreditwürdigkeit eines Kunden? Kritisch. Eine Datenanalyse soll das Wahlverhalten bestimmter Bevölkerungsteile beeinflussen (wie im Falle des Skandals um Facebook/Cambridge Analytica im Jahre 2016)? Erst recht kritisch.
Doch nicht nur die Ergebnisse von Datenanalysen, auch deren Methoden können problematisch sein und ein schlechtes Licht auf den Urheber und seine „Marke“ werfen. So kennzeichnete vor einigen Jahren eine Google-Bilderkennungs-KI Menschen fälschlicherweise als Gorillas, und ein von Amazon entwickelter Algorithmus zur Einstellung von Personal entwickelte eine deutlich erkennbare geschlechtsspezifische Voreingenommenheit. Prompt begann die EU über ein Verbot von KI für bestimmte Einsatzbereiche nachzudenken, etwa für die Massenüberwachung oder die Überprüfung der Kreditwürdigkeit von Privatpersonen.
Doch auch ohne derartige Verbote zwingt schon die Datenschutz-Grundverordnung (DSGVO) zu einem hohen Maß an Transparenz, indem sie Verbrauchern u. a. ein "Recht auf Erklärung" zubilligt, wann immer sie von automatisierten Entscheidungen betroffen sind.
Ethisch währt am längsten
Unabhängig von allen Vorschriften haben Data Scientists längst begonnen, Regelwerke für einen ethisch korrekten Umgang mit persönlichen Daten zu entwickeln und zu veröffentlichen. Wer Kundendaten systematisch auswerten möchte, sollte sich rechtzeitig damit befassen.
Google, die EU, die UN und zahlreiche andere haben ethische Leitlinien veröffentlicht, die bei der Arbeit mit Daten und ihrer Analyse wertvolle Orientierung bieten können. Eine Metastudie über Dutzende solcher Leitlinien definiert dabei als „Ethik-Kernpunkte“ die Bereiche: 1) Datenschutz, 2) Sicherheit, 3) Transparenz (inklusive Rechenschaftspflicht und Erklärbarkeit) 4) Fairness/Nichtdiskriminierung.
Ein Leitfaden für Ihren Erfolg
IG&H hat diese Punkte zu einem Ethical Risk Quick Scan zusammengefasst. Er hilft Ihnen, sensible Bereiche zu erkennen und mögliche Risiken zu bewerten. Der Scan besteht aus einer Reihe von Fragen, wie zum Beispiel: „Werden Sie die Daten nutzen, um Entscheidungen zu treffen, die potenziell Einfluss auf die finanzielle Situation einer als gefährdet geltenden Bevölkerungsgruppe haben? Wenn ja, wie könnte sich das auf deren persönliches Verhalten auswirken? Und wie lange wird es dauern, bis Sie messen können, ob der Algorithmus einen unerwünschten Effekt verursacht?
In unserem nächsten Blog zum Thema ethische Datenanalyse werden wir etwas tiefer in den Ethical Risk Quick Scan eintauchen und aufzeigen, wie der Scan ihnen dabei hilft, potenzielle Probleme im Zuge Ihrer Datenanalyse von vorneherein zu entschärfen.
Kontakt
Mando Rotman
Autor
Tom Jongen
Comments