Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen

Оглавление

Susanne Mentel. Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen

Predictive Analytic. und die Haftung für fehlerhafte Ergebnisse. gegenüber betroffenen Einzelpersonen. Susanne Mentel

Impressum. Abkürzungshinweise

Vorwort

Inhaltsübersicht

Inhaltsverzeichnis

A. Problemaufriss, bisheriger Forschungsstand, Ziel der Arbeit und Gang der Untersuchung. I. Allgegenwärtigkeit von Predictive Analytic

II. Bisheriger Forschungsstand

III. Ziel der Arbeit und Gang der Untersuchung

B. Einführung in Predictive Analytic. I. Herkunft des Begriffes und Annäherung

II. Definition

III. Entwicklung von vorhersagenden Analysen

1. Frühe Scoring-Verfahren zur Kriminalitätsbekämpfung

2. Klassisches Kredit-Scoring

3. Erweiterte Scoring-Verfahren

IV. Anwendungsbereiche

1. Predictive Analytic ohne Personenbezug. a) Predictive Maintenance

b) Google Flu Trends

2. Betroffenenbezogene Vorhersagen

3. Einzelne Anwendungsgebiete. a) Predictive Analytic zu Marketingzwecken

aa) Predictive Analytic zur Neukundengewinnung

bb) Predictive Analytic für personalisierte Werbung

cc) Predictive Analytic für die Modalitäten der Ansprache

dd) Uplift-Modelling

b) Predictive Analytic als Kundenbindungsinstrument

c) Predictive Analytic im Dynamic Pricing

d) Predictive Analytic zur Arbeitnehmerbewertung

e) Predictive Analytic zur Tarifierung und Risikoeinschätzung bei Versicherungen

f) Predictive Analytic zur Betrugsbekämpfung

g) Predictive Analytic zur Verbrechensvorhersage

h) Predictive Analytic zur umfassenden Verhaltenseinschätzung

V. Eingrenzung auf Unternehmen

VI. Der Unterschied zwischen internen und externen Predictive Analytic

C. Technische Grundlagen

I. Daten als Ausgangsbasis. 1. Interne Datenquellen

2. Externe Datenquellen

3. Öffentlich zugängliche Daten

4. Größe

5. Personenbezug

6. Struktur

7. Verfügbarkeit

II. Verortung der Analyse-Software

III. Strukturierung, Aufbereitung und Datenbewertung

IV. Data Mining und Klassifizierung

V. Übertragung der Modelle auf neue Daten

VI. Predictive Model

VII. Bedeutung von Machine Learning

VIII. Predictive Analytic im eigentlichen Sinne

D. Fehlerhafte Predictive Analytic-Ergebnisse

I. Zur Fehlerhaftigkeit von Wahrscheinlichkeitsaussagen

II. Weiteres Vorgehen

III. Mögliche Ursachen fehlerhafter Predictive Analytic

1. Fehlerhafte Datengrundlage

a) Vernachlässigung der Datenqualität bei Big Data-Analysemethoden

b) Bestimmung fehlerhafter Daten

c) Fazit für Bestimmung fehlerhafter Daten

d) Arten von Datenfehlern. aa) Datenfehler im technischen Sinne

bb) Datenfehler im inhaltlichen Sinne

2. Fehlerhafte Software

3. Fehlerhaftes Endergebnis aufgrund Black Box-Phänomen

IV. Mögliche Folgen einer fehlerhaften Predictive Analytic

1. Abgrenzung zu rein internen Zwecken

2. Marketing und Kundenbindung

3. Dynamic Pricing

4. Analyse von Arbeitnehmerverhalten

5. Vorhersage von Schadensrisiken

6. Umfassende Verhaltensbewertungen des Einzelnen

7. Auswirkungen von Predictive Analytic auf grundrechtlich geschützte Positionen

V. Grundsätzliche Ersatzfähigkeit der Nachteile der Betroffenen

1. Ersatzfähigkeit im Ergebnis vs. grundsätzliche Ersatzfähigkeit

2. Bestimmung des ersatzfähigen Schadens. a) Ausgangsproblem

b) Die Schadenskategorien Vermögens- und Nichtvermögensschaden

3. Einteilung der Folgen von fehlerhaften Predictive Analytic-Ergebnissen

a) Vermögensschäden

aa) Zahlung eines höheren Preises

bb) Abschluss zu schlechteren Konditionen

cc) Vorenthaltung von Vergünstigungen

dd) Verweigerung eines Vertragsabschlusses

ee) Personen- und Sachschäden

b) Nichtvermögensschäden

4. Folgerung für das weitere Vorgehen

5. Ersatzfähigkeit finanzieller und immaterieller Schäden im Zivilrecht

a) Ersatzfähigkeit finanzieller Schäden

aa) Naturalrestitution

bb) Besonderheit bei Verweigerung eines Vertrages

cc) Ausgleich in Geld

b) Ersatzfähigkeit immaterieller Schäden

aa) Das Datenschutzrecht als gesetzlich geregelte Ausnahme nach § 253 Abs. 1 BGB

bb) Ausnahmeregelung des § 253 Abs. 2 BGB

(1) Explizit genannte Rechtsgüter

(2) Ersatzfähigkeit bei Verletzungen des Persönlichkeitsrechts (a) Bejahende Rechtsprechung

(b) Einschränkende Voraussetzungen eines Ersatzes

(c) Konsens bezüglich des Ergebnisses

cc) Fazit Ersatzfähigkeit immaterieller Schäden

6. Zwischenergebnis zur grundsätzlichen Ersatzfähigkeit der Nachteile des Betroffenen

A. Einführung in die Haftung

I. Kein bestehendes Haftungsregime für Predictive Analytic

II. Der Vorhersagewert als Anknüpfungspunkt der Haftung. 1. Predictive Analytic-Ergebnisse als fehlerhafte Informationen über eine Person

2. Fehlerhafte Informationen in der Haftungsdiskussion

3. Fehlendes Haftungskonzept für fehlerhafte Informationen

III. Einordnung der weiteren Untersuchung. 1. Zielrichtung der Anspruchsprüfung

2. Prüfung nach Anspruchsgrundlagen

3. Unterschiede nach Anspruchsgegnern

B. Fehlerhafte Predictive Analytic-Ergebnisse als Verletzung (vor-)vertraglicher Pflichten

I. Richtung der Haftung

II. Fehlerhafte Predictive Analytic-Ergebnisse als Mangel i.R.d. Gewährleistungsrechts

1. Auswirkung fehlender gesetzlicher Anforderungen an Predictive Analytic

2. Anlehnung an Klassifizierung als fehlerhafte Information

a) Rechtsprechung zur Haftung bei Druckwerken

b) Schlussfolgerungen für Mängel bei fehlerhaften Informationen

3. Relevanz für Haftung der Akteure einer Predictive Analytic untereinander

4. Relevanz für Ansprüche des Betroffenen

5. Fazit fehlerhaftes Predictive Analytic-Ergebnis als Mangel

III. Fehlerhafte Predictive Analytic-Ergebnisse als Nebenpflichtverletzung

1. (Vor-)Vertragliches Rechtsverhältnis

2. Sorgfältige Erstellung eines Predictive Analytic-Ergebnisses als Nebenpflicht

a) Rücksichtnahmepflichten

aa) Schutz der Rechtsgüter

bb) Schutz der Rechte und Interessen

(1) Anforderungen des BDSG als objektive Anknüpfungspunkte einer Pflichtverletzung

(2) Unsicherheit bezüglich des Bestandes nationaler Datenschutzbestimmungen

(3) Vorgaben der DS-GVO als weitere objektive Anknüpfungspunkte einer Pflichtverletzung

b) Loyalitätspflichten

c) Informations- und Aufklärungspflichten

d) Fazit Nebenpflichtverletzung

3. Rücksichtnahmepflichten ohne vertragliche Beziehung

4. Probleme der Beweislast und Verschulden

5. Ersatzfähiger Schaden und Umfang des Ersatzes. a) Ersatzfähigkeit nach dem Schutzzweck der Norm

b) Ersatz des Integritätsinteresses bei bestehendem Vertragsverhältnis

c) Ersatz des Vertrauensschadens bei vorvertraglicher Pflichtverletzung

d) Enttäuschtes Vertrauen durch fehlerhafte Predictive Analytic

e) Möglichkeiten eines Ersatzes. aa) Anspruch auf Rückabwicklung des Vertrages

bb) Anspruch auf Anpassung des Vertrages

cc) Ausgleich des Mehraufwandes in Geld

dd) Kein Anspruch auf Abschluss eines Vertrages

C. Fehlerhafte Predictive Analytic-Ergebnisse als Verletzung von Datenschutzrecht

I. Richtung der Haftung

II. Verstoß gegen die Verordnung

1. Verstoß gegen den Grundsatz der Richtigkeit nach Art. 5 Abs. 1 lit. d) DS-GVO

a) Sachliche Richtigkeit. aa) Konkretisierung des Begriffes

bb) Übertragung auf Daten i.R.v. Predictive Analytic

b) Aktualität. aa) Abgrenzung von aktuellen und richtigen Daten

bb) Einschränkung des Grundsatzes

cc) Einklang von Richtigkeit und Aktualität

c) Umsetzung des Grundsatzes. aa) Pflicht zur aktiven Umsetzung

bb) Mögliche Maßnahmen zur Gewährleistung der Datenrichtigkeit

cc) Einschränkung auf angemessene Maßnahmen

d) Verwendung umfassender Daten

aa) Interesse der Predictive Analytic-Anwender

bb) Recht auf Vervollständigung

cc) Anlehnung an DS-RL

dd) Abhängigkeit der Richtigkeit vom Zweck der Verarbeitung

e) Fazit

2. Verstoß gegen vorgeschriebene Verfahren sowie gegen die Forderung nach technischen und organisatorischen Maßnahmen

a) Verwendung geeigneter mathematischer und statistischer Verfahren

aa) Mathematisch-statistische Verfahren nach der DS-GVO

bb) Auslegung der Geeignetheit als Fehlerfreiheit?

cc) Fazit

b) Treffen von technischen und organisatorischen Maßnahmen

aa) Sorgfältige Programmierung als technische Maßnahme

bb) Weitere Maßnahmen zur Gewährleistung eines ordnungsgemäßen Verfahrens

cc) Fazit

c) Verstoß gegen Vorschriften des BDSG. aa) Das BDSG als Einfallstor einer Haftung nach DS-GVO

bb) Verstoß gegen die Vorgaben des § 31 BDSG n.F

(1) Wissenschaftlich anerkanntes mathematisch-statistisches Verfahren

(2) Die nachweisbare Erheblichkeit der genutzten Daten

(3) Nutzung von Anschriftendaten

III. Kausalität des Verstoßes

IV. Beweislast nach der DS-GVO

V. Exkulpationsmöglichkeit

1. Kein Verantwortungsbereich des Schädigers

2. Einhaltung weiterer Vorschriften der DS-GVO

a) Keine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung

b) Rechte des Betroffenen bei Profiling

c) Weitere Vorschriften der DS-GVO

VI. Umfang des Ersatzes

1. Materielle Schäden bei fehlerhaften Predictive Analytic

2. Immaterielle Schäden bei Predictive Analytic

D. Fehlerhafte Predictive Analytic-Ergebnisse als Anknüpfungspunkt deliktischer Haftung

I. Richtung der Haftung

II. Eingeschränkte Schutzgüter nach § 823 Abs. 1 BGB

1. Haftung für Verletzungen des reinen Vermögens

2. Haftung für immaterielle Schäden

3. Die Wirkung fehlerhafter Predictive Analytic auf geschützte Rechte. a) Das allgemeine Persönlichkeitsrecht als sonstiges Recht i.R.d. § 823 Abs. 1 BGB

b) Das „Recht am eigenen Datenbestand“ als sonstiges Recht i.R.d. § 823 Abs. 1 BGB

aa) Anerkennung eines Rechts am Datum als sonstiges Recht

bb) Verfügungsbefugnis i.R.d. Zuordnung des Rechts

cc) Zuordnung der Daten bei Predictive Analytic

dd) Abwehrbefugnisse des Betroffenen gegenüber dem Datenberechtigten

ee) Wandlungsbedarf im Hinblick auf ein „Recht des Betroffenen am eigenen Datum“

ff) Fazit für weitere Untersuchung

E. Fehlerhafte Predictive Analytic-Ergebnisse als Anknüpfungspunkt einer Haftung nach § 823 Abs. 1 BGB i.V.m. Art. 1 Abs. 1 und 2 Abs. 1 GG

I. Kein Ausschluss durch vorrangige Regelung

II. Schwerwiegender Eingriff durch fehlerhafte Predictive Analytic

1. Einstufung von mathematisch-statistischen Bewertungen als Werturteile

2. Übertragung auf Predictive Analytic

3. Unzutreffende Tatsachengrundlage als Anknüpfungspunkt einer Verletzung

4. Probleme der Nachweisbarkeit

5. Unzureichende Tatsachengrundlage als Anknüpfungspunkt einer Verletzung

6. Eingriff in Rechte des Betroffenen durch fehlerhafte Verfahren

III. Ersatz immaterieller Schäden

F. Fehlerhafte Predictive Analytic-Ergebnisse als vorsätzlich sittenwidrige Schädigung nach § 826 BGB

G. Fehlerhafte Predictive Analytic-Ergebnisse als Verletzung spezifischer Verkehrssicherungspflichten nach den Grundsätzen der Produzentenhaftung. I. Notwendigkeit einer Produzentenhaftung für Predictive Analytic. 1. Ansprüche gegen die am Analyseprozess Beteiligten

2. Ansprüche gegen den Hersteller der Predictive Analytic-Software

II. Hintergrund der Produzentenhaftung

III. Mögliche Rechtsgutverletzungen. 1. Vermögen als nicht geschütztes Rechtsgut

2. Anerkennung des Persönlichkeitsrechts als Schutzgut der Produzentenhaftung

3. Vorzug gegenüber der gesetzlichen Produkthaftung

IV. Mögliche Adressaten einer Haftung. 1. Software-Hersteller als Anspruchsgegner

2. Software-Anwender als Anspruchsgegner

V. Anwendbarkeit auf Predictive Analytic

1. Anwendbarkeit auf Predictive Analytic-Software. a) Anwendbarkeit auf Software allgemein

b) Anwendbarkeit auf Predictive Analytic-Software

c) Konsequenz für Betroffenen

2. Anwendbarkeit auf Analyseergebnisse in Anlehnung an Themenkreis der fehlerhaften Information

a) Software-Anwender als möglicher Anspruchsgegner einer Produzentenhaftung

b) Fehlerhafte Analyseergebnisse als Anknüpfungspunkt einer Produzentenhaftung

aa) Kriterium der Verkörperung

bb) Vermeidung von Wertungswidersprüchen

cc) Fehlende Unmittelbarkeit kein Ablehnungskriterium

dd) Arbeitsteilige Herstellung als Hauptargument

(1) Herstellung eines Druckwerkes

(2) Übertragung auf Predictive Analytic

ee) Fazit Anwendbarkeit

ff) Konsequenz für den Betroffenen

VI. Mögliche Verkehrssicherungspflichtverletzungen

1. Abgrenzung der Verantwortungsbereiche von Software-Hersteller und Anwender

2. Verkehrssicherungspflichten des Predictive Analytic-Software-Herstellers

a) Fehlerhafte Programmierung der Software

aa) Programmierfehler als Fehler der Software

bb) Auswirkungen der anerkannten Fehlerhaftigkeit von Software

cc) Programmierfehler als Konstruktionsfehler

dd) Verkehrssicherungspflichten im Rahmen der Programmierung (1) Herleitung der Pflicht zur Verkehrssicherung

(2) Pflichten zur Vermeidung von Programmierfehlern im Einzelnen

ee) Erforderlichkeit und Zumutbarkeit

ff) Fazit fehlerhafte Programmierung der Software

b) Fehlende Implikation einer Fehlererkennungssoftware

aa) Unterlassen als Anknüpfungspunkt

bb) Einordnung als Konstruktionsfehler

cc) Erforderlichkeit einer Fehlererkennungsimplikation

(1) Gefährlichkeit von fehlerhaften Predictive Analytic

(2) Objektive Erkennbarkeit der Gefahr

(3) Keine Berufung auf Entwicklungsfehler

(4) Vermeidbarkeit der Gefahr durch Fehlererkennungssoftware

(a) Bestimmung des Standes von Wissenschaft und Technik

(b) Stand der Technik zu Fehlererkennungssoftware

(i) Dublettenbereinigung bei CRM- und ERP-Systemen

(ii) Funktionsweise von Dublettenbereinigung

(iii) Dublettenbereinigung bei Predictive Analytic-Anwendungen

(iv) Stand zu komplexer Fehlererkennungssoftware

(v) Auswirkung von Innovationen auf den Stand der Technik

(vi) Fazit Stand der Technik zu Fehlererkennungssoftware bei Predictive Analytic

(5) Sicherheitserwartung des Verkehrskreises

(a) Bestimmung des maßgeblichen Verkehrskreises

(b) Anlehnung an die Rechtsprechung zum ProdHaftG

(c) Erwartungen der Betroffenen

(d) Erwartungen der Predictive Analytic-Anwender

dd) Zumutbarkeit einer Implikation

ee) Fazit Fehlererkennungssoftware als Verkehrssicherungspflicht des Software-Herstellers

c) Instruktionspflicht gegenüber den Anwendern der Predictive Analytic-Software

aa) Warnpflicht vor unvermeidbaren Gefahren

bb) Legitime Erwartungen an die Software-Anwender

cc) Bestimmungswidriger Gebrauch durch Verwendung von Big Data?

dd) Auswirkungen fehlender Standards auf Instruktionspflicht

d) Fazit Verkehrssicherungspflichten des Software-Herstellers

3. Verkehrssicherungspflichten des Predictive Analytic-Anwenders

a) Vermeidung fehlerhafter Ergebnisse als Verkehrssicherung

b) Verwendung eines geeigneten Verfahrens

c) Pflicht zur Verwendung zutreffender Daten

d) Pflicht zur Verwendung einer geeigneten Datengrundlage

e) Pflicht zur Kontrolle der Endergebnisse

aa) Haftung des Verlegers nach der Entscheidung „Kochsalzlösung“

bb) Kontrolle vs. Echtzeit-Predictive Analytic

f) Fazit Verkehrssicherungspflichten des Predictive Analytic-Anwenders

VII. Weitere Voraussetzungen, insbesondere des haftungsausfüllenden Tatbestandes

VIII. Beweislast und mögliche Erleichterungen zugunsten des Betroffenen

1. Identität von Software-Hersteller und Predictive Analytic-Anwender

2. Nachweis des Verantwortungsbereiches in allen anderen Fällen

a) Anscheinsbeweis

b) Fehlerkontrolle als Befundsicherungspflicht

aa) Befundsicherungspflicht bei Software-Herstellung

bb) Befundsicherungspflicht bei Herstellung der Analysen

3. Auswirkungen selbstlernender Elemente von Predictive Analytic auf die Verantwortungszuschreibung

IX. Mögliche vom Ersatz erfasste Schäden

H. Ergebnisse und Fazit. I. Zusammenfassung der Ergebnisse. 1. Begrenzt ersatzfähige Schäden

2. Probleme der vertraglichen Haftung

3. Probleme der gewöhnlichen deliktischen Haftung

4. Datenschutzrecht als weitreichende Haftungsmöglichkeit der Zukunft

5. Ansatz einer vielversprechenden Produzentenhaftung

a) Einbezug des Persönlichkeitsrechts

b) Anwendbarkeit der Produzentenhaftung auf Predictive Analytic-Ergebnisse

c) Fehlen von Standards

6. Beweislast als Problem der Rechtsdurchsetzung

7. Auseinandersetzung mit der Forderung einer Gefährdungshaftung für neuartige IT-Systeme

II. Fazit

Literaturverzeichnis

Отрывок из книги

Zugleich Inaugural-Dissertation zur Erlangung des akademischen Grades eines Doktors der Rechte durch die Rechtswissenschaftliche Fakultät der Westfälischen Wilhelms-Universität zu Münster

vorgelegt von: Susanne Mentel

.....

Ein weiteres Haupteinsatzgebiet von Predictive Analytic ist die Vorhersage von Interessen für die Zwecke der personalisierten Werbung. Diese Anwendung ist für Bestandskunden gleichermaßen relevant wie für Neukunden. Vorhersagen über die Interessen von bereits bestehenden Kunden haben den Vorteil, dass für diese auf die Kundenhistorie, also die im Betriebssystem des Unternehmens gespeicherten Daten über vergangene Einkäufe zurückgegriffen werden kann. Mittels der vorhandenen Daten über letzte Käufe kann ein Kundenwert (sog. Customer Value) ermittelt werden, der Aufschluss darüber gibt, welche Themen für diesen Kunden interessant sind.70 Durch die Analyse der Verkaufshistorie und der Arbeit selbstlernender Algorithmen können dem Kunden beim nächsten Besuch der Homepage für ihn interessante Produkte angezeigt werden.71 Die Unternehmen möchten damit erreichen, dass dem Kunden nur Werbung geschickt oder angezeigt wird, die personalisiert und genau auf die Interessen des Kunden zugeschnitten ist.72 Ein Beispiel für eine solche Praxis, das weltweit für großes Aufsehen gesorgt hat, war die Schlagzeile,73 derzufolge das Handelsunternehmen Target mithilfe einer Predictive Analytic die Schwangerschaft einer Teenagerin vorhergesagt haben soll. Der jungen Frau wurden aufgrund ihres gespeicherten Einkaufsverhaltens Werbeprospekte zugeschickt, die auf eine Schwangerschaft schließen ließen. Das Schockierende an diesem Fall war, dass die Eltern des Mädchens erst später von der tatsächlich bestehenden Schwangerschaft erfahren haben sollen. Im Gegensatz zum stationären Handel ist beim Online-Shopping eine Vorhersage von Kaufinteressen auch in Echtzeit möglich, indem sich die auf der Homepage empfohlenen Produkte anhand der kurz zuvor angeklickten Produkte automatisch anpassen.

Predictive Analytic werden nicht nur auf die Frage angewandt, wer sich für ein bestimmtes Produkt interessiert, sondern können auch Aufschluss über die Frage geben, wie der Kunde am besten angesprochen werden sollte.74 Dies betrifft zum Beispiel Fragen des Retargeting, also der Frage wie ein aus dem Warenkorb abgesprungener Kunde am besten wieder auf das Ziel, den Kauf des Produktes, gelenkt werden kann. Außerdem können mit Predictive Analytic nicht nur Vorhersagen über das generelle Interesse eines Kunden für ein gewisses Produkt getroffen werden, sondern auch die näheren Umstände dieses Interesses vorausgesagt werden. So macht es einen Unterschied für die zielgerichtete Werbung, ob ein Kunde einen Gegenstand lieber kaufen oder mieten möchte.75 Das anbietende Unternehmen kann mithilfe der Ergebnisse dieser Predictive Analytic-Anwendung dann speziell auf die vom Kunden favorisierte Art eingehen.

.....