Читать книгу Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen - Susanne Mentel - Страница 7

1  Deckblatt

2  Titel

3  Impressum

4  Abkürzungshinweise

5  Vorwort

6  Inhaltsübersicht

7  Erster Teil: Fehlerhafte Predictive Analytic A. Problemaufriss, bisheriger Forschungsstand, Ziel der Arbeit und Gang der Untersuchung I. Allgegenwärtigkeit von Predictive Analytic II. Bisheriger Forschungsstand III. Ziel der Arbeit und Gang der Untersuchung B. Einführung in Predictive Analytic I. Herkunft des Begriffes und Annäherung II. Definition III. Entwicklung von vorhersagenden Analysen 1. Frühe Scoring-Verfahren zur Kriminalitätsbekämpfung 2. Klassisches Kredit-Scoring 3. Erweiterte Scoring-Verfahren IV. Anwendungsbereiche 1. Predictive Analytic ohne Personenbezug a) Predictive Maintenance b) Google Flu Trends 2. Betroffenenbezogene Vorhersagen 3. Einzelne Anwendungsgebiete a) Predictive Analytic zu Marketingzwecken aa) Predictive Analytic zur Neukundengewinnung bb) Predictive Analytic für personalisierte Werbung cc) Predictive Analytic für die Modalitäten der Ansprache dd) Uplift-Modelling b) Predictive Analytic als Kundenbindungsinstrument c) Predictive Analytic im Dynamic Pricing d) Predictive Analytic zur Arbeitnehmerbewertung e) Predictive Analytic zur Tarifierung und Risikoeinschätzung bei Versicherungen f) Predictive Analytic zur Betrugsbekämpfung g) Predictive Analytic zur Verbrechensvorhersage h) Predictive Analytic zur umfassenden Verhaltenseinschätzung V. Eingrenzung auf Unternehmen VI. Der Unterschied zwischen internen und externen Predictive Analytic C. Technische Grundlagen I. Daten als Ausgangsbasis 1. Interne Datenquellen 2. Externe Datenquellen 3. Öffentlich zugängliche Daten 4. Größe 5. Personenbezug 6. Struktur 7. Verfügbarkeit II. Verortung der Analyse-Software III. Strukturierung, Aufbereitung und Datenbewertung IV. Data Mining und Klassifizierung V. Übertragung der Modelle auf neue Daten VI. Predictive Model VII. Bedeutung von Machine Learning VIII. Predictive Analytic im eigentlichen Sinne D. Fehlerhafte Predictive Analytic-Ergebnisse I. Zur Fehlerhaftigkeit von Wahrscheinlichkeitsaussagen II. Weiteres Vorgehen III. Mögliche Ursachen fehlerhafter Predictive Analytic 1. Fehlerhafte Datengrundlage a) Vernachlässigung der Datenqualität bei Big Data-Analysemethoden b) Bestimmung fehlerhafter Daten c) Fazit für Bestimmung fehlerhafter Daten d) Arten von Datenfehlern aa) Datenfehler im technischen Sinne bb) Datenfehler im inhaltlichen Sinne 2. Fehlerhafte Software 3. Fehlerhaftes Endergebnis aufgrund Black Box-Phänomen IV. Mögliche Folgen einer fehlerhaften Predictive Analytic 1. Abgrenzung zu rein internen Zwecken 2. Marketing und Kundenbindung 3. Dynamic Pricing 4. Analyse von Arbeitnehmerverhalten 5. Vorhersage von Schadensrisiken 6. Umfassende Verhaltensbewertungen des Einzelnen 7. Auswirkungen von Predictive Analytic auf grundrechtlich geschützte Positionen V. Grundsätzliche Ersatzfähigkeit der Nachteile der Betroffenen 1. Ersatzfähigkeit im Ergebnis vs. grundsätzliche Ersatzfähigkeit 2. Bestimmung des ersatzfähigen Schadens a) Ausgangsproblem b) Die Schadenskategorien Vermögens- und Nichtvermögensschaden 3. Einteilung der Folgen von fehlerhaften Predictive Analytic-Ergebnissen a) Vermögensschäden aa) Zahlung eines höheren Preises bb) Abschluss zu schlechteren Konditionen cc) Vorenthaltung von Vergünstigungen dd) Verweigerung eines Vertragsabschlusses ee) Personen- und Sachschäden b) Nichtvermögensschäden 4. Folgerung für das weitere Vorgehen 5. Ersatzfähigkeit finanzieller und immaterieller Schäden im Zivilrecht a) Ersatzfähigkeit finanzieller Schäden aa) Naturalrestitution bb) Besonderheit bei Verweigerung eines Vertrages cc) Ausgleich in Geld b) Ersatzfähigkeit immaterieller Schäden aa) Das Datenschutzrecht als gesetzlich geregelte Ausnahme nach § 253 Abs. 1 BGB bb) Ausnahmeregelung des § 253 Abs. 2 BGB (1) Explizit genannte Rechtsgüter (2) Ersatzfähigkeit bei Verletzungen des Persönlichkeitsrechts (a) Bejahende Rechtsprechung (b) Einschränkende Voraussetzungen eines Ersatzes (c) Konsens bezüglich des Ergebnisses cc) Fazit Ersatzfähigkeit immaterieller Schäden 6. Zwischenergebnis zur grundsätzlichen Ersatzfähigkeit der Nachteile des Betroffenen

8  Zweiter Teil: Haftung für fehlerhafte Predictive Analytic-Ergebnisse gegenüber dem Betroffenen A. Einführung in die Haftung I. Kein bestehendes Haftungsregime für Predictive Analytic II. Der Vorhersagewert als Anknüpfungspunkt der Haftung 1. Predictive Analytic-Ergebnisse als fehlerhafte Informationen über eine Person 2. Fehlerhafte Informationen in der Haftungsdiskussion 3. Fehlendes Haftungskonzept für fehlerhafte Informationen III. Einordnung der weiteren Untersuchung 1. Zielrichtung der Anspruchsprüfung 2. Prüfung nach Anspruchsgrundlagen 3. Unterschiede nach Anspruchsgegnern B. Fehlerhafte Predictive Analytic-Ergebnisse als Verletzung (vor-)vertraglicher Pflichten I. Richtung der Haftung II. Fehlerhafte Predictive Analytic-Ergebnisse als Mangel i.R.d. Gewährleistungsrechts 1. Auswirkung fehlender gesetzlicher Anforderungen an Predictive Analytic 2. Anlehnung an Klassifizierung als fehlerhafte Information a) Rechtsprechung zur Haftung bei Druckwerken b) Schlussfolgerungen für Mängel bei fehlerhaften Informationen 3. Relevanz für Haftung der Akteure einer Predictive Analytic untereinander 4. Relevanz für Ansprüche des Betroffenen 5. Fazit fehlerhaftes Predictive Analytic-Ergebnis als Mangel III. Fehlerhafte Predictive Analytic-Ergebnisse als Nebenpflichtverletzung 1. (Vor-)Vertragliches Rechtsverhältnis 2. Sorgfältige Erstellung eines Predictive Analytic-Ergebnisses als Nebenpflicht a) Rücksichtnahmepflichten aa) Schutz der Rechtsgüter bb) Schutz der Rechte und Interessen (1) Anforderungen des BDSG als objektive Anknüpfungspunkte einer Pflichtverletzung (2) Unsicherheit bezüglich des Bestandes nationaler Datenschutzbestimmungen (3) Vorgaben der DS-GVO als weitere objektive Anknüpfungspunkte einer Pflichtverletzung b) Loyalitätspflichten c) Informations- und Aufklärungspflichten d) Fazit Nebenpflichtverletzung 3. Rücksichtnahmepflichten ohne vertragliche Beziehung 4. Probleme der Beweislast und Verschulden 5. Ersatzfähiger Schaden und Umfang des Ersatzes a) Ersatzfähigkeit nach dem Schutzzweck der Norm b) Ersatz des Integritätsinteresses bei bestehendem Vertragsverhältnis c) Ersatz des Vertrauensschadens bei vorvertraglicher Pflichtverletzung d) Enttäuschtes Vertrauen durch fehlerhafte Predictive Analytic e) Möglichkeiten eines Ersatzes aa) Anspruch auf Rückabwicklung des Vertrages bb) Anspruch auf Anpassung des Vertrages cc) Ausgleich des Mehraufwandes in Geld dd) Kein Anspruch auf Abschluss eines Vertrages C. Fehlerhafte Predictive Analytic-Ergebnisse als Verletzung von Datenschutzrecht I. Richtung der Haftung II. Verstoß gegen die Verordnung 1. Verstoß gegen den Grundsatz der Richtigkeit nach Art. 5 Abs. 1 lit. d) DS-GVO a) Sachliche Richtigkeit aa) Konkretisierung des Begriffes bb) Übertragung auf Daten i.R.v. Predictive Analytic b) Aktualität aa) Abgrenzung von aktuellen und richtigen Daten bb) Einschränkung des Grundsatzes cc) Einklang von Richtigkeit und Aktualität c) Umsetzung des Grundsatzes aa) Pflicht zur aktiven Umsetzung bb) Mögliche Maßnahmen zur Gewährleistung der Datenrichtigkeit cc) Einschränkung auf angemessene Maßnahmen d) Verwendung umfassender Daten aa) Interesse der Predictive Analytic-Anwender bb) Recht auf Vervollständigung cc) Anlehnung an DS-RL dd) Abhängigkeit der Richtigkeit vom Zweck der Verarbeitung e) Fazit 2. Verstoß gegen vorgeschriebene Verfahren sowie gegen die Forderung nach technischen und organisatorischen Maßnahmen a) Verwendung geeigneter mathematischer und statistischer Verfahren aa) Mathematisch-statistische Verfahren nach der DS-GVO bb) Auslegung der Geeignetheit als Fehlerfreiheit? cc) Fazit b) Treffen von technischen und organisatorischen Maßnahmen aa) Sorgfältige Programmierung als technische Maßnahme bb) Weitere Maßnahmen zur Gewährleistung eines ordnungsgemäßen Verfahrens cc) Fazit c) Verstoß gegen Vorschriften des BDSG aa) Das BDSG als Einfallstor einer Haftung nach DS-GVO bb) Verstoß gegen die Vorgaben des § 31 BDSG n.F. (1) Wissenschaftlich anerkanntes mathematisch-statistisches Verfahren (2) Die nachweisbare Erheblichkeit der genutzten Daten (3) Nutzung von Anschriftendaten III. Kausalität des Verstoßes IV. Beweislast nach der DS-GVO V. Exkulpationsmöglichkeit 1. Kein Verantwortungsbereich des Schädigers 2. Einhaltung weiterer Vorschriften der DS-GVO a) Keine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung b) Rechte des Betroffenen bei Profiling c) Weitere Vorschriften der DS-GVO VI. Umfang des Ersatzes 1. Materielle Schäden bei fehlerhaften Predictive Analytic 2. Immaterielle Schäden bei Predictive Analytic D. Fehlerhafte Predictive Analytic-Ergebnisse als Anknüpfungspunkt deliktischer Haftung I. Richtung der Haftung II. Eingeschränkte Schutzgüter nach § 823 Abs. 1 BGB 1. Haftung für Verletzungen des reinen Vermögens 2. Haftung für immaterielle Schäden 3. Die Wirkung fehlerhafter Predictive Analytic auf geschützte Rechte a) Das allgemeine Persönlichkeitsrecht als sonstiges Recht i.R.d. § 823 Abs. 1 BGB b) Das „Recht am eigenen Datenbestand“ als sonstiges Recht i.R.d. § 823 Abs. 1 BGB aa) Anerkennung eines Rechts am Datum als sonstiges Recht bb) Verfügungsbefugnis i.R.d. Zuordnung des Rechts cc) Zuordnung der Daten bei Predictive Analytic dd) Abwehrbefugnisse des Betroffenen gegenüber dem Datenberechtigten ee) Wandlungsbedarf im Hinblick auf ein „Recht des Betroffenen am eigenen Datum“ ff) Fazit für weitere Untersuchung E. Fehlerhafte Predictive Analytic-Ergebnisse als Anknüpfungspunkt einer Haftung nach § 823 Abs. 1 BGB i.V.m. Art. 1 Abs. 1 und 2 Abs. 1 GG I. Kein Ausschluss durch vorrangige Regelung II. Schwerwiegender Eingriff durch fehlerhafte Predictive Analytic 1. Einstufung von mathematisch-statistischen Bewertungen als Werturteile 2. Übertragung auf Predictive Analytic 3. Unzutreffende Tatsachengrundlage als Anknüpfungspunkt einer Verletzung 4. Probleme der Nachweisbarkeit 5. Unzureichende Tatsachengrundlage als Anknüpfungspunkt einer Verletzung 6. Eingriff in Rechte des Betroffenen durch fehlerhafte Verfahren III. Ersatz immaterieller Schäden F. Fehlerhafte Predictive Analytic-Ergebnisse als vorsätzlich sittenwidrige Schädigung nach § 826 BGB G. Fehlerhafte Predictive Analytic-Ergebnisse als Verletzung spezifischer Verkehrssicherungspflichten nach den Grundsätzen der Produzentenhaftung I. Notwendigkeit einer Produzentenhaftung für Predictive Analytic 1. Ansprüche gegen die am Analyseprozess Beteiligten 2. Ansprüche gegen den Hersteller der Predictive Analytic-Software II. Hintergrund der Produzentenhaftung III. Mögliche Rechtsgutverletzungen 1. Vermögen als nicht geschütztes Rechtsgut 2. Anerkennung des Persönlichkeitsrechts als Schutzgut der Produzentenhaftung IV. Mögliche Adressaten einer Haftung 1. Software-Hersteller als Anspruchsgegner 2. Software-Anwender als Anspruchsgegner V. Anwendbarkeit auf Predictive Analytic 1. Anwendbarkeit auf Predictive Analytic-Software a) Anwendbarkeit auf Software allgemein b) Anwendbarkeit auf Predictive Analytic-Software c) Konsequenz für Betroffenen 2. Anwendbarkeit auf Analyseergebnisse in Anlehnung an Themenkreis der fehlerhaften Information a) Software-Anwender als möglicher Anspruchsgegner einer Produzentenhaftung b) Fehlerhafte Analyseergebnisse als Anknüpfungspunkt einer Produzentenhaftung aa) Kriterium der Verkörperung bb) Vermeidung von Wertungswidersprüchen cc) Fehlende Unmittelbarkeit kein Ablehnungskriterium dd) Arbeitsteilige Herstellung als Hauptargument (1) Herstellung eines Druckwerkes (2) Übertragung auf Predictive Analytic ee) Fazit Anwendbarkeit ff) Konsequenz für den Betroffenen VI. Mögliche Verkehrssicherungspflichtverletzungen 1. Abgrenzung der Verantwortungsbereiche von Software-Hersteller und Anwender 2. Verkehrssicherungspflichten des Predictive Analytic-Software-Herstellers a) Fehlerhafte Programmierung der Software aa) Programmierfehler als Fehler der Software bb) Auswirkungen der anerkannten Fehlerhaftigkeit von Software cc) Programmierfehler als Konstruktionsfehler dd) Verkehrssicherungspflichten im Rahmen der Programmierung (1) Herleitung der Pflicht zur Verkehrssicherung (2) Pflichten zur Vermeidung von Programmierfehlern im Einzelnen ee) Erforderlichkeit und Zumutbarkeit ff) Fazit fehlerhafte Programmierung der Software b) Fehlende Implikation einer Fehlererkennungssoftware aa) Unterlassen als Anknüpfungspunkt bb) Einordnung als Konstruktionsfehler cc) Erforderlichkeit einer Fehlererkennungsimplikation (1) Gefährlichkeit von fehlerhaften Predictive Analytic (2) Objektive Erkennbarkeit der Gefahr (3) Keine Berufung auf Entwicklungsfehler (4) Vermeidbarkeit der Gefahr durch Fehlererkennungssoftware (a) Bestimmung des Standes von Wissenschaft und Technik (b) Stand der Technik zu Fehlererkennungssoftware (i) Dublettenbereinigung bei CRM- und ERP-Systemen (ii) Funktionsweise von Dublettenbereinigung (iii) Dublettenbereinigung bei Predictive Analytic-Anwendungen (iv) Stand zu komplexer Fehlererkennungssoftware (v) Auswirkung von Innovationen auf den Stand der Technik (vi) Fazit Stand der Technik zu Fehlererkennungssoftware bei Predictive Analytic (5) Sicherheitserwartung des Verkehrskreises (a) Bestimmung des maßgeblichen Verkehrskreises (b) Anlehnung an die Rechtsprechung zum ProdHaftG (c) Erwartungen der Betroffenen (d) Erwartungen der Predictive Analytic-Anwender dd) Zumutbarkeit einer Implikation ee) Fazit Fehlererkennungssoftware als Verkehrssicherungspflicht des Software-Herstellers c) Instruktionspflicht gegenüber den Anwendern der Predictive Analytic-Software aa) Warnpflicht vor unvermeidbaren Gefahren bb) Legitime Erwartungen an die Software-Anwender cc) Bestimmungswidriger Gebrauch durch Verwendung von Big Data? dd) Auswirkungen fehlender Standards auf Instruktionspflicht d) Fazit Verkehrssicherungspflichten des Software-Herstellers 3. Verkehrssicherungspflichten des Predictive Analytic-Anwenders a) Vermeidung fehlerhafter Ergebnisse als Verkehrssicherung b) Verwendung eines geeigneten Verfahrens c) Pflicht zur Verwendung zutreffender Daten d) Pflicht zur Verwendung einer geeigneten Datengrundlage e) Pflicht zur Kontrolle der Endergebnisse aa) Haftung des Verlegers nach der Entscheidung „Kochsalzlösung“ bb) Kontrolle vs. Echtzeit-Predictive Analytic f) Fazit Verkehrssicherungspflichten des Predictive Analytic-Anwenders VII. Weitere Voraussetzungen, insbesondere des haftungsausfüllenden Tatbestandes VIII. Beweislast und mögliche Erleichterungen zugunsten des Betroffenen 1. Identität von Software-Hersteller und Predictive Analytic-Anwender 2. Nachweis des Verantwortungsbereiches in allen anderen Fällen a) Anscheinsbeweis b) Fehlerkontrolle als Befundsicherungspflicht aa) Befundsicherungspflicht bei Software-Herstellung bb) Befundsicherungspflicht bei Herstellung der Analysen 3. Auswirkungen selbstlernender Elemente von Predictive Analytic auf die Verantwortungszuschreibung IX. Mögliche vom Ersatz erfasste Schäden H. Ergebnisse und Fazit I. Zusammenfassung der Ergebnisse 1. Begrenzt ersatzfähige Schäden 2. Probleme der vertraglichen Haftung 3. Probleme der gewöhnlichen deliktischen Haftung 4. Datenschutzrecht als weitreichende Haftungsmöglichkeit der Zukunft 5. Ansatz einer vielversprechenden Produzentenhaftung a) Einbezug des Persönlichkeitsrechts b) Anwendbarkeit der Produzentenhaftung auf Predictive Analytic-Ergebnisse c) Fehlen von Standards 6. Beweislast als Problem der Rechtsdurchsetzung 7. Auseinandersetzung mit der Forderung einer Gefährdungshaftung für neuartige IT-Systeme II. Fazit

9  Literaturverzeichnis