Читать книгу Predictive Analytic und die Haftung für fehlerhafte Ergebnisse gegenüber betroffenen Einzelpersonen - Susanne Mentel - Страница 60

Einen weiteren Risikofaktor für die Fehleranfälligkeit der Ergebnisse stellen die Verfahren dar, mit denen Predictive Analytic entwickelt werden.200 Grund hierfür kann der automatisierte Ablauf einer Predictive Analytic-Anwendung sein, aber auch die Verwendung von Machine Learning sowie die in Teilen schon verwendeten selbstständig lernenden Algorithmen. Insbesondere der Aspekt des maschinellen Lernens, der häufig einen entscheidenden Einfluss auf die Ergebnisse einer Predictive Analytic nimmt, ist undurchsichtig. Die Funktion der verselbstständigten Generierung neuer Muster erschwert sowohl die Frage danach, welche Daten in die Analyse eingeflossen sind, als auch eine klare Aussage darüber, auf welche Art und Weise das Vorhersageergebnis konkret entstanden ist. Die Verwendung nicht-linearer Systeme kann zudem eine Zuordnung von bestimmten Aktionen, wie die Einspielung neuer Daten, zu einer darauf folgenden Änderung des Vorhersagewertes verhindern. Es tritt dann ein sog. Black Box-Phänomen ein. Bei diesem kann nur festgestellt werden, dass ein Fehler vorliegt, aber nicht nachgewiesen werden, auf welche Ursache dieser zurückzuführen ist. Die in der Folge bestehende Ungewissheit über die Ursachen des fehlerhaften Ergebnisses betrifft sowohl den Anwender einer Predictive Analytic als auch den Hersteller der betreffenden Software selbst.201 Die Ursache eines Black Box-Phänomens kommt jedoch nur für einen Teil von Predictive Analytic in Betracht und setzt voraus, dass diese mit jenen hochkomplexen Techniken erstellt wurden. Bei einfacheren Analyseformen, bei denen keine selbstständig lernenden Algorithmen angewandt wurden, sind nur die beiden übrigen Ursachen als Fehlerquelle in Betracht zu ziehen.