Читать книгу Todesalgorithmus - Roberto Simanowski - Страница 13

Der Film zum vorliegenden Konflikt zwischen Technik und Moral existiert noch nicht. Denkbar ist ein Streifen, der die Eingangssequenz von Alex Proyas’ dystopischer KI-Sience Fiction I, Robot (2004) ausreizt, wo ein Roboter aus zwei ins Wasser geratenen Autos nicht das Mädchen, sondern den Detektiv Del Spooner rettet, weil die Berechnung für ihn eine größere Überlebenschance ergibt. Unser Blockbuster, nennen wir ihn einfach KI am Steuer, würde diesen Konflikt koppeln mit den Interessen eines Autoherstellers, der seine autonomen Fahrzeuge so programmiert, dass im Unfallfalle immer die Insassen gerettet werden – so jedenfalls das Gerücht, das Käufer und Bürgerrechtler im Film gleichermaßen umtreibt. Das Argument des Autoherstellers hört man auch im wahren Leben: Die Fahrzeuginsassen haben immer eine höhere Überlebenschance als die ‚ungepanzerten‘ Verkehrsteilnehmer und sind zudem immer unschuldig, weil der Unfall nicht vom Bordcomputer verursacht wird, und selbst wenn, die Insassen nicht dafür verantwortlich wären.

Während in unserem Film ein Versicherungsdetektiv namens Spooker die illegale Bevorzugung der eigenen Kunden aufzudecken versucht, gerät der verantwortliche Programmierer der Firma in einen Unfall, der auch seine neunjährige Tochter betrifft, die er von der Schule abholen will. Eine Reihe von Zufällen führt dazu, dass die Tochter plötzlich einige Blocks vor der Schule auf die Straße tritt vor das Auto des Vaters. Das Auto vollzieht eine Vollbremsung, weicht aber nicht aus, um die Kollision mit einem entgegenkommenden Lastwagen zu vermeiden. So muss der Programmierer zusehen, wie sein Auto auf seine Tochter schlittert, die ihn kurz vor dem Aufprall noch erkennt und erschrocken anlächelt. Der Film endet mit dem Bekenntnis des Autoherstellers, dass die Programmierung auf falschen Prinzipien basierte, und dem Schlussbild des Vaters, der, die tote Tochter auf den Armen, aus dem Bild läuft, dorthin, wo es eine bessere Welt gibt.

Die Vorlage dieser Fiktion entstammt durchaus der Realität. So haben in der Rettungsstrategie bei Mercedes-Benz, wie dessen Sicherheitsmanager 2016 erklärte, immer die Insassen Vorrang.⁷ Zum anderen findet man den Ansatz, Algorithmen nach Überlebenschancen reagieren zu lassen, auch im akademischen Diskurs, wenn, in Anlehnung an Asimovs drei Robotergesetze, folgende Grundsätze aufgestellt werden: „1. Ein automatisiertes Fahrzeug sollte nicht mit einem Fußgänger oder Radfahrer zusammenstoßen. 2. Ein automatisiertes Fahrzeug sollte nicht mit einem anderen Fahrzeug zusammenstoßen, es sei denn, das Vermeiden einer solchen Kollision steht mit dem ersten Gesetz in Konflikt. 3. Ein automatisiertes Fahrzeug sollte mit keinem Objekt in der Umgebung zusammenstoßen, es sei denn, das Vermeiden einer solchen Kollision steht mit dem ersten oder zweiten Gesetz in Konflikt.“⁸

Diese Asimov-Variation verkehrt die Prioritätensetzung von Mercedes-Benz und liefert immer zuerst die Insassen der Gefahr aus, indem die Vermeidung einer Kollision mit Fußgängern, Radfahrern und anderen Fahrzeugen Vorrang erhält vor der Kollisionsvermeidung mit einer Mauer. Das richtet sich nicht zuletzt gegen Positionen, wonach das automatisierte Fahrzeug zuerst die Kollision mit einem Verkehrsteilnehmer suchen sollte, der die größeren Chancen hat, den Aufprall zu überleben. Ein solcher Vorschlag klingt zwar plausibel, wenn dann der Mini zugunsten des SUVs verschont bleibt, offenbart jedoch seine moralische Fragwürdigkeit, wenn so der Fahrradfahrer mit statt der ohne Helm zum Kollisionsziel wird.⁹

Die Asimov-Variation formuliert das Dilemma in quasi-deontologischer Form, indem sie nicht die Tötung als Mittel der Lebensrettung rechtfertigt, sondern eine Abstufung der Pflicht, nicht zu töten – beziehungsweise Kollisionen zu vermeiden – vornimmt. Ob das eine akzeptable Lösung im Rahmen der deontologischen Ethik ist, bleibt sicher fraglich. Gewiss aber ist es eine bedenkenswerte Alternative zum Modus der Enthaltung, der darauf hinausläuft, das Auto im Ernstfall sowenig vom Wege abzubringen wie die Straßenbahn im Trolley-Fall.

Die Hersteller selbst entziehen sich noch der eigentlichen Diskussion und konzentrieren sich ganz auf technische Herausforderungen oder gesetzliche Rahmenbedingungen. Sie bewegt nicht das kantische Instrumentalisierungsverbot, sondern die Aussicht, KI-Systemen den Status einer juristischen Person zu geben, vergleichbar den Klöstern im Mittelalter und der aktuellen Regelung bei Unternehmen und Vereinen. Dies würde erlauben, Roboter – und Algorithmen als deren körperlose Verwandte – im Fall einer Funktionsstörung und Gefährdung ihrer Umwelt direkt für ihr Handeln haftbar zu machen, und jene entlasten, die diese Roboter bauen und einsetzen. Natürlich kann man eine KI schlecht zur Verantwortung ziehen oder mit der Androhung von Gefängnis- und Todesstrafe – in Form einer temporären oder endgültigen Abschaltung etwa – zu gesetzeskonformem Handeln zwingen. Aber man kann Geldstrafen verhängen, die aus der gesetzlich vorgeschriebenen Haftpflichtversicherung dieser KI zu begleichen sind. Das wäre, so die Befürworter, pragmatischer als die viel zu komplizierte und oft kaum zu klärende Frage, wer im komplexen Produktionsund Einsatzprozess der KI die Verantwortung für einen Schadensfall übernehmen soll. Die Gegner kritisieren die darin enthaltene Akzeptanz des Black-Box-Paradigmas und Unberechenbarkeitsprinzips und bestehen auf der Rekonstruktion von Verantwortlichkeiten.¹⁰

Die einfachste Variante, das beschriebene ethische Dilemma zu lösen, besteht darin, es zu leugnen. Die Argumentation lautet dann: Wenn selbstfahrende Autos im Ernstfall Zeit für die Entscheidung über Leben und Tod haben, haben sie auch Zeit, rechtzeitig zu bremsen, zumal sie ja streng zum risikoarmen Fahren programmiert werden. Dieser Ausblick ist so schön und betrügerisch wie die Happy End-Variante im Film: Die Passagiere überrumpeln rechtzeitig die Terroristen, das Mädchen kann kurz vor dem Drohneneinschlag noch gerettet werden, das selbstfahrende Auto stoppt gerade rechtzeitig vor dem Jungen, der seinem Ball hinterherrennt. Dieses Szenarium ist erst glaubhaft, wenn es bis zu seiner panoptischen Konsequenz gedacht wird. Die Annahme, dass die Technik so gut sein wird, dass es keine Unfälle mehr gibt, setzt voraus, dass nur noch Technik am Verkehr teilnimmt. Das ließe sich leicht dadurch erreichen, dass auch alle Fahrradfahrer und Fußgängerinnen über ein Verortungssignal vernetzt sind und so alle Bewegungsprozesse sich genau beobachten lassen und Warnsignale oder Bremsbefehle ausgelöst werden können, wenn zwei Positionskoordinaten das Abstandslimit unterschreiten. Eine Fiktion, die durchaus in der Logik der technischen Möglichkeiten liegt.¹¹

Glaubhaft ist auch der Einwand, dass der Bordcomputer gar keine Zeit haben wird, die vorliegenden Handlungsoptionen wirklich zu bedenken und sich bewusst für eine zu entscheiden. In diesem Fall vermeidet man das Dilemma nicht durch Über-, sondern Unterschätzung der technischen Fähigkeiten. Beides befriedigt nicht, denn beides blockiert eine Diskussion, die zu führen ist, und zwar unabhängig von pedantischen Zweifeln daran, dass die Technik den für das Dilemma nötigen Entwicklungsstand schon erreicht habe. In diesem Sinne sei zur Vermutung ermuntert, dass, in Zeiten von G6-Internet und Quantencomputing, das Auto einmal schneller wird Daten verarbeiten als die Schwerkraft überwinden können. Dies wird ein Wissen generieren, das die Abstraktheit des Weichensteller-Dilemmas durch jene Komplexität ersetzt, die in der Moral Machine angelegt ist.

Gehen wir von folgendem Fall in einer nicht allzu fernen Zukunft aus: Ein Junge rennt mit einem Drachen auf die Straße, direkt vor einen autonom fahrenden Mercedes. Der Bordcomputer weiß durch Gesichtserkennung und Data Mining im Internet in Sekundenbruchteilen, dass die Ärzte der Frau am Straßenrand noch eine Lebenserwartung von zehn Monaten geben, dass der Fahrradfahrer neben der Frau zwei kleine Kinder hat, dass ein weiterer Passant und potenzielles Kollisionsziel das einzig verbliebene Kind seiner pflegebedürftigen Mutter ist und dass die Ausweichrichtung, in der sich kein Mensch befindet, über das gebrechliche Brückengeländer auf ein Bahngleis in 50 Meter Tiefe führt. Der Bordcomputer, der künftige Generationen sowie Tiere in die utilitaristische Schmerzbilanz einbezieht, kennt natürlich auch den ökologischen Fußabdruck der Beteiligten (die Frau ist keine Vegetarierin, der Fahrradfahrer Vielflieger) sowie ihre Likes, Shares und Kommentare in den sozialen Netzwerken …¹²