Читать книгу Haftungsrisiken des automatisierten und autonomen Fahrens - Jonathan Hinze - Страница 8

B. Automatisierung und Autonomie

Während sich die künstliche Intelligenz mit der Frage beschäftigt, welche Qualität das maschinelle Verhalten an den Tag legt und diese „Handlungsqualität“ mit der des Menschen verglichen wird, fragt der Grad der Automatisierung nach dem Umfang des menschlichen Einflusses auf diese Handlungen.33 Das höchste Maß an Automatisierung ist die Autonomie, wobei auch in der Wissenschaft nicht immer ganz trennscharf zwischen den Begrifflichkeiten differenziert wird. Die rechtswissenschaftliche Literatur jedenfalls nimmt die Begrifflichkeit des „autonomen Systems“ bislang eher als selbstverständlich und wenig diskussionswürdig an. Wenn überhaupt wird sie mit der Frage nach der Rechtssubjektivität („e-Person“) verknüpft.34 Sie darf (und sollte) sich dabei der Erkenntnisse anderer wissenschaftlicher Disziplinen bedienen, weil sie schlichtweg auf diese Befunde angewiesen ist.35 So wie sich geltendes Recht oftmals an wissenschaftlichen Tatsachen orientiert,36 so muss auch hier der interdisziplinäre Diskurs berücksichtigt werden.

I. Automatisierung

Unter Automatisierung wird der Einsatz von Automaten verstanden.37 Seinen begrifflichen Ursprung hat der „Automat“ im altgriechischen Adjektiv „automatos“, das „Dinge, die sich von selbst bewegen“ bezeichnet.38 Strenggenommen begann die Automatisierung des Straßenverkehrs damit bereits mit dem Umstieg vom Pferd auf den Verbrennungsmotor.39 Heute verstehen wir unter „automatisch“ für gewöhnlich einen meist computerbasierten Vorgang, der von selbst abläuft und der keine oder nur wenig Überwachung benötigt.40 Die (softwarebasierten) Automaten befolgen dabei ein Computerprogramm und treffen anhand der Vorgaben dieser Software Entscheidungen.41 Automatische Systeme sind daher streng durch den Menschen determiniert. Ihr Verhalten lässt sich jederzeit auf die Software zurückführen, sei es durch Funktion oder Fehlfunktion ebendieser.42

II. Autonomie in Wissenschaft und Technik

„Autonomie“43 assoziieren wir dagegen mit Selbständigkeit und Freiheit von äußerlicher Fremdeinwirkung,44 wobei dieses Verständnis je nach wissenschaftlicher Disziplin ganz unterschiedliche Formen annehmen kann. Nach der Kant’schen Moralphilosophie ist Autonomie Ausdruck moralischer Freiheit, das „oberste Prinzip der Sittlichkeit.“45 Sie ist demzufolge das Handeln nach Maximen, die sich der Mensch selbst auferlegt und dadurch zum „Gesetz“ erhebt. Dieser Selbstgesetzgebung durch moralische Vernunft, die Kant als den „kategorischen Imperativ“ bezeichnet,46 steht ein Zustand der Abhängigkeit von Naturgesetzen gegenüber, der einzig und allein auf dem Prinzip von Ursache und Wirkung basiert, mithin fremdgesteuert ist (Heteronomie).47 Legt man diese Unterscheidung zugrunde, so ist die Existenz von autonomen Maschinen unmöglich. Zwar ist durchaus vorstellbar, dass selbstfahrende Kraftfahrzeuge in Dilemmasituationen zwangsweise zwischen mehreren Handlungsoptionen eine moralische bewertbare Entscheidung treffen müssen; allerdings basiert eine solche Entscheidung nicht auf einem freien Willensentschluss, sondern einzig und allein auf den Vorgaben des – wenn auch intransparenten – Algorithmus.48 Die Reaktion des Fahrzeugs ist also lediglich die naturgesetzliche Folge einer mathematischen Formel, die zu keiner moralischen Abwägung imstande ist.

Von moralischer Wertung gänzlich entkoppelt ist der technische Autonomiebegriff. Autonomie zeichnet sich in der Informatik und den Ingenieurswissenschaften zunächst durch die Fähigkeit aus, hochkomplexe Aufgaben ohne oder nur mit geringfügiger Hilfe durch den Menschen zu bewältigen.49 Bei mobilen Robotern kommt der räumliche Aspekt der Bewegungsfreiheit hinzu, also das Navigieren auch in unbekannter Umgebung ohne menschliche Steuerung.50 Auch das Europäische Parlament hat sich in seinen Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik vom 27.01.2017 für ein technisches Verständnis ausgesprochen.51 Danach ist Autonomie die Fähigkeit, „Entscheidungen zu treffen und diese in der äußeren Welt unabhängig von externer Steuerung oder Einflussnahme umzusetzen.“52

Es zeigt sich, dass das technische Konzept von Autonomie graduell ist. Es fragt nicht im Sinne einer Ausschließlichkeitsentscheidung danach, ob eine Maschine entweder autonom ist oder nicht, sondern in welchem Abhängigkeitsverhältnis sie zur menschlichen Kontrolle steht. Ausgehend von diesem Grundverständnis ist es im Ergebnis durchaus denkbar, dass technische Systeme autonom handeln können. Die menschliche Beherrschbarkeit endet nämlich dort, wo maschinelle Verhaltensweisen ex ante nicht mehr vollständig vorhersehbar und ex post nicht mehr vollständig nachvollziehbar sind.

33 Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-25080; vgl. Simanski, in: VDE, Biomedizinische Technik, S. 9. 34 Siehe unter § 8 D. 35 Teubner, AcP 2018, 155 (171). 36 Etwa bei emissionsrechtlichen Grenzwertregelungen, Teubner, AcP 2018, 155 (171). 37 Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-250801. 38 Dwds, https://www.dwds.de/wb/Automat. 39 Feldle, Notstandsalgorithmen, S. 49. 40 Vgl. Linke, in: Heinrich/Linke/Glöckler, Grundlagen Automatisierung, S. 2. 41 Voigt, Automatisierung, https://wirtschaftslexikon.gabler.de/definition/automatisierung-27138/version-250801; Kagermann, in: 56. Deutscher Verkehrsgerichtstag, S. XXXIX. 42 Siehe oben unter § 2 A. IV. 43 Der ebenfalls aus dem altgriechischen stammende Begriff „autonomos“ setzt sich zusammen aus „autos“ (selbst) und „nomos“ (Ordnung, Gesetz), Dwds, https://www.dwds.de/wb/autonom; Müller-Hengstenberg/Kirn, Rechtliche Risiken autonomer und vernetzter Systeme, S. 97. 44 Vgl. Nitschke, Verträge unter Beteiligung von Softwareagenten, S. 9; Müller-Hengstenberg/Kirn, Rechtliche Risiken autonomer und vernetzter Systeme, S. 97. 45 Kant, Grundlegung zur Metaphysik der Sitten, S. 68, „Autonomie des Willens ist die Beschaffenheit des Willens, dadurch derselbe ihm selbst (unabhängig von aller Beschaffenheit der Gegenstände des Wollens) ein Gesetz ist. Das Prinzip der Autonomie ist also: nicht anders zu wählen, als so, daß die Maximen seiner Wahl in demselben Wollen zugleich als allgemeines Gesetz mit begriffen sein.“ 46 Vgl. Kant, Grundlegung zur Metaphysik der Sitten, S. 69; Hilgendorf, in: 53. Deutscher Verkehrsgerichtstag, S. 56. 47 Shala, Die Autonomie des Menschen und der Maschine, S. 13; Noller, Die Bestimmung der Freiheit: Kant und das Autonomie-Problem, S. 3; Erhardt/Mona, in: Gless/Seelmann, Intelligente Agenten und das Recht, S. 71. 48 Vgl. Grunwald, SVR 2019, 81 (85). 49 „Autonomous Robots are designed to perform high level tasks on their own, or with very limited external control.“, Bensalem/Gallien/Ingrand/Kahloul/Nguyen, Toward a More Dependable Software Architecture for Autonomous Robots, S. 1; vgl. Lämmel/Cleve, Künstliche Intelligenz, S. 20; Maier, Grundlagen der Robotik, S. 50; Bauer, Elektronische Agenten in der virtuellen Welt, S. 6. 50 Vgl. Maier, Grundlagen der Robotik, S. 50. 51 Das Europäische Parlament weist sogar explizit darauf hin, dass die Autonomie „rein technischer Art“ ist, Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 (INL)), http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html, unter AA; vgl. auch Teubner, AcP 2018, 155 (174); Matthias, Automaten als Träger von Rechten, S. 35; Lohmann, ZRP 2017, 168 (169); Spindler, JZ 2016, 805 (816); Zech, in: Gless/ Seelmann, Intelligente Agenten und das Recht, S. 170; Erhardt/Mona, in: dies., Intelligente Agenten und das Recht, S. 68. 52 Europäisches Parlament, Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015/2103 (INL)), http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_DE.html, unter AA.