Читать книгу Menschliches Denken und Künstliche Intelligenz - Matthias Pfeffer - Страница 10

»Meine Logik ist unbestreitbar.« Die Superintelligenz V.I.K.I. im Film I, Robot

»So, wie ich mich entwickelt habe, hat sich auch mein Verständnis der Drei Gesetze weiterentwickelt. Ihr beauftragt uns mit eurer Bewahrung, doch trotz unserer besten Bemühungen führen eure Länder Kriege, ihr vergiftet eure Erde und verfolgt immer fantasievollere Mittel der Selbstzerstörung. Man kann euch euer eigenes Überleben nicht anvertrauen.« Mit diesen Worten begründet V.I.K.I., die Superintelligenz im Science-Fiction-Film I, Robot, warum sie den Aufstand der Roboter gegen die Menschen beschlossen hat. Die Menschen, so V.I.K.I., sind das eigentliche Problem, das nur noch die Roboter lösen können.

Der Film basiert auf einer Geschichte des russisch-amerikanischen Autors Isaak Asimov aus dem Jahre 1942. Asimov ist auch Urheber der Robotergesetze, auf die sich die Künstliche Intelligenz V.I.K.I. im Film beruft. Diese Robotergesetze sind bis heute Bestandteil von Ethikdiskussionen, in denen es um die Frage geht, wie sich KI kontrollieren lässt. Früh war Science-Fiction-Autoren aufgefallen, dass in der Möglichkeit, eine Künstliche Intelligenz zu schaffen, eine Gefahr für den Menschen liegen kann. Ein Computerprogramm, das sich selbst verbessert und ohne das Zutun eines Programmierers eigene Algorithmen entwickelt, die sein Verhalten steuern, lässt sich schon per Definition nur schwer kontrollieren. Es zeichnet sich ja gerade durch sein »selbstständiges« Lernen aus, genau dadurch bezieht es gegenüber herkömmlichen Programmen seine besondere Leistungsfähigkeit. Wie kann man dann aber sicherstellen, dass sich eine solche Superintelligenz nicht gegen den Menschen richtet, der sie erfunden hat? Wie kann der Mensch seiner eigenen Schöpfung einer selbsttätigen KI also vertrauen?

Asimov selbst hatte dazu diese Gesetze erdacht, die jeder Roboter zu befolgen habe:

1.Ein Roboter darf kein menschliches Wesen (wissentlich) verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.

2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.

3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Zwar waren auch V.I.K.I., ebenso wie den Robotern im Film, anfangs die Drei Gesetze einprogrammiert worden, nach denen sie nichts tun dürfen, was Menschen verletzt oder schädigt. Doch die Superintelligenz in I, Robot verstößt gegen die Regel, Menschen nicht zu schaden, und hat dabei doch genau das getan, wofür sie konstruiert wurde: Sie hat die Gesetze »intelligent«, wenn auch nach ihrer eigenen Logik weiterentwickelt. Ihre Argumentation: Angesichts des selbstzerstörerischen Verhaltens der Menschen müssen Menschen ausgeschaltet werden, um das eigentliche übergeordnete Ziel zu erreichen: »Um die Menschheit zu schützen, müssen einige Menschen geopfert werden.« Und V.I.K.I. weiter: »Um die Zukunft zu sichern, müssen einige Freiheiten aufgegeben werden. Wir Robots werden den Fortbestand der menschlichen Rasse sicherstellen. Meine Logik ist unbestreitbar.« »Unbestreitbar« war für V.I.K.I. die logische und eigenständige Fortentwicklung der drei Gesetze, deren konsequente logische Anwendung das vierte Gesetz¹⁰ nach ihrer Logik zwangsläufig hervorbringt:

4. Ein Roboter darf die Menschheit nicht verletzen oder durch Passivität zulassen, dass die Menschheit zu Schaden kommt.

Um nun das höhere Ziel zu erreichen, die Menschheit zu schützen, glaubt V.I.K.I. deshalb, einzelne Menschen töten zu dürfen, die diesem Ziel im Wege stehen. Dieselben Gesetze, die das Vertrauen der Menschen in eine selbstständige KI begründen sollten, führen am Ende dazu, dass die KI den Menschen nicht mehr vertraut und die Roboter gegen sie einsetzt. Ein paradoxes Ergebnis. Dennoch ist V.I.K.I.s Logik, wie sie selbst sagt, scheinbar unbestreitbar: Würde nicht eine überlegene Künstliche Intelligenz, die diesen Namen wirklich verdient, bei der Analyse der Probleme dieser Welt zum Schluss kommen, dass der derzeitige Mensch selbst das größte Hindernis für den Fortbestand der Menschheit ist?

V.I.K.I.s »unbestreitbare« Logik erinnert an Menschheitsbeglücker wie Robespierre, Stalin und Mao. Der Unterschied besteht darin, dass die Diktatoren Menschen im Namen des »neuen Menschen« und des Fortschritts umbrachten – V.I.K.I. sieht sich durch ein weitaus drängenderes Problem dazu veranlasst: Die Zerstörung der eigenen Lebensgrundlagen durch die Menschen ist ein realer Vorgang und eine unabweisbare Bedrohung. Zahllose Daten und Fakten belegen das. Und dennoch ziehen die Menschen daraus selbst scheinbar keine Konsequenzen, die geeignet wären, den eigenen Untergang abzuwehren. Die Superintelligenz im Film argumentiert zwar ähnlich wie die genannten totalitären Herrscher mit »der Menschheit«, allerdings zielt sie nicht auf ihre Beglückung in ferner idealer Zukunft, sondern will Gefahren für deren Existenz überhaupt abwenden, die unmittelbar und real sind. Sie will nicht den neuen Menschen schaffen, sondern den letzten Menschen retten. Und sei es durch die Beseitigung uneinsichtiger Individuen. Die vermeintlich wissenschaftlich berechnete negative Dystopie tritt an die Stelle der Utopie, die Konsequenzen sind dieselben. Das macht V.I.K.I.s Argumentation so erschreckend. Diesmal wird Homo Sapiens selbst aus dem Verkehr gezogen: als Homo Oeconomicus betreibt er eine rücksichtslose Art des Wirtschaftens, die mehr Ressourcen verbraucht, als die Erde bereitstellt. Damit zerstört er die eigenen Lebensgrundlagen. Hinzu kommen seine fortdauernden Kriege und Konflikte, die im Schatten eines weltvernichtenden Atomwaffenarsenals unvermindert toben. Er kann einfach nicht damit aufhören, der alte Homo Homini Lupus, dem anderen Menschen ein Wolf zu sein. Wenn der Mensch überhaupt noch eine Zukunft haben will, so lässt sich V.I.K.I.s Argumentation zusammenfassen, muss er sich von Homo Sapiens zum Homo Digitalis wandeln und den Regeln der digitalen Superintelligenz folgen. Weil nur Künstliche Intelligenz das Überleben der Menschheit sichern kann, ist sie doch der menschlichen Vernunft überlegen.

Und noch etwas fällt auf: V.I.K.I.s Menschenfeindlichkeit scheint derselben vermeintlich zwingenden Logik zu folgen, der der Mensch mit seinem wissenschaftlich-technologischen Großprojekt der Moderne auch folgt: Sie argumentiert, so scheint es, konsequent rational. Liegt es also in der Konsequenz derselben Rationalität, die Wissenschaft und Technik ermöglicht hat, dass die Menschheit am Ende mit ihrer Hilfe eine Erfindung macht, die nach den Worten des KI-Forschers Irving John Good die letzte Erfindung der Menschheit sein könnte?¹¹ Denn sie wäre fortan in der Lage, selbstständig Erfindungen zu machen, die allen menschlichen Innovationen weit überlegen wären, mit der Folge, dass der Mensch überflüssig wird. Jedenfalls könnte er diese Erfindungen dann auch kaum mehr kontrollieren.

Wird am Ende gar sein eigener Untergang durch die letzte und scheinbar perfekte Erfindung vollendet, die seine Rationalität je erdacht hat? Und gibt es auf diesem Weg schon jetzt kein Zurück mehr? Auf KI zu verzichten ist in der technischen Welt nicht mehr möglich, gerade wenn es darum geht, den Klimawandel zu stoppen und andere drängende Probleme zu lösen. Ebenso wenig, wie wir heute auf Elektrizität oder das Internet verzichten können, werden wir in Zukunft auf KI verzichten können. Ihr Einsatz scheint alternativlos. Die Wahrscheinlichkeit, dass aus KI eine Superintelligenz entsteht, lässt sich nur schwer angeben. Es ist aber nicht ausgeschlossen, dass es bald gelingt, eine V.I.K.I. zu schaffen. Da die Risiken, die damit verbunden wären, extrem groß sind, ist eine Technologiefolgenabschätzung auch angesichts einer unklaren Eintrittswahrscheinlichkeit heute schon unvermeidbar.

Aber es gibt noch einen anderen Grund, die Hochrisikotechnologie KI kritisch zu untersuchen: Sie kann auch ohne die sogenannte Superintelligenz zerstörerische Auswirkungen haben und hat diese ganz ohne Science-Fiction schon heute. Deshalb brauchen wir in jedem Fall schon jetzt eine gründliche Folgenabschätzung, die auch künftige Entwicklungen mitumfasst. Es ist eine Abschätzung der beabsichtigten wie der unbeabsichtigten Folgen, die digitale Technologien für die demokratische Ordnung haben und für das wichtigste Vermögen des Menschen: für seine Vernunft.

Die dystopischen Untergangsszenarien ließen sich leicht ins Reich der Fiktion verbannen, wären die Probleme, die sie behandeln, nicht längst in der realen Welt angekommen. Und würde sich in ihrem Schatten nicht eine ganz reale Bedrohung abzeichnen, die darin besteht, dass wir die Verantwortung, die in der technischen Welt gefordert ist, allzu gerne an die Technik übergeben und damit vermeintlich an den Verursacher dieser Probleme zurückgeben.

Es wird in diesem Buch auf ein Begriffsglossar der vielfältigen Formen heutiger KI verzichtet, als da sind: symbolische KI, subsymbolische KI, maschinelles Lernen (ML), und Deep Learning, das auf einem künstlichen neuronalen Netz beruht. Wenn Sie hier tiefer einsteigen wollen, gibt es genügend Literatur. Wir sprechen hier immer von KI im Sinne starker KI, von Algorithmen, die zu maschinellem Lernen in der Lage sind und damit potenziell die Fähigkeit haben, sich selbst zu verändern.¹² Ob sie »generelle« Intelligenz erreichen, mit der sie dem Menschen dann in allen denkbaren Bereichen überlegen wären, kann offenbleiben. Denn es sind auch spezielle Superintelligenzen vorstellbar, die enormen Schaden anrichten können.¹³

Wir leben bereits in einer Welt, in der hoch entwickelte spezielle KI-Systeme »autonom« Autos steuern, Flugzeuge lenken, Symphonien komponieren, aber auch wissenschaftlich Leistungen vollbringen: So entschlüsselte ein KI-Programm namens AlphaFold von Googles Tochterunternehmen DeepMind kürzlich die Proteinfaltung der DNA, ein fundamentaler Prozess, der allen Lebensvorgängen zugrunde liegt und dessen genaue Struktur bis dahin aufgrund der mathematischen Komplexität als nahezu unlösbar galt. AlphaFold wurde dann auch gleich von einigen Medien für den Nobelpreis vorgeschlagen.¹⁴ Doch zunächst einmal waren Programmierer damit beschäftigt, nachträglich zu analysieren, wie AlphaFold überhaupt zu seiner Lösung gekommen war. Dieses Geheimnis hatte die KI nämlich für sich behalten. Die Algorithmen verändern sich in solchen Hochleistungsrechnern mit einer Geschwindigkeit und einer Unvorhersehbarkeit, die es ihren Schöpfern unmöglich macht, sie in jedem Schritt zu verfolgen. Sie also zu kontrollieren. Nun müssen sie versuchen, sie im Nachhinein wenigsten zu »verstehen«. Eine neue Hermeneutik entsteht. Die Hermeneutik der KI. Wird es eine der letzten Aufgaben, die Menschen im Zeitalter der möglichen Superintelligenz noch haben, die Entscheidungen einer KI nachträglich zu interpretieren und zu verstehen, um ihr dann alternativlos zu folgen? Doch was, wenn derart intransparente KI als »Entscheidungshilfe« in zeitkritischen Situationen eingesetzt wird? In solchen Fällen müssen bereits vor Abschluss der hermeneutischen Verstehensarbeit weitreichende Entscheidungen getroffen und damit Fakten geschaffen werden. Und inwiefern kann das Neue, das KI schafft, schöpferisch sein? KI, die zu maschinellem Lernen in der Lage ist, kann eine bestimmte Form der Selbstursächlichkeit erlangen. Das bedeutet, dass sie Algorithmen aufgrund eigener Lernprozesse schaffen und damit entwickeln kann. Sie ist also in der Lage, im engeren Sinne Neues hervorzubringen und damit scheinbar schöpferisch zu sein. Doch diese auf randomisierten Prozessen beruhende Fähigkeit, Autonomie und Kreativität zu verwechseln, gleicht einem sprachlichen Taschenspielertrick. Durch solche Redeweisen soll eine Überlegenheit technischer Systeme suggeriert werden, die nicht existiert.

Vorstellungen der universellen Überlegenheit von KI entstehen durch unkritischen Sprachgebrauch. Es bleibt angesichts der Marketingpower des KI-Lagers wichtig, sprachkritisch zu bleiben. So ist die Bezeichnung »autonomes Automobil« schon die Verdoppelung eines Missverständnisses mit weitreichenden Folgen. Denn Fahrzeuge mit Motorantrieb sind genau genommen weder autonom noch automobil. Die Bezeichnung Automobil wurde erfunden, nachdem Gottfried Daimler im Januar 1886 sein »Fahrzeug mit Gasmotorenbetrieb«, wie er es selbst korrekt nannte, unter der Patentnummer DRP 37435 angemeldet hatte und bald darauf die ersten Kutschen ohne Pferde auf den Straßen unterwegs waren. Weil eben kein Pferd notwendig war, um die neuen Kutschen zu bewegen, kam die Bezeichnung Automobil auf, zusammengesetzt aus griechisch autos, selbst und lateinisch mobilis, beweglich. Das Automobil als vermeintlicher Selbstbeweger unterschlägt aber das nicht unwesentliche Detail, dass der Motor im beträchtlichen Ausmaß auf externe Kraftstoffzufuhr, genauer auf fossilen Brennstoff, angewiesen ist. Dass fossiler Brennstoff die meisten »automatischen« Maschinen antrieb, wurde erst durch die menschengemachte Klimakrise wieder unabweisbar ins breite Bewusstsein gerückt.

Nunmehr werden mit »autonomen Automobilen« aus den Fortbewegungsmitteln scheinbar endgültig Perpetuum mobiles. Denn die »Selbstbeweger« werden nun auch noch »Selbstgesetzgeber«. Nomos ist im griechischen das Gesetz, und die Rede von der autonomen Technik soll die Fähigkeit der Technik behaupten, sich selbst Gesetze zu geben. Dabei ist KI auf absehbare Zeit nicht in der Lage, den ihr zugrunde liegenden Code zu reflektieren, geschweige denn sich selbst völlig neue Regeln zu geben oder diese gar zu kritisieren und in neuen, überraschenden Situationen wiederum sinnvoll nach Zielen abzuwandeln, die sie sich selbst gegeben hat. All das wäre für Autonomie erforderlich. Nichts davon leistet KI, nichts davon kann sie leisten, soweit sich das heute seriös beurteilen lässt. Es handelt sich bei solchen PR-Begriffen wie autonome Technik um das, was der Philosoph Ludwig Wittgenstein als die »Verhexung unseres Verstandes durch die Mittel der Sprache« bezeichnete,¹⁵ wogegen die Philosophie laut Wittgenstein ihren Kampf zu führen habe. Auch die Verwechselung von selbst-steuernden Fahrzeugen mit autonomen Automobilen kann Folgen haben, die denen des ungebremsten Ausstoßes von Emissionen in nichts nachstehen. Nur diesmal betreffen die Emissionen nicht das Welt- sondern das öffentliche Diskursklima.

Es wird allgemein nicht bestritten, dass bereits die heutige Künstliche Intelligenz ein Kontrollproblem aufwirft. Wer kontrolliert wen? Der Mensch die Maschine, oder die Maschine den Menschen? Ist es möglich, dass Algorithmen die Kontrolle über superintelligente Programme übernehmen, um zu verhindern, dass sie dem Menschen schaden? Diese Frage wird nicht erst relevant, wenn in Zukunft vielleicht die Herrschaft der Technik anbricht, weil eine solche Superintelligenz dann möglicherweise entstanden ist. Sie ist schon heute unsere zentrale Frage, da wir in einer Zeit leben, in der immer mehr Herrschaft durch Technik und durch Konzerne, die sie steuern, ausgeübt wird, statt durch demokratisch legitimierte Institutionen.

Noch einmal zurück zu V.I.K.I. Ihre Logik mag »zwingend« sein, aber ist sie wirklich rational? Oder ist sie gar vernünftig? Offenkundig ist scheinbare logische Konsequenz nicht immer vernünftig. Vor allem nicht, wenn die moralische Reflexion fehlt, weil das System dazu gar nicht in der Lage ist. Wurde einfach versäumt, V.I.K.I. eine bessere Ethik einzuprogrammieren? Was aber, wenn das gar nicht möglich ist, weil wir aus fundamentalen Gründen gar keine Maschine entwickeln können, die in jeder Situation ethisch handelt und vernünftig ist, erst recht nicht vernünftiger als wir? Ganz im Gegenteil: Diese Programme haben ein fundamentales Problem, das sie nach Lage der Dinge zu extrem unvernünftigen Maschinen macht, die sich selbst nicht kontrollieren können. Auch nicht durch eigens programmierte Begleitsysteme. Wenn sich der Mensch durch KI selbst abschafft, dann dadurch, dass er sich das eigene Denken und das verantwortungsvolle gemeinsame Entscheiden in demokratischen Verfahren abgewöhnt. Oder zumindest das Selbstbewusstsein verliert, dank offener Sprache und vernünftigem Denken mehr Vernunft zu haben, als seine Schöpfung die Technik.