Читать книгу Menschliches Denken und Künstliche Intelligenz - Matthias Pfeffer - Страница 9

»Was machst du aus dem Denken. Das ist das Edelste, was der Mensch tun kann, und du machst es zu einem schmutzigen Geschäft.« Berthold Brecht, Turandot

Haben Sie sich schon einmal gefragt, warum in der Epoche, in der das größte je verfügbare Wissen für so viele Menschen wie nie zuvor zugänglich ist, immer mehr Zeitgenossen gegen offenkundige Fakten protestieren, warum gerade heute satt des Wissens die Dummheit zu wachsen scheint? Und haben Sie sich schon einmal gefragt, warum dieselbe digitale Technologie, die die Menschen über den ganzen Globus direkt miteinander verbinden kann, stattdessen zu Absonderung, Vereinzelung und zur Spaltung der Gesellschaft führt? Die bisher mächtigste digitale Technologie, die Künstliche Intelligenz, bedroht heute Demokratie, ebenso wie die Freiheit und das Denken. Dabei werden mit ihr doch so viele Hoffnungen verbunden. Wie ist es zu dieser paradoxen Situation gekommen?

Am Anfang stand der Traum von einem grenzenlosen neuen Reich des Geistes, der Freiheit und Selbstverwirklichung versprach. Das Internet war in seinen Anfangsjahren ein neuartiges Menschheitsversprechen, geeignet, endlich Wissen für alle zugänglich zu machen und alle Menschen direkt miteinander zu verbinden. Voraussetzung für ein neues Zeitalter, in dem Krieg, Ausbeutung und Ungleichheit endlich der Vergangenheit angehören, und eine universale Verständigung an ihre Stelle treten sollte. Soweit der ursprüngliche Traum.

Doch aus dem großen Freiheitsversprechen wurde ein Freibrief für marktbeherrschende Plattformunternehmen, die auch Verleumdung, Hass und Desinformation verbreiten. Sie konnten ein unvergleichlich profitables Geschäftsmodell etablieren, das im Fahrwasser der vorherrschenden neoliberalen Wirtschaftsideologie vor allem in den USA die Fähigkeit besaß, den Kapitalismus zum digitalen Überwachungskapitalismus zu transformieren, und das mittlerweile weltweit zu einer der ernstesten Bedrohungen der Demokratie geworden ist.

Um diese Entwicklung zu verstehen, muss man in die Entstehungszeit von Computer und Internet zurückschauen, ins Silicon Valley, in dem die neue Technologie von sinnsuchenden Hippies mit einem geradezu religiösen heilsgeschichtlichen Erlösungsversprechen aufgeladen wurde, das sie bis heute kennzeichnet. Dieses Erlösungsversprechen, verbunden mit der Ablehnung jeglichen Rechts, ist Grundfigur jenes Paradoxes, das hier kritisch beschrieben wird. Dass die Freiheitsbewegung der 1960er-Jahre Erfolge erzielt hat, soll dabei nicht geleugnet werden. Im Gegenteil: Wir verdanken ihr spürbare Freiheitszuwächse und gewaltige Kulturleistungen. Am Ende des kalifornischen Weges der Befreiung steht aber der digitale Überwachungskapitalismus und damit ein Nettoverlust an Freiheit. Deshalb ist es so wichtig zu verstehen, wie es dazu kam und was wir daraus für die aktuelle digitale Entwicklungsphase lernen können.

Das Silicon Valley liegt nicht nur räumlich in der Nähe der damaligen Hippiehochburg San Francisco. Es hat in der Flower-Power Gegenkultur der späten 1960er-Jahre auch seine geistigen Wurzeln. 1967 hatten sich jugendliche Vertreter des Anti-Vietnam-Protests in San Francisco versammelt, um Love, Peace und Happiness in alternativen Lebensformen zu erproben. Im Umfeld von Bands wie Grateful Dead und Jefferson Airplane sammelten sich auch Technikbegeistere, die die Ideale der Hippierevolte mit digitalen Mitteln verwirklichen wollten. Durch die neuen Kommunikationstechniken, mit denen erstmals jeder mit jedem direkt kommunizieren konnte, entstand ein völlig neuer Raum, den die Idealisten auf den Namen Cyberspace tauften und den sie als Reich paradiesischer Freiheit beschworen.

An die Stelle großer Rechenungetüme, wie sie IBM damals für Militär und Verwaltung baute, setzten sie ein Netzwerk aus kleinen, sogenannten Personal Computern, den PCs. Diese dezentrale Struktur stellten sie den zentralistischen Großrechnern von Staat, Militär und Industrie gegenüber, deren Macht sie brechen wollten. Die Utopie des freien, durch keinerlei Gesetze und Regeln gebrochenen Internet war geboren. Es fand seinen wirkungsvollsten Ausdruck in der Erklärung zur Unabhängigkeit des Internets, die der Viehzüchter und Grateful-Dead-Texter John Perry Barlow 1996 am Rande des Weltwirtschaftsforums in Davos veröffentlichte.⁸

Barlow fasste darin das Credo der Kalifornischen Ideologie zusammen, wie es seither in der Tech-Szene tradiert wird: Kein durch Parlamente verabschiedetes Gesetz sei für das Internet geeignet, auf Rechtsstaatlichkeit beruhende traditionelle Regierungsformen könnten »keine Souveränität haben, wo wir (die Akteure des Cyberspace) zusammenkommen«. Soweit Barlow. Aus den spontanen Handlungen der Einzelnen ergibt sich seiner Auffassung zufolge ganz von allein Harmonie im Großen – lediglich durch eine unsichtbare Hand gesteuert. Adam Smith sah noch den Markt als anonymen Akteur am Werk, der die Eigeninteressen der wirtschaftenden Subjekte zu einem Ganzen fügt, das alle Teilnehmer mit den optimalen Ergebnissen versorgt. Barlow hingegen macht die technische Infrastruktur selbst zum letztlich bestimmenden Ordnungsprinzip. Das Recht als demokratisch legitimiertes Prinzip des Zusammenlebens lehnt er radikal ab.

Im Anschluss daran gelang es der sogenannten Netzgemeinde viele Jahre, mit der Berufung auf das Recht auf freie Meinungsäußerung und Entfaltung der Persönlichkeit, jegliche demokratische Regulierung des Internets durch Kampagnen zu verhindern. In diesen Kampagnen erwies sich erstmals die Macht der neuen digitalen Gegenöffentlichkeit und sie erweist sich bis heute. Doch aus der ursprünglichen kritischen Gegenöffentlichkeit ist längst eine machtvolle neue digitale Öffentlichkeit entstanden, die nun zunehmend von ganz anderen Antrieben und einer gänzlich anderen Logik bestimmt wird.

Der macht- und staatskritische Ur-Impuls der kalifornischen Ideologie wuchs sich zu einer technologischen Ideologie aus: Immer mehr wurde behauptet, dass sich Probleme der Menschheit nur durch technische Mittel und nicht durch Politik lösen ließen. Es entstand ein technologischer Solutionismus, der eine überlegene Problemlösungskompetenz in allen Bereichen des Lebens für sich reklamierte. Und dabei spielte die Fantasie über das Entstehen einer Künstlichen Intelligenz eine immer stärkere Rolle. Denn diese Technik sollte dem Menschen überlegen sein und damit auch seiner bisherigen Praxis, mit Politik und Recht das Zusammenleben zu regeln.

Es war der erste Sündenfall in der Geschichte dieser mächtigen und bald weltumspannenden Technologie: Technik sollte an die Stelle des Rechts treten. Aus Kritik des Staates wurde eine Ablehnung des Rechts. Aus einem machtkritischen Impuls hatten ihre Vertreter ein anarchistisches Dogma gemacht, das die Voraussetzung für die rasend schnelle Entwicklung von Unternehmen schuf, die bald alle Bereiche der Wirtschaft und der Gesellschaft umwandeln und beherrschen sollten.

Damit sind wir beim zweiten Sündenfall des Digitalen: Der Verbindung von technologischer Macht mit einem neuartigen ökonomischen Modell, das einige wenige Unternehmen zu den heute am höchsten bewerteten und mächtigsten der Welt machte. Er geschah, als zwei junge Absolventen der Standford University auf den Plan traten, die für das neu entstandene immer schneller wachsende Internet das unverzichtbare Werkzeug entwickelt hatten: Eine Suchmaschine, die in Bruchteilen von Sekunden sicher durch den digitalen Ozean der Informationen zu navigieren versprach.

Sergey Brin und Larry Page hatten zunächst das Ziel verfolgt, durch Algorithmen Ordnung ins gerade entstehende Informationschaos zu bringen: Die Relevanz eines Treffers bei einer Suchanfrage sollte sich nach dessen Verlinkung mit anderen Seiten im Netz und damit nach einem »objektiven« Relevanzkriterium entscheiden. Um sicherzustellen, dass jeder Nutzer das fand, wonach er suchte, wurden die Daten der Nutzer aufgezeichnet. Sie sollten dem Algorithmus helfen, aus beiden Kriterien – Vernetzung mit anderen Seiten und persönliche Absichten des Nutzers – ein für jeden Einzelnen perfekt passendes Ergebnis anzuzeigen. Der Clou: Mit jedem Anklicken oder Überspringen eines Treffers durch die Nutzer lernte die Maschine hinzu, die User fütterten sie mit immer neuen Daten. Soweit das ursprüngliche Modell Googles, das man tatsächlich noch als »faire Suche« bezeichnen kann. Sammelt es die Daten der Nutzer doch lediglich, um die Wahrscheinlichkeit zu erhöhen, ein für diesen Nutzer relevantes Ergebnis anzuzeigen.

Doch die Vertreibung aus dem Paradies der fairen Suche erfolgte schon bald durch den Druck der Geldgeber: Die aufstrebende Suchmaschinenfirma sollte an die Börse gebracht werden, ein Geschäftsmodell musste her, das mit dem Dogma der freien Informationssuche scheinbar vereinbar war. Deshalb schied ein Modell, das für die Treffer Geld verlangt hätte, von vorneherein aus. Doch die beiden Ex-Studenten entdeckten in den Hinterzimmern ihres schnell wachsenden Konzernes eine Abteilung, in der eine kleine Schar von Mitarbeitern damit beschäftigt war, das zu beseitigen, was sie selbst die »Datenabgase« nannten.

Dabei handelt es sich um die Datenspuren, die die Google-Nutzer hinterließen, und die weit über das hinausgingen, was benötigt wurde, um die Ergebnisse der Suchmaschine zu verbessern. Es waren persönliche Daten in einem Umfang, der weitreichende Rückschlüsse auf die Persönlichkeit der Nutzer zuließ. Auf ihr intimstes Inneres, ihre Absichten, Vorlieben, Wünsche und Ängste. Während Menschen so mit Googles Hilfe nach Antworten auf unterschiedliche Fragestellungen suchten, häufte Google nun systematisch die Daten eben dieser Menschen an. Anstatt die Datenabgase zu löschen, wurden sie fortan systematisch erfasst und zur Grundlage eines revolutionären Geschäftsmodells. Aus der Suchmaschine, auf der der Nutzer nach Informationen sucht, wurde eine Suchmaschine, die den Nutzer selbst durchsuchte.

Alles, was bis dahin als privat galt, lag jetzt vor den digitalen Zauberlehrlingen offen ausgebreitet da. Geliefert von denjenigen, denen man mit diesem Wissen über sie selbst Werbung vermitteln konnte. Entstanden war ein neues Produkt für Werbetreibende, denen man dieses Wissen verkaufen konnte. Die Nutzer wurden so von Kunden Googles zu dessen Ware. Google bezeichnete sie zwar weiter als Kunden, stellte in allen Statements wortreich in den Mittelpunkt alles Tuns, aber nur um sie umso besser an den Warenterminbörsen der Aufmerksamkeitsökonomie verkaufen zu können.

Das neue Werbemodell war bald sehr erfolgreich. Es zeigte seine ganze Macht, die auf dem immensen Wissen über die Nutzer beruhte, über herkömmliche Werbeformen. Von diesen hatten bis dahin die Medien, Zeitungen, Zeitschriften, Radio- und Fernsehender wesentliche Teile ihrer Einnahmen erzielt. Einnahmen, mit denen sie neben den Vertriebserlösen Journalisten bezahlen konnten, die die Aufgabe hatten, mit professionellen Standards Informationen aufzuarbeiten, Quellen zu prüfen, Fakten zu ordnen und zu bewerten, die der Konsument und der Bürger in einer freien Gesellschaft benötigt, um Entscheidungen zu treffen und sich Meinungen zu bilden. Doch das Werbegeld fließt seit Jahren beständig von klassischen Medien weg zu den überlegenen digitalen Plattformen. Überlegen, was das Wissen und damit die Manipulationsmöglichkeiten über die Nutzer betrifft. Die Journalisten werden in diesem Modell ersetzt durch »künstlich intelligente« Algorithmen. Mit ihnen schaffen die Plattformen die Verantwortung für die Inhalte gleich mit ab. Man berief sich bei dieser Verantwortungslosigkeit auf das freie Reich des Geistes, den Cyberspace, den Barlow beschrieben hatte.

So wurde ganz nebenbei beim Aufstieg der Digitalunternehmen die Grundlage einer freien und unabhängigen Presse zerstört. Diese ist aber für den freien Informationsfluss und die Meinungsbildung in einer Demokratie essenziell. Denn Journalisten strukturieren und gewichten, Journalisten fragen weiter und forschen nach, um die Wahrheit ans Licht zu bringen. Und vor allem: Journalisten liefern an alle und nicht nur an einzelne Gruppen das, was sie hören wollen. An die Stelle von journalistisch aufwendigen Inhalten setzten die Plattformen den sogenannten User Generated Content. Dabei wiederholten sie ihr ursprüngliches Freiheitsversprechen: Jeder sollte vom bloßen Konsumenten von Nachrichten auch zum Produzenten werden. Doch an die Stelle der Medien im öffentlichen Diskurs tritt damit eine digitale Echokammer, in der es nur um die Erregung von Aufmerksamkeit geht, die nach der Steigerungslogik von Emotionalisieren, Skandalisieren, Radikalisieren verfährt. Das ist der Kern des digitalen Strukturwandels der Öffentlichkeit, dessen Folgen für die Demokratie wir heute überall besichtigen können. Die digitale Öffentlichkeit ist heute eine automatisierte Öffentlichkeit, aber nicht nach »intelligenteren«, sondern ausschließlich nach wirtschaftlicheren Kriterien.

Verbunden mit den auf der Datensammelwut basierenden persönlichen Profilen war der Grundstein für »personalisierte Kommunikation« gelegt, die zu Informations- und Selbstbestätigungsblasen führte, deren Ergebnisse die fragmentierten Teilöffentlichkeiten sind, die wir heute sehen. Ob Donald Trump oder der Sturm aufs Kapitol ohne dieses Geschäftsmodell möglich gewesen wären? Sicher nicht.

Doch noch eine Folge hat das Sammeln immer größerer Big Data Bestände: Mit zunehmenden Daten von immer mehr Menschen wachsen die Fähigkeiten von Künstlichen Intelligenz-Algorithmen, Vorhersagen über das künftige Verhalten von Menschen zu machen und zukünftiges Verhalten zu beeinflussen und zu kontrollieren. Und zwar nicht nur über das Kaufverhalten. Der Skandal um die Machenschaften von Cambridge Analytica hat gezeigt, dass dieselben Mechanismen, mit denen man zuvor überwachte Konsumenten zu Kaufentscheidungen bringt, sich auch bei Wahlen einsetzen lassen, um die Wahlentscheidung der Bürger zu manipulieren. Die Technik wurde sowohl beim Brexit, als auch bei der Wahl von Donald Trump zum Präsidenten eingesetzt und hat mit Lügen und Desinformationen, die auf der Basis persönlicher Profile gezielt und damit wirksam verbreitet wurden, beide Ereignisse maßgeblich ermöglicht.

Spätestens hier zeigt sich, dass es bei der Machtverschiebung zugunsten der Big Tech Unternehmen nicht mehr nur um die Erlangung wirtschaftlicher Vormachtstellung geht. Es geht um die Macht über die Köpfe und die Gedanken der Menschen, es geht darum, die knappe Ressource Aufmerksamkeit zu besetzen und zu steuern. Denn in der heutigen Aufmerksamkeitsökonomie wird um dieses kostbare Gut mit allen Mitteln gekämpft. Wer diesen Kampf gewinnt, erlangt eine bis dato unvorstellbare Markt- und auch Meinungsmacht. Und kann damit die Demokratie beherrschen, ja ausschalten.

Wenn mit persönlichen Profilen und dem Einsatz selbstlernender Algorithmen eine statistische Prognose des Verhaltens von Menschen möglich wird, die sich durch die Techniken des sogenannten Nudgings, also Anstupsens, treffsicher in Manipulation umsetzen lassen, wird der freie Wille und damit die Selbstbestimmung des Einzelnen immer stärker ausgehöhlt. Verbunden mit der Weigerung, sich demokratischem Recht zu unterwerfen, und der wachsenden Macht durch immer mehr Daten wird damit der Angriff auf die Demokratie komplettiert. Allerdings haben wir bisher nur die Effekte von KI in Verbindung mit dem vorherrschenden Werbemodell auf die Sphäre der Öffentlichkeit untersucht. KI in Verbindung mit anderen Hochtechnologien wie Bioengeneering, Nanotechnologie oder Quantencomputern kann noch viel weitreichendere Folgen für den Menschen und seine Selbstbestimmung haben.

Wir müssen deshalb neben diesen Effekten auf Informationsfreiheit, Freiheit und Vielfältigkeit der Meinungsbildung auf der Basis von allgemein geteilten Fakten und Annahmen weitere Auswirkungen dieser Technologie auf die Freiheit untersuchen. Denn KI besitzt das Potenzial, den freien Willen des Einzelnen auszuhebeln. Wo es keinen freien Willen gibt, ist auch keine demokratische Selbstbestimmung möglich. Wenn Maschinen wissen, was ich eigentlich will, oder gar mich dahintreiben können, das zu wollen, was sie wollen, können sie mir die Entscheidung über mein Tun auch gleich abnehmen. Ohne Verantwortung lebt es sich ja scheinbar leichter, warum also nicht die Verantwortung gleich dahin delegieren, wo sie nach Meinung der technikgläubigen Vertreter der Kalifornischen Ideologie sowieso hingehört: Zu den überlegenden Maschinen?

Hatte die Kalifornische Ideologie zu Beginn Technik an die Stelle des Rechts gesetzt, begeht sie ihren dritten Sündenfall, indem sie Technik an die Stelle des Menschen setzt, wie es die Singularitätslehre heute tut. Dahinter verbirgt sich die Überzeugung, dass die digitale Technik aufgrund der ihr innewohnenden angeblich exponentiellen Entwicklung zwangsläufig eine Superintelligenz hervorbringen wird, die dem Menschen in jeder denkbaren Hinsicht überlegen sein wird. Der Mensch wird in dieser Lehre zum Datenzwischenwirt auf dem unbarmherzigen Weg der Evolution, die mit der Superintelligenz eine neue überlegene Spezies hervorbringt. Doch auch die Singularitätsjünger versuchen sich an dem Spagat, selbst angesichts dieser angeblich sicheren Prognose, dass der Mensch angeblich bald als »Krone der Schöpfung« abgelöst werden wird, den alten Traum vom Paradies durch Technik für den Menschen aufrecht zu erhalten.⁹ Durch Nanotechnik, Implantate und Superchips sollen dem Menschen digitale Flügel wachsen.

Seit dem Leninismus und dem vulgären Sozialdarwinismus der Nazis hat es vielleicht keine derartig blinde Geschichtsmetaphysik gegeben, die sich selbst allerdings für die reinste Form der Wissenschaft hält. Alle drei Ideologien teilen die gefährliche Annahme, dass sie auf »wissenschaftlichen« Prinzipien und Erkenntnissen beruhen, die sie ohne mühsamen Umweg über eine demokratische und deliberative Politik umsetzen wollen. Denn sie glauben nichts weniger, als das Ziel der Geschichte erkannt zu haben, liegt es nun in der Reinheit der Rasse, dem kommunistischen Ende der Geschichte oder in der Singularität, in der eine Superintelligenz die Grenzen des Menschen für immer überwindet und sich zuerst die Erde und dann das Weltall untertan macht. Dem angeblichen Ziel der selbsterkannten Heilsgeschichte darf sich dann niemand in den Weg stellen. Es sein denn, »bei Strafe des eigenen Unterganges« wie Karl Marx die Zwanghaftigkeit des Kapitalisten beschrieb, immer mehr Kapital anzuhäufen und immer rentabler zu produzieren. Aber ist das wirklich so? Es zu glauben wäre Fatalismus. Und Fatalismus ist nach einem Wort des Verantwortungsphilosophen Hans Jonas Sünde. Denn es kommt im Gegensatz zu solchen vermeintlich wissenschaftlichen Modellen des Menschen und dem Verlauf seiner Geschichte sehr wohl auf uns an und darauf, wie wir handeln.

Denn was, wenn die Geschichte gar nicht so berechenbar ist, wie sie den Jüngern der Stochastik und der induktiven Wahrscheinlichkeitsrechnung erscheint? Was, wenn die Algorithmen immer nur das statistisch Wahrscheinliche berechnen, aber nicht in der Lage sind, auf das Überraschende und Unwahrscheinliche zu reagieren? Was wenn ihre Algorithmen nur in einer Welt bekannter Risiken schneller rechnen können, als der Mensch denken kann? Wenn wir aber in einer ungewissen Welt leben, die auch von ungewissen Risiken bestimmt wird, könnte es sein, dass die Faustformeln des menschlichen intuitiven und kreativen Denkens besser in der Lage sind, das Neue zu bewältigen, als die »intelligentesten« Rechenmaschinen.

Setzen wir sie also ein, die Vernunft. Um die Frage zu stellen, die die zentrale Machtfrage des 21. Jahrhunderts ist: Wer entscheidet? Der Mensch, oder die Maschine?

Denn wenn Maschinen entstehen würden, die uns in allen Belangen überlegen wären, würde sich die Frage, wer wen kontrolliert, nicht mehr stellen. Sie wäre schlicht entschieden.