Читать книгу Freiheit und Kalkül. Die Politik der Algorithmen - Sabine Müller-Mall - Страница 4

Werden digitale Gesellschaften, digitale Revolutionen oder gar ein neues Zeitalter der Digitalisierung ausgerufen, geht es nur am Rande darum, dass sich Gesellschaft, Welt oder Geschichte binär kodieren, also in den Zahlenwerten 0 und 1 vollständig beschreiben ließen. Der binäre Code, die allem zugrunde liegende Sprache der Computer, steht weniger im Vordergrund als ein anderer Aspekt: Digitale Techniken machen soziales Leben nicht nur effizienter, schneller oder bequemer, sondern verändern es auf eine Weise grundlegend, dass die Art und das Ausmaß der Veränderungen bislang kaum fassbar sind. Digitalisierung wird entsprechend mit ähnlichen Revolutionen wie der Entwicklung der Schrift, des Buchdrucks oder der Elektrizität verglichen. Digitale Techniken greifen zweifellos ähnlich weit aus wie die genannten Medientechniken. Digitalisierung bestimmt, wie wir kommunizieren, handeln, produzieren und konsumieren, wie wir lesen, hören und sehen, kurz: wie wir wahrnehmen. Doch Digitalisierung greift noch tiefer ein und weiter aus, indem sie uns Alternativen zu unserem Denken anbietet, auch in Bezug darauf, wie wir uns als Menschen fühlen, allein und in Gesellschaft.

Doch sollten wir digitale Techniken nicht allein aus der Perspektive ihrer Technizität, als eine neue Form von Technik unter vielen anderen Techniken verstehen, denn sie verändern nicht nur uns Menschen, sondern auch alle übrigen Techniken, die wir kennen – von Fortbewegungs- über Kommunikations-, von Fertigungs- über Erkenntnistechniken bis hin zu sozialen Techniken. Es reicht ebenso wenig aus, sich der Digitalisierung nur aus dem Blickwinkel der Digitalität zu nähern, bildet doch die bloße Möglichkeit der Repräsentation – oder anders: der Verdoppelung1 – der Welt, von einzelnen Beziehungsverhältnissen oder Informationen in einer binären Codierung (bestehend aus 0 und 1) nicht den Kern dessen, was der Begriff der Digitalisierung beschreibt.

Schließlich war diese Möglichkeit bekannt und vielfältig im Einsatz, bevor ›Digitalisierung‹ als Begriff aufkam: Gottfried Wilhelm Leibniz entwickelte im 17. Jahrhundert nicht nur das binäre Zahlensystem, das heute noch Grundlage beinahe jeder digitalen Darstellung ist, sondern entwarf auch eine erste Rechenmaschine, die im Binärsystem rechnete. Auch wenn diese Rechenmaschine nie zum Einsatz kam, stellt sie ein erstes Modell jener Maschinen dar, die heute nicht nur enorme Rechenleistungen vollbringen, sondern vor allem auch Programme ausführen können. Diese Maschinen unternehmen das, indem sie elektrische oder magnetische Signale oder quantenmechanische Zustände in eine binäre Codierung übersetzen, die wiederum in diverse Formalsprachen (Programmiersprachen), den Code, transportiert wird. Wir nennen solche Apparate schon seit geraumer Zeit Computer. Dieser Ausdruck wurde bis zur Mitte des 20. Jahrhunderts als Bezeichnung für jene Statistik-Arbeiterinnen (vorwiegend Frauen) verwendet, die demografische oder militärische Daten manuell in Lochkartensysteme einspeicherten und zwischen diesen formalisierten Systemen und menschlichen Sprachen hin- und zurückübersetzten.

Was macht aber nun (auf der technischen Seite) den Kern der Digitalisierung aus? Computer bilden hier sicherlich ein zentrales Element oder genauer gesagt: die Computerisierung. Es geht also um den fortschreitenden Ausbau jener maschinellen Architekturen, die als Computer arbeiten können, in nahezu allen Bereichen des Alltags, der Industrie, der Dienstleistungen, der medizinischen Versorgung, der Verwaltung und der Justiz. Doch war diese Computerisierung bereits erheblich fortgeschritten, als nach der Jahrtausendwende der Begriff der Digitalisierung zur Beschreibung jener Entwicklungen immer wichtiger wurde. Neue technische Entwicklungen haben die Computerisierung gleichermaßen erweitert und kanalisiert.

Einen entscheidenden, ausgreifenden und verschärfenden Schritt auf dem Weg zu einer durchdigitalisierten Welt bildet die Mobilisierung der Computer. Die Geräte, die als Computer dienen, wurden kleiner, leichter und leistungsfähiger, bis wir sie in Hosen- und Handtaschen, am Handgelenk gleich einer Armbanduhr, als Brille oder als Implantat unter der Haut immer mit uns führen konnten. Zur (physischen) Mobilität der Geräte tritt außerdem eine informationstechnische Mobilmachung hinzu: die Vernetzung. Daten können nun beinahe beliebig über Computernetzwerke geschickt und miteinander verbunden werden; sie können reisen, miteinander kommunizieren, neu zusammengefügt und verschieden interpretiert werden.

Diese doppelte Mobilisierung der Computer verankert die ursprünglichen Rechenmaschinen als nahezu unentbehrliche Elemente in der sozialen Welt. War ein Computer zunächst ein spezifischer Gegenstand mit begrenzten Einsatzmöglichkeiten, zu Hause oder im Büro an einem festen Ort stationiert, der immer erst aufgesucht werden musste, wenn man ihn benötigte, gewinnt mit der Mobilisierung nicht nur das Gerät Bewegungsfreiheit, sondern auch die Möglichkeiten, es zu nutzen, weiten sich aus. Computer werden unspezifisch und gerade dadurch ubiquitär einsatzfähig. Und dieser Begriff ist wichtig: Unter ›ubiquitär‹ verstehe ich – entsprechend der Grundbedeutung des Begriffes in der Theologie für den überall anwesenden Gott – eine Existenzweise, die so umfassend alles durchwirkt, dass sie gar nicht mehr besonders auffällt. Computer sind nun überall. Indem sich mobilisierte Computer, die also beweglich und vernetzt sind, in allen gesellschaftlichen Bereichen unverzichtbar machen, werden sie konstitutiv für das Soziale überhaupt.

Neben der Computerisierung und Mobilisierung charakterisiert den Weg zur digitalen Welt ein weiterer Prozess, der gleichermaßen sowohl markant als auch diffus ist: Es geht um die ›Algorithmisierung‹. Auch hier handelt es sich um einen etwas sperrigen Begriff, der zunächst die Eigenlogik von Computerprogrammen beschreibt, schließlich aber ausgreift und bezeichnet, wie jene mobilisierten Computer konstitutiv für das Soziale werden.

Doch langsam und Schritt für Schritt: Algorithmen beschreiben in einem ganz allgemeinen Sinne eindeutig festgelegte Schrittfolgen, um ein Problem zu lösen oder zu einer Entscheidung zu gelangen. Dabei muss es sich nicht notwendig um streng formalisierte oder mathematische Anweisungen handeln – auch Kochrezepte und Bauanleitungen für Lego-Spielzeug oder Ikea-Möbel sind algorithmisch strukturiert. Algorithmen als Anweisungsfolgen selbst sind also nichts Neues, sie waren bereits vor ihrer Erschließung für die Programmierung von Computern nicht selten und nicht nur vereinzelt, sondern in allen Bereichen der sozialen Welt zu finden. Schon um 1840 – vorgedacht von einer Frau: Ada Lovelace (1815–1852) – bestimmten Algorithmen die Struktur erdachter Computerprogramme, lange bevor es Computer gab. Lovelace hatte das erste Computerprogramm überhaupt geschrieben – viele verstehen sie wegen ihrer Arbeit an der Analytical Engine von Charles Babbage (1791–1871) als erste Programmiererin. Wie kommt es nun dazu, dass wir erst gegenwärtig und nicht schon in Bezug auf das 19. Jahrhundert von einer Algorithmisierung der sozialen Welt sprechen (können)?

Zunächst sind Algorithmen, die digital kodiert und etwa für Suchmaschinen oder, allgemeiner gefasst, für Techniken künstlicher Intelligenz eingesetzt werden, sowohl spezifischer als auch komplexer als andere Algorithmen. Sie sind streng formal verfasst und greifen auf Code zurück, sind also in Programmiersprachen geschrieben, die ihrerseits zwischen der binären Codierung der Rechner und menschlichen Sprachen vermitteln.

Doch neben der Spezifität und der Komplexität wird ein anderes Moment wichtig: Algorithmisierung bezeichnet keinen linearen Prozess, der zu einem bestimmten Zeitpunkt begonnen hat und seitdem weiter fortschreitet, sondern eine allmähliche, schleichende Veränderung der Bedeutung von Algorithmen für die soziale Welt. Im Falle der Algorithmen verdichten sich verschiedene Entwicklungen mit bemerkenswerter Gleichzeitigkeit. Algorithmen lassen sich immer komplexer bauen, da die Rechnerkapazität sowie die Geschwindigkeit der Datenverarbeitung zunehmen und die Möglichkeiten der Vernetzung immer umfassender werden. Techniken maschinellen Lernens differenzieren sich aus. Das heißt, Algorithmen sind mittlerweile häufig in der Lage zu lernen – sie können ihre Fähigkeit, Probleme zu lösen oder Entscheidungen zu treffen, in einem bestimmten Sinne verbessern. Je mehr Daten solche lernenden Algorithmen zur Verfügung gestellt bekommen, je häufiger sie Datensätze durchlaufen und trainieren, desto schneller und genauer können sie Daten in einen Zusammenhang bringen.

Vor allem (jedoch nicht nur) wegen dieser Fähigkeit, eigenständig zu lernen, wurde der Begriff ›Algorithmen‹ zentral, um die Form vielfältiger Techniken künstlicher Intelligenz zu beschreiben. Gleichzeitig wurde der Begriff damit zu einer Chiffre für Techniken künstlicher Intelligenz in einem sehr weiten Sinne, obwohl dieser Begriff sie nur teilweise beschreibt: Die neuen Techniken greifen zwar immer auf algorithmische Strukturen zurück, sind als Algorithmen aber nicht vollständig erfasst. Trotz dieser Einschränkung verwende ich den Begriff der Algorithmen der Verständlichkeit halber in diesem übergreifenden Sinne, nämlich als Chiffre für Techniken künstlicher Intelligenz.

Computerisierung, Mobilisierung und Algorithmisierung verstärken sich als Entwicklungen wechselseitig. Sie beschleunigen die Entwicklung der jeweils anderen Stränge und bündeln Kapazitäten. Der Begriff der Digitalisierung, so die hier unterlegte These, beschreibt diese sich selbst verstärkende und in alle Bereiche der sozialen Welt ausgreifende Bündelung von Computerisierung, Mobilisierung und Algorithmisierung.

Im Folgenden wird es darum gehen, jene Spur zu verfolgen, die die Entwicklungen mit dem Eintritt in die soziale Welt hinterlassen, und zwar dort, wo das Soziale sich formiert und ordnet, wo es Verbindlichkeiten herstellt und Handlungsräume strukturiert, wo es sich also an die Zukunft richtet, kurz: wo das Soziale politisch wird.

Anlass und Motiv für diese Überlegungen bildet einerseits die Annahme, dass Digitalisierung genau an diesen Orten eine besondere, eine politische Relevanz entfaltet. Diese Relevanz zeigt sich nicht nur darin, dass die technische Entwicklung zum Gegenstand von Politik wird, sondern vor allem darin, dass Digitalisierung selbst sich als politischer Prozess verstehen lässt. In den gegenwärtigen Debatten um und gesellschaftlichen Auseinandersetzungen mit Techniken künstlicher Intelligenz ist außerdem zu beobachten, dass ethische, haftungsrechtliche und ökonomische Fragen zwar durchaus behandelt werden, die politische Dimension dieser Techniken aber kaum Beachtung findet.

Der hier zugrunde gelegte Begriff des Politischen wird dabei weit gefasst: Er setzt weder den Staat voraus noch ist er notwendige Voraussetzung für den Begriff des Staates. ›Das Politische‹, so verstehe ich den Begriff hier, beschreibt einen bestimmten Blick auf das Soziale. Wir nehmen diese Perspektive dann ein, wenn es um die Gestaltung, Formierung, Anordnung oder Veränderung des Sozialen geht. Im Unterschied etwa zu einem soziologischen Blick, der Strukturen, Bedingungen, Formen und Funktionen des Sozialen untersucht, konzentriert sich die Perspektive des Politischen auf Vorstellungen, Strategien, Verfahren und Konstellationen der Veränderung des Sozialen. So verstanden orientiert sich das Politische in die Zukunft und ist dann nicht notwendiger-, aber möglicherweise ein Begriff der Herrschaft, der Macht oder der Ordnung.

Ich gehe im Folgenden davon aus, dass von den drei genannten Prozessen weniger die Ausbreitung des Computers oder seine Mobilisierung grundlegend bestimmen und verändern, wie das Soziale politisch wird, sondern Algorithmen. Denn mit den Algorithmen schreiben wir mehr als eine binäre Codierung, mehr als ein Netz aus Datennutzungen und mehr als ein Prinzip der Mustererkennung in unsere soziale Welt ein.

Algorithmen entspringen vor allem einer Logik der Berechnung, die nicht nur von Anweisungsfolgen handelt, sondern mit eben diesen Anwendungsformen eine bestimmte Idee davon etabliert, wie wir Zukunft denken können, nämlich als ein über Schrittfolgen erreichbares, eindeutig bestimmbares Ziel. Sollten wir daran scheitern, mangels Wissen oder Verständnis einen Algorithmus zur Lösung einer Frage der Zukunft zu formulieren und in Programmiersprache zu übersetzen, helfen uns Techniken künstlicher Intelligenz. Sie können Algorithmen optimieren oder sogar erst finden. Dabei greifen sie – wiederum algorithmisch – auf große Mengen an Daten zurück, an denen sie gleichermaßen lernen, eben diese Daten zu sortieren, zu klassifizieren, zu hierarchisieren und auch, die Algorithmen für diese Vorgänge zu verbessern.

Ein Beispiel: Wir können nicht genau wissen und im Vorhinein auch nicht genau verstehen, wann eine Pandemie wie jene durch Covid-19 ausgelöste entsteht, wie sie sich verbreitet und welche Maßnahmen zu ihrer Eindämmung geeignet sind. Wir können für solche Probleme nur Modelle erstellen. Lernende Algorithmen, die ständig durch neue Informationen verbessert werden und mit gewaltigen Datenmengen zurechtkommen, sind in ihren Modellbildungen nicht nur besonders schnell, sondern auch besonders präzise. Die kanadische KI-Firma BlueDot etwa konnte mithilfe lernender Algorithmen, die Nachrichten, Blogs und Foren im Internet analysieren, den Ausbruch der Covid-19-Pandemie in Wuhan und die weiteren Verbreitungswege früher (im Dezember 2019) und präzise vorhersagen. Aber auch Risikovorhersagen (Wie groß ist mein Risiko unter bestimmten Umständen, mich anzustecken? Wie groß ist das Risiko eines schweren Verlaufs?) oder die Entwicklung von Medikamenten und Diagnoseverfahren werden durch lernende Algorithmen unterstützt.

Techniken künstlicher Intelligenz fügen der Logik der Berechnung ein weiteres Prinzip hinzu, um fehlendes Wissen über die Zukunft im Hinblick auf ihre Bestimmung aufzufangen: Sie arbeiten mit Wahrscheinlichkeiten. KI-Techniken entwickeln in ihrem Rückgriff auf algorithmische Strukturen kein echtes (gesichertes) Wissen über die Zukunft, über gute und wichtige Entscheidungen, über das Kommende, sondern ein Wissen über Wahrscheinlichkeiten, mit denen das Zukünftige in einer bestimmten Form eintreten könnte.

Diese Prinzipien der Berechnung und der Wahrscheinlichkeit handeln also wesentlich von der Frage, wie wir Zukunft denken und gestalten: wie wir als Gesellschaft zu Vorstellungen über die Zukunft gelangen und welche Gestaltungsideen wir aus diesen Vorstellungen entwickeln. Genau diese Fragen beschreiben nun in einem grundlegenden Sinne die Perspektive des Politischen. Wie wir normative und institutionelle Ordnungen, Freiheit, Gleichheit und Herrschaftsverhältnisse organisieren, zentrale Fragen nach der Politik also, sind lediglich differenzierte Versionen der Frage, wie wir die Zukunft (des Zusammenlebens) gestalten wollen. Algorithmen sind also politisch. Sie schreiben sich in die soziale Welt auf eine Weise ein, die wir politisch nennen müssen.

Im Folgenden wird es darum gehen, wie sich die Politik der Algorithmen genauer beschreiben lässt und wie wir als Gesellschaft mit den entsprechenden Problemen umgehen können. Die Algorithmisierung transformiert Gesellschaften fundamental. Erst wenn wir diese Veränderungen besser verstehen, können wir politisch selbstbestimmt auf die entsprechenden Herausforderungen reagieren, ihre Potenziale erkennen und verantwortungsvoll handeln.

Was bedeutet es nun, Algorithmen politisch zu denken? Und wie sieht eine Politik der Algorithmen konkret aus, worin liegen ihre Besonderheiten? Diese Fragen werden im Folgenden untersucht. Zielpunkt der Überlegungen sind zwei zentrale Fragen: Wie gehen wir mit dieser Politik der Algorithmen um? Und wie und wo verhandeln wir diese Fragen?