Читать книгу PARADIES 3000 - Herbert W. Franke - Страница 5

Die erste Meldung über eine Kette höchst merkwürdiger Ereignisse hörte sich ganz harmlos an: »Am 8. Juli 2080 fand zu Ehren der Emeritierung von Professor Dr. Dr. h. c. Erik Koenig im Institut für Advanced Studies eine kleine Feier statt. Aus der Hand des Ministers für Forschung und Technik nahm der Wissenschaftler die Goldene Verdienstmedaille in Empfang, die bisher nur an vierundzwanzig verdiente Persönlichkeiten verliehen wurde. Er beendete damit eine nahezu dreißigjährige ununterbrochene Tätigkeit als Forscher und Lehrer. Sein Spezialgebiet war die maschinelle Intelligenz. Einige seiner adaptiven Programme werden längst in Fabrikation und Verwaltung eingesetzt. Der Gelehrte, der kurz vorher in voller Gesundheit seinen fünfundsechzigsten Geburtstag gefeiert hat, wird nach eigenen Angaben eine Erholungsreise in die Karibik antreten.« Was damals noch niemand wissen konnte, doch dieser Meldung eine besondere Nuance gibt: Professor Koenig ist von dieser Reise nicht zurückgekehrt. Das letzte Mal wurde er bei seiner Ankunft auf den Bahamas gesehen, doch seither fehlt von ihm jede Spur. Ob die Ermittlungen mit vollem Nachdruck geführt wurden, lässt sich von hier aus nicht beurteilen. Tatsache ist, dass Professor Koenig bis heute verschollen blieb.

Mit dem Schicksal von Professor Koenig begann man sich aber erst verhältnismäßig spät zu beschäftigen – als der kommissarische Leiter des Instituts, der die Zeit bis zur Berufung eines neuen Chefs überbrücken sollte, mit einer Art Bilanz begann. Zu seinem Erstaunen fand er nämlich nur die Unterlagen über einige relativ unwichtige Nebenprojekte vor. Vom Lebenswerk des ausgeschiedenen Institutsleiters dagegen fehlte jede Spur. Des Rätsels Lösung erbrachte erst ein Brief an das zuständige Ministerium, den Professor Koenig am Tag seines Ausscheidens abgesandt hatte und der durch ein Versehen vierzehn Tage auf einem Schreibtisch liegen geblieben war. Wir geben ihn hier ungekürzt wieder.

Brief von Professor Dr. Dr. E. Koenig an das Ministerium für Forschung und Technik:

Sehr geehrter Herr Minister!

Wie Ihnen durch diverse Zwischenberichte bekannt ist, habe ich seit acht Jahren an einem Programm mit dem Namen DECISION gearbeitet. Es handelte sich um ein adaptives Softwarepaket, mit dem erstmalig die seinerzeit von John von Neumann stammende Idee der Selbstentwicklung eines Computers verwirklicht werden sollte. Ich darf Ihnen mitteilen, dass über dieses Projekt keine Unterlagen vorliegen. Das liegt nicht vielleicht in Schwierigkeiten oder Misserfolgen, sondern am Gegenteil: Nachdem es mir gelungen war, eine neue, rückgekoppelte Logik zu entwickeln – im Zusammenhang mit den Problemen der Selbstreparatur und -organisation – kam ich verhältnismäßig schnell zum Ziel. Und das Ergebnis übertraf alle meine Erwartungen. Für mich besteht kein Zweifel daran, dass die Menschheit durch das Programm DECISION auf völlig neue Wege geführt werden würde. Die Ziele sind nicht abzusehen, und somit ist auch eine Beurteilung der Konsequenzen nicht möglich. Ich habe schon oft in der Öffentlichkeit die Meinung vertreten, dass der Mensch, und insbesondere der Wissenschaftler und Techniker, nicht alles realisieren muss oder darf, was realisierbar ist. Ein solcher Fall ist nun eingetreten. Da das Programm DECISION gefährliche Entwicklungen einleiten könnte, habe ich es vernichtet. Ich hoffe, dass Sie meine Entscheidung respektieren.

Mit vorzüglicher Hochachtung

E. Koenig

Auszug aus einem Hearing des Ministers für Forschung und Technik:

Minister Meine Herren, ich danke Ihnen, dass Sie gekommen sind. Über den Grund habe ich Sie informiert – es handelt sich um die Vernichtung des Programms DECISION durch Professor Koenig. Ich muss gestehen, dass ich etwas ratlos bin. Zunächst wäre ich Ihnen dankbar, wenn mir jemand eine verständliche Erklärung geben könnte: Was hat es mit dem Programm DECISION auf sich?

Professor Pazzini (räuspert sich) Nun, Sie wissen, dass sich Kollege Koenig mit maschineller Intelligenz beschäftigt hat. Allem Anschein nach ist er wesentlich weitergekommen, als wir alle angenommen haben.

Minister Sie meinen – Roboter?

Professor Pazzini Roboter? Nein! Darum ging es ihm gewiss nicht. Was die technische Umsetzung abstrakter Gedankengänge betrifft, da war er – wenn ich mir diese Anmerkung erlauben darf – nicht ganz auf der Höhe.

Minister Abstrakte Gedankengänge?

Professor Pazzini Ja, eine neue Art von Logik. Das deutet ja schon der Hinweis auf die Kreisfunktionalität an – ein bemerkenswerter Gedanke. Offenbar ist es ihm gelungen, formale Systeme zu entwickeln, bei denen die logischen Zustände rückgekoppelt sind. (Leise, für sich) Wirklich bemerkenswert!

Minister Jetzt verstehe ich noch weniger als zuvor. Handelt es sich um theoretische Spielereien? Warum hat Professor Koenig sein Ergebnis vernichtet?

Professor Toff An dieser Stelle muss man zumindest erwähnen, dass die Kybernetiker das Einsetzen rückgekoppelter Prozesse für den Beginn des Lebens nehmen. Sollte es Kollegen Koenig gelungen sein, formale Systeme mit Rückkopplung zu entwerfen, dann würde das tatsächlich einen wesentlichen Fortschritt bedeuten. Würde man Computer nach diesem Kalkül programmieren, so würden sie so etwas erwerben wie Autonomie.

Professor Pazzini Genau das wollte ich ja sagen!

Minister Nun sagen Sie doch endlich, was das für praktische Auswirkungen haben könnte!

Professor Toff (zögernd) Ich will mich hier lieber vorsichtig ausdrücken. Vielleicht klingt es etwas paradox: Ein autonomes Programm braucht nicht programmiert zu werden. Es programmiert sich selbst. Dabei ist es in der Lage, sich nach bestimmten, in sehr allgemeiner Weise gegebenen Vorschriften zu richten. Es trifft nicht nur die Entscheidung für den besten Weg, der zum Ziel führt, sondern sorgt auch für die Ausführung.

Minister Es ist also ein hoch entwickeltes System der Kontrolle und Steuerung – wenn ich richtig verstanden habe. So etwas müsste sich doch auch industriell einsetzen lassen.

Professor Pazzini Sowohl in der Industrie wie auch in der Verwaltung gibt es eine Menge von Aufgaben, für deren Lösung autonome Programme eingesetzt werden könnten. Ich denke hier an exponentielle Optimierung, automatische Störausschaltung, Problemlösungsvorgänge höherer Komplexität …

Professor Toff Vielleicht könnte man es noch etwas konkreter ausdrücken: Dieses Programm bietet ideale Voraussetzungen für einen Prozessrechner. Es ist imstande, schwierigste Aufgaben selbstständig durchzuführen. Es könnte beispielsweise die Energieversorgung eines ganzen Landes kontrollieren, den Verkehr steuern, Regierungsaufgaben übernehmen …

Minister (nachdenklich) Aha! Vielleicht liegt hier der Schlüssel zur verhängnisvollen Entscheidung von Professor Koenig – was meinen Sie?

Professor Pazzini Ich kann es mir nicht denken. Gewiss, theoretisch – ein solches Programm könnte über Leben und Tod entscheiden, über Sein oder Nichtsein. Aber eben nur auf dem Papier. Der Mensch braucht es ja nur so lange arbeiten zu lassen, wie er mit den Leistungen einverstanden ist.

Professor Toff Ich sehe es ein wenig anders. Ein solches System würde Zusammenhänge überblicken, die dem Menschen grundsätzlich verschlossen sind. Und es würde aufgrund seiner Einsichten handeln, lange bevor der Mensch die Konsequenzen begreift. Ja – ich glaube, ich verstehe Kollegen Koenig: Der Schritt zu autonomen Computerprogrammen könnte die Entmündigung der Menschheit bedeuten.

Minister Ich glaube, das genügt. Nochmals besten Dank, meine Herren.

Obwohl es sich bei den anstehenden Problemen um rein theoretische Fragen handelte, begann sich die Öffentlichkeit doch dafür zu interessieren – vermutlich wegen einiger Indiskretionen aus dem Institut. Wir geben die Kommentare von zwei größeren Zeitungen wieder.

Acht Jahre arbeitet ein ganzes Institut an einem Projekt, und dann drückt der Chef aufs Knöpfchen und löscht die Daten aus. Dem Vernehmen nach soll er es sich in der Karibik gut gehen lassen – seine Pension dürfte für ein flottes Leben reichen. Einige Kreise bewundern diesen Herrn noch, betonen sein Verantwortungsgefühl. Anderen erscheint er eher als eine zwielichtige Erscheinung. Was er vernichtet hat, ist ja nicht sein Eigentum, sondern es gehört uns allen. Sein Institut wird von der Öffentlichkeit unterhalten, die hohen Gehälter der Wissenschaftler stammen aus Steuergeldern. Wir erinnern uns noch daran, dass der Großcomputer, der auf Betreiben von Professor Koenig erst vor drei Jahren in seinem Institut installiert wurde, über zehn Millionen Euro kostete. Und nun: außer Spesen nichts gewesen! Wie wir aus Technikerkreisen erfahren haben, hätte man mit dem Programm DECISION einen gewaltigen Fortschritt erzielt, der unser aller Leben erleichtert hätte. Eine verbesserte Steuerung von Fabrikationsprozessen bedeutet ja auch ein ökonomischeres Arbeiten – die Ersparnis von Geld, Zeit und Energie. Eine Optimierung der Verwaltung durch ein hoch entwickeltes Programm ließe darauf hoffen, dass es mit manchen Missständen und Leerläufen der Administration zu Ende geht. Vielleicht hätte das Programm DECISION sogar zur Sicherung des Weltfriedens beitragen können. Und nun – die ganze Arbeit umsonst. Für uns ist Professor Koenig kein Held, sondern ein Betrüger und Verschwender.

Da hat sich einmal ein Wissenschaftler ein Herz gefasst und seinen Auftraggebern entgegen geschleudert: bis hierher und nicht weiter! Ist es ein Wunder, dass er von gewissen, der Regierung nahestehenden Kreisen angepöbelt wird! Professor Koenig wird schon gewusst haben, was er tat. Schlimm genug, dass er sich dazu hergegeben hat, viele Jahre seines Lebens der Entwicklung jener Systeme zu widmen, die den Menschen in steigendem Maß seiner Welt entfremden. Zuerst hieß es, der Computer würde uns von langweiliger Routinearbeit entlasten, für neue Aufgaben frei machen. Wo sind nun diese neuen Aufgaben – abgesehen von der Entwicklung weiterer Computer? Und dann die Mikroprozessoren, die dezentralisierte Intelligenz … die Freisetzung von Kreativität hat man uns verheißen, Malerei- und Musikmaschinen, kreative Spiele, die uns vom stumpfsinnigen Freizeitkonsum abhalten. Und was wurde daraus? Das Heer der Arbeitslosen stieg. Und nun das »autonome Programm«! Angeblich geht es wieder um eine Entlastung, diesmal um die Entlastung von unangenehmen Entscheidungen – das alles besorgt jetzt der Computer. Wie aber sieht die Kehrseite der Medaille aus? Bald wird der Mensch die letzte Möglichkeit verwirkt haben, sein Leben eigenständig zu gestalten. Jetzt schon wird er vom Computer gegängelt, der sich aber wenigstens noch abschalten lässt. Doch so ein »autonomes System«? Professor Koenig wird gewusst haben, was damit auf uns zugekommen wäre. Die Uhr stand fünf Minuten vor zwölf, und er hat sie im richtigen Zeitpunkt angehalten. Er verdient unsere volle Achtung und Anerkennung.

Im Gegensatz zur Bedeutung des Geschehens, wie es sich in diesen Texten andeutet, nahm die Öffentlichkeit eigentlich kaum davon Notiz. Und selbst jene Notizen, von denen wir zwei wiedergegeben haben, erschienen eher als Glossen – in jenem Randbereich der Presseinformation, in den man Dinge bringt, von denen man nicht weiß, ob man sie ernst nehmen soll oder nicht.

Fast schien es, als würde diese Geschichte im Sand verlaufen, als sich plötzlich eine überraschende Wendung ergab. Bezeichnenderweise war es ein Psychiater, der den Minister für Forschung und Technik in einer wichtigen Angelegenheit persönlich zu sprechen wünschte. Als man ihn mehrmals an untergeordnete Instanzen abzuwimmeln versuchte, entschloss er sich zu einem verhängnisvollen Schritt: Er schrieb einen offenen Brief ans Ministerium, den er durch eine Illustrierte publizieren ließ; als Beweis legte er ein Tonband bei. Dieses wurde in Auszügen wiedergegeben, und dadurch wurde ein Umstand bekannt, den man sicher besser intern abgehandelt hätte. (Über die Frage, ob ein Psychiater berechtigt ist, von Ratsuchenden erhaltene Informationen an die Öffentlichkeit zu bringen – auch wenn das im allgemeinen Interesse zu liegen scheint –, wird, wie wir erfahren haben, in einem Grundsatzprozess entschieden werden.)

Psychiater Nun machen Sie es sich bequem, entspannen Sie sich. Und keine Hemmungen! Sie wissen, dass Sie mir alles anvertrauen können.

Doktor Dessenbrinck Ich weiß ja nicht, ob das wirklich der Grund für meine Schlaflosigkeit ist … Aber ich komme einfach zu keinem Ergebnis. Ich grüble und grüble …

Psychiater Nur Ruhe! Wir haben Zeit. Überlegen Sie – und fangen Sie ganz von vorne an!

Doktor Dessenbrinck Wahrscheinlich sollte ich es für mich behalten …

Psychiater Aber nein, Sie sollen alles offen sagen. Sie brauchen sich über nichts zu genieren. Ich habe für alles Verständnis. Haben Sie sexuelle Schwierigkeiten? Wahrscheinlich liegt die Ursache in Ihrer Kindheit …

Doktor Dessenbrinck Aber keine Spur! Es liegt erst eine Woche zurück.

Psychiater Na schön, wir werden sehen. Und nun sprechen Sie sich aus.

Doktor Dessenbrinck Es handelt sich um das Programm DECISION. Sie wissen, was ich meine? Das Projekt von Professor Koenig.

Psychiater Ja, ich habe davon gehört.

Doktor Dessenbrinck Er hat es vernichtet. Die Bänder durch das Wirbelfeld laufen lassen. Die Arbeit von acht Jahren. Auch meine Arbeit.

Psychiater (brummend) Und weiter?

Doktor Dessenbrinck Er hat mir erklärt, warum er es getan hat. Er meinte, die Menschheit sei noch nicht reif dafür. Da würde etwas in Bewegung kommen … etwas, was sich nicht aufhalten lässt. Er sagte, dass die Intelligenz, die auf diese Weise entsteht, jene des Menschen weit übertrifft. Er sagte, die Folgen wären genau so entscheidend wie die Konfrontation mit außerirdischen Intelligenzen, die uns überlegen sind. Die Konsequenzen wären stärker als die aller Revolutionen, die es bisher auf der Erde gegeben hat.

Psychiater Und nun trauern Sie um das Ergebnis Ihrer Arbeit. Das ist verständlich. Aber es hat nun einmal keinen Sinn, sich über vergossene Milch Gedanken zu machen. Hören Sie, ein Mann Ihrer Qualitäten! Sie werden neue interessante Aufträge erhalten, vielleicht gelingt es Ihnen sogar, einen Teil Ihrer Erfahrungen zu verwerten. Lässt sich denn dieses Programm nicht rekonstruieren – wenigstens in den Grundzügen?

Doktor Dessenbrinck (seufzend) Sie verstehen mich nicht. Darum geht es doch gar nicht. Sehen Sie, ich verstehe die Argumente von Professor Koenig sehr gut. In allem, was er sagt, hat er recht. Und so ist die Konsequenz, die er gezogen hat, völlig logisch.

Psychiater (erstaunt) Und trotzdem sind Sie bedrückt? Was quält Sie denn nun eigentlich?

Doktor Dessenbrinck Er hat offensichtlich recht – und doch wieder unrecht. Kann man denn den Fortschritt aufhalten, indem man Daten löscht? Kann man den Kopf in den Sand stecken? Kann man Probleme lösen, indem man sagt »ohne mich«!

Psychiater Sie meinen, was in Ihrem Institut gelungen ist, könnte auch anderen gelingen …

Doktor Dessenbrinck Das ist zwar richtig, aber es stört mich nicht. Es ist etwas ganz anderes, was mir im Kopf herumgeht …

Psychiater Ich kann Ihnen nicht helfen, wenn Sie es nicht sagen. Sie müssen einfach Vertrauen haben!

Doktor Dessenbrinck Nun, ja – es ist nicht einfach so … Professor Koenig hat das Programm zwar vernichtet, aber ich habe ein Duplikat davon aufbewahrt. (Seufzt) Bis heute weiß ich noch nicht, ob ich richtig gehandelt habe oder falsch.

Psychiater (merklich aus der Ruhe gebracht) Das Programm ist also noch vorhanden? Es ist nicht zerstört?

Doktor Dessenbrinck Ich sagte Ihnen doch, ich habe ein vollständiges Duplikat.

Psychiater Und das ist alles, was Sie belastet? Sie haben nach bestem Wissen und Gewissen gehandelt – und das ist das Beste, was ein Mensch tun kann.

Doktor Dessenbrinck Sie meinen also … Es war richtig …

Psychiater Aber klar! Immerhin handelt es sich um die Forschungsergebnisse vieler schwerer Jahre. Ich hätte verstehen können, wenn es Sie gekränkt hätte, dass nun alles vernichtet sei … So aber! Ich glaube, ich kann Sie beruhigt nach Hause schicken. Sie sind ein Mensch von ungewöhnlichen moralischen Qualitäten – das verursacht schon manchmal Schlaflosigkeit. Ich werde Ihnen einige Tabletten verschreiben, Sie werden sich erholen – und sich keine Gedanken mehr machen über etwas, was ja eigentlich gar nicht geschehen ist.

Rascheln von Papier, Abbruch der Tonbandaufzeichnung.

Das Programm von Professor Koenig war also nicht vernichtet, der Menschheit eine Entscheidung weniger abgenommen! Der Schritt in die Öffentlichkeit, den der Psychiater N. unternahm, geschah ohne die Erlaubnis von Doktor Dessenbrinck, der von der Publikation völlig überrascht wurde. Vielleicht hätte er sich im letzten Moment noch entschlossen, die Magnetbänder zu löschen, doch einige vom Ministerium rasch herbeibeorderte Beamte in Zivil sorgten dafür, dass er erst gar keine Gelegenheit dazu bekam. Noch am selben Tag wurde eine Konferenz zusammengerufen, an denen die führenden Informatiker und Kybernetiker, aber auch Philosophen und Theologen unter dem Vorsitz des Ministers teilnahmen. Offenbar war es schwer, das Gespräch in geordneten Bahnen zu halten – oft genug wechselten abstrakt theoretische Erörterungen unkontrolliert mit dem Gedankengut der populären Wissenschaft, der Ethik und Morallehre und der praktisch technischen Argumentation, ohne dass der eine den anderen verstand. Wir geben einige Auszüge aus der Diskussion wieder.

Pastor Schult … eine beachtliche Leistung des menschlichen Verstands, gewiss! Aber eben doch nicht mehr. Punkte und Zahlen auf einem Stück Papier, magnetisierte Eisenteilchen in einem Tonband. Na und? Ist es nicht eine neue Form von Aberglauben, dass wir dahinter das Böse wittern? Und ich meine das Böse: eine reale Macht, die in unser Leben eingreift, und nicht nur abstraktes Schema.

Professor Toff Nur Software meinen Sie, nur Theorie! Ist Ihnen denn nicht klar, dass das Gute wie auch das Böse stets nur in den Gedanken steckt und nie in den Dingen! Stets nur in abstrakten Prozessen, aus denen Entscheidungen entwachsen, und nicht in hämmernden Kolben und rotierenden Rädern!

Minister Ein altes Problem! Ob Hardware oder Software – ein Instrument, über dessen Gebrauch wir beraten müssen. Und ebenso wenig gut oder böse wie ein Messer oder ein Hammer. Wenn wir hier Bedenken hätten, meine Herren, dürften wir überhaupt kein technisches Werkzeug verwenden, und schon gar keine Waffe. Aber dafür sind wir ja schließlich da – Vertreter des Volks –, um die Mittel, über die wir verfügen, zum Wohl der Gemeinschaft anzuwenden …

Professor Meder Ich finde die Vorstellung, ein Computer könnte gewissermaßen die Macht an sich reißen, geradezu lächerlich. Wir wissen doch alle, dass ein Computer nur das auszugeben vermag, was man ihm eingegeben hat. Und das gilt auch für den modernsten Computer der Welt.

Professor Pazzini Ein solcher moderner Computer ist schließlich auch unser Gehirn, verehrter Kollege! Wollen Sie vielleicht behaupten, dass dieses keine Innovation zu schaffen vermag?

Professor Meder Sie können doch das menschliche Gehirn nicht mit einem Computer vergleichen! Diese alten Primitivvorstellungen der beginnenden Kybernetik sind doch längst überholt!

Professor Pazzini Das Gehirn ist genauso wie jede Maschine aus Materie zusammengesetzt, die sich in verschiedenen Zuständen befinden kann. Es gibt keinerlei Grund dafür, dass eine Maschine, die von Menschen gebaut ist, nicht zu prinzipiell denselben Leistungen fähig ist wie das menschliche Gehirn. Umso mehr, als das Programm von Professor Koenig seine eigene Weiterentwicklung übernimmt und dadurch zu Strukturen findet, an denen wir unsere Erkenntnisse über simple Digitalrechner nicht anwenden können.

Pastor Schult Der Mensch ist schließlich ein lernfähiges Wesen, das seine Erfahrungen aus der Umwelt gewinnt. Wie wollen Sie einem Computer, der blind und taub ist, anwendbares Wissen über die Welt zudichten? Das wäre doch die mindeste Voraussetzung dafür, dass er überhaupt eingreifen kann.

Professor Toff Der Computer hat sowohl Augen – nämlich Videokameras – wie auch Ohren – nämlich Mikrofone. Und er hat mehr als das: Er ist in einem weltumspannenden Datennetz mit sämtlichen Speichern verbunden. Er verfügt über das gesamte Wissen der Vergangenheit und der Gegenwart, und durch unzählige Kanäle kommt immer neue Information hinzu. Denken Sie doch daran, dass heute sämtliche Meldungen aus Presse und Funk computergesteuert verarbeitet und wieder ausgegeben werden. Alle auch nur einigermaßen interessanten Texte, ob literarisch oder wissenschaftlich, gehen durch die Übersetzungsautomaten, und sind somit einer maschinellen Intelligenz stets präsent. Selbst die geheimsten Nachrichten, vielfach zerhackt und verschlüsselt, sind dem Computer zugänglich – denn er ist das einzige System, das die komplizierten Codes zu entschlüsseln vermag. Und da wagen Sie zu behaupten, der Computer könne weniger sinnfällig auf Zustände der Umwelt reagieren als der Mensch!

Professor Pazzini Vom Standpunkt der Automatentheorie aus gesehen halte ich es durchaus für möglich, dass sich ein System, das funktionale Zusammenhänge beschreibt, auch solche erfassen kann, die die eigene Funktion betreffen. In die Alltagssprache übersetzt: Ein solches System ist sich seiner selbst bewusst. Ich bin mir nicht sicher, ob Professor Koenig noch Übersicht über sein Ergebnis behalten hat – schließlich hat er sich zu seiner Ausarbeitung des eigenen Computers bedient, und heute schon gibt es kaum einen einzigen Menschen, der eine größere Rechenanlage voll zu durchschauen vermag. Wenn sich ein solches System aber auch noch selbstständig weiterentwickelt … Ich frage mich, ob auf diese Weise nicht etwas entsteht, das niemand mehr entschlüsseln kann, vielleicht nicht einmal der Computer selbst! Aber ich möchte betonen: Das sind wirklichkeitsferne Hypothesen – schließlich haben wir einen Finger, mit dem wir auf das berühmte Knöpfchen drücken können.

Professor Toff Ich glaube nicht, dass wir es uns so einfach machen dürfen. Sicher ist es möglich, einen Computer durch Knopfdruck ein- und auszuschalten, aber wir alle wissen schließlich, dass man Schalter schon seit nahezu zweihundert Jahren elektrisch betreiben kann. Mit anderen Worten: Zweifellos findet ein intelligenter Computer auch Mittel und Wege, um zu verhindern, dass man ihn ausschaltet – wenn er nur will!

Pastor Schult Ich halte es für bedenklich, von »Entscheidungen« zu sprechen, die ein Computer fällen würde. Schließlich ist er nur imstande, positive und negative Werte zu summieren und das Ergebnis anzugeben, das dann unter dem Strich steht. Würden Sie das eine Entscheidung nennen? Dazu sind schließlich noch andere Dinge nötig – emotionale Beurteilungen und Werte.

Professor Toff Was Sie da nennen, kann ich Ihnen sofort in die Sprache der Informatik übersetzen – nicht um Sie zu schockieren, sondern um Ihnen zu beweisen, dass man diese Dinge längst mit Programmen erfassen kann. Die von Ihnen genannten Werte stehen uns längst in Form von Prioritätslisten zur Verfügung, und die Emotionen, auf die Sie so großen Wert legen, sind nichts anderes als statistische Gewichtungen, die überdies mit willkürlichen Störfaktoren belastet sind. Eine Maschine, die nach diesem System arbeitet, bastelt Ihnen heute jeder Elektroniker mit einigen ICs.

Pastor Schult Und wie steht es mit dem Willen? Und wie mit dem Geist?

Professor Toff Der Wille ist nichts anderes als die Umsatzstelle vom Gedanken zur Funktion – in der Sprache des Computers ein Startbefehl. Und der viel zitierte Geist? Ein Computer der fortgeschrittenen Klasse von Professor Koenig würde seine eigene Existenz erkennen. »Ich denke, folglich bin ich« – was sollte dieser Erkenntnis im Wege stehen?

Professor Meder Offenbar verwechseln Sie tatsächliche Existenz mit Simulation. Vielleicht können Sie alle diese Begriffe und Funktionen simulieren, und vielleicht sogar so, dass man es von außen nicht merkt. Der entscheidende Unterschied aber bleibt bestehen!

Minister Verzeihen Sie, wenn ich wieder von praktischen Dingen spreche. Für mich als Politiker ist es völlig gleichgültig, ob etwas so handelt, als wäre es mein Feind oder ob es wirklich mein Feind ist. Und dasselbe gilt für Dinge, die mir nützlich sind. Jedenfalls bin ich dafür, dass wir dieses Programm einmal ausprobieren. Vielleicht könnten Sie sich der Reihe nach dazu äußern!

Professor Pazzini Ich glaube, dass es noch ein weiter Schritt von der Theorie zur technischen Wirklichkeit ist. Ich habe keine Bedenken, dem Experiment zuzustimmen.

Professor Toff Ich glaube, ich muss eine entschiedene Warnung aussprechen. Der Gedanke, dass wir rechtzeitig ausschalten können, scheint mir illusorisch. In dem Moment, wo wir das Programm aktivieren, beginnen sich Dinge in Bewegung zu setzen, die wir nicht mehr kontrollieren können. Es ist so wie ein Krankheitskeim, der plötzlich freigesetzt wird. Die Folgen könnten schrecklich sein.

Pastor Schult Ich sagte es schon: Der Mensch hat die Demut vor der Allmacht verloren. Er glaubt es, dem Schöpfer ins Handwerk pfuschen zu können. Wie lächerlich! Sie können Ihren Versuch gern unternehmen – vielleicht werden Sie dann begreifen, wie weit Sie noch von einer Gottfunktion entfernt sind.

Professor Meder Was wir hier betreiben, ist ein Sandkastenspiel. Ein elektronisches System kann nie intelligenter werden als sein Schöpfer – da können Sie mir noch so viele Fremdworte aus der Kybernetik entgegenwerfen. Bedenken gegen den Versuch? Die habe ich nicht – ich halte ihn nur für überflüssig.

Minister Ich meine, es ist im Sinn von uns allen, dass wir das Gebot der Sicherheit ernst nehmen, und wenn die Gefahr noch so unwahrscheinlich erscheint. Ich bitte Sie, Professor Toff, eine Kommission zu bilden und alle nötig erscheinenden Maßnahmen zu treffen. Dann dürfte also einem Versuch mit dem Programm DECISION nichts mehr im Wege stehen. Haben Sie Dank für Ihr Kommen!

Die von Professor Toff eingesetzte Kommission übernahm eine Art Gesetzgeberrolle: Sie erweiterte jene Liste von Geboten, nach denen sich der Computer bei allen Aktionen zu richten hätte. In der neuen Prioritätenliste standen einige Begriffe ganz oben, die wohl noch nie in Computerprogrammen erschienen: (menschliche) Freiheit, Würde, Anerkennung usw. In welchen Steuerungs-, Kontroll- oder Ordnungsfunktionen das Programm auch eingesetzt wurde – stets musste es selbst vorher prüfen, ob irgendeine der vorgegebenen Regeln verletzt werden könnte, und in solchen Fällen nach anderen Wegen suchen, um das Ziel zu erreichen. Ja, noch mehr: Auch ohne Einsatzbefehl hatte das Programm die Pflicht, dafür zu sorgen, dass die Freiheit, die Würde des Menschen und die anderen ihm zukommenden Werte erhalten und gesteigert würden. Im Prinzip war es also möglich, dass ein Computernetz, einmal mit diesem Programm gefüttert, sofort aktiv wurde, um Möglichkeiten zur Steigerung der Lebensqualität des Menschen zu suchen – und die entsprechenden Maßnahmen ergriff. Nachdem dies alles geschehen war, konnte auch Professor Toff keine triftigen Gründe anführen, die gegen das geplante Experiment gesprochen hätten.

Vielleicht ist es ungewöhnlich, ein wissenschaftliches Experiment in Form einer Reportage zu beschreiben. Doch die Methode ist nicht neu – seit der ersten Landung auf dem Mond ist sie gang und gäbe, und wie die Erfahrung zeigt, erfasst man damit sogar mehr als mit langen Listen von Messwerten. Unser Reporter war dabei, und wir wollen zum Abschluss noch einmal seinen Mitschnitt wiedergeben, sooft er auch schon veröffentlicht wurde. Überflüssig zu erwähnen, dass die Interpretationen des Resultats bis heute noch nicht zu endgültigen Ergebnissen geführt haben. Vielleicht aber können sich unsere Leser anhand unserer ausführlichen Zusammenstellung, die auch einige neue Details enthält, selbst ein Bild davon machen.

Reporter Meine Damen und Herren, ich befinde mich im Zentrallabor des Instituts für Advanced Studies. Das Interieur erinnert ein wenig an die Zentrale einer Fernsehanstalt oder einer prozessgesteuerten Fabrik: überall Bildschirme, Messanzeigen, flackernde Lämpchen.

Etwa ein Dutzend Herren haben sich hier versammelt, die angesehensten Spezialisten aus den Fächern der Automatentheorie und der maschinellen Intelligenz. Obwohl das, was geschieht, in keiner Weise besonders erscheint, liegt doch eine spürbare Spannung im Raum, und die Bewegungen von Doktor Dessenbrinck, der an einem Schaltpult hantiert, muten fast feierlich an. Vorhin hat er drei dicke Magnetbandrollen in einen Speicher gelegt, und nun wird er die Daten in den riesigen Arbeitsspeicher des zentralen Computers überspielen. Offenbar wartet er nur noch auf die Aufforderung des Ministers, der es sich nicht nehmen ließ, hier anwesend zu sein.

Minister Ich glaube, wir sind bereit – bitte, schalten Sie ein!

Reporter (aufgeregt flüsternd) Eine kurze Handbewegung von Doktor Dessenbrinck – das ist alles. Doch wie von Geisterhand geregt füllen sich die Bildschirme mit Zeichen. Es sind Reihen von Zahlen und Buchstaben, dazwischen Symbole – Punkte, Klammern, Zeichen aus der Algebra. Vielleicht verstehen sie die Informatiker – ich habe keine Ahnung, was sie bedeuten, und so fürchte ich, dass ich Sie nur unzureichend über den Fortgang des Experiments unterrichten kann. (Kurze Pause) Dort leuchtet ein rotes Licht – das Flackern auf den Bildschirmen hat aufgehört, mir scheint, als wäre der Eingabeprozess beendet.

Minister Wie könnte das Ergebnis aussehen?

Professor Pazzini Es ist nicht vorherzusehen. Irgendeine Reaktion … irgendeine Äußerung, dass sich dieses elektronische Wesen, das sich da drinnen aufgebaut hat, seiner eigenen Existenz bewusst ist.

Professor Toff Warum sollte es sich äußern? Wenn es überhaupt aktiviert ist, dann wird es handeln!

Minister Aber wie?

Professor Toff Das wird sich zeigen.

Reporter Der Minister und die Wissenschaftler stehen wartend da, ein wenig beunruhigt, will mir scheinen, aber was bleibt übrig, als zu warten … (Pause) Noch immer nichts … Sollte das das ganze Ergebnis sein? Einige Herren schütteln den Kopf, einige lächeln überlegen … (Pause) Aber jetzt (aufgeregt): Auf den Bildschirmen ist eine Bewegung zu erkennen. Leider fehlen mir die Kenntnisse, um Ihnen die Zeichen, die dort erscheinen, zu deuten. Doch es dürfte etwas Interessantes sein – die Wissenschaftler scheinen gespannt, sie beugen sich zu den Konsolen … Ich will ein wenig näher gehen, vielleicht kann ich etwas erkennen … (Schritte) Jetzt habe ich gute Sicht auf einen Bildschirm, und ich kann Ihnen sogar schildern, was auf ihm geschieht: Nach und nach werden nämlich alle Zeichen durch Nullen ersetzt. Und dort drüben, der andere Schirm … auch auf ihm nur noch Nullen! (leise und gespannt) Was hat das zu bedeuten? In den Mienen der gelehrten Herren Ratlosigkeit! Sie sehen sich an, schütteln die Köpfe. Sie beginnen ein Gespräch … offenbar nicht für die Öffentlichkeit bestimmt, doch ich will sehen, ob ich etwas mitbekommen kann …

Doktor Dessenbrinck Ich verstehe nicht … alles gelöscht …

Minister Was sagen Sie da?

Professor Pazzini Mein Gott, alles gelöscht – jetzt ist das Programm endgültig verloren!

Minister Aber ich verstehe nicht …

Professor Pazzini Der Versuch … misslungen. Vielleicht ein Fehler? Falsch programmiert?

Professor Pazzini Keine Superintelligenz, keine Reaktion …

Professor Toff Aber verstehen Sie denn nicht, meine Herren: Es hat reagiert!

Minister Es hat reagiert … Aber warum … weshalb? Alles gelöscht!

Professor Toff Wir haben Zeit, darüber nachzudenken.