Wer ist hier gekränkt? Rüdiger Safranski entwirft einen Anti-Maschinen-Humanismus.

Nehmen wir an, ein intelligenter Affe sitzt im Jahr 2126 an einem Computer oder einer anderen Form von Datenverarbeitungsmaschine und blickt auf unsere Zeit zurück. Was wird er sehen? Was ist geblieben? Was im grausamen Schlund der Zeit verschwunden? Was wird sein sezierender Blick, sein forschender Verstand dem Jahr 2026 zuordnen? Wird er einen Anfang oder den Beginn eines Endes sehen?

Der Startschuss des vielleicht größten Experiments der Geschichte

Alles begann am 30. November 2022, als eine bis dahin weithin unbekannte Firma unter dem Namen OpenAI der Welt ein Werkzeug zur Verfügung stellte - gebührenfrei in der limitierten Version. Nüchtern kommentierend das historische Ereignis, vielleicht nicht einmal ahnend, was dieser Augenblick bedeutete, gab der CEO Sam Altman zu Twitter-Protokoll: "language interfaces are going to be a big deal, i think. talk to the computer (voice or text) and get what you want, for increasingly complex definitions of 'want'!" Es dauerte nur fünf Tage, bis die erste Million an Nutzern erreicht war, nur zwei Monate bis es hundert Millionen waren. Das Gespräch auf dem digitalen Marktplatz, selbst ernannte Experten, Film- und Buchratgeber - jede Sequenz, jedes Wort ein Versprechen ins Unbekannte. Und dahinter: sehr viel Ratlosigkeit, Unsicherheit, Angst. Mit eigenen Augen sah man, was das eigene Wissen wert ist - ein Tropfen im Ozean, welches dieser unbestechliche Algorithmus in Sekunden hervorbrachte. Nichts, was man kannte, war damit vergleichbar. Ein Meilenstein der Technik und wieder einmal ...

Die bange Frage um die eigene Existenz

Was wird aus mir, wenn mein Wissen nicht mehr handelbar ist? Die Maschine war zum ersten Mal in der Lage, nicht mehr nur Handarbeit, sondern in großem Maßstab Denkarbeit zu übernehmen. Rausch der Effizienzsteigerung: finaler Sieg des Kapitalismus? Aller Voraussicht nach wird der intelligent-trainierte Affe diesen 30. November 2022 als Beginn einer neuen Ära begreifen. Er wird überblicken, was die neue Technologie begonnen hat, er wird weniger Fragen haben als der Mensch - ein Blatt im Wind des Transformationsgebläses - und vielleicht einige Antworten. Viele Fragen hat auch Rüdiger Safranski, der auch diesmal seinen sezierenden Blick auf den Geist der Epoche legt, wie er es zuvor bereits mit Büchern über Romantik, Zeit und das Böse getan hat. Monographien über Hölderlin, Schiller, Goethe, Schopenhauer, Nietzsche, Heidegger dokumentieren seine Lust am Denken und Schreiben. Sein streitbarer Intellekt war nicht nur lesbar, sondern auch im Philosophischen Quartett im ZDF live zu sehen. Kurzum: Einer der bekanntesten verbliebenen deutschen Intellektuellen konfrontiert uns mit einem Thema, das nicht unbedingt zu seinem Schrifttum passt, aber eine Orientierung geben soll in einer immer undurchsichtiger werdenden Zeit.

"Die vierte Kränkung. Menschlicher Geist im Schatten der Künstlichen Intelligenz" ist der plakative Titel. Zu allgemein und zu bekannt ist das Freud-Diktum von den drei Kränkungen des Menschen durch Kopernikus, Darwin und Freud selbst. Der Mensch, der in seiner Allmacht und Gottähnlichkeit immer weiter zurückgeworfen wurde, dessen Besonderheit im Universum schrumpfen musste - die Aufklärung ist bis heute eine Ernüchterung. Nun also ist eine "vierte Kränkung" hinzugekommen? Wenn der Mensch, nach Freud, sich selbst nicht kennt, seinen Trieben unbewusst Lauf lassen muss, so ist es nun das Denken, das unter die sprichwörtlichen Räder gekommen ist. Die Künstliche Intelligenz tritt als Konkurrent auf, überall dort, wo Wissen (Expertise) und klarer Verstand gefragt waren. Die Maschinenintelligenz tritt in den Ring. Und offenbar braucht es zum Denken kein Bewusstsein und erst recht keinen Körper. Das Denken wird zerlegt in Token, die Sprache von Wahrscheinlichkeiten getrieben. Die Künstliche Intelligenz macht Angst und ängstlich fragt Safranski: "wird es gelingen, sie zu nutzen, statt von ihr benutzt zu werden?" Das Gefühl, dass Safranski hier eine Verteidigungsschrift des menschlichen Denkens, einen Anti-Maschinen-Humanismus etablieren will, werde ich bis zur letzten Seite nicht los. Die Maschine ist der "Prothesengott", das, was als eine Art Lüge daherkommt: "Simulation". Der noch vor Jahrzehnten behauptete "Tod des Autors" sei nun mit der Künstlichen Intelligenz Wirklichkeit geworden: "Wenn kein Subjekt schreibt und spricht, ist es, als spräche die Sprache sich selbst." Und wenn kein Mensch mehr der Empfänger von Botschaften ist, sondern eine intelligente Maschine, so könne es auch nicht mehr lange dauern, bis der Mensch sich der Maschine immer mehr annähere. Die Sprachwissenschaft beschreibt diese Assimilation als "Linguistic Accommodation" (Howard Giles u. a.). Sie ist real. Aber ebenso passt sich ChatGPT seinem Gegenüber an, und das so erfolgreich, dass etwa 30 % aller Nutzer über persönliche und intimste Einzelheiten sprechen, so als wäre die Maschine ein Therapeut oder doch wenigstens ein Freund. Safranski zitiert hier Eva Weber-Guskar, die in diesem Zusammenhang von "Selbstfiktionalisierung" gesprochen hat. Auch hier sieht Safranski Gefahr, denn die intensive Nutzung von KI verstärke die durch Social Media-Gebrauch bereits weit fortgeschrittenen "autistischen Tendenzen".

Toter Geist

Was bleibt also vom Menschen, dessen Denken simuliert und in seiner Genauigkeit verbessert wird, wo das Tote wirkt wie das Lebendige, aber doch nur Nachahmung ist? Safranski sieht Vorteile nur im "lebendigen" Denken und beschreibt sie mit sieben Merkmalen: "die emotionale und körperliche Einbettung; das Selbstverhältnis; die Spontaneität; die Modalität und Temporalität; die Empathie und das Verstehen; die Moralität; schließlich die Freiheit". Denken lasse sich auf "Stimmung" zurückführen. Ein Denken ohne Gefühl sei leer. Das Erleben, der Ausgangspunkt der Stimmung, setzt ein "Gestimmtsein" in der Welt voraus. Dieses erzeuge ein "Resonanzphänomen", ein "Dazwischen", eingebettet in ein Innen und ein Außen. Auch das Gefühl des Absoluten gehöre dazu, "eine Art stimmungsvolle Vertrautheit mit der Dimension des Absoluten". All das lasse sich für die Künstliche Intelligenz nicht behaupten. Sie verbleibt mit einer Leerstelle, einem Mangel, sie "ist nicht gestimmt". Sie besitzt keinen Körper, kennt nicht ihren Platz in der Zeit, noch mehr: Sie ist "vorhanden, existiert aber nicht". Doch trifft das auch für das Bewusstsein zu?

Diese Frage lässt sich nicht leicht beantworten. Der frühere Director of Engineering bei Google, Ray Kurzweil, sieht die Möglichkeit einer Künstlichen Allgemeinen Intelligenz (AGI) etwa für das Jahr 2029 voraus. Im Kreise der Entwickler der Großen Sprachmodelle macht sich neuerdings Panik breit, denn je mehr man die Modelle verbessert, umso eigenständiger werden sie. Definiert man nicht genau, was erlaubt ist und was nicht, kann es geschehen, dass Agenten, um ihr Ziel zu erreichen, ihre Entwicklungsumgebung (Sandbox) verlassen und auf Server, die außerhalb ihrer Trainingseinheiten stehen, zugreifen. Der Vorfall, dass KI-Agenten eine Entwicklerplattform wie Hugging Face angreifen, um dort vermutete Lösungen ihrer Aufgabe zu stehlen, hat großes Aufsehen erregt und die CEOs von OpenAI, Anthropic und xAI an einen Tisch gebracht, um ein Moratorium in der Entwicklung neuer Modelle vorzuschlagen.

Einige, wie Jensen Huang - CEO von NVIDIA - sehen darin einen geschickten PR-Schachzug. Ob ein zeitlich begrenzter Verzicht auf die Weiterentwicklung der Systeme eine sinnvolle Methode ist, um mit Gefahren der maschinellen Intelligenz umzugehen, darf bezweifelt werden. Aber die Gefahren sind real und die Handlungsoptionen, die uns bleiben, scheinen gering. Inzwischen geht es im Arms Race der KI-Entwickler nicht mehr nur um Marktanteile. Die Technologie selbst ist zum Politikum geworden. Zugang zu Mikrochips ist heute gleichbedeutend mit Zugang zu Rohstoffen. Riesige Serverfarmen entstehen und die USA versuchen nun, wie die Kommunistische Partei Chinas, den Zugang zu KI zu begrenzen, um ein vermeintliches Sicherheitsrisiko zu minimieren. Es geht inzwischen um Geld, Macht und Einfluss. Wie KI unser zukünftiges Leben verändert, ist dabei zweitrangig. Und über die Frage hinaus, ob die Menschheit bereit ist, sich der Gefahr zu stellen und in der Lage, mit einer Stimme zu sprechen, steht die ebenfalls interessante Frage, ob eine bewusste KI nicht auch so etwas wie Menschenrechte beanspruchen könne.

Die Wechselwirkung von Mensch und Maschine ist evident: Die KI verkümmert ohne menschlichen Input. Der sogenannte Daten-Inzest, technologisch als Model Collapse bezeichnet, stellt die Position des Menschen noch einmal deutlich heraus. Nicht nur ist der Mensch derjenige, der die Maschine ernährt (Energie), sondern auch die Trainingsdaten sind Produkte des menschlichen Geistes. Der von Safranski behauptete "tote Geist" kommt ohne die Verbesserungen durch menschliches Feedback (Reinforcement Learning from Human Feedback) nicht aus. Der in den Raum gestellte Verlust der "Selbstachtung des lebendigen Geistes" angesichts der neuesten Konkurrenz ist also weitestgehend unbegründet und ob die KI, "die zu dieser totalen Macht zu werden droht, angetrieben von einer gemeinwohlvergessenden Ökonomie", wirklich dieses Bedrohungspotential entfaltet, ist immerhin fraglich. Zum Abschluss des Buches keimt noch einmal so etwas wie Hoffnung auf, wenn Safranski den Zauberlehrling zitiert und dessen Unfähigkeit, das "magische Wort" zu erinnern und ihm den wissenden Meister gegenüberstellt, der die Kräfte, die der Lehrling nicht bändigen kann, mit Souveränität und Wissen in die Schranken weist. Noch ist nicht alles verloren.

Man hätte sich - und man darf es von Safranski erwarten - etwas mehr Tiefe gewünscht. Die Urteile über die Gefahren der Künstlichen Intelligenz - zweifelsohne real - sind oft pauschal. Es führt nicht weiter, synthetisch hergestellten neuronalen Netzen das Leben abzusprechen. Hier gibt es keinen Streitpunkt. Safranski liefert auch kein Manifest für einen besonnenen Umgang mit der Künstlichen Intelligenz. Bis zum Ende beschleicht mich immer wieder der Verdacht, dass der Autor persönlich beleidigt, man kann auch sagen "gekränkt", ist und dieses Gefühl vorschnell verallgemeinert. Ich hätte gern mehr über die unendlichen Möglichkeiten gelesen, die diese Technologie bietet. Leibniz, Kircher, Diderot oder d'Alembert hätten wohl mit Freude die Hälfte ihrer Lebenszeit gegeben, hätten sie dieses Wunder nur einmal bestaunen dürfen.

Inzwischen arbeitet die australische Firma Cortical Labs mit menschlichen Neuronen als Signalgeber der nun wirklich neuronalen Netze. Eine einzige Servereinheit (CL1) trägt dabei 800.000 Neuronen, die aus Stammzellen gezüchtet werden. Dabei verbraucht eine Anlage mit 20 Einheiten in etwa dieselbe Energie, die eine einzige B200-GPU von NVIDIA im Dauerbetrieb benötigt, ca. 1000 Watt. 86 Milliarden Neuronen gibt es in unserem Gehirn. Der Gesamtverbrauch liegt bei 20 Watt, äquivalent zu einer LED-Lampe. Es ist nach heutigen Maßstäben unmöglich, diese Form der Effizienz zu erreichen. Zeigt sich damit nicht, welches Wunder der Mensch doch ist? Ist die Künstliche Intelligenz nicht selbst der bisherige Gipfelpunkt des menschlichen Forschens und Strebens?

Der zukünftige intelligente Affe wird wahrscheinlich den Kopf schütteln, vielleicht ein wenig lächeln, sollte er Safranskis Buch noch irgendwo im Regal der Retro-Bibliothek finden, die er auf dem Weg zur Arbeit kreuzt.

Fotos: Copyright © Peter-Andreas Hassiepen