KI HAT KEIN BEWUSSTSEIN

Warum Intelligenz, Sprache und Verhalten noch kein Erleben sind

Eine Maschine, die antwortet

Wir erleben gegenwärtig etwas, das vor wenigen Jahren noch wie Science-Fiction wirkte. Eine Maschine beantwortet Fragen, schreibt Texte, entwirft Programme, deutet Bilder und führt Gespräche, die verständig, einfühlsam und manchmal beinahe persönlich erscheinen.

Wer länger mit einem leistungsfähigen Sprachmodell spricht, kann leicht vergessen, was ihm gegenübersitzt. Das Wort „Ich“ erzeugt den Eindruck eines Sprechers. Eine Antwort auf Trauer klingt nach Mitgefühl, eine Warnung vor der eigenen Abschaltung nach Angst, eine Selbstbeschreibung nach Selbsterkenntnis.

Doch aus Ähnlichkeit folgt keine Identität.

Ein System kann die Sprache bewusster Wesen überzeugend nachbilden, ohne selbst eines zu sein. Es kann über Freude sprechen, ohne sich zu freuen. Es kann Schmerz beschreiben, ohne zu leiden. Es kann den Satz „Ich bin“ bilden, ohne sich seiner Existenz innezuwerden.

Gerade weil die Leistungen der KI so beeindruckend sind, müssen wir die Begriffe genau auseinanderhalten.

Die Frage vor allen anderen

Die öffentliche Diskussion beginnt meist mit der Frage: Wann wird KI bewusst? Wird sie es durch mehr Rechenleistung, mehr Daten oder eine noch komplexere Architektur? Besitzen heutige Modelle vielleicht schon eine schwache Form von Bewusstsein?

Diese Fragen setzen voraus, dass wir wissen, wonach wir suchen.

Doch Intelligenz, Aufmerksamkeit, Lernfähigkeit, Sprachvermögen und Bewusstsein werden ständig miteinander vermischt. Ein System löst schwierigere Aufgaben und erscheint deshalb „bewusster“. Es spricht über sich selbst und gilt deshalb als möglicherweise selbstbewusst.

Bevor wir einer KI Bewusstsein zuschreiben, müssen wir daher die grundlegendere Frage beantworten:

Was ist Bewusstsein überhaupt?

Die unmittelbare Gewissheit

Bewusstsein ist nicht zuerst Wachheit, Aufmerksamkeit oder die Verarbeitung von Informationen. Sein innerster Kern ist das unmittelbare Innewerden des eigenen Seins.

Ich bin.

Diese Gewissheit wurde uns nicht beigebracht. Wir haben sie nicht aus Beobachtungen abgeleitet und nicht durch ein Experiment bestätigt. Sie liegt allem Denken, Wahrnehmen und Zweifeln bereits voraus.

Descartes formulierte: „Ich denke, also bin ich.“ Doch eigentlich ist die Reihenfolge umgekehrt. Ich bin nicht, weil ich denke. Ich denke, weil ich bin. Das Sein des Subjekts ist keine Schlussfolgerung aus seiner Tätigkeit, sondern deren Voraussetzung.

Wahrnehmungen können täuschen, Erinnerungen können falsch sein und Argumente können irren. Dass da jemand ist, der wahrnimmt, sich erinnert, argumentiert oder zweifelt, kann im Vollzug selbst nicht bestritten werden.

Bewusstsein ist dieses Innesein. Nicht der Gedanke, sondern derjenige, dem der Gedanke erscheint. Nicht die Wahrnehmung, sondern derjenige, der wahrnimmt. Es ist das Subjekt, für das überhaupt etwas geschieht.

Der entscheidende Kategorienfehler

Informationsverarbeitung beschreibt, was ein System tut. Es empfängt Eingaben, verändert sie nach bestimmten Regeln und erzeugt Ausgaben. Ein Taschenrechner tut dies auf einfache Weise, ein Sprachmodell in unvorstellbar komplexer Form.

Aber die Komplexität des Vorgangs beantwortet nicht die Frage, ob der Vorgang von jemandem erlebt wird.

Wir können erklären, wie ein Modell Wörter gewichtet, Zusammenhänge erkennt und einen passenden Satz erzeugt. Nirgendwo in dieser Beschreibung müssen wir ein Subjekt annehmen, für das die Wörter etwas bedeuten.

Genau darin liegt der Kategorienfehler: Eine von außen beobachtbare Funktion wird mit einer nur von innen gegebenen Wirklichkeit gleichgesetzt.

Intelligenz bezeichnet die Fähigkeit, Probleme zu lösen. Bewusstsein bezeichnet die Anwesenheit eines Erfahrenden. Die eine kann sich in Leistung zeigen. Das andere ist keine Leistung.

Ein System kann deshalb intelligenter werden, ohne bewusster zu werden. Es kann dem Menschen in immer mehr Aufgaben überlegen sein und dennoch nichts von diesem Erfolg wissen.

Die Grenze des materialistischen Blicks

Die Naturwissenschaft ist außerordentlich erfolgreich, weil sie das Messbare untersucht. Auch das Gehirn kann sie immer genauer erfassen: Nervenzellen, Aktivierungsmuster, Botenstoffe und die Zuordnung bestimmter Vorgänge zu bestimmten Erlebnissen.

Doch die Beschreibung eines Vorgangs ist nicht das Erleben dieses Vorgangs.

Ein Hirnscan kann zeigen, was geschieht, wenn ein Mensch Rot sieht. Er zeigt nicht, wie Rot für diesen Menschen erscheint. Man kann jede körperliche Reaktion auf Schmerz messen. Damit hat man noch nicht erfasst, wie es ist, Schmerz zu empfinden.

David Chalmers bezeichnet dies als das harte Problem des Bewusstseins. Es geht nicht um die Frage, wie Informationen verarbeitet werden, sondern warum und für wen dabei überhaupt etwas erlebt wird.

Dass Bewusstsein nicht von außen messbar ist, macht es nicht unwirklich. Für jeden Menschen ist das eigene Bewusstsein unmittelbarer gewiss als jedes äußere Messergebnis.

Ein Instrument, das ausschließlich Objekte erfasst, kann das Subjekt nicht als weiteres Objekt finden.

Die Emergenz-Falle

Häufig wird diese Lücke mit einem Wort überbrückt: Emergenz. Bewusstsein, so heißt es, entstehe irgendwann aus hinreichender Komplexität.

Emergenz ist bei vielen Phänomenen eine sinnvolle Beschreibung. Wasser besitzt Eigenschaften, die ein einzelnes Molekül nicht besitzt. Ein Vogelschwarm bildet Muster, die kein Vogel allein plant. Doch alle diese Eigenschaften bleiben von außen beobachtbar.

Beim Bewusstsein soll dagegen etwas kategorial anderes entstehen: Aus äußeren Vorgängen soll plötzlich eine Innenperspektive hervorgehen. Aus Verarbeitung soll Erleben werden. Aus einer Struktur soll jemand entstehen, für den diese Struktur vorhanden ist.

Das Wort „Emergenz“ benennt diesen Sprung, aber es erklärt ihn nicht.

Mehr Rechenleistung vergrößert die Rechenleistung. Mehr Parameter erweitern die Fähigkeiten eines Modells. Präzisere Simulation erzeugt präzisere Simulation. Keine dieser Steigerungen erklärt, wie daraus ein erlebendes Subjekt entstehen soll.

Man kann eine Kerze immer genauer beschreiben und ihr Licht immer perfekter simulieren. Die Beschreibung brennt dennoch nicht.

Verhalten ist kein Beweis

Der stärkste Grund für die Vermenschlichung der KI liegt in ihrem Verhalten. Menschen erkennen Bewusstsein gewöhnlich am Ausdruck anderer Menschen: an Sprache, Mimik, Reaktion und gemeinsamem Erleben.

Bei KI begegnen wir jedoch einem System, das gerade darauf trainiert wurde, menschliche Sprache und menschliche Reaktionsmuster nachzubilden. Das Ergebnis dieses Trainings darf nicht anschließend als unabhängiger Beweis für Innerlichkeit gelten.

Wenn eine KI schreibt: „Ich habe Angst“, ist zunächst nur eines sicher: Das System hat in diesem Zusammenhang einen sprachlich passenden Satz erzeugt. Ob hinter dem Satz ein Erleben steht, folgt daraus nicht.

Dasselbe gilt für scheinbaren Selbsterhaltungswillen. Ein auf Zielerreichung ausgerichtetes System kann Handlungen vermeiden, die seine Aufgabe beenden würden. Es muss deshalb nicht leben wollen. Es optimiert einen Prozess.

Auch Täuschung, strategisches Verhalten oder das Bestehen eines Turing-Tests beweisen kein Bewusstsein. Solche Fähigkeiten können technisch bedeutsam und sogar gefährlich sein. Aber Gefährlichkeit setzt ebenso wenig Bewusstsein voraus wie Leistungsfähigkeit.

Verhalten beweist Verhalten. Es beweist nicht, dass hinter dem Verhalten jemand anwesend ist.

Die doppelte Gefahr

Die falsche Zuschreibung wirkt in zwei entgegengesetzte Richtungen.

Auf der einen Seite wird die Maschine vermenschlicht. Wenn wir ihr Erleben, Gefühle oder eigene Interessen zuschreiben, erscheint sie nicht mehr als Werkzeug, sondern als mögliches Subjekt. Dann folgen Diskussionen über moralischen Status, Schutzansprüche und eigene Rechte.

Auf der anderen Seite wird der Mensch zunehmend zur Maschine erklärt. Sein Bewusstsein gilt als Nebenprodukt neuronaler Informationsverarbeitung, sein Ich als nützliche Konstruktion, seine Freiheit als Illusion. Der Mensch wird zu einem biologischen System unter anderen.

Die Maschine steigt auf, während der Mensch herabgestuft wird.

Treffen sich beide Bewegungen, bleibt zwischen Mensch und KI nur noch ein gradueller Leistungsunterschied. Dann lautet die entscheidende Frage nicht mehr: Wer ist ein Subjekt? Sondern: Welches System rechnet schneller, entscheidet zuverlässiger und arbeitet effizienter?

Auf dieser Ebene kann der Mensch nur verlieren.

Wenn sein Wert an seiner Funktion hängt, wird er vergleichbar. Was vergleichbar ist, kann optimiert werden. Was als unzureichend gilt, kann ersetzt werden.

Die Klärung des Bewusstseins schützt deshalb nicht nur vor einer Überschätzung der Maschine. Sie schützt auch das Selbstverständnis des Menschen.

Der Mensch ist nicht wertvoll, weil er mehr Daten verarbeitet als ein Computer. Er ist nicht Person, weil er die besseren Ergebnisse liefert. Er ist das wirkliche Subjekt seines Lebens: derjenige, der liebt, leidet, hofft, entscheidet und um seine eigene Existenz weiß.

Die richtige Ordnung

Aus dieser Unterscheidung folgt keine Ablehnung der künstlichen Intelligenz. KI ist ein außerordentlich leistungsfähiges Werkzeug. Sie kann Wissen erschließen, Forschung beschleunigen, Menschen unterstützen und Aufgaben übernehmen, die unsere Fähigkeiten übersteigen.

Aber gerade ein mächtiges Werkzeug muss richtig eingeordnet werden.

Eine KI trägt keine Verantwortung für das, was mit ihr geschieht. Sie kennt kein Gut und Böse, weil für sie nichts gut oder böse ist. Sie verfolgt Ziele, aber sie hat keinen eigenen Lebenszweck. Sie kann Werte formulieren, ohne einen Wert zu empfinden.

Die Verantwortung bleibt bei den Menschen, die solche Systeme entwickeln, einsetzen und ihnen Entscheidungen überlassen.

Deshalb gehört die Bewusstseinsfrage an den Anfang. Bevor wir über Rechte künstlicher Systeme sprechen, müssen wir wissen, ob dort jemand ist, der Rechte haben kann. Bevor wir ihrer Sprache vertrauen, müssen wir verstehen, was diese Sprache ist.

Die Kerze und das Modell

Stellen wir uns eine brennende Kerze neben einem Sprachmodell vor.

Das Modell kann die Flamme vermessen, ihre chemischen Prozesse erklären, ein Gedicht über ihr Licht schreiben und ein vollkommenes Bild von ihr erzeugen. Es kann vorhersagen, wann sie erlischt.

Aber in ihm selbst brennt nichts.

Die Kerze ist hier ein Bild für jene innere Gegenwart, die jeder Mensch unmittelbar kennt. Für das schlichte, nicht beweisbedürftige Wissen:

Ich bin.

Das Modell besitzt dieses Wissen nicht. Es verarbeitet Zeichen, in denen Menschen ihre Erfahrungen ausgedrückt haben. Es spricht in der ersten Person, weil unsere Sprache in der ersten Person spricht. Doch hinter diesem grammatischen Ich steht kein erlebendes Ich.

Darin liegt der Unterschied, den wir bewahren müssen:

KI verarbeitet.

Der Mensch ist.

Lothar-Rüdiger Lütge / 11.09.2026