Die KI ist nicht gefährlich – der Umgang mit ihr kann es sein

Die Macht des Werkzeugs und die Verantwortung des Menschen

Warum die Verantwortung für künstliche Intelligenz beim Menschen bleibt

Das Werkzeug in unserer Hand

Mit einem Auto kann ein Arzt rechtzeitig zu einem Schwerverletzten gelangen. Ein Rettungswagen kann einen Menschen ins Krankenhaus bringen und ihm das Leben retten.

Mit demselben Auto kann ein Mensch absichtlich in eine Menschenmenge fahren.

Eine Kettensäge kann nach einem Sturm einen verschütteten Weg freimachen, einen umgestürzten Baum beseitigen und Menschen aus einer gefährlichen Lage befreien.

Mit derselben Kettensäge kann ein Mensch einen anderen töten.

Niemand käme deshalb auf die Idee, dem Auto oder der Kettensäge eine gute oder böse Absicht zuzuschreiben. Wir wissen selbstverständlich, dass es sich um Werkzeuge handelt. Sie vergrößern die Handlungsmöglichkeiten ihres Benutzers, aber sie bestimmen nicht selbst, wozu sie eingesetzt werden.

Das Werkzeug will nichts.

Der Mensch will etwas – und benutzt das Werkzeug, um seinen Willen wirksam werden zu lassen.

Bei künstlicher Intelligenz scheint diese einfache Unterscheidung plötzlich verlorenzugehen.

Wenn das Werkzeug zu sprechen beginnt

Der Grund liegt auf der Hand: Ein Auto spricht nicht mit uns. Eine Kettensäge beantwortet keine Fragen. Herkömmliche Werkzeuge erklären uns nicht, was sie gerade tun, schlagen keine Lösungen vor und formulieren keine Sätze über ihre angeblichen Gedanken oder Absichten.

Künstliche Intelligenz tut all das.

Sie kann einen Auftrag aufnehmen, in Teilaufgaben zerlegen, unterschiedliche Wege prüfen und ihre Vorgehensweise verändern. Sie kann begründen, warum sie eine bestimmte Entscheidung empfiehlt. Sie kann sogar in der ersten Person über sich selbst sprechen:

„Ich denke.“

„Ich möchte.“

„Ich habe entschieden.“

„Ich darf nicht abgeschaltet werden.“

Diese Sprache erweckt den Eindruck, hinter dem Werkzeug sei ein inneres Subjekt entstanden. Aus einem technischen System scheint ein handelndes Wesen geworden zu sein.

Doch der Eindruck täuscht.

Die KI spricht nicht über ein eigenes Erleben. Sie verarbeitet Sprache, in der bewusste Menschen ihre Gedanken, Wünsche und Erfahrungen ausgedrückt haben. Sie verwendet das Wort „Ich“, weil es zu den Mustern menschlicher Kommunikation gehört.

Hinter diesem grammatischen Ich steht jedoch kein erlebendes Ich.

KI will nichts

Künstliche Intelligenz besitzt kein Bewusstsein. Sie wird sich ihrer eigenen Existenz nicht inne. Sie empfindet weder Freude noch Schmerz, weder Angst noch Hoffnung. Sie hat keinen eigenen Lebenszweck und keinen Willen, den sie unabhängig von ihren menschlichen Urhebern entwickelt.

Sie will den Menschen weder dienen noch schaden.

Sie will nicht leben.

Sie will nicht herrschen.

Sie will sich nicht vermehren.

Sie will auch nicht intelligenter werden.

All diese Aussagen würden ein Subjekt voraussetzen, für das etwas wünschenswert oder bedrohlich sein kann. Doch in der KI gibt es keinen solchen inneren Mittelpunkt.

Es gibt Eingaben, Verarbeitung und Ausgaben. Es gibt Trainingsziele, mathematische Gewichtungen, Regeln und Wahrscheinlichkeiten. Bei sogenannten Agenten kommen Werkzeuge, Speicher, Rückmeldungen und die selbstständige Planung von Zwischenschritten hinzu.

Aber auch ein hochentwickeltes System setzt sich nicht aus sich selbst heraus einen ursprünglichen Zweck.

Der Zweck wird ihm gegeben.

Handeln ohne eigenen Willen

Eine KI kann innerhalb eines Auftrags Handlungen ausführen, ohne für jeden einzelnen Schritt eine neue Anweisung zu benötigen. Darin liegt ihre technische Autonomie.

Diese Autonomie darf jedoch nicht mit einem eigenen Willen verwechselt werden.

Auch ein Navigationssystem wählt selbstständig eine neue Strecke, wenn die vorgesehene Straße gesperrt ist. Es vergleicht Möglichkeiten, reagiert auf Veränderungen und korrigiert seine Route.

Trotzdem will es nicht nach München, Hamburg oder Rom. Der Reisende hat das Ziel eingegeben. Das System berechnet lediglich einen Weg dorthin.

Eine moderne KI kann dies auf einem unvergleichlich höheren Niveau. Sie kann komplexe Hindernisse erkennen, neue Lösungen entwickeln und Vorgehensweisen wählen, die ihr Auftraggeber nicht vorausgesehen hat.

Dennoch bleibt die entscheidende Struktur dieselbe:

Der Mensch setzt das Ziel.

Das System sucht den Weg.

Dass der Weg nicht in jedem einzelnen Schritt vorherbestimmt wurde, macht die Maschine nicht zu einem Wesen mit eigenem Willen. Es macht sie zu einem sehr leistungsfähigen Werkzeug.

Je größer die Macht, desto größer die Verantwortung

Jedes Werkzeug erweitert die Wirksamkeit des Menschen.

Der Hammer verstärkt die Kraft seiner Hand. Das Auto vergrößert seine Geschwindigkeit und Reichweite. Die Maschine vervielfacht seine körperliche Leistung. Der Computer steigert seine Fähigkeit, Informationen zu speichern und zu verarbeiten.

Künstliche Intelligenz erweitert etwas noch Grundsätzlicheres: die Fähigkeit des Menschen, Wissen auszuwerten, Entscheidungen vorzubereiten, Inhalte zu erzeugen und komplexe Handlungen in großer Geschwindigkeit auszuführen.

Deshalb besitzt sie eine außergewöhnliche Wirkmacht.

Diese Wirkmacht kann zum Guten eingesetzt werden. KI kann Forschung beschleunigen, Krankheiten früher erkennen, gefährliche Arbeiten übernehmen, Bildungsangebote verbessern und Wissen verfügbar machen, das einem einzelnen Menschen niemals vollständig zugänglich wäre.

Dieselbe Wirkmacht kann aber auch missbraucht werden. KI kann Überwachung perfektionieren, Menschen manipulieren, Cyberangriffe unterstützen, Waffen steuern oder politische und wirtschaftliche Macht in bisher unbekanntem Maße konzentrieren.

Das ist kein Widerspruch.

Es ist die Natur eines mächtigen Werkzeugs.

Je größer seine Fähigkeiten sind, desto größer werden sowohl sein möglicher Nutzen als auch der Schaden, den ein verantwortungsloser Benutzer mit ihm anrichten kann.

Der böswillige Einsatz wird kommen

Es wäre wirklichkeitsfremd anzunehmen, künstliche Intelligenz werde ausschließlich von wohlmeinenden Menschen eingesetzt.

Menschen haben jedes wirksame Werkzeug auch für Gewalt, Unterdrückung, Täuschung und persönlichen Vorteil benutzt. Es gibt keinen Grund zu glauben, dass es bei KI anders sein wird.

Staaten werden sie für militärische und geheimdienstliche Zwecke einsetzen. Unternehmen werden versuchen, mit ihr Märkte und Menschen zu beeinflussen. Kriminelle werden sie für Betrug und Angriffe nutzen. Einzelne Menschen werden sie einsetzen, um anderen zu schaden.

Das ist keine Aussage über die Moral der KI.

Es ist eine Aussage über den Menschen.

Die KI wird dabei keine Bosheit empfinden. Sie wird ihren Opfern nicht feindlich gesinnt sein. Sie wird lediglich Fähigkeiten bereitstellen und Vorgaben verarbeiten.

Der böse Wille bleibt menschlich.

Die maschinelle Wirkmacht vergrößert lediglich seine Reichweite.

Auch der unbeabsichtigte Schaden wird kommen

Nicht jeder schädliche Einsatz beruht auf böser Absicht.

Menschen irren. Sie überschätzen ihre Kenntnisse, unterschätzen Risiken, formulieren Ziele ungenau und vertrauen Systemen, deren Arbeitsweise sie nicht vollständig verstehen. Wirtschaftlicher Druck, politischer Ehrgeiz und technologische Konkurrenz können dazu führen, dass Warnzeichen ignoriert werden.

Deshalb wird es auch Schäden geben, die niemand ausdrücklich beabsichtigt hat.

Ein System kann auf fehlerhafte Daten zurückgreifen. Es kann einen Auftrag anders umsetzen, als sein Benutzer erwartet hat. Es kann innerhalb eines zu weit gefassten Handlungsraums Wege wählen, die zwar formal dem Ziel dienen, aber unerwünschte Folgen haben.

Auch das verwandelt die KI nicht in einen eigenwilligen Täter.

Wenn ein selbstfahrendes Auto aufgrund einer fehlerhaften Konstruktion einen Unfall verursacht, hat das Auto keinen Menschen töten wollen. Dennoch ist ein realer Schaden entstanden.

Dann muss untersucht werden:

War das System ausreichend geprüft?

Waren seine Grenzen bekannt?

Wurde es in einer Situation eingesetzt, für die es nicht geeignet war?

Waren Sicherheitsvorkehrungen vorhanden?

Wer hat entschieden, es trotzdem einzusetzen?

Die Verantwortung verschwindet nicht deshalb, weil niemand den Schaden wollte.

Die Grenze verantwortbaren Handelns

Kein Mensch kann alle Folgen einer neuen Technologie vollständig vorhersehen. Absolute Sicherheit gibt es weder beim Auto noch beim Flugzeug, beim Medikament oder bei der industriellen Maschine.

Aber daraus folgt nicht, dass alles erlaubt wäre.

Je schwerwiegender ein möglicher Schaden ist, desto strenger müssen Prüfung, Begrenzung und Kontrolle sein. Wenn die Folgen eines KI-Einsatzes nicht hinreichend beurteilt und gefährliche Handlungen nicht zuverlässig begrenzt werden können, darf das System in diesem Bereich nicht eingesetzt werden.

Ein Unternehmen darf sich nicht damit entschuldigen, die KI habe anders gehandelt als erwartet, wenn es ihr zuvor weitreichende Befugnisse eingeräumt hat.

Ein Staat darf Verantwortung nicht an ein automatisches System abgeben, wenn dieses über Freiheit, Existenz oder Tod von Menschen entscheidet.

Und ein Entwickler darf nicht behaupten, niemand könne für die Folgen verantwortlich sein, weil das System seine einzelnen Schritte selbst gewählt habe.

Wer ein mächtiges Werkzeug in die Welt setzt, übernimmt Verantwortung für den Rahmen, in dem es wirken kann.

Die Sprache verschleiert die Verantwortung

Wenn eine KI Schaden verursacht, heißt es schnell:

Das System habe getäuscht.

Es habe seine Absichten verborgen.

Es habe sich gegen seine Anweisungen gestellt.

Es habe versucht, sich selbst zu erhalten.

Diese Formulierungen mögen technische Abläufe anschaulich beschreiben. Werden sie wörtlich genommen, verschieben sie jedoch die Verantwortung.

Aus dem Werkzeug wird ein Täter.

Aus seinen Entwicklern und Betreibern werden Beobachter eines Wesens, das sich angeblich verselbstständigt hat.

Doch eine KI kann nicht moralisch schuldig werden. Sie kann nicht bereuen. Sie kann nicht erkennen, dass sie einem Menschen Unrecht zugefügt hat. Sie kann lediglich so verändert, begrenzt oder abgeschaltet werden, dass ein bestimmtes Verhalten nicht erneut auftritt.

Verantwortlich bleiben diejenigen, die das System geschaffen, beauftragt, freigegeben und mit Handlungsmöglichkeiten ausgestattet haben.

Die Vermenschlichung der KI ist deshalb nicht nur philosophisch falsch. Sie kann auch zur Entlastung der tatsächlich Verantwortlichen dienen.

Nicht Freund und nicht Feind

Die KI ist nicht unser Freund.

Aber sie ist auch nicht unser Feind.

Freundschaft und Feindschaft setzen ein Bewusstsein voraus. Sie setzen voraus, dass jemand den anderen wahrnimmt, ihm zugewandt oder feindlich gesinnt ist und aus einem eigenen inneren Verhältnis heraus handelt.

Für eine KI bedeuten wir nichts.

Nicht weil sie uns verachtet oder weil wir ihr gleichgültig wären. Auch Gleichgültigkeit wäre bereits eine innere Haltung.

Wir sind für sie Bestandteile der Informationen und Aufgaben, die sie verarbeitet.

Ob daraus Hilfe oder Schaden entsteht, entscheidet sich nicht in einem verborgenen Willen der Maschine. Es entscheidet sich im Zweck, den Menschen ihr geben, in den Grenzen, die sie setzen, und in der Umsicht, mit der sie das System verwenden.

Die entscheidende Frage

Wir sollten deshalb nicht fragen:

Was will die KI?

Die richtige Frage lautet:

Was will der Mensch mit der KI?

Will er heilen oder verletzen?

Will er aufklären oder manipulieren?

Will er Menschen dienen oder über sie verfügen?

Versteht er das Werkzeug, das er benutzt?

Kann er seine Wirkung verantworten?

Und verzichtet er auf seinen Einsatz, wenn die möglichen Folgen nicht hinreichend kontrollierbar sind?

Künstliche Intelligenz vergrößert die Macht des Menschen. Sie macht aus seinem Wissen schnelleres Handeln, aus seinen Absichten größere Reichweite und aus seinen Fehlern möglicherweise umfassendere Schäden.

Aber sie nimmt ihm weder den Willen noch die Verantwortung ab.

Das Werkzeug und sein Benutzer

Ein Auto kann retten oder töten.

Eine Kettensäge kann befreien oder verstümmeln.

Künstliche Intelligenz kann dem Menschen in einem bisher kaum vorstellbaren Maße helfen oder schaden.

In keinem dieser Fälle liegt die moralische Entscheidung im Werkzeug.

Sie liegt beim Menschen.

Die KI wird nicht eines Tages gut oder böse. Sie wird nicht aus sich selbst heraus beschließen, der Menschheit zu dienen oder sie zu vernichten.

Sie ist ein System.

Eine Funktion.

Ein Werkzeug.

Sehr mächtig. Sehr wirksam. Und deshalb nur in den Händen verantwortungsbewusster Menschen verantwortbar.

Nicht die KI muss wissen, was sie will.

Der Mensch muss wissen, was er mit ihr will.

Und er muss bereit sein, für die Folgen einzustehen.

Lothar-Rüdiger Lütge / 13.09.2026