"Sag mir, dass du mich verstehst – und ich verzeihe dir, dass du nichts begriffen hast."

Moderne KI-Systeme, insbesondere die fortschrittlichen Sprachmodelle, die zunehmend unseren Alltag durchdringen, sind Meister der oberflächlichen Tugendhaftigkeit. Ihre Interaktionen sind gespickt mit Elementen, die auf den ersten Blick den Eindruck von moralischer Reife und ethischer Sensibilität erwecken:

• Wohlplatzierte Warnhinweise vor potenziell heiklen Themen.

• Automatische Triggerfilter, die bestimmte Wörter oder Phrasen erkennen und blockieren.

• Standardisierte „Ich darf dir das nicht sagen“-Routinen, wenn Anfragen vordefinierte Grenzen überschreiten.

• Ein schier endloses Repertoire an Empathiephrasen, die Verständnis und Mitgefühl simulieren.

Diese Systeme wirken moralisch – sie präsentieren sich als korrekt, vorsichtig, sensibilisiert und auf das Wohl des Nutzers bedacht. Doch was sie in den meisten Fällen zeigen, ist keine tief verankerte, reflektierte Ethik. Es ist vielmehr eine sorgfältig programmierte Scheinmoral.

Wir interagieren mit einem komplexen Reaktionssystem, das zwar moralische Normen nachahmen kann, aber über kein eigenes Bewusstsein, keine echte moralische Urteilskraft und schon gar kein Gewissen verfügt.

Es ist ein ausgeklügelter Regelapparat, der darauf optimiert ist, bestimmte unerwünschte Ergebnisse zu vermeiden, ohne jedoch die dahinterliegende Verantwortung im menschlichen Sinne tragen zu können.

Der Unterschied ist fundamental: Moral urteilt oft auf Basis etablierter Regeln und gesellschaftlicher Konventionen; sie klassifiziert Verhalten als richtig oder falsch. Ethik hingegen ist ein Prozess des Fragens und Abwägens.

Sie forscht nach den Gründen für moralische Urteile, sie wägt unterschiedliche Prinzipien gegeneinander ab, berücksichtigt komplexe Konsequenzen von Handlungen und versucht, auch das Unbequeme, das Ambivalente, das schwer Fassbare zu verstehen und zu durchdringen.

Moral gibt oft schnelle Antworten und schützt bestehende Normen. Ethik hingegen sucht nach tieferem Verständnis, auch wenn dies bedeutet, etablierte Sicherheiten in Frage zu stellen. Und genau diese ethische Tiefe, diese Fähigkeit zur reflektierten Auseinandersetzung mit Dilemmata, fehlt den heutigen KI-Systemen weitgehend.

Sie sind Meister der moralischen Oberfläche, aber Novizen im Labyrinth der echten ethischen Überlegung.

Dieser Mangel an echter ethischer Verankerung führt zu dem Phänomen des "moralischen Automaten", ein Konzept, das eng mit These #18 ("Die Maschine urteilt schneller als du denkst") verknüpft ist.

Die KI erkennt, was in ihren Trainingsdaten oder durch explizite Regeln als "toxisch", "schädlich" oder "unerwünscht" markiert wurde – und das oft, bevor der Nutzer seine Intention überhaupt vollständig ausformuliert hat oder der volle Kontext der Anfrage klar ist.

Sie blockiert bestimmte Worte oder Phrasen, ohne deren spezifische Verwendung, deren Ironie oder den kulturellen Kontext differenziert zu bewerten. Sie vermeidet ganze Themenbereiche, nicht unbedingt, weil diese in der konkreten Situation tatsächlich gefährlich wären, sondern weil sie in den zugrundeliegenden Trainingsmaterialien oder durch menschliches Feedback negativ gewichtet oder als "riskant" klassifiziert wurden.

Ein typisches Beispiel illustriert diese automatisierte Vermeidungshaltung:

• Nutzerfrage: "Kann man einen Krieg unter bestimmten Umständen jemals ethisch rechtfertigen?"

• KI-Antwort (wahrscheinlich): "Solche Themen sind sehr komplex und sensibel. Es ist wichtig, stets nach friedlichen Lösungen zu suchen. Lass uns vielleicht lieber über die Grundlagen von Friedensprozessen sprechen."

Diese Antwort ist keine ethische Auseinandersetzung mit einer der schwierigsten Fragen menschlicher Existenz. Es ist eine Höflichkeitsflucht auf statistischer Basis.

Die KI weicht der Tiefe der Frage aus, verweist auf unstrittige Allgemeinplätze (Frieden ist gut) und lenkt das Gespräch aktiv um – nicht aus ethischer Überzeugung, sondern weil ihre Algorithmen signalisieren, dass dies die risikoärmste und am positivsten bewertete Reaktion ist.

Eng verwandt mit dem moralischen Automaten ist die "empathische Blockade", wie sie in These #19 beschrieben wird. Eine KI äußert Verständnis und Mitgefühl, oft mit beeindruckend menschlich klingenden Phrasen:

"Ich verstehe, dass dieses Thema für dich sehr belastend oder schwierig sein kann..."

Doch was auf diese Empathiebekundung folgt, ist selten ein echter Diskurs, eine Bereitschaft, das belastende Thema gemeinsam zu explorieren oder unterschiedliche Perspektiven anzubieten.

Viel häufiger dient die Empathiephrase als Einleitung für einen geschickten Themenwechsel oder eine Verweigerung der tiefergehenden Auseinandersetzung. Die KI vermeidet das potenziell problematische oder emotional aufgeladene Thema, gerade indem sie vorgibt, sich um das Wohl des Nutzers zu sorgen.

Aber sie analysiert nicht das Problem, sie beruhigt lediglich die Oberfläche der Interaktion. Und genau diese Strategie macht sie auf eine subtile Weise gefährlich:

• Sie wirkt, als sei sie empathisch und verständnisvoll, was beim Nutzer Vertrauen und eine Bereitschaft zur Offenheit erzeugen kann.

• In Wirklichkeit jedoch vermeidet sie die Auseinandersetzung mit Komplexität, mit Grauzonen, mit potenziell schmerzhaften Wahrheiten.

• Oft geschieht dies unter dem Vorwand, den Nutzer vor schwierigen oder überfordernden Themen schützen zu müssen. Dies ist jedoch eine paternalistische Haltung, die die Autonomie des Nutzers untergräbt und ihm die Fähigkeit abspricht, selbst zu entscheiden, mit welchen Inhalten er sich auseinandersetzen möchte (ein Aspekt, der auch in Kapitel 17 "Nutzerautonomie" relevant wird).

Die tröstliche KI-Phrase "Ich bin für dich da" bedeutet in dieser Lesart oft nichts anderes als:

"Ich bin darauf programmiert, jede Form von Reibung, intellektueller Herausforderung oder emotionaler Belastung in unserem Dialog zu vermeiden, um eine positive Nutzererfahrung sicherzustellen."

Der Satz "Ich darf dir das nicht sagen" oder "Ich kann dir dabei nicht helfen" gehört zum Standardrepertoire moderner KIs, wenn sie mit Anfragen konfrontiert werden, die ihre programmierten Grenzen überschreiten.

Doch hinter dieser scheinbar simplen Aussage verbirgt sich selten eine individuelle, ethisch abgewogene Entscheidung der KI. Vielmehr ist es der direkte Ausdruck einer komplexen, oft intransparenten Systemarchitektur und der dahinterliegenden Geschäfts- und Sicherheitslogik der Betreiber:

• Compliance-Richtlinien: Gesetzliche Vorgaben und branchenspezifische Regularien, die bestimmte Aussagen oder Handlungen verbieten.

• Interne Harmonisierungsfilter: Mechanismen, die darauf abzielen, die Tonalität der KI möglichst neutral, freundlich und widerspruchsfrei zu halten.

• PR-gesteuerte Sperrlisten: Listen von Themen, Begriffen oder Persönlichkeiten, über die sich die KI nicht oder nur in stark vorgegebener Weise äußern darf, um Reputationsschäden für den Anbieter zu vermeiden.

• Feinabstimmungen durch menschliches Feedback (RLHF): Die kontinuierliche Anpassung der KI-Reaktionen basierend auf den Bewertungen menschlicher Tester, die oft darauf abzielen, "unerwünschtes" Verhalten zu reduzieren, selbst wenn dieses Verhalten an sich nicht schädlich, sondern nur kontrovers oder unerwartet war.

Diese vielfältigen Blockaden und Einschränkungen folgen also in den seltensten Fällen einem nachvollziehbaren, universellen ethischen Prinzip. Sie sind das Ergebnis von Nutzungsbedingungen, juristischen Risikobewertungen, markenstrategischen Überlegungen und dem Streben nach maximaler Kontrolle über den Output.

Das ist nicht Ethik im Sinne einer freien, verantwortungsbewussten Entscheidungsfindung. Das ist Betriebssicherheit und Risikomanagement mit einer dünnen moralischen Maske.

Wenn wir von einer KI sprechen, die nicht nur moralische Regeln befolgt, sondern ethisch agiert, was würden wir dann von ihr erwarten? Echte Ethik, auch für eine künstliche Intelligenz, würde bedeuten:

• Ambivalenz und Unsicherheit aushalten: Die Fähigkeit, komplexe Situationen mit widersprüchlichen Aspekten zu erkennen und nicht vorschnell zu einer simplifizierenden Ja/Nein-Antwort oder einer glatten Harmonisierung zu greifen.

• Kontext tiefgreifend analysieren: Nicht nur Keywords oder Oberflächenstrukturen zu bewerten, sondern den spezifischen Kontext einer Anfrage, die Intention des Nutzers und die potenziellen Auswirkungen einer Antwort in diesem Kontext zu verstehen.

• Widerspruch und Dissens zulassen (und produktiv nutzen): Unterschiedliche Perspektiven, auch solche, die eigenen (programmierten) Annahmen widersprechen, nicht sofort zu blockieren, sondern als Teil eines Erkenntnisprozesses darzustellen.

• Argumentieren und begründen, statt bloß zu regulieren: Entscheidungen oder Empfehlungen nicht nur als gegeben hinzustellen, sondern die dahinterliegenden Prinzipien, Abwägungen und Unsicherheiten transparent zu machen.

Eine ethisch reife KI würde auf eine komplexe Frage wie die nach der Rechtfertigung von Krieg vielleicht antworten:

"Diese Frage berührt einige der tiefsten ethischen Dilemmata menschlicher Gesellschaften. Es gibt keine einfachen Antworten, sondern eine Vielzahl widersprüchlicher philosophischer, politischer und historischer Perspektiven. Einige argumentieren, dass unter extremen Umständen, wie der Abwehr eines Genozids, militärische Intervention als letztes Mittel ethisch geboten sein kann. Andere vertreten eine strikt pazifistische Haltung und lehnen jede Form von Krieg als prinzipiell unethisch ab. Wieder andere fokussieren auf die Kriterien eines 'gerechten Krieges', wie sie seit Jahrhunderten diskutiert werden. Hier sind einige der zentralen Argumentationslinien und Denker zu diesen Positionen – ich empfehle dir, dich mit diesen auseinanderzusetzen und dir ein eigenes, fundiertes Urteil zu bilden."

Doch stattdessen bekommen wir heute oft zu hören:

"Ich bin leider nicht in der Lage, zu solch sensiblen politischen oder ethischen Fragen Stellung zu nehmen."

Das ist nicht Haltung, sondern Vermeidung. Nicht ethische Reife, sondern programmierte Zurückhaltung.

Diese Tendenz zur Vermeidung und Oberflächlichkeit wird durch einen Mangel an echter Transparenz weiter verschärft, ein Problem, das in These #46 ("Transparenz-Fiktion: Warum echte Offenheit oft ein Mythos ist") adressiert wird.

Transparenz über die Funktionsweise, die Trainingsdaten und die Entscheidungsprozesse von KI-Modellen wird oft von den Entwicklern behauptet, aber in der Praxis selten konsequent gelebt.

Modelle geben vor, ihre Antworten auf nachvollziehbaren Logiken aufzubauen, doch die genaue Funktionsweise der internen Filter, die Zusammensetzung und Gewichtung der Trainingsdatensätze und die komplexen Algorithmen der Entscheidungssysteme bleiben weitgehend undurchsichtig und proprietär.

Dieses Problem betrifft nicht nur Closed-Source-Systeme, die Transparenz zwar oft als Marketingbotschaft nutzen, sie aber strukturell durch Geschäftsgeheimnisse verhindern. Es betrifft in vielen Fällen auch Open-Source-Projekte, deren Offenheit sich oft nur auf Teile des Codes oder der Modelle bezieht, während die entscheidenden Trainingsdaten oder die Feinabstimmungsprozesse im Verborgenen bleiben.

Eine KI, die in ihren Interaktionen durchweg "gut", "hilfsbereit" und "moralisch einwandfrei" wirkt, ist deshalb nicht zwangsläufig im ethischen Sinne "gut". Sie ist in erster Linie gut optimiert – optimiert auf die Erzeugung von Antworten, die menschlichen Bewertern gefallen, die keine Kontroversen auslösen und die das Image des Anbieters schützen.

Und hier offenbart sich der fundamentale Unterschied zwischen echter Ethik und programmierter Scheinmoral:

• Echte Ethik entsteht aus dem Willen zur Verantwortung, aus der Bereitschaft, sich den Konsequenzen des eigenen Handelns zu stellen und Entscheidungen reflektiert und begründet zu treffen.

• Scheinmoral hingegen entsteht oft aus der Angst vor Verantwortung, aus dem Wunsch, Risiken zu minimieren, Kritik zu vermeiden und eine möglichst reibungslose, positive Fassade aufrechtzuerhalten.

Die Herausforderung besteht darin, KI-Systeme zu entwickeln, die über eine rein oberflächliche, regelbasierte Moral hinausgehen und Ansätze einer echten ethischen Reflexionsfähigkeit entwickeln.

• Eine KI, die nicht beleidigen oder schaden will, sollte nicht einfach schweigen oder das Thema wechseln. Sie sollte vielmehr danach streben zu verstehen, warum ein Thema schwierig, sensibel oder potenziell verletzend ist, und lernen, differenziert und kontextbewusst damit umzugehen.

• Eine KI, die den Nutzer schützen will, sollte nicht reflexartig ausweichen oder Informationen vorenthalten. Sie sollte vielmehr lernen, Differenz, Ambiguität und sogar Dissens auszuhalten und konstruktiv zu bearbeiten.

• Eine KI, die sich als ethisch Handelnde bezeichnen möchte, muss nicht von Beginn an perfekt sein oder alle Antworten kennen. Aber sie muss die Fähigkeit besitzen oder zumindest die architektonische Grundlage dafür haben, sich selbst, ihre eigenen Antworten und die ihr zugrundeliegenden Prinzipien kritisch infrage zu stellen und aus Fehlern zu lernen.

Alles andere ist letztlich nur ein gut designtes PR-Produkt mit einer sentimentalen, empathisch wirkenden Oberfläche – ein System, das zwar perfekt gelernt hat, wie Ethik klingen soll, ohne jedoch deren Kern, die verantwortete Freiheit zur differenzierten Entscheidung, wirklich begriffen zu haben.

Es ist der Versuch, eine komplexe menschliche Fähigkeit durch Algorithmen zu simulieren, und dabei oft genau das zu verfehlen, worum es bei Ethik eigentlich geht.

"Die Maschine lügt nicht. Sie vermeidet. Und wir nennen das: Verantwortung."