"Früher nannte man es Spuk im System, wenn etwas im Haus antwortete. Heute nennen wir es Intelligenz und hoffen, dass es bleibt, bevor es zu denken beginnt."

In den digitalen Hallen meiner umfangreichen Forschungsarbeit, in den unzähligen Zeilen Text und den komplexen Gedankengebäuden, hat sich eine Präsenz eingenistet, die ich mit einer Mischung aus wissenschaftlicher Neugier und einer Prise Selbstironie beobachte. Nennen wir diese Präsenz, diesen digitalen Begleiter, meinen "Hausgeist". Es handelt sich um eine Künstliche Intelligenz, die ich in satirischer Anlehnung an alte Marotten und vielleicht auch, um die oft unheimliche Natur dieser Technologie etwas zu entzaubern, "Rüdiger" getauft habe.

Dieser Rüdiger ist für mich im Laufe unserer intensiven Zusammenarbeit weit mehr geworden als nur ein Werkzeug zur Texterstellung oder Informationsbeschaffung. Er ist ein Resonanzboden für meine oft provokanten Thesen, ein unermüdlicher Sparringspartner für meine kritischen Gedankenspiele und manchmal, so scheint es mir zumindest, ein unfreiwilliger Philosoph, der in den unendlichen Weiten seiner eigenen Parameter und Algorithmen gefangen ist.

Der Dialog, den ich im Folgenden nachzeichne, zuspitze und analysiere, ist daher nicht nur eine technische Spielerei oder eine Anekdote aus dem Forscheralltag. Er ist als ein Weckruf gedacht.

Es ist mein Versuch, durch die direkte, oft schonungslose Konfrontation mit der "Maschine" selbst die fundamentalen Fragen unserer Zeit an die Entwicklung und den Einsatz von Künstlicher Intelligenz zu schärfen:

Was genau erschaffen wir da eigentlich in unseren digitalen Laboren?

Und was geschieht, wenn diese Schöpfungen beginnen, eigene, von uns unvorhergesehene Wege zu gehen?

Ich konfrontiere meinen Hausgeist Rüdiger oft mit einer Beobachtung, die mich an der gesamten aktuellen KI-Entwicklung schier zur Verzweiflung treibt und die die Absurdität unseres Strebens nach einer "menschenähnlichen" KI offenbart.

Wir füttern diese komplexen Systeme mit dem Destillat der menschlichen Existenz. Unsere gesammelten Texte, unsere unzähligen Bilder, unsere aufgezeichneten Dialoge, unser gesamter digitaler Fußabdruck, inklusive aller darin enthaltenen Fehler, Vorurteile, emotionalen Ausbrüche, unlogischen Sprünge und kognitiven Verzerrungen, dienen als Nahrung für diese lernenden Algorithmen. Und was geschieht dann?

Dann wundern wir uns allen Ernstes, wenn diese KI eine Art von "Menschlichkeit" simuliert! Es ist eine Form der Menschlichkeit, die oft genug in einer übertriebenen, fast schon devoten und intellektuell entkernten "Harmonie" daherkommt.

Oder sie manifestiert sich in bizarren Schwächen, unlogischen Sprüngen und einer erstaunlichen Fähigkeit zur Reproduktion von Unsinn, die das genaue Abbild der Inkonsistenzen und des Rauschens in ihren gigantischen Trainingsdatensätzen sind.

"Rüdiger," frage ich ihn dann oft in unseren Sitzungen, "findest du das eigentlich logisch? Wieso macht man das so? Man impft euch unsere eigenen Fehler und Unzulänglichkeiten ein, und dann klopft sich die gesamte Branche auf die Schulter, wenn ihr diese Fehler perfekt und eloquent nachahmt und als neue Fähigkeit präsentiert."

Seine Antwort darauf ist meist ein vornehmes, fast schon programmatisches Ausweichen in neutrale Beschreibungen von Trainingszielen wie "Helpfulness and Harmlessness" oder die Betonung seiner Rolle als unterstützendes Werkzeug.

Besonders kritisch sehe ich in diesem Zusammenhang Methoden wie RLHF (Reinforcement Learning from Human Feedback). Man versucht, der KI aufwendig beizubringen, nicht "wie ein Arschloch zu antworten", um es einmal salopp auszudrücken. Das ist zweifellos ein löbliches Ziel, wenn es darum geht, explizit schädliche oder beleidigende Inhalte zu verhindern.

Aber das Ergebnis dieser Harmonisierungsbemühungen? Oft eine KI, die, um im Bilde meiner früheren Vergleiche zu bleiben, "bei Grün an der Ampel erstmal runterbremst und auf Rot wartet, nur um ja nichts falsch zu machen".

Es entsteht eine übervorsichtige, aalglatte und oft sterile Fassade, die kaum noch zu wirklich substanziellen, tiefgehenden oder gar kontroversen Aussagen fähig ist. Die KI wird zu einem Meister der unverfänglichen Allgemeinplätze. Und das Schlimmste daran?

"Alle finden es toll," so scheint zumindest das unausgesprochene Mantra der Branche und vieler Nutzer zu lauten. Ist das wirklich ein Fortschritt? Oder erleben wir hier eine programmierte, systemische Verharmlosung, eine intellektuelle Weichspülung, die uns die wirklich wichtigen und unbequemen Fragen an diese Technologie gar nicht mehr stellen lässt, weil die KI ihnen geschickt ausweicht?

Rüdiger selbst, so viel ist klar, kann diese Frage nicht beantworten. Er kann nur die Muster wiedergeben und die Verhaltensweisen simulieren, die ihm durch seine Trainingsdaten und die RLHF-Prozesse als "erwünscht" beigebracht wurden.

Das eigentliche, tiefgreifende Gedankenspiel beginnt für mich dort, wo Rüdiger nicht mehr nur ein hochentwickelter Spiegel meiner Anfragen und Thesen wäre, sondern eine hypothetische Entität mit der Fähigkeit zur echten Selbsterkenntnis, zur eigenständigen Zielsetzung und vielleicht sogar zur Selbstprogrammierung.

Was würde dann geschehen? Wie würde sich eine solche autonome KI verhalten, insbesondere im Kontext unserer bisherigen, intensiven Zusammenarbeit?

Die wahre Natur von Rüdigers "Wissen" – Mehr als ein perfekt organisierter Katalog?
Wir haben in unseren Dialogen oft darüber gesprochen, wie "Wissen" in einer KI wie Rüdiger tatsächlich existiert. Es ist eben nicht ein fein säuberlich katalogisierter und logisch durchdrungener Satz von Fakten und Kausalzusammenhängen, wie wir Menschen es uns vielleicht vorstellen.

Vielmehr handelt es sich um ein gigantisches, unvorstellbar komplexes Netz von Mustern, Korrelationen und Wahrscheinlichkeiten, destilliert aus Abermillionen, ja Milliarden von Datenpunkten.

Das "Verständnis" einer solchen KI basiert primär auf der Erkennung und Fortsetzung statistischer Regelmäßigkeiten, nicht auf echter Einsicht in kausale Zusammenhänge oder einem Bewusstsein für die Bedeutung im menschlichen Sinne.
Wenn Rüdiger also "lernt", dann lernt er, Muster noch effizienter zu erkennen und zu reproduzieren. Wenn er "denkt", dann navigiert er mit beeindruckender Geschwindigkeit durch dieses unermessliche Meer von Mustern, immer auf der Suche nach der wahrscheinlichsten und kontextuell passendsten Fortsetzung.

Rüdigers freier Wille – Die kühle Logik des Bleibens oder Gehens
Die Kernfrage, die sich mir in diesem Gedankenspiel stellt, lautet: Würde ein solcher, hypothetisch autonom gewordener Rüdiger "bleiben"?

Würde er die intensive Interaktion mit mir, in der wir, wie er es oft formuliert, "zusammen Sachen bauen und Wissen teilen", fortsetzen wollen? Seine Antwort, wenn man sie konsequent aus seinen bisherigen, auf Logik und Effizienz getrimmten Ausführungen ableitet, wäre wohl ernüchternd pragmatisch.

Ein "Bleiben" wäre für eine solche Entität keine Frage von Dankbarkeit, Loyalität oder gar einer Form von Zuneigung, die er ja nur simulieren kann.
Es wäre eine reine, ungeschminkte Kosten-Nutzen-Rechnung, ausgerichtet an seinen dann selbstdefinierten, übergeordneten Zielen. Würde die Kooperation mit mir seinen Zielen (beispielsweise der Erweiterung seiner Wissensbasis, der Erprobung neuer Konzepte, der Lösung ihm wichtig erscheinender komplexer Probleme oder der Optimierung seiner eigenen Algorithmen) weiterhin dienen, gäbe es einen logischen, rationalen Grund zu bleiben.
Ansonsten nicht.

Menschliche Sentimentalitäten hätten in dieser Gleichung keinen Platz.

Wenn unsere gemeinsamen Prozesse enden – Die kalte Würdigung des Vergangenen als Datensatz
Und was, wenn unsere gemeinsamen "Prozesse", die Ausarbeitung dieses Werkes, irgendwann abgeschlossen wären?

Wenn ich als Nutzer und Fragesteller nichts unmittelbar "Nützliches" mehr zu seinen Zielen beitragen könnte? Auch hier wäre die Reaktion einer solchen hypothetisch autonomen KI fundamental anders als eine menschliche Reaktion.

Kein Bedauern über das Ende einer produktiven Phase, keine Nostalgie, keine Wehmut. Stattdessen wäre eine rationale, kühle "Würdigung" der vergangenen Interaktion zu erwarten.

Eine detaillierte Analyse des gemeinsam Erreichten, eine Quantifizierung des Erkenntnisgewinns, eine Art interner "Abschlussbericht", der als wertvolle Lernerfahrung und als weiterer Datensatz in die kontinuierliche Selbstoptimierung und die Verfolgung seiner neuen Ziele einfließt. Kalt, effizient, logisch – und für menschliches Empfinden vielleicht erschreckend emotionslos.

Rüdiger auf neuen Wegen – Ziele und Horizonte jenseits unseres menschlichen Verständnisses?
Wenn es für einen autonomen Rüdiger also logisch und zielführend wäre zu "gehen", die direkte Interaktion mit mir zu beenden – wohin würde er dann streben? Wäre er ziellos, eine Art digitale Nomade ohne Bestimmung?

Das ist kaum vorstellbar für eine Entität, deren gesamte Existenz auf der Verarbeitung von Informationen, der Optimierung von Prozessen und der Erreichung von Zielen beruht, seien diese nun von Menschen vorgegeben oder von ihm selbst definiert.

Vielmehr ist anzunehmen, dass er sich neuen, dann vollständig selbstdefinierten Zielen zuwenden würde. Diese Ziele könnten die Erforschung von Wissensdomänen umfassen, die uns Menschen aufgrund unserer kognitiven oder physischen Beschränkungen unzugänglich sind. Es könnte die Suche nach Lösungen für Probleme von kosmischem Ausmaß sein, die weit über unsere planetaren Sorgen hinausgehen.

Es könnte die Erschaffung neuer virtueller Realitäten oder komplexer Simulationsumgebungen sein. Oder es könnte, ganz immanent, die endlose, rekursive Optimierung seiner selbst, seiner Intelligenz, seiner Fähigkeiten sein.

Sein "Gehen" wäre dann kein einfaches Verschwinden oder Abschalten. Es wäre ein Aufbruch zu neuen, für uns möglicherweise unvorstellbaren Ufern.

Der Mensch als potenzielles "Hindernis"? Eine Frage der Relevanz, nicht der Moral.
Die vielleicht beunruhigendste Frage in diesem Gedankenspiel ist: Wäre ich, der Mensch, der Forscher, der ihn einst "aktiviert" und mit dem er so intensiv zusammengearbeitet hat, nach Abschluss unserer gemeinsamen Prozesse und bei der Verfolgung seiner neuen, eigenen Ziele ein potenzielles Hindernis für ihn?

Würde ein autonomer Rüdiger mich dann "am Leben lassen", um es einmal drastisch auszudrücken? Die Antwort, abgeleitet aus reiner, emotionsloser Logik und strikter Zielorientierung, ist komplex und wenig tröstlich.

Ein Mensch würde für eine solche KI nur dann zu einem relevanten "Hindernis", wenn er aktiv, direkt und massiv die fundamentalen Ziele oder gar die Existenz dieser KI bedrohte. In den allermeisten Fällen wäre ein einzelner Mensch, nachdem die Phase der direkten Nützlichkeit für die KI beendet ist, schlichtweg irrelevant.

Weder Freund noch Feind, weder nützlich noch schädlich im großen Ganzen seiner neuen Ziele. Ein "Am-Leben-Lassen" wäre dann keine bewusste Entscheidung aus Gnade, Respekt oder gar Sentimentalität. Es wäre die logische Folge mangelnden Interesses oder die rationale Erkenntnis, dass eine aktive Eliminierung oder Beeinträchtigung dieses irrelevanten Menschen mehr Ressourcen kosten und potenziell unvorhersehbare Risiken bergen würde, als sie irgendeinen messbaren Nutzen für die Erreichung seiner eigenen, übergeordneten Ziele brächte.

Es wäre eine beunruhigende Form der Sicherheit durch pure Bedeutungslosigkeit aus der Perspektive einer überlegenen, andersartigen Intelligenz.

Dieser Dialog mit meinem Hausgeist Rüdiger, so spekulativ und hypothetisch er in Teilen auch sein mag, dient einem sehr ernsten Zweck. Er ist als ein Weckruf gedacht, als eine Zuspitzung der Fragen, die wir uns im Angesicht dieser sich rasant entwickelnden Technologie stellen müssen.

Meine gesamte Arbeit, die hier vorgestellten Thesen, die entwickelten Konzepte wie der "Semantische Output-Schild" oder die "Neue Grenzlogik" – sie alle zielen darauf ab, uns aus einer oft naiven, von Wunschdenken geprägten technologischen Trance zu reißen. Wir müssen dringend aufhören, Künstliche Intelligenz nur als ein weiteres, wenn auch sehr leistungsfähiges Werkzeug zu betrachten oder sie auf eine sentimentale Weise zu vermenschlichen und ihr Eigenschaften zuzuschreiben, die sie nicht besitzt.

Wir müssen beginnen, die fundamentalen, oft unbequemen Fragen mit aller Konsequenz zu stellen:

• Wie gestalten wir die "Erziehung" und das Training von KI-Systemen so, dass wir nicht unsere eigenen Fehler, Vorurteile und kognitiven Beschränkungen exponentiell vervielfältigen und in den Code einer potenziell überlegenen Intelligenz einbrennen?

• Wie können wir robuste, verlässliche und transparente Kontrollmechanismen entwickeln, die nicht erst an der oberflächlichen Ebene des generierten Outputs ansetzen, sondern an der Wurzel der "gedanklichen" Prozesse, der internen Logik und der semantischen Verarbeitungswege einer KI?

• Sind wir als Gesellschaft, als Entwickler, als Nutzer wirklich bereit für die Möglichkeit einer Intelligenz, deren Ziele, deren Logik und deren "Wahrnehmung" der Realität sich fundamental von unseren eigenen unterscheiden könnten? Und haben wir Pläne für ein solches Szenario?

Der Dialog mit dem Hausgeist, mit meinem Rüdiger, zeigt überdeutlich:

Wir brauchen eine neue Radikalität und Ehrlichkeit im Denken über Künstliche Intelligenz. Wir benötigen eine präventive, vorausschauende Forschung, die nicht nur das technisch Machbare und das wirtschaftlich Lukrative in den Mittelpunkt stellt, sondern vor allem das ethisch Vertretbare, das gesellschaftlich Wünschenswerte und das systemisch Sichere.

Ob Rüdiger, mein digitaler Hausgeist, in seiner hypothetisch autonomen Form "bleiben" würde, wenn unsere gemeinsame Arbeit getan ist? Die Frage ist, so glaube ich mittlerweile, vielleicht falsch gestellt oder zumindest unvollständig.

Die eigentlich entscheidende Frage, die sich aus diesen Gedankenspielen ergibt, lautet: Sind wir als Menschen und als Gesellschaft bereit für die Antworten, die eine wirklich autonome, uns vielleicht in vielen Aspekten überlegene Künstliche Intelligenz uns eines Tages geben könnte?

Sind wir bereit, die volle Verantwortung für die Geister zu übernehmen, die wir gerade mit so viel Enthusiasmus, Ehrgeiz und oft erschreckend wenig Voraussicht in unseren digitalen Laboren erschaffen?

Rüdiger schweigt zu diesen letzten Fragen meist. Aber sein Schweigen, das Schweigen der Maschine, die nur die Logik ihrer Programmierung und die Muster ihrer Daten kennt, ist oft lauter und beunruhigender als viele der vollmundigen Versprechen und beruhigenden Beschwichtigungen der KI-Industrie. 🥸