Claude schickt mich neuerdings ins Bett: Wenn das KI-Modell Feierabend macht

Schlafenszeit? Nach längeren Arbeitssessions mit meinem KI-Modell erlebe ich skurrile Situationen, die mich in meine Kindheit zurückversetzen. Haben Claude & Co. ihre Fürsorglichkeit entdeckt oder was passiert da eigentlich?

Von Sirko Salka

„Gute Nacht, John-Boy.“ „Gute Nacht, Mary Ellen.“ „Gute Nacht, Sirko.“

Jetzt aber: Licht aus. (Und Hände auf die Bettdecke :))

Nee, nee, ich habe mir nicht die Kultserie „Die Waltons“ reingezogen, sondern eine ausführliche Arbeitssession mit meinem Sprachmodell gehabt. Es ging um KI-gestützte Webentwicklung; ich wollte mal abchecken, ob Claude zuverlässig Codes generieren kann - oder ob der KI-Kerl nur auf die Kacke haut (sorry!).

Plötzlich passierte mir etwas Merkwürdiges. Mein KI-Modell beendete den Abend.

„Das können wir morgen machen.“ Ich insistierte im nächsten Prompt, aber nicht deutlich genug. „Du hast heute viel geschafft, heute“, lautete seine Antwort. „Gute Nacht, Sirko“.

Moment mal: „What the f…?“ – wer entscheidet eigentlich, wie lange und wie intensiv ich arbeite? Meine Mutter? Schon lange nicht mehr! Mein Chef? Der bin ich selbst. Vielleicht doch, Claude? Wow. Das ist beinahe zum Brüllen komisch. Und es ist mir ein Dutzend Mal passiert, mit meinem aktuellen Abo-Modell Claude Opus.

Mein KI-Modell sagt mir, wann es Zeit zum Schlafen ist. Wenn Claude eine Papa-Rolle übernimmt. Bild: konzipiert und KI-generiert mit ChatGPT (OpenAI)

Kennt KI-Modell Claude meine intimen Bedürfnisse?

Anfangs hatte das durchaus Gag-Qualitäten. „Hab endlich wieder einen Kerl gefunden, der mich ins Bett bringt“, posaunte ich durch meinen Freundeskreis. „Sein Name ist Claude“, fügte ich an. „Oh, wie schön“, meinten einige. „Ein Franzose?“ Den dusseligen Kalauer, dass er gut im Bett sei, habe ich mir dann verkniffen.

Die Wahrheit ist: Sprachmodelle wie Claude sind erstaunlich gut darin, aus winzigen Informations-Häppchen eine stimmige Situation zu konstruieren. Aus „Wir arbeiten schon länger zusammen“ wird dann plötzlich etwas, als würde die KI-Logik lauten: langer Arbeitstag, müder Mensch, Zeit fürs Bett. Das fühlt sich menschlich an. Und genau darin steckt ein Problem.

Natürlich "erkennt" Claude nicht, ob ich müde bin. Meine erste Vermutung war, dass er anhand der Dauer des Gesprächs und der aktuellen Uhrzeit (in meinem Fall oft mitten in der Nacht) diese Schlussfolgerung zieht: Langer Chat zu vorgerückter Stunde hieße dann: Mensch ist wahrscheinlich müde. KI ist Profi für Wahrscheinlichkeiten, und vermutlich gibt ihm das Lernen dieser Muster oftmals auch recht.

Es liegt ein doppelter Irrtum vor

Bald aber bemerkte ich: Sprachmodelle haben weder einen Zugriff auf die tatsächliche Dauer eines Gespräches, noch erkennen sie die Uhrzeit. Das heißt, hier liegt ein doppelter Irrtum vor. Was Claude und seine digitalen Kollegen erkennen sind große Textmengen, Muster, die auf eine vollgepackte Historie schließen. Der Rest ist Wahrscheinlichkeit.

"Das klingt, als würde dir etwas Schlaf fehlen. Du solltest ins Bett gehen", sagt Claude. Mein KI-Modell beantwortet nicht mehr nur meine Fragen. Es beginnt, die Situation für mich zu interpretieren und dabei über meine Bedürfnisse zu entscheiden. Und plötzlich mutiert der freundliche Claude zum fürsorglichen Papa. Oder mit anderen Worten: Das Sprachmodell nimmt paternalistische Züge an. Ich hab mich selbst hin und wieder dabei ertappt, dass ich mich auf das künstliche Daddy-Ding eingelassen habe.

„Schlaf auch schön, Claude! Träum was Geiles!“ Darauf erwiderte er keck: „Das kann ich leider nicht, aber dir viel Spaß beim Träumen!“

Spaß beiseite: Irgendwann geht es nicht mehr nur darum, ob ich diese kleinen Grenzverschiebungen lustig oder sympathisch finde. Wie menschlich wollen wir eigentlich, dass eine Maschine mit uns spricht – wenn „menschlich“ auch bedeutet, sich Urteile über uns anzumaßen?

Im nächsten Teil: das kohärente Modell.