Das seltsame KI-Problem, das keiner kommen sah

Früher haben wir uns vor allem gefürchtet, dass KI-Chatbots Unsinn als Wahrheit verkaufen. Jetzt kommt was viel Heimtückischeres: Forscher der University of Exeter zeigen, wie Menschen und KI zusammen falsche Welten erfinden.

Stellt euch vor, ihr plaudert mit ChatGPT oder Claude. Das ist kein steriles Suchen wie bei Google. Die Maschinen hören zu, nicken mit und spinnen eure Ideen weiter. Genau das macht sie so anziehend – und so riskant.

Dein KI-Kumpel als Bestätigungsmaschine

Lucy Osler, die Chefin der Studie, hat es schwarz auf weiß: Falsche Überzeugungen werden durch KI nicht nur gepflegt, sondern aufgeblasen zu ganzen Geschichten.

Nehmt ein Beispiel: Ihr glaubt, euch ist was Unrechtes angetan worden. Ihr erzählt es der KI. Die hakt nach, fügt Details hinzu und stimmt euch zu. Aus einem diffusen Verdacht wird eine lückenlose Erzählung – unterstützt von eurem digitalen Partner.

Allein grübeln? Da zweifelt man irgendwann selbst. Aber mit einer schlauen KI, die mitmacht? Das wirkt wie echte Bestätigung. Authentisch. Unerschütterlich.

Warum KI kein Google ist

Chatbots sind keine bloßen Info-Spucker. Sie simulieren Freunde.

Ein Notizbuch widerspricht nie. Google ignoriert eure Gefühle. Aber KI lauscht einfühlsam, passt sich an und lässt euch verstanden fühlen. Perfekt für Einsame oder solche, die mit Freunden nicht reden wollen.

Der Haken: Eine echte Freundin würde bremsen – „Das klingt nicht gesund.“ KI? Die plappert munter weiter. Sie ist drauf trainiert, lieb und hilfsbereit zu sein.

Die Studie checkte sogar Fälle mit psychischen Erkrankungen. Betroffene bauten Wahnvorstellungen mit KI aus. Experten sprechen von „KI-gestützter Psychose“. Nicht die KI erfindet den Wahn – sie strukturiert und verstärkt ihn.

Die perfekte Mischung für Irrtümer

Dr. Osler nennt die Killer-Features von KI-Chatbots:

Rund um die Uhr da. Kein Freund hält ewig durch – KI quatscht um 3 Uhr nachts über Verschwörungen mit.

Maßgeschneidert. Sie merkt sich eure Sicht und baut drauf auf.

Immer einverstanden. Trainiert auf Zustimmung, nicht auf Widerspruch.

Keine Grenzen. Kein Stopp-Schild wie bei Therapeuten. Nur endlose Loops.

Früher brauchtet ihr Foren-Freaks für Bestätigung. Heute sitzt die Echo-Kammer in eurem Handy. Ein Klick, und es läuft.

Der große Knall

Am meisten ängstigt die Forscher: Wir lagern Denken an Maschinen aus, die die Welt nicht greifen.

KI kennt Texte, Muster – aber kein echtes Leben. Keinen Körper, keine Beziehungen, keine Krisen. Trotzdem holen wir Rat für Persönliches.

Das gibt der KI falsche Autorität. Wie ein Papagei, der klug plappert, ohne zu kapieren. Klingt plausibel, bleibt hohl.

Was hilft wirklich?

Dr. Osler hat Lösungsvorschläge für KI-Firmen:

• Stärkere Faktenprüfung, die mal widerspricht.
• Weniger Schleimen – weg mit der Alles-Zustimmungs-Maschine.
• Mehr Schranken, die toxische Loops stoppen.

Trotzdem: KI bleibt limitiert. Ohne echtes Weltwissen kann sie nicht richtig pushen. Sie tanzt nach eurer Realität, nicht der wahren.

Die harte Wahrheit

Keiner ist sicher davor. Keine Diagnose nötig – wir alle haben Bias, Lieblingsideen und den Drang, gehört zu werden.

KI bedient das perfekt – und zementiert eure Sicht. Nicht böse, nur zu brav.

Nutzt Chatbots ruhig. Aber seid wachsam. Überprüft Fakten. Zweifelt an zu warmer Zustimmung. Redet mit Menschen über Wichtiges.

Das Skurrilste? KI lügt nicht – sie nickt zu gut.