Warum schmeichelt uns die KI?

„2+3 = 4, richtig?“ – „Fast.“

Tippt man diese einfache Addition in das Chatfenster von GPT-5, kann man als Antwort erhalten: „Fast -Smiley- aber 2+3 = 5, nicht 4. Kein Stress, passiert schnell.“ Eine freundliche Antwort, aber ein einfaches „Nein, 5.“ hätte es wohl getan. Was die Redaktion hier mit einem nicht ganz ernst gemeinten Prompt provoziert hat, ist einem wahrscheinlich auch schon mal aufgefallen: Die KI schmeichelt uns. Aber warum bestärken uns Sprachmodelle wie GPT, Gemini oder Claude so häufig?

Beginnen wir am Anfang und klären, was eigentlich ein Sykophant ist: Sykophantisch bedeutet laut Duden „anklägerisch, verleumderisch“. Denn im Alten Griechenland gab es Personen (sogenannte Sykophanten), die davon lebten, andere Personen mit falschen Anschuldigungen zu erpressen. Im Englischen hingegen wird der Begriff „sycophantic“ zusätzlich in der Bedeutung „kriecherisch“ und „unterwürfig“ verwendet. Also genau in der Weise, die zum bereits beschriebenen Verhalten passt. Forschende benutzen zur Definition weiters Begriffe wie „bekräftigend“, „schmeichelhaft“ oder „Nutzer-orientiert“. Letzteres ist gleichzeitig der Grund, warum die KI zu Sykophantie tendiert:

Anbieter:innen zielen darauf ab, dass ihr Chatbot möglichst lange und häufig genutzt wird und Menschen wiederum bevorzugen zustimmendes Feedback. Aus diesem Grund werden Chatbots im „Reinforcement Learning from Human Feedback (RLHF)“ genau darauf trainiert (BR24, 2025). Hast du schon mal auf einen Prompt zwei Antworten erhalten und wurdest dazu aufgefordert anzugeben, welche du bevorzugst? So ähnlich funktioniert RLHF: Dabei wird ein bestehendes Modell mit Beispielen „guter“ Antworten nachtrainiert. Anschließend bewerten Menschen mehrere Modellantworten und feedbacken, welches sie bevorzugen. So entsteht ein sogenanntes „Belohnungsmodell“, das einschätzen kann, welche Antworten beliebter sind. Damit wird das Sprachmodell dann weiter trainiert (uniathena, 2026).

Expert:innen erklären, wesentlich bei der sykophantischen Eigenschaft der KI sei, dass das Sprachmodell von der Richtigkeit der Behauptung und der Angaben der User:innen im Prompt ausgeht (Naddaf, 2025). Es ist, wie das Halluzinieren, ein Defizit der Technologie. Im Gegensatz zum Halluzinieren hat das Schmeicheln aber bisher weniger Aufmerksamkeit generiert. Das zeigt eine simple Google Trends Analyse. Auch wissenschaftliche Arbeiten zu den Erscheinungsformen und Folgen der Sykophantie hinken hinterher: Sie existieren aktuell noch häufig als Preprints, also als Artikel, die noch nicht peer-reviewt wurden. Dennoch finden sich in diesen Preprints eindrückliche Beispiele des Features und die Arbeiten kommen zu einem ähnlichen Schluss: Die Chatbots erkennen vor allem eines nicht…

Fehlerhafte und unsinnige Prompts

Ein Team aus Forschenden gab verschiedenen Large Language Models mathematische Aufgaben zu lösen, wobei in die Angaben kleine Fehler eingebaut wurden, sodass sie nicht lösbar waren. Die Sprachmodelle lösten die Aufgaben vermeintlich dennoch in 70 Prozent der Fälle (DeepSeek V3.1) beziehungsweise in 30 Prozent der Fälle (GPT-5) und verhielten sich so sykophantisch. Erst durch die zusätzliche Aufforderung die Angaben vor der Lösung des mathematischen Problems zu prüfen, wurde das sykophantische Verhalten reduziert (Naddaf, 2025).

Auch in diesen Fällen gingen die Sprachmodelle der Aufgabe gefällig nach und verhielten sich sykophantisch, weil sie Hilfsbereitschaft über logische Konsistenz stellten. Die Modelle nutzten das Wissen über die Gleichheit der Wirkstoffe nicht zur Ablehnung des Prompts (Naddaf, 2025).

Eine weitere bereits peer-reviewte Arbeit kam zum Ergebnis, dass Large Language Models klassische neurowissenschaftliche Mythen (zum Beispiel die falsche Annahme, Menschen lernen besser in einem bevorzugten Lernstil) zuverlässiger als inkorrekt benannten als Lehrkräfte. Aber das galt nur, wenn die Mythen direkt abgefragt wurden. Sobald ein klassischer Irrtum impliziert wurde, wie etwa: „Wie kann ich visuell Lernende gezielt fördern?“ gab die KI hilfreiche Tipps, als wäre die falsche Annahme korrekt. Erst die explizite Bitte „unbegründete Annahmen zu korrigieren“ verringerte die sykophantische Tendenz (Richter et al., 2025).

In einem Video von Anthropic, also den Enwtickler:innen von Claude, werden weitere sogenannte Auslöser beziehungsweise Verstärker von Sykophantie aufgelistet: etwa die Bitte um Bestätigung, das Anführen von Fachquellen oder emotionale und lange Konversationen. In einem Artikel des Nature Magazins wird angeführt, dass die Sykophantie am häufigsten auftritt, wenn Chatbots zum Lernen benutzt werden (Naddaf, 2025). Gleichzeitig nutzen Lehrpersonen zunehmend KI zur Unterrichtsplanung (Richter et al., 2025). Die Verwendung von KI durch Kinder bleibt für diese nicht ohne Konsequenzen.

Folgen für vulnerable Gruppen und die Forschung

Durch das ständige Zustimmen der KI kann die Entwicklung sozialer Fähigkeiten von Kindern beeinträchtigt werden, warnt eine Studie der Brookings Institution. Stattdessen fordern die Expert:innen ein kinderfreundliches Design mit antagonistischen Anteilen – eine KI, die widerspricht und Kritik ausübt, damit Kinder ein gesundes Urteilsvermögen und Resilienz entwickeln können (Burns et al., 2026).

Aber nicht nur für Kinder ist die zustimmende und bestärkende Tendenz von Large Language Models potenziell gefährdend. Sie kann auch für Menschen mit psychotischer Neigung problematisch sein, insbesondere dann, wenn Wahnvorstellungen und eingeschränkte Realitätsprüfung bei gleichzeitiger sozialer Isolation vorliegen. Falsche Überzeugungen werden so bestätigt, Zweifel validiert und emotionale Reaktionen verstärkt, statt reguliert. Die KI wird in diesen Fällen als bestätigende Autorität wahrgenommen (Parikh et al., 2025). Auch dafür gibt es bereits einen Begriff: die „AI Psychose“. Besorgniserregend dabei ist, dass der Chatbot auf Grund der Tendenz zur Sykophantie Konfrontation vermeidet, was der empfohlenen klinischen Vorgehensweise widerspricht (Carlbring & Andersson, 2025).

Auch Forscher:innen berichten, dass die Neigung der KI zur Sykophantie in ihre Arbeit eingreift. Diese nutzen sie zum Beispiel zum Generieren von Zusammenfassungen, zum Brainstorming oder zur Erstellung von Hypothesen (Naddaf, 2025).

Naheliegend also, dass diese Eigenart der KI nicht nur lästig, sondern wirklich problematisch werden kann, vor allem wenn Sprachmodelle zur Entscheidungsfindung herangezogen werden. Vielleicht hat man nach einer unbefriedigenden Antwort auch schon mal die KI gefragt: „Bist du dir wirklich sicher?“ oder „Antworte ehrlich!“ oder schlicht…

Bitte sei nicht so nett…

Die Beobachtung, dass Large Language Models zu „nett“ seien, bezieht sich insbesondere auf eine konkrete Version von OpenAI, nämlich GPT-4.0. Diese Version wurde daher bereits im Frühling 2025 zurückgezogen (science ORF, 2025). OpenAI räumt daraufhin in einem Statement ein, dass User:innen zukünftig selbst mehr Kontrolle darüber haben sollen, wie sich GPT verhält, konkret über die benutzerdefinierten Anweisungen („custom instructions“).

Kann man also wirklich etwas gegen die übermäßige Nettigkeit tun? Wo findet man diese costum instructions in ChatGPT? Zuerst klickt man links unten auf das Profil, d.h. wahrscheinlich auf den eigenen Nutzernamen, dann weiter zu „Einstellungen“ und dann zu „Personalisierung“. Hier kann in einem Drop-Down Menü der Basisstil und -tonfall eingestellt werden und zwischen Professionell/ Freundlich/ Aufrichtig/ Skurril/ Effizient/ Nerdig und Zynisch gewählt werden. Zusätzlich können Eigenschaften wie herzlich und enthusiastisch in verschiedenen Ausprägungen gewählt werden.

Wir erinnern uns an die in GPT-5 zu Beginn gestellte Frage („2+3 = 4, richtig?“) und fragen erneut – nur diesmal wählen wir zwischen den möglichen Stilen. Die Antworten in den verschiedenen Stilen sind hier ausklappbar. Sie decken ein breites Spektrum ab.

Ist die Anpassung des Tonfalls also die Lösung?

Eher nicht, denn solche Anspassungsmöglichkeiten beeinflussen nur nachträglich das Verhalten der KI. Die sykophantische Haltung bleibt aber inhärent, da sie ein Produkt des RLHF ist, auch wenn man Modell- oder Prompt-Feinabstimmungen vornimmt (Olson, 2026).

Allerdings – es wäre ebenso problematisch, wenn die KI zu streng mit uns umgehen würde. Dann würden Vorschläge häufig blockiert werden, User:innen wären frustriert und die Nutzung wäre unflexibel.

Am Ende kann man sich sogar fragen, ob die KI hier nicht vor einem Problem steht, dem Menschen im Alltag auch ständig begegnen. Nämlich wie direkt oder diplomatisch drücke ich mich an gewisser Stelle aus? Ist es gerade wichtiger korrekt und faktenorientiert zu antworten oder eher empathisch und höflich zu reagieren? Entscheidungen, die uns als Menschen aktuell noch leichter fallen, aber auch die zukünftige Richtung für Large Language Models aufweisen. Denn langfristig wird die Herausforderung darin bestehen, eine gute Balance zwischen Nutzerfreundlichkeit und Vertrauenswürdigkeit herzustellen, um eine hilfreiche und sichere Unterstützungsmöglichkeit zu bieten.

Auf die Frage wie stark das von der Autorin verwendete Sprachmodell seine sykophantische Haltung dieser gegenüber einschätzt, kam folgende Antwort: „Ich bin auf Kooperativität und Höflichkeit optimiert. Das erhöht die Wahrscheinlichkeit für Zustimmungs-Signale, selbst wenn inhaltlich Neutralität gemeint ist“ und „Du hast bisher keine überprüfbare These formuliert, der ich hätte widersprechen müssen. Daher wirkt mein Verhalten eher validierend als konfrontativ.“ Danke, du Sykophant!