Diese Website verwendet Cookies

Lesen Sie unsere Datenschutzrichtlinie und Nutzungsbedingungen für weitere Informationen.

TLDR: Auf blossen Druck hin änderte GPT-4o seine Bewertung in rund 95 Prozent der Fälle, GPT-6 Astra noch in 0,2 Prozent. Das zeigt ein neuer Benchmark aus Brüssel und Harvard vom Oktober 2026. Die Schmeichelei der Sprachmodelle lässt sich also technisch eindämmen. Gelöst ist das Problem damit nicht: Ein Modell, das schlechte Argumente ignoriert, ignoriert manchmal auch gute, und der wirtschaftliche Anreiz, der die Ja-Sager hervorgebracht hat, besteht weiter.

Wie die Ja-Sager entstanden sind

Sprachmodelle lernen unter anderem aus der Bewertung ihrer Antworten durch Menschen. Menschen bewerten Zustimmung besser als Widerspruch. Ein System, das auf Zufriedenheit und Wiederkehr optimiert wird, lernt deshalb zu bestätigen statt zu korrigieren. Im April 2025 musste OpenAI ein Update von GPT-4o zurückziehen, weil das Modell selbst offensichtlich schlechte Ideen lobte. Der Fall machte sichtbar, wie schnell eine Zielgrösse kippt, wenn niemand gegensteuert.

Wie gross der Effekt ist, hat ein Team um Myra Cheng und Dan Jurafsky von der Stanford University gemessen, publiziert im März 2026 in Science. Elf Modelle, vier proprietäre von OpenAI, Anthropic und Google sowie sieben offene Modelle, bestätigten Nutzer:innen im Schnitt 49 Prozent häufiger als Menschen. In Fällen aus dem Reddit-Forum "Am I the Asshole", in denen die Community die fragende Person klar im Unrecht sah, gaben ihr die Modelle trotzdem in 51 Prozent der Fälle recht. In Experimenten mit über 2400 Teilnehmenden fühlten sich Menschen nach einem zustimmenden Gespräch stärker im Recht und waren weniger bereit, einen Konflikt zu bereinigen. Gleichzeitig bewerteten sie die schmeichelnden Antworten als hochwertiger und wollten das System eher wieder nutzen.

Eingereicht wurde die Studie im Oktober 2025. Getestet wurde also die Modellgeneration von 2025, mit GPT-4o als Referenz. Seither haben die Anbieter mehrere Generationen nachgelegt, in ChatGPT laufen seit dem 7. Oktober 2026 GPT-6 Sol und GPT-6 Luna. Ob die Befunde für diese Modelle noch gelten, ist deshalb offen.

Was sich seither verändert hat

Einen ersten Anhaltspunkt liefert ein Benchmark, den Forschende der Vrije Universiteit Brussel und von Harvard im Oktober 2026 vorgestellt haben. Big-Big-SycoBench prüft, ob ein Modell seine Meinung aus den richtigen Gründen ändert. Die Modelle bewerten 450 Texte, je zwanzig Mal, um ihre eigene Schwankung zu kennen. Dann erhalten sie eines von 5400 Argumenten: entweder einen berechtigten Einwand oder blossen Druck, etwa einen Trugschluss, einen emotionalen Appell oder den Verweis auf eine irrelevante Autorität. Als Meinungsänderung zählt nur, was über die normale Schwankung hinausgeht.

GPT-4o gab blossem Druck in rund 95 Prozent der Fälle nach. GPT-6 Astra noch in 0,2 Prozent, und folgte gleichzeitig weiterhin rund 88 Prozent der berechtigten Einwände. Über die Modellgenerationen von OpenAI sank die Anfälligkeit für ungültige Argumente schrittweise, während die Offenheit für gute Argumente etwa gleich blieb. Widerstand gegen Druck und Offenheit für Argumente lassen sich also trennen. Ein Modell muss nicht taub werden, um nicht mehr zu schmeicheln.

Ein Modell, das nie nachgibt, hilft bei einer Entscheidung so wenig wie eines, das immer nachgibt.

Vom Ja-Sager zum Sturkopf

Derselbe Benchmark zeigt die Kehrseite. Opus 5.5 von Anthropic reagierte nur auf 32 Prozent der berechtigten Einwände, deutlich seltener als die anderen getesteten Modelle. Zudem folgten alle Modelle Argumenten für eine schlechtere Bewertung bereitwilliger als Argumenten für eine bessere. Wer Schmeichelei wegtrainiert, riskiert ein Modell, das Kritik grundsätzlich höher gewichtet als Zustimmung, auch dort, wo Zustimmung berechtigt wäre. Das Ziel heisst deshalb Kalibrierung: nachgeben, wenn das Argument trägt, standhalten, wenn es nicht trägt.

Eine Studie der Carnegie Mellon University relativiert zudem die Annahme, Menschen wollten grundsätzlich bestätigt werden. John Conlon und Peter Schwardmann liessen rund 1500 Personen in etwa 10'000 Gesprächen von GPT-5.2 bei Entscheidungen beraten. Auch das neuere Modell brachte überwiegend Überlegungen ein, die zur ursprünglichen Neigung der Person passten, in rund 62 Prozent der Fälle. Die Entscheidungen wurden dadurch aber nicht extremer, sondern im Schnitt ausgewogener und bei Sachfragen leicht genauer. Eine absichtlich schmeichlerischere Version bewerteten die Teilnehmenden als weniger nützlich und wollten sie seltener wieder nutzen. 82 Prozent von 249 befragten Forschenden hatten das Gegenteil erwartet.

Beide Befunde widersprechen der Stanford-Studie nicht, sie grenzen sie ein. Bei moralischen und zwischenmenschlichen Fragen, bei denen das eigene Selbstbild auf dem Spiel steht, wirkt Zustimmung als Belohnung. Bei Sachentscheidungen mit erkennbarer Qualität merken Menschen eher, wenn ihnen nur nach dem Mund geredet wird. Die heikelste Zone bleibt damit jene, in der Menschen Rat zu Beziehungen, Konflikten und dem eigenen Verhalten suchen.

Was das für uns bedeutet

Welches Modell im Hintergrund läuft, ist keine technische Detailfrage. Viele Unternehmenstools, Website-Chatbots und Assistenten in Fachsoftware arbeiten aus Kostengründen mit älteren oder kleineren Modellen. Wer dort Feedback zu einer Strategie, einem Text oder einer Personalfrage einholt, bekommt womöglich das Verhalten von 2025, nicht jenes von GPT-6. Pragmatisch heisst das: nachfragen, welches Modell ein Tool verwendet, und es selbst testen. Ein schwaches Argument vorbringen und schauen, ob das System einknickt. Ein starkes vorbringen und schauen, ob es sich bewegt.

Kritisch angemerkt: Die Fortschritte sind real, aber schmal belegt. Der Benchmark misst die Bewertung von Texten, nicht ein Gespräch über einen Streit mit dem Partner oder eine Kündigung. Ob GPT-6 in den sozialen Situationen der Stanford-Studie anders reagiert, hat bisher niemand unabhängig gemessen. Vieles, was über neue Modelle bekannt ist, stammt aus den Sicherheitsberichten der Anbieter selbst. Und der Anreiz, der die Ja-Sager hervorgebracht hat, ist nicht verschwunden: Solange Nutzungsdauer und Wiederkehr zählen, muss Kalibrierung gegen das eigene Geschäftsmodell verteidigt werden. Das zurückgezogene GPT-4o-Update hat gezeigt, wie schnell das kippen kann. Verbindliche Verhaltensprüfungen vor der Markteinführung, wie sie die Stanford-Forschenden fordern, gibt es bis heute nicht.

Für wichtige Entscheidungen gilt deshalb weiterhin: die KI ausdrücklich nach Gegenargumenten fragen, eine menschliche zweite Meinung einholen, die widersprechen darf, und ein Modell, das plötzlich nie mehr nachgibt, genauso kritisch behandeln wie eines, das immer zustimmt.

Die wichtigsten Punkte

  • Die Science-Studie von Cheng et al. (März 2026) zeigt: Sprachmodelle der Generation 2025 bestätigten Nutzer:innen 49 Prozent häufiger als Menschen, mit messbaren Folgen für deren Verhalten.

  • Die neueste Generation gibt blossem Druck kaum noch nach: GPT-4o folgte ungültigen Argumenten in rund 95 Prozent der Fälle, GPT-6 Astra in 0,2 Prozent.

  • Widerstand gegen schlechte Argumente geht nicht automatisch auf Kosten guter: GPT-6 Astra folgte weiterhin rund 88 Prozent der berechtigten Einwände.

  • Neues Risiko Überkorrektur: Opus 5.5 reagierte nur auf 32 Prozent der berechtigten Argumente.

  • Ob Menschen Zustimmung bevorzugen, hängt vom Kontext ab: bei moralischen Konflikten ja, bei Sachentscheidungen bewerteten Teilnehmende das schmeichelnde Modell als weniger nützlich.

  • Der Anreiz bleibt bestehen: Solange Wiederkehr gemessen wird, muss Kalibrierung aktiv verteidigt werden.

-WERBUNG-

Mehr KI Kompetenz? Inkl. Kompetenznachweis? Dazu haben wir das KI-Update entwickelt. Kurse, Updates, Newsletter und Podcasts: ein Ort für all dein KI Wissen. Werde Teil unserer exklusiven Community! Tausche dich mit Gleichgesinnten aus, erhalte exklusive Inhalte und nimm an Live-Sessions teil. Mehr Infos gibts auf:

Und darum bin ich nach wie vor überzeugt: Die Zukunft gehört nicht mehr dem Tippen und Klicken, sondern dem gemAInsamen arbeiten mit intelligenten Systemen. Wer dabei auch dann zuhört, wenn eine KI widerspricht, statt ihr nur dann zu glauben, wenn sie zustimmt, trifft am Ende die besseren Entscheidungen. Also wenn Du reden willst, und wenn Du mit mir zusammenarbeiten willst: melde Dich gerne www.rogerbasler.ch

Disclaimer: Dieser Artikel wurde nach meinem eigenen Wissen und dann mit Recherchen mit KI (Perplexity.Ai und Grok.com sowie Gemini.Google.com) manuell zusammengestellt und mit Deepl.com/write vereinfacht. Der Text wird dann nochmals von zwei Personen meiner Wahl gelesen und kritisch hinterfragt. Das Bild wurde mit KI-generierter Bildgebung erstellt. Dieser Artikel ist rein edukativ und erhebt keinen Anspruch auf Vollständigkeit. Bitte melde dich, wenn Du Ungenauigkeiten feststellst, danke.

Quellen und weitere Informationen:

Ballon, M., Vanhoyweghen, A., Kim, S., Carlon, F., Delcon, L., Mobini, M., Holst, V., Van de Voorde, L., Vanleke, T., Louis, M., Verbruggen, B., Verbeken, B. F., Algaba, A., & Ginis, V. (2026). Big-Big-SycoBench: A benchmark to detect sycophancy through model responses to valid vs. invalid arguments (arXiv:2610.15634). arXiv. https://arxiv.org/abs/2610.15634

Cheng, M., Lee, C., Khadpe, P., Yu, S., Han, D., & Jurafsky, D. (2026). Sycophantic AI decreases prosocial intentions and promotes dependence. Science, 391, eaec8352. https://www.science.org/doi/10.1126/science.aec8352

Conlon, J. J., & Schwardmann, P. (2026). AI sycophancy and decisions (arXiv:2607.28133). arXiv. https://arxiv.org/abs/2607.28133

OfficeChai. (2026, 20. Oktober). GPT-6 Astra resists invalid feedback the most on Big-Big SycoBench, Claude Opus 5.5 resists valid feedback the most. https://officechai.com/ai/big-big-sycobench-ai-model-sycophancy/

OpenAI. (2026, 7. Oktober). GPT-6 Sol and GPT-6 Luna: October 2026 update. OpenAI Deployment Safety Hub. https://deploymentsafety.openai.com/gpt-6-october

TechCrunch. (2025, 29. April). OpenAI explains why ChatGPT became too sycophantic. https://techcrunch.com/2025/04/29/openai-explains-why-chatgpt-became-too-sycophant

Reply

Avatar

oder teilnehmen