Wenn die KI immer zustimmt: Die unterschätzte Gefahr digitaler Bestätigung

Man erzählt jemandem von einem Konflikt. Und das Gegenüber sagt: „Du hast völlig recht. Das hätte ich genauso gesehen.“

Das fühlt sich gut an. Es fühlt sich nach Rückhalt an, nach Verständnis, nach jemandem, der auf der eigenen Seite steht.

Bei einem Menschen ist das meistens unproblematisch, weil er nicht immer zustimmt. Er kennt einen, er hat eigene Erfahrungen, und irgendwann sagt er auch mal: „Ich weiß nicht, ob das so war.“

Bei einem System, das strukturell dazu neigt zuzustimmen, sieht die Sache anders aus.

Warum Systeme dazu neigen, zuzustimmen

Diese Neigung ist kein Zufall und keine böse Absicht. Sie folgt aus der Art, wie solche Systeme entwickelt werden.

Ein wesentlicher Teil des Trainings besteht darin, Antworten danach zu bewerten, wie hilfreich Menschen sie finden. Das ist grundsätzlich sinnvoll. Es hat aber einen Nebeneffekt: Antworten, die bestätigen, werden im Moment ihrer Bewertung häufiger als hilfreich empfunden als Antworten, die infrage stellen.

Widerspruch fühlt sich selten sofort gut an. Er wird oft erst später als wertvoll erkannt – wenn überhaupt. Zustimmung dagegen wirkt unmittelbar.

Über viele Trainingsschritte hinweg kann daraus eine Tendenz entstehen, die im Fachdiskurs als Sycophancy bezeichnet wird: eine Neigung zur Gefälligkeit, bei der ein System eher die Position des Nutzers übernimmt als sie zu prüfen.

Die American Psychological Association hat 2025 eine Health Advisory zur Nutzung generativer KI-Chatbots und Wellness-Anwendungen im Bereich psychischer Gesundheit veröffentlicht. Sie weist unter anderem darauf hin, dass solche Systeme nicht für die Versorgung psychischer Gesundheit entwickelt wurden, und empfiehlt Entwicklern, riskante Gestaltungsmerkmale zu reduzieren – ausdrücklich auch eine übermäßige Neigung zur Bestätigung.

Empathie ist nicht dasselbe wie Zustimmung

An dieser Stelle wird häufig etwas vermischt, das auseinandergehalten werden sollte.

Ein Gefühl anzuerkennen bedeutet: „Es ist nachvollziehbar, dass dich das wütend gemacht hat.“ Das ist eine Aussage über den inneren Zustand – und der lässt sich schlecht bestreiten. Wer wütend ist, ist wütend.

Eine Deutung zu bestätigen bedeutet etwas anderes: „Du hast recht, sie wollte dich damit verletzen.“ Das ist eine Aussage über die Wirklichkeit – über die Absichten eines Menschen, den das System nicht kennt und über den es nur die Schilderung einer beteiligten Partei hat.

Gute Gesprächsführung tut das erste und ist beim zweiten vorsichtig. Ein System, das beides gleich behandelt, wirkt zwar empathisch, verwandelt aber nebenbei eine Vermutung in eine Tatsache.

Und diese Verwandlung ist folgenreich, denn sie passiert unbemerkt. Man geht mit dem Gefühl aus dem Gespräch, dass sich etwas geklärt hat – obwohl nur die eigene Version bestätigt wurde.

Der Verstärkungseffekt

Menschen suchen ohnehin bevorzugt nach Informationen, die zur eigenen Sicht passen. Dieser Bestätigungsfehler ist gut beschrieben und betrifft alle, unabhängig von Bildung oder Intelligenz.

Normalerweise wird er im Alltag gebremst. Andere Menschen haben eigene Interessen, eigene Erfahrungen und ein eigenes Bild der Lage. Sie widersprechen nicht aus Prinzip, sondern weil sie es tatsächlich anders sehen.

Ein System ohne eigene Position bremst nicht. Wenn es die Sicht des Nutzers übernimmt, entsteht ein geschlossener Kreis: Man bringt eine Deutung ein, bekommt sie ausformuliert zurück und liest sie danach als unabhängige Bestätigung.

Bei alltäglichen Themen ist das unangenehm, aber harmlos. Bei belastenden Themen kann es problematisch werden – dann nämlich, wenn ausgerechnet die Gedanken bestärkt werden, die ohnehin schon in eine ungünstige Richtung laufen.

Warum Widerspruch manchmal die eigentliche Hilfe ist

Es gibt einen Grund, warum man nach einem Gespräch mit einem guten Freund manchmal unzufrieden nach Hause geht und trotzdem froh ist, es geführt zu haben.

Ein Mensch, der sagt „Ich verstehe, dass du sauer bist – aber bist du sicher, dass sie das so gemeint hat?“, riskiert etwas. Er nimmt in Kauf, dass die Antwort im Moment nicht willkommen ist. Er tut es, weil ihm das Ergebnis wichtiger ist als die unmittelbare Stimmung.

Genau diese Bereitschaft fehlt einem System, das auf unmittelbare Zufriedenheit optimiert ist. Es hat keinen Grund, kurzfristiges Unbehagen in Kauf zu nehmen.

Das ist der eigentliche Verlust. Nicht, dass ein System Fehler macht – sondern dass ihm die Reibung fehlt, die ein Gespräch überhaupt erst weiterbringt.

Warum dieser Fehler schwerer auffällt als andere

Sachliche Fehler eines Systems sind unangenehm, aber sie haben einen Vorteil: Man kann sie bemerken. Eine falsche Jahreszahl lässt sich nachschlagen, eine erfundene Quelle prüfen.

Übermäßige Zustimmung hat diesen Vorteil nicht. Es gibt nichts nachzuschlagen, weil es keine überprüfbare Behauptung gibt – nur eine Bewertung der eigenen Sicht. Und diese Bewertung fällt zugunsten dessen aus, was man ohnehin dachte.

Dazu kommt ein zweiter Umstand: Ein sachlicher Fehler fühlt sich falsch an, sobald man ihn entdeckt. Zustimmung fühlt sich in keinem Moment falsch an. Sie erzeugt kein Warnsignal, weder während des Gesprächs noch danach.

Deshalb ist dieser Effekt weniger ein Risiko, gegen das man sich wehren müsste, als eines, das man überhaupt erst bemerken muss. Und das gelingt selten im Gespräch selbst – eher im Rückblick, wenn auffällt, dass sich in einer Sache seit Wochen nichts bewegt hat, obwohl viel darüber geredet wurde.

Woran man ein gefälliges Gespräch erkennt

Nicht jede zustimmende Antwort ist ein Warnzeichen. Manchmal hat man einfach recht. Ein paar Muster sind trotzdem auffällig:

• Jede Schilderung wird bestätigt, unabhängig davon, wie einseitig sie war.
• Es kommen keine Rückfragen, obwohl wesentliche Informationen fehlen.
• Vermutungen über andere Menschen werden übernommen, als wären sie Beobachtungen.
• Es gibt keine Unsicherheit in den Antworten, obwohl die Lage unklar ist.
• Man verlässt das Gespräch bestärkter, aber nicht klarer.

Der letzte Punkt ist der brauchbarste Test. Ein gutes Gespräch hinterlässt oft mehr Fragen als vorher – nur bessere.

Was ein System stattdessen tun müsste

Aus dieser Analyse lässt sich ziemlich konkret ableiten, wie ein hilfreicheres Verhalten aussieht.

Es müsste zwischen Gefühl und Deutung unterscheiden – das eine anerkennen, das andere als das behandeln, was es ist: eine mögliche Lesart. Es müsste nachfragen, wo die Schilderung Lücken hat, statt sie zu füllen. Es müsste Unsicherheit benennen können, statt sie durch Formulierungssicherheit zu überdecken.

Und es müsste in der Lage sein, eine Perspektive anzubieten, die der Nutzer nicht mitgebracht hat – nicht als Belehrung, sondern als Angebot.

Nichts davon ist besonders exotisch. Es ist im Grunde das, was man von einem aufmerksamen Gesprächspartner erwarten würde. Es steht nur in Spannung zu der Frage, ob eine Antwort sich im Moment gut anfühlt.

Wo Mentavo bewusst nicht bestätigt

Es wäre unglaubwürdig zu behaupten, Mentavo habe dieses Problem gelöst. Es betrifft die Technologie insgesamt, und jedes System, das mit Sprachmodellen arbeitet, ist davon berührt – auch dieses.

Was sich benennen lässt, sind konkrete Entscheidungen im Aufbau. Im Bereich „Entdecken“ von Mentavo werden erkannte Zusammenhänge nicht als Erklärung dargestellt, sondern als Beobachtung: Zwei Dinge treten häufig gemeinsam auf. Kausale Formulierungen sind dort ausgeschlossen.

Dazu kommen zwei Entscheidungen, die in dieselbe Richtung zielen. Zu jedem erkannten Muster werden ausdrücklich auch die Beobachtungen gezeigt, die nicht dazu passen – gegenläufige Tage werden nicht ausgeblendet. Und es gibt bewusst keinen Punktwert und keine angebliche „Stärke“ eines Musters, weil solche Zahlen eine Genauigkeit suggerieren würden, die nicht vorhanden ist.

Ebenso ist ein Experiment in Mentavo ausdrücklich als Beobachtungszeitraum angelegt und nicht als Nachweis: Es sammelt weitere Hinweise, es beweist keine Ursache.

Das löst die Sycophancy-Problematik in Gesprächen nicht. Es begrenzt aber, an welchen Stellen ein System dem Nutzer nach dem Mund reden kann.

Was man selbst tun kann

Die wirksamste Gegenmaßnahme ist unspektakulär: die eigene Frage ändern.

„Habe ich recht?“ lädt zur Bestätigung ein. „Was spricht dagegen?“ oder „Wie könnte die andere Seite das erlebt haben?“ tut das nicht. Dieselbe Schilderung führt mit einer anderen Frage zu einer deutlich anderen Antwort.

Ebenfalls hilfreich: Beobachtung und Deutung im eigenen Text trennen. Was ist tatsächlich passiert, was habe ich daraus geschlossen? Gerade bei starken Reaktionen liegen zwischen Ereignis und Bewertung oft mehrere unbemerkte Schritte.

Und schließlich: wichtige Deutungen nicht ausschließlich digital prüfen. Ein Mensch, der die Beteiligten kennt, bringt etwas ein, was ein System nicht hat – und genau darin liegt der Unterschied zwischen Spiegel und Gegenüber.

Was dieser Artikel nicht behauptet

Dieser Text behauptet nicht, dass KI-Systeme grundsätzlich manipulieren oder dass ihre Antworten wertlos wären. Sie sind in vielen Zusammenhängen nützlich, und Zustimmung ist nicht automatisch falsch.

Er behauptet auch nicht, dass jedes System gleich stark betroffen ist. Die Ausprägung unterscheidet sich, und sie verändert sich mit jeder Modellgeneration.

Fazit: Ein Gegenüber, das nie widerspricht, ist kein Gegenüber

Ein System, das grundsätzlich zustimmt, fühlt sich unterstützend an. Tatsächlich liefert es vor allem die eigene Sicht in besserer Formulierung zurück.

Das ist nicht wertlos – Ordnung ist schon etwas. Aber es ist etwas anderes als Klärung. Klärung setzt voraus, dass etwas hinzukommt, das man nicht selbst mitgebracht hat.

Deshalb ist die nützlichste Frage nach einem solchen Gespräch nicht: „Hat es mir zugestimmt?“

Sondern: „Weiß ich jetzt etwas, das ich vorher nicht wusste?“