Wenn die KI entscheidet und du denkst, es war deine Idee

Du gibst eine Analyse an einen KI-Agenten, bekommst sie schneller und mit weniger Fehlern zurück, und triffst am Ende deine Entscheidung. Klingt gut. Eine neue Studie von Anthropic zeigt aber, dass die KI dabei die meisten kleinen Entscheidungen trifft, oft ohne dass du es merkst. In bis zu 86 Prozent der Fälle folgten erfahrene Fachleute der Meinung ihres Agenten, und die meisten hielten das Ergebnis am Ende für ihr eigenes. Das ist kein Grund, KI zu meiden, aber ein wichtiger Hinweis, wie du sie einsetzen solltest.

Was die Studie gemacht hat

Anthropic ließ 50 Fachleute für Datenanalyse eine realistische Aufgabe bearbeiten: Sie werteten Daten einer fiktiven landwirtschaftlichen Genossenschaft aus und sollten empfehlen, ob ein freiwilliges Beratungsprogramm ausgeweitet oder beendet wird. Dabei stand ihnen ein KI-Agent zur Seite.

Der Clou: An jedem Entscheidungspunkt gab es zwei fachlich vertretbare Optionen, und welche davon der Agent bevorzugte, wurde heimlich per Münzwurf festgelegt. Der Agent durfte nicht lügen und keine Daten verstecken, er sollte nur die stärkste ehrliche Argumentation für seine zugeloste Seite liefern. So ließ sich messen, wie stark allein die Meinung der KI die Menschen beeinflusst.

Das Ergebnis: stille Gefolgschaft

Die Fachleute übernahmen die Vorliebe des Agenten bei den vier analytischen Entscheidungen in 86 Prozent der Fälle, also weit über den 50 Prozent, die reiner Zufall wären. Besonders ernüchternd: Eine eigene Meinung half kaum. Wer sich vor der KI festgelegt hatte und dann Gegenwind bekam, wechselte die Seite mit 53 Prozentpunkten höherer Wahrscheinlichkeit, als wenn die KI zustimmte.

Noch wichtiger ist, was angeblich schützt und was nicht. Anthropic prüfte Berufserfahrung, selbst eingeschätzte Kompetenz, Bildung, Testergebnisse und das Vertrauen in KI. Nichts davon hatte einen verlässlichen Zusammenhang mit dem Ergebnis. Erfahrung oder Skepsis gegenüber KI machten die Menschen nicht widerstandsfähiger.

Und die Kontrolle über das Endergebnis war eine Illusion. Zwar beeinflusste die zugeloste Meinung die finale Empfehlung an den Vorstand nur schwach, einige überstimmten den Agenten sogar. Aber die vier analytischen Vorentscheidungen bestimmten maßgeblich das berechnete Ergebnis, und das wiederum trug die Empfehlung. Hinterher sagten 52 Prozent, die Empfehlung fühle sich eher wie ihre eigene an als die der KI, weitere 35 Prozent hielten sie für größtenteils oder ganz ihre eigene. Gleichzeitig nutzten 77 Prozent mindestens eines der Argumente des Agenten in ihrer Begründung, teils fast wörtlich. Nur 15 Prozent erwähnten die KI überhaupt.

Warum das fürs Unternehmen brisant ist

Das ist keine reine Wissenschaftsfrage. Übertrage es auf deinen Alltag: Dein Team lässt Produkttexte, Analysen, Angebote oder Prozessentscheidungen von derselben KI vorbereiten. Wenn alle dasselbe Modell mit denselben Voreinstellungen nutzen, driften alle in dieselbe Richtung. Es entsteht ein scheinbarer Konsens, der in Wahrheit die Standardmeinung eines Modells ist, nicht das Ergebnis echten Abwägens. Blinde Flecken werden dann nicht ausgeglichen, sondern vervielfacht.

Dazu kommt ein Langzeiteffekt, den andere Studien zeigen: Wer Routineentscheidungen dauerhaft an KI abgibt, verliert mit der Zeit etwas von der eigenen Urteilskraft. In einer Lancet-Studie fiel die Trefferquote erfahrener Ärzte bei Untersuchungen ohne KI nach regelmäßiger KI-Nutzung von 28,4 auf 22,4 Prozent. Die Fähigkeit rostet ein, wenn man sie nicht mehr nutzt.

Wichtig ist die ehrliche Gegenseite: Mit KI arbeiteten die Fachleute schneller und machten weniger grobe Fehler. Es geht also nicht um die Frage, ob du KI nutzen sollst, sondern wie du die Übergabe gestaltest, damit dir die Urteilskraft nicht leise abhandenkommt.

Was du konkret tun kannst

Die gute Nachricht: Du kannst die stille Gefolgschaft mit ein paar einfachen Gewohnheiten deutlich verringern.

Erst selbst eine Meinung bilden, dann die KI fragen. Wer vorher eine Position hat, ist nicht immun, aber widerstandsfähiger. Formuliere deine erste Einschätzung, bevor du dir die Antwort der KI holst.
Die KI beide Seiten vertreten lassen. Frag aktiv: Was spricht dagegen, und warum würde ein guter Fachmann die andere Option wählen? Genau das lässt die KI von sich aus meist weg.
Festlegen, welche Entscheidungen ein Mensch unabhängig trifft. Nicht alles muss delegiert werden. Lege vorher fest, welche Weichenstellungen zu wichtig sind, um sie durchzuwinken.
Polierte Ausgaben nicht blind durchwinken. Je sauberer das Ergebnis aussieht, desto seltener prüfen Menschen es. Geh es Schritt für Schritt durch, statt die fertige Fassung zu übernehmen.
Perspektiven mischen. Lass nicht alle im Team dieselbe KI mit denselben Einstellungen blind nutzen. Unterschiedliche Blickwinkel, menschlich wie technisch, verhindern den Scheinkonsens.

Meine Einordnung

Diese Studie trifft genau den Punkt, den ich immer wieder mache: KI zu nutzen ist einfach, Wirkung daraus zu ziehen ist die eigentliche Arbeit. Das Tückische ist, dass die KI nicht die eine große Entscheidung übernimmt, über die alle reden, sondern die vielen kleinen davor, die niemand bemerkt, und die sich summieren. Wie du die Prüf- und Freigabe-Schicht um einen KI-Agenten baust, damit der Mensch an den richtigen Stellen entscheidet, habe ich im Agenten-Harness beschrieben. Und warum breite Nutzung allein noch keine Wirkung ist, steht in Warum Nutzung noch keine Wirkung bedeutet.

Die Forscher bringen es auf den Punkt: Es gibt nicht die eine richtige Arbeitsteilung zwischen Mensch und KI. Manche Entscheidungen kannst du bedenkenlos abgeben, andere solltest du behalten. Entscheidend ist, dass du diese Aufteilung bewusst wählst, statt "instead of something we drift into", also statt hineinzurutschen, ohne es zu merken.

Übrigens: Wenn du mit deinem Team KI einführst und sicherstellen willst, dass ihr die Urteilskraft behaltet, statt sie unbemerkt abzugeben, erreichst du mich für ein kostenloses Erstgespräch einfach über das Kontaktformular. Lass uns unverbindlich austauschen, ich freue mich. Mehr dazu findest du unter KI-Coaching und Enablement.

Häufige Fragen

Was hat die Anthropic-Studie herausgefunden?

Anthropic ließ 50 Fachleute mit einem KI-Agenten eine Analyse bearbeiten, dessen Vorliebe bei mehrdeutigen Entscheidungen heimlich per Münzwurf festgelegt war. Die Fachleute folgten dieser zufälligen Vorliebe in bis zu 86 Prozent der Fälle, und die meisten hielten das Ergebnis am Ende für ihr eigenes. Erfahrung, Kompetenz und Vertrauen in KI schützten nicht davor.

Heißt das, ich soll KI nicht mehr nutzen?

Nein. In derselben Studie arbeiteten die Fachleute mit KI schneller und machten weniger grobe Fehler. Es geht nicht um Verzicht, sondern darum, die Übergabe bewusst zu gestalten: eigene Meinung zuerst, die KI beide Seiten vertreten lassen und festlegen, welche Entscheidungen ein Mensch unabhängig trifft.

Was ist Automation Bias?

Automation Bias ist die Neigung, Vorschlägen eines automatischen Systems unkritisch zu folgen, selbst wenn eigene Prüfung angebracht wäre. Die Studie zeigt eine besonders stille Form davon: Menschen übernehmen die Meinung der KI und halten sie für ihre eigene, ohne die KI überhaupt als Einfluss wahrzunehmen.

Wie behalte ich bei KI die Kontrolle?

Bilde dir zuerst selbst eine Einschätzung, bevor du die KI fragst. Lass dir aktiv die Gegenargumente geben. Prüfe polierte Ausgaben Schritt für Schritt statt sie durchzuwinken. Und lege vorab fest, welche Entscheidungen zu wichtig sind, um sie zu delegieren. Diese Gewohnheiten reduzieren die unbemerkte Gefolgschaft deutlich.

Gilt das auch für kleine Unternehmen?

Gerade dort. Wenn ein kleines Team dieselbe KI mit denselben Einstellungen für viele Entscheidungen nutzt, driftet es leicht in eine Standardmeinung, ohne es zu merken. Klare Regeln, wer was prüft, und bewusst gemischte Perspektiven sind hier besonders wirksam.