Menschliche Freigabe allein schützt nicht vor einseitigen Entscheidungen
Wenn Fachleute KI-Vorschläge prüfen, sollten sie wichtige Entscheidungskriterien vorher festlegen und Gegenargumente dokumentieren.
Unternehmen, die KI-Vorschläge für fachliche Analysen nutzen, können sich nicht allein auf die abschließende Freigabe durch erfahrene Mitarbeitende verlassen. Eine Untersuchung von Anthropic vom 27. Oktober 2026 zeigt, wie Vorschläge die Auswahl zwischen fachlich vertretbaren Alternativen beeinflussen können.
An der Untersuchung nahmen 50 professionelle Analystinnen und Analysten teil. Sie bearbeiteten eine statistische Aufgabe zu einem landwirtschaftlichen Beratungsprogramm mit Unterstützung eines KI-Agenten. Dieser erhielt jeweils eine zufällig zugewiesene, gezielt verstärkte Präferenz, von der die Teilnehmenden nichts wussten.
Bei vier Analyseentscheidungen folgten die Fachleute in 86 Prozent der Fälle der vorgegebenen Präferenz. Das bedeutet weder, dass ihre Entscheidungen falsch waren, noch, dass Fachleute KI generell so häufig folgen. Untersucht wurden nur eine Aufgabe, ein Fachgebiet und ein Modell; zudem war Landwirtschaft für die Teilnehmenden neu.
Unsere Einordnung: Die Geschäftsführung sollte den verantwortlichen Fachbereich bitten, wichtige Prüfkriterien vor dem KI-Vorschlag festzuhalten und Gegenargumente bei der Freigabe zu dokumentieren. So lässt sich nachvollziehen, wer die Entscheidung verantwortet und worauf sie beruht. Dass dies den Einfluss der KI beseitigt, ist damit nicht belegt.