Zum Inhalt springen
Labor

Angewandte KI · 19. Okt. 2026

Die Freigabe, die niemand mehr prüft

Eine Freigabe ist nur dann eine Kontrolle, wenn die prüfende Person auch ablehnen kann. Warum Prüfen zum Abstempeln wird, wie Sie das messen und wie eine Prüfung aussieht, die Fehler findet.

Emin C. Homalioglu · 4 Min. Lesezeit · Aktualisiert 03. Nov. 2026

Ein junger Büroangestellter im grauen Sakko ist am Schreibtisch eingeschlafen, eine Hand drückt noch immer einen Stempel auf eine Reihe gleicher Formulare

Eine Freigabe ist nur dann eine Kontrolle, wenn die prüfende Person tatsächlich etwas ablehnen kann. In vielen Systemen tut das niemand mehr. Es wird auf «Freigeben» geklickt, das System protokolliert eine menschliche Entscheidung, und alles danach gilt als geprüft.

Kurz gesagt

Wenn ein KI-System in Ihrem Unternehmen einen Schritt hat, bei dem «ein Mensch freigibt», fragen Sie:

  1. Welchen Anteil lehnt die prüfende Person ab, und wie hat sich dieser Anteil in den letzten Monaten verändert?
  2. Woher wissen Sie, dass sie einen fehlerhaften Fall bemerken würde?
  3. Welche Fälle gehen gar nicht über einen Menschen, und warum genau diese?

Eine Freigabequote nahe hundert Prozent ohne Test dahinter heisst: Der Schritt ist eine Unterschrift im Protokoll.

Warum Prüfen zum Abstempeln wird

Die Grundrate erzieht falsch. Sind 95 von 100 Fällen in Ordnung, ist «alles freigeben» für einen müden Menschen die richtige Strategie. Er liegt 95-mal richtig, und die Oberfläche zeigt ihm die fünf anderen nie.

Aufmerksamkeit hält nicht lange. Bei seltenen Ereignissen sinkt die Trefferquote schon in der ersten halben Stunde einer Schicht. Gemessen wurde das zuerst an Radarbeobachtern in den 1940er-Jahren (Mackworth, 1948). Die Zeit pro Fall schrumpft, und die Entscheidung fällt, bevor der Fall gelesen ist.

Der Vorschlag verankert das Urteil. Menschen übernehmen, was ein System vorschlägt, auch wenn es falsch ist. Die Forschung nennt das Automation Bias (Parasuraman und Manzey, 2010). Ein fertiger, flüssig formulierter Text ist der stärkste Anker überhaupt, und generierter Text ist flüssig, ob er stimmt oder nicht.

Es gibt keine Rückmeldung. Die prüfende Person erfährt nie, welche ihrer Freigaben falsch waren. Ohne Rückmeldung wird man schneller, aber nicht treffsicherer.

Die Oberfläche macht Ablehnen teuer. Freigeben ist ein Klick und die Vorauswahl. Ablehnen verlangt eine Begründung, eine Kategorie und eine Bestätigung. Menschen wählen den bequemen Weg.

Woran Sie einen Stempel erkennen

Vier Zahlen aus dem Prüfprotokoll, ohne zusätzliche Werkzeuge:

  1. Freigabequote. Liegt sie bei Fällen, die nachweislich Fehler enthalten, nahe hundert Prozent, prüft niemand.
  2. Entscheidungszeit gegen Lesezeit. Fällt die mittlere Entscheidung schneller, als sich der Fall vorlesen lässt, wurde er nicht gelesen.
  3. Ablehnungsquote im Verlauf einer Sitzung. Sie sollte flach bleiben. Fällt sie gegen null, ist das Ermüdung.
  4. Änderungen am Inhalt. Wer nur freigibt oder ablehnt und nie ein Wort ändert, setzt sich nicht mit dem Inhalt auseinander.

Prüfungen, die scheitern können

Bekannte Fehler einstreuen. Mischen Sie einen kleinen Anteil absichtlich falscher Fälle unter, in Ihren eigenen Unterlagen markiert, für die prüfende Person nicht erkennbar. Der Anteil erkannter Testfälle ist die einzige direkte Messung, ob der Schritt funktioniert. Melden Sie jeder Person ihre Quote zurück, dann gibt es auch die fehlende Rückmeldung.

Die Grundrate durch gezieltes Weiterleiten erhöhen. Nur die unsicheren und die folgenreichen Fälle gehen an einen Menschen, den Rest übernehmen automatische Prüfungen. Wer in jedem fünften Fall einen Fehler findet, bleibt wach. Wer in jedem hundertsten einen findet, nicht.

Erst die Belege, dann das Ergebnis. Zeigen Sie die Quelle neben der Aussage oder den Unterschied zur vorherigen Version, nicht eine polierte Endfassung. So prüft die Person etwas, statt einer Sache zuzustimmen.

Zuerst selbst entscheiden lassen. Bei einer Stichprobe gibt die Person ihre eigene Antwort ab, bevor sie die des Systems sieht. Die Abweichungen zeigen, wo das Modell falsch liegt und wo die Person rät.

Beide Optionen gleich teuer machen. Ablehnen kostet ebenfalls einen Klick. Bei folgenreichen Fällen verlangt die Freigabe eine Begründung, denn sie trägt das Risiko.

Sitzungen begrenzen. Höchstens so viele Fälle pro Sitzung, dann wechseln. Ermüdung gehört zur Aufgabe, also bekommt die Aufgabe die Grenze.

Freigaben nachprüfen. Eine zweite Person prüft eine Stichprobe bereits freigegebener Fälle. Eine Abweichungsquote von null heisst, dass eine der beiden nicht liest.

Wie wir den Menschen einsetzen

Bauen wir einen KI-Schritt, der etwas veröffentlicht oder verschickt, prüft am Anfang ein Mensch jeden einzelnen Fall. Automatisch wird eine Kategorie erst, wenn das Prüfprotokoll zeigt, was dort tatsächlich abgelehnt wird. Wo weiterhin abgelehnt wird, bleibt der Mensch.

Werden die eingestreuten Testfälle kaum besser erkannt als per Münzwurf, gehört das offen gesagt: Dann ist der Schritt ein Eintrag für die Compliance. Den eigentlichen Schutz liefern automatische Prüfungen am Ergebnis, harte Grenzen für das, was das System tun darf, und nachträgliche Stichproben.

Ein Mensch im Ablauf schützt Sie genau so weit, wie Sie messen können, wie oft er die falschen Fälle stoppt.

19. Okt. 2026 · Emin C. Homalioglu

Ähnliches Thema bei Ihnen?

Schicken Sie uns den Kontext. Wir sagen Ihnen, was wir tun würden.

Gespräch starten