Angewandte KI · 17. Nov. 2026
Das Erste, was wir gebaut haben, das das Wissen einer Firma löschen kann
Ausführung zu automatisieren ist sicher. Urteile zu automatisieren entfernt still die Menschen, die die Begründungen kennen. Wie man Entscheidungen automatisiert, ohne das Wissen dahinter zu verlieren.
Emin C. Homalioglu · 4 Min. Lesezeit

Der Prototyp funktionierte besser als alles, was wir in jenem Jahr gebaut hatten. Genau das war das Problem. Er übernahm ein Urteil, das zwei erfahrene Leute jeden Tag fällten, und auf den Testdaten stimmte er neunzehn von zwanzig Mal mit ihnen überein. Dann fragte jemand, wer dieses Urteil in zwei Jahren noch fällen könne, und niemand hatte eine Antwort.
Kurz gesagt
Wenn Ihr Unternehmen eine Entscheidung automatisiert und nicht nur eine Aufgabe, fragen Sie:
- Welche Entscheidungen trifft künftig kein Mensch mehr, und wer in der Firma könnte sie in zwei Jahren noch richtig treffen?
- Hält das System zu jeder Entscheidung eine Begründung fest, in Worten, die eine Kollegin verstehen würde?
- Welcher Anteil der Entscheidungen geht dauerhaft an Menschen, und wer wählt diese Stichprobe aus?
Lautet die Antwort auf die zweite Frage «der Konfidenzwert des Modells», ist das Wissen bereits auf dem Weg nach draussen.
Was wir gebaut haben
Die Aufgabe war Triage: eingehende Anfragen lesen, entscheiden, wie dringend jede ist und wer sie bearbeiten soll. Zwei Leute hatten das jahrelang gemacht. Sie wussten, welche Formulierungen eines Kunden einen echten Ausfall bedeuteten, welches «dringend» Routine war und welche stille Einzeilige in eine Kündigung münden würde. Wir trainierten einen Prototyp in einer isolierten Umgebung auf zwei Jahren anonymisierter, aufgezeichneter Triage-Entscheidungen, ohne Personendaten und ohne Zugang zum laufenden Ticketsystem.
Im Testlauf lief er von Anfang bis Ende allein. Die Warteschlange leerte sich, die Antwortzeiten sanken, die beiden hatten Zeit für anderes. Der Plan auf dem Tisch lautete: laufen lassen und die Rolle nicht mehr besetzen.
Dann gingen wir die zwanzig Fälle durch, in denen er anders entschieden hatte als sie. Die meisten waren Fälle, die der alte Ablauf mit Wissen gelöst hatte, das nirgends aufgeschrieben war: ein Kunde kurz vor der Vertragsverhandlung, ein Produkt, das nach einem bestimmten Update bekanntermassen ausfällt. Das Modell hatte das Muster der Entscheidungen gelernt, nicht ihre Gründe. Wären die beiden weitergezogen, hätte niemand mehr die Gründe gekannt, und lange hätte es niemand bemerkt.
Ausführung oder Urteil
Die entscheidende Grenze ist, ob die Entscheidung schon gefallen war, bevor die Maschine ins Spiel kommt.
Ausführung zu automatisieren ist vollständig sicher. Das Dokument erzeugen, das freigegebene Ticket weiterleiten, die Buchhaltung abgleichen, die Erinnerung verschicken. Das Urteil fiel vorher, die Maschine setzt es um.
Urteile zu automatisieren ist etwas anderes. Wird dieser Schaden bezahlt, ist diese Bestellung betrügerisch, wie dringend ist dieser Kunde. Übernimmt ein Modell das vollständig, übt die Organisation die Fähigkeit nicht mehr, und eine Fähigkeit, die niemand übt, verschwindet mit der gewöhnlichen Fluktuation. Lisanne Bainbridge hat den Kern davon 1983 beschrieben: Die Automatisierung übernimmt die Routine, und so verlieren die Menschen die Übung genau in der Fähigkeit, die sie brauchen, wenn die Automatisierung versagt (Bainbridge, 1983).
Wenn Sie Urteile trotzdem automatisieren
Manchmal sollten Sie das. Die Menge ist zu gross, die Menschen sind der Engpass, die Kosten sind real. Wir haben die Triage am Ende eingeführt, mit vier Änderungen:
- Eine dauerhafte Stichprobe geht an Menschen. Keine Testphase, die endet, sobald die Zahlen gut aussehen. Fünf bis zehn Prozent, solange das System läuft, so ausgewählt, dass sie die ganze Bandbreite der Fälle abdecken statt zufällig gezogen, damit die Fähigkeit geübt und aktuell bleibt.
- Jede Entscheidung trägt eine Begründung, in den Worten, die ein Mensch verwenden würde, und sie wird gespeichert. Über die Jahre wird dieses Protokoll die eigentliche Wissensbasis. Es bekommt eine verantwortliche Person und wird als Wert behandelt.
- Die Prüfenden sind erfahren genug, um Veränderungen zu bemerken, und sie haben einen echten Weg, eine Entscheidung zu übersteuern und die Korrektur zurückzuspielen.
- Wir beobachten die Eingaben, nicht nur die Trefferquote. Das Modell hat aus den Fällen des letzten Jahres gelernt und entscheidet über die dieses Jahres. Ändern sich die Anfragen, bleibt die Trefferquote bei alten Mustern hoch, während neue Muster falsch laufen.
Warum man es zu spät bemerkt
Lange sieht nichts falsch aus. Die Zahlen sind gut, die Warteschlange ist leer, die Kosten sind gesunken. Der erste falsch entschiedene Grenzfall kommt meist, nachdem die Erfahrenen gegangen sind, und die günstige Lösung, ein paar von ihnen eingebunden zu lassen, ist mit ihnen gegangen. Übrig bleibt, das Wissen aus dem Entscheidungsprotokoll neu aufzubauen, falls man eines geführt hat, das sich zu lesen lohnt.
Eine automatisierte Entscheidung speichert das Wissen dahinter nicht, und die Uhr für dieses Wissen läuft ab dem Tag, an dem der letzte Mensch, der es hatte, aufhört, es anzuwenden.
17. Nov. 2026 · Emin C. Homalioglu


