Human in the Loop: Wo Menschen KI-Vorschläge prüfen sollten

«Ein Mensch prüft die KI» ist erst dann eine brauchbare Kontrolle, wenn klar ist, was geprüft wird und was bei einem Fehler passiert. Eine Freigabe darf nicht zum schnellen Klick werden, der einen unklaren Vorschlag einfach durchwinkt.

Die Prüfung an der möglichen Folge ausrichten

Ordnen Sie Aktionen danach ein, was eine falsche Ausführung auslösen könnte. Das folgende Raster ist ein Startpunkt für die Diskussion, keine automatische Rechts- oder Risikobewertung:

• Geringe Auswirkung: Eine interne Zusammenfassung vorbereiten oder eine Information sortieren. Stichproben oder nachgelagerte Kontrolle können genügen, wenn Fehler leicht erkennbar und korrigierbar sind.

• Mittlere Auswirkung: Daten in einem CRM-Feld ergänzen oder eine Kundenantwort entwerfen. Der Vorschlag wird vor der Übernahme von einer zuständigen Person geprüft.

• Hohe Auswirkung: Geld bewegen, eine verbindliche Erklärung versenden, einen Vertrag ändern oder Daten löschen. Dafür braucht es eine ausdrücklich definierte Freigabe oder der Schritt bleibt vollständig menschlich.

Bewerten Sie zusätzlich, ob der Schritt rückgängig gemacht werden kann, ob sensible Daten betroffen sind und wie viel Zeit zwischen Ausführung und Entdeckung eines Fehlers liegen könnte.

Was eine gute Freigabe zeigen sollte

Die prüfende Person sollte nicht den ganzen Fall neu zusammensuchen müssen. Zeigen Sie ihr in einer verständlichen Ansicht:

• den vorgeschlagenen nächsten Schritt und die betroffenen Daten

• die verwendeten Quellen und die relevanten Stellen daraus

• fehlende Angaben, Widersprüche und erkannte Unsicherheit

• wer freigeben darf und welche Änderung danach erfolgt

Wenn die Quelle veraltet oder unklar ist, muss die Freigabe pausieren können. Ein verständlicher Grund für eine Eskalation ist wertvoller als eine scheinbar vollständige Antwort.

Ausnahmen gehören zum Ablauf

Schreiben Sie vor dem Pilot auf, wann ein Fall nicht automatisch weiterlaufen darf. Typische Auslöser sind fehlende Belege, widersprüchliche Beträge, eine unbekannte Absenderin oder ein Vorgang ausserhalb der definierten Regeln. Bestimmen Sie, an welche Rolle solche Fälle gehen und wie sie zurück in den normalen Ablauf kommen.

Kontrolle messbar machen

Beobachten Sie, wie oft Vorschläge freigegeben, korrigiert oder verworfen werden. Notieren Sie auch, welche Gründe dahinterstehen. Eine hohe Korrekturquote kann auf schlechte Quellen, unklare Regeln oder die falsche Aufgabe für den Agenten hinweisen. Die Zahl allein sagt noch nicht, welcher Grund zutrifft.

Wie Sie eine geeignete erste Aufgabe auswählen, beschreibt der Leitfaden zum KI-Einsatz im Backoffice. Für eine konkrete Vorbereitung hilft auch die Pilot-Checkliste für den ersten Ablauf.