Human-in-the-Loop-Freigabematrix
Verwenden Sie diese Matrix, um festzulegen, was Menschen in einem KI-Workflow freigeben, stichprobenartig prüfen, auditieren oder verantworten.
Workflow-Fakten
- Workflow-Name:
- Verantwortliche Person:
- Betroffene Nutzer:
- Kundensichtbar? Ja / Nein
- Externe Aktion? Ja / Nein
- Sensible Daten beteiligt:
- Umkehrbarkeit:
- Erwartete Menge:
- Verantwortliche Person für Ausnahmen:
Konsequenzmatrix
| Frage | Ja / Nein | Notizen |
|---|---|---|
| Kann eine falsche Ausgabe einen Kunden, Mitarbeiter, Lieferanten oder eine Aufsichtsbehörde beeinträchtigen? | ||
| Kann der Workflow Daten senden, veröffentlichen, löschen, Kosten berechnen, erstatten oder Datensätze ändern? | ||
| Kann er personenbezogene, vertrauliche, finanzielle, rechtliche, personalbezogene oder sicherheitsrelevante Daten offenlegen? | ||
| Wäre der Fehler später schwer zu erkennen? | ||
| Würde der Fehler das Vertrauen beeinträchtigen, selbst wenn er umkehrbar ist? |
Prüfmodell
| Konsequenz | Standardmodell | Ausgewählt? |
|---|---|---|
| Intern, umkehrbar, geringe Sichtbarkeit | Nachträgliche Prüfung | |
| Wiederkehrende, qualitätskritische Arbeit | Stichprobenprüfung | |
| Routineablauf mit unklaren Fällen | Ausnahmeprüfung | |
| Kundensichtbar oder externe Aktion | Menschliche Genehmigung vor der Aktion | |
| Destruktive, finanzielle, rechtliche, personalbezogene oder regulierte Entscheidung | Ein Mensch verantwortet die endgültige Entscheidung |
Anforderungen an die Prüfoberfläche
- Vorgeschlagene Ausgabe oder Aktion ist sichtbar.
- Quellenbelege sind sichtbar.
- Risikohinweise sind sichtbar.
- Grund für die Prüfung ist sichtbar.
- Die prüfende Person kann freigeben, bearbeiten, ablehnen oder eskalieren.
- Die endgültige Aktion wird mit prüfender Person und Zeitstempel protokolliert.
Stop-Regeln
- Fehlerquoten-Schwellenwert:
- Warteschlangenalter-Schwellenwert:
- Schwellenwert für Hochrisikovorfall:
- Verantwortliche Person, die den Workflow pausieren kann:
- Manueller Fallback-Pfad: