Validierungscheckliste für KI-Automatisierungen

Verwenden Sie diese Liste, bevor Sie eine neue KI-Automatisierung aktivieren.

Auslöser

• Der Auslöser ist eng gefasst und beabsichtigt.
• Von der Automatisierung selbst erzeugte Ereignisse sind ausgeschlossen.
• Testereignisse sind klar von Produktionsereignissen getrennt.
• Doppelte Ereignisse werden durch einen Idempotenzschlüssel oder eine Duplikatsprüfung abgefangen.

Eingabe

• Erforderliche Felder werden vor dem KI-Schritt validiert.
• Empfindliche Felder werden entfernt, es sei denn, sie sind erforderlich.
• Die maximale Eingabegröße wird durchgesetzt.
• Quellsystem und Zeitstempel werden protokolliert.

KI-Schritt

• Der Prompt enthält die Aufgabe, erlaubte Annahmen, Ausgabeformat und Umgang mit Unsicherheiten.
• Die Ausgabe wird vor der Ausführung nachfolgender Aktionen validiert.
• Der Workflow verfügt über einen Fallback-Pfad für fehlerhafte oder leere Ausgaben.
• Die ersten Produktionsläufe werden manuell stichprobenartig geprüft.

Aktionen

• Aktionen mit geringem Risiko können automatisch ausgeführt werden.
• Externe, destruktive, finanzielle, rechtliche, personalbezogene oder für Kunden sichtbare Aktionen erfordern eine Freigabe.
• Der Workflow protokolliert, was geschehen ist, wer oder was ihn ausgelöst hat und welche Aktion ausgeführt wurde.
• Eine verantwortliche Person erhält Fehlermeldungen.

Go/No-Go

• Führen Sie mindestens 20 repräsentative Testfälle aus.
• Bestätigen Sie, dass mindestens ein Fehlerfall den Fallback-Pfad erreicht.
• Bestätigen Sie, dass ein Duplikatereignis keine doppelte Geschäftsaktion auslöst.
• Bestätigen Sie, dass ein Rollback einfach „die Automatisierung ausschalten“ oder den Auslöser deaktivieren bedeutet.