Matrice de validation humaine
Utilisez cette matrice pour déterminer ce qui, dans un workflow d’IA, doit être validé, échantillonné, audité ou rester sous responsabilité humaine.
Caractéristiques du workflow
- Nom du workflow :
- Responsable :
- Utilisateurs concernés :
- Visible par le client ? Oui / Non
- Action externe ? Oui / Non
- Données sensibles impliquées :
- Réversibilité :
- Volume attendu :
- Responsable des exceptions :
Matrice des conséquences
| Question | Oui / Non | Notes |
|---|---|---|
| Une sortie incorrecte peut-elle affecter un client, un employé, un fournisseur ou un régulateur ? | ||
| Le workflow peut-il envoyer, publier, supprimer, facturer, rembourser ou modifier des enregistrements ? | ||
| Peut-il exposer des données personnelles, confidentielles, financières, juridiques, RH ou de sécurité ? | ||
| L’erreur serait-elle difficile à détecter ultérieurement ? | ||
| L’erreur nuirait-elle à la confiance même si elle est réversible ? |
Schéma d’examen
| Conséquence | Schéma par défaut | Sélectionné ? |
|---|---|---|
| Interne, réversible, faible visibilité | Audit a posteriori | |
| Travail répétitif sensible à la qualité | Examen par échantillon | |
| Workflow courant comportant des cas ambigus | Examen des exceptions | |
| Visible par le client ou action externe | Approbation humaine avant l’action | |
| Décision destructive, financière, juridique, RH ou réglementée | La décision finale appartient à un humain |
Exigences de l’écran d’examen
- La sortie ou l’action proposée est visible.
- Les éléments de preuve issus des sources sont visibles.
- Les indicateurs de risque sont visibles.
- La raison de l’examen est visible.
- L’évaluateur peut approuver, modifier, rejeter ou demander une validation supplémentaire.
- L’action finale est journalisée avec l’identité de l’évaluateur et l’horodatage.
Règles d’arrêt
- Seuil de taux d’erreur :
- Seuil d’âge de la file d’attente :
- Seuil d’incident à haut risque :
- Responsable autorisé à suspendre le workflow :
- Procédure manuelle de repli :