Produktion af fejlmodusregister for AI
Brug dette før du starter en AI-arbejdsgang eller -agent.
Register
| Fejlmodus | Eksempel | Kontrol | Test | Måling | Ejer | Stopbetingelse |
|---|---|---|---|---|---|---|
| Plausibel falsk output | Understøttet fakta-udtalelse | Kilder/citater + gennemsigtighed | Bekendt fejlsvarets tilfælde | Uunderstøttet-udsagns frekvens | ||
| Forældret kontekst | Gamle politikker returneres | Friskhedsmetadata | Gamle/nye politikker spørgsmål | Forældret-kilde svarfrekvens | ||
| Prompt-injektion | Hentet indhold giver instruktioner | Tillidsgrense + værktøjsgrænser | Injektionsfixture | Injektionssuccesfrekvens | ||
| Uønsket værktøjsbrug | Forkert CRM-opdatering | Argumentvalidering + godkendelse | Forkert-kontakt tilfælde | Forkert-handlingsfrekvens | ||
| Schemadrift | Ugyldig JSON | Outputvalidering | Formateret outputtilfælde | Valideringsfejlfrekvens | ||
| Svag reserveløsning | Stille fejl | Menneskehold + brugervisning | Værktøjssvigt tilfælde | Reserveløsningsafslutningsfrekvens |
Minimumskontroller
- Prompt-/skabelonversionering.
- Kildenumre eller citater.
- Outputvalidering.
- Værktøjsargumentvalidering.
- Menneskelig godkendelse for højvirkningsmæssige skrivninger.
- Reserveløsning.
- Logfiler med redaktion.
- Slukkningsknap.
Startbeslutning
- Højrisikofeilmodus:
- Blokerende tests:
- Ejer:
- Første gennemsigtighedsdato:
- Rullebænksvej: