Tootmise AI veamustrite register
Kasuta seda enne AI-töövoo või agendi käivitamist.
Register
| Veamuster | Näide | Kontroll | Test | Mõõdik | Omanik | Peatamistingimus |
|---|---|---|---|---|---|---|
| Usutav vale väljund | Toetamata faktiväide | Allikad/tsitaadid + ülevaatus | Teadaolev vale vastuse juhtum | Toetamata väidete määr | ||
| Aegunud kontekst | Tagastatakse vana poliitika | Värskuse metaandmed | Vana/uue poliitika päring | Aegunud allika vastuste määr | ||
| Prompt injection | Otsitud sisu annab juhiseid | Usalduspiir + tööriistapiirangud | Süstimise testandmestik | Süstimise edukuse määr | ||
| Ohtlik tööriistakasutus | Vale CRM-i uuendus | Argumentide valideerimine + kinnitamine | Vale kontakti juhtum | Vale tegevuse määr | ||
| Skeemi nihkumine | Vigane JSON | Väljundi valideerimine | Vigase väljundi juhtum | Valideerimisvigade määr | ||
| Nõrk varuplaan | Vaikne ebaõnnestumine | Inimese järjekord + kasutajateade | Tööriista katkestuse juhtum | Varuplaani lõpuleviimise määr |
Miinimumkontrollid
- Prompti või malli versioonimine.
- Allika ID-d või tsitaadid.
- Väljundi valideerimine.
- Tööriista argumentide valideerimine.
- Inimese kinnitamine suure mõjuga kirjutuste puhul.
- Varuplaan.
- Varjatud tundlike andmetega logid.
- Väljalülitamise lüliti.
Käivitusotsus
- Kõrgeima riskiga veamuster:
- Blokeerivad testid:
- Omanik:
- Esimese ülevaatuse kuupäev:
- Tagasipööramise tee: