# Tootmise AI veamustrite register

Kasuta seda enne AI-töövoo või agendi käivitamist.

## Register

| Veamuster | Näide | Kontroll | Test | Mõõdik | Omanik | Peatamistingimus |
| --- | --- | --- | --- | --- | --- | --- |
| Usutav vale väljund | Toetamata faktiväide | Allikad/tsitaadid + ülevaatus | Teadaolev vale vastuse juhtum | Toetamata väidete määr | | |
| Aegunud kontekst | Tagastatakse vana poliitika | Värskuse metaandmed | Vana/uue poliitika päring | Aegunud allika vastuste määr | | |
| Prompt injection | Otsitud sisu annab juhiseid | Usalduspiir + tööriistapiirangud | Süstimise testandmestik | Süstimise edukuse määr | | |
| Ohtlik tööriistakasutus | Vale CRM-i uuendus | Argumentide valideerimine + kinnitamine | Vale kontakti juhtum | Vale tegevuse määr | | |
| Skeemi nihkumine | Vigane JSON | Väljundi valideerimine | Vigase väljundi juhtum | Valideerimisvigade määr | | |
| Nõrk varuplaan | Vaikne ebaõnnestumine | Inimese järjekord + kasutajateade | Tööriista katkestuse juhtum | Varuplaani lõpuleviimise määr | | |

## Miinimumkontrollid

- Prompti või malli versioonimine.
- Allika ID-d või tsitaadid.
- Väljundi valideerimine.
- Tööriista argumentide valideerimine.
- Inimese kinnitamine suure mõjuga kirjutuste puhul.
- Varuplaan.
- Varjatud tundlike andmetega logid.
- Väljalülitamise lüliti.

## Käivitusotsus

- Kõrgeima riskiga veamuster:
- Blokeerivad testid:
- Omanik:
- Esimese ülevaatuse kuupäev:
- Tagasipööramise tee: