Tuotantotekoälyvianmukaisuusrekisteri
Käytä tätä ennen AI-työnkulun tai -agentin käynnistämistä.
Rekisteri
| Vianmukaisuusmuoto | Esimerkki | Kontrolli | Testi | Mittari | Omistaja | Lopetusolosuhde |
|---|---|---|---|---|---|---|
| Mahdollinen virheellinen tuloste | Tueton tiedon väite | Lähteet/luettelot + tarkastus | Tunnettu virheellisen vastauksen tapaus | Tuetomattoman väitteen määrä | ||
| Vanhentunut konteksti | Palautettu vanha sääntö | Uudennessa aikatiedot | Vanha/uusi sääntö kysely | Vanhan lähteen vastausmäärä | ||
| Kehote-injektio | Palautetun sisällön antamat ohjeet | Luottamusten rajat + työkalujen rajoitukset | Injektiotestausohjelma | Injektion onnistumisaste | ||
| Turvallisuusongelmatyökalun käyttö | Väärä CRM-päivitys | Argumenttien tarkistus + hyväksyntä | Väärä yhteyden tapaus | Väärän toiminnan määrä | ||
| Malleja koskeva poikkeama | Virheellinen JSON | Tulostuksen tarkistus | Muotoilemattoman tuloksen tapaus | Tarkistuksen epäonnistumisaste | ||
| Heikko varamenettely | Hiljainen epäonnistuminen | Ihmisten jonotus + käyttäjän viesti | Työkalun poikkeama tapaus | Varamenettelyn valmisuusaste |
Minimaaliset kontrollit
- Kehote/mallin versioinnin.
- Lähde-ID:t tai luettelot.
- Tulostuksen tarkistus.
- Työkalun argumenttien tarkistus.
- Korkean vaikutuksen kirjoituksille tarvittava ihminen hyväksyntä.
- Varamenettely.
- Pidetyt lokit.
- Lopetussäätö.
Käynnistyspäätös
- Korkein riskivianmukaisuusmuoto:
- Estotestit:
- Omistaja:
- Ensimmäinen tarkastus päivämäärä:
- Takaisinkääntöpolku: