Varför AI ger tvärsäkra men felaktiga svar: en nybörjarguide till hallucinationer – kompletterande videor

IBM Technology

Martin Keen delar in hallucinationer i fyra namngivna kategorier – motsägelser inom en mening, motsägelser mot prompten, faktafel och nonsens – och går igenom var och en på en ljustavla. När artikeln har gett dig förklaringen till varför de uppstår ger videon dig ett ordförråd för att känna igen vilken typ av fel du stöter på i praktiken, så att du kan avgöra hur mycket du kan lita på ett visst svar.

Vad du bör få ut av detta: Du kan namnge de fyra typerna av hallucinationer och känna igen vilken du har framför dig när en chattbot svarar fel.

Titta på eller ha koll på först: Inga – kan ses utan förberedelser.

Computerphile

Ett långt och lugnt samtal med AI-säkerhetsforskaren Rob Miles om varför en modell som tränats att förutsäga trovärdig text alltid, på grund av sin konstruktion, ibland kommer att hitta på fakta. Videon spelades in i början av 2023, men den bakomliggande mekanism som förklaras har inte förändrats, och resonemanget är fortfarande det tydligaste sättet att ta till sig att ”det är en språklig sannolikhetsmotor, inte en sanningsmotor”.

Vad du bör få ut av detta: Du kan förklara varför en modell som tränats att förutsäga trovärdig text ibland hittar på fakta, oavsett hur välformulerad den låter.

Titta på eller ha koll på först: Inga, men det underlättar att först ha sett en kort förklaring av hallucinationer, som förstahandsvalet.