Definition
Hallucination uppstår eftersom språkmodeller är tränade att generera sannolik nästa text - inte att verifiera fakta. Modellen kan "hitta på" referenser, namn eller tekniska specifikationer som låter rimliga men inte existerar.
KIsedan 2022⏱ ~1 min
Hallucination
När en AI-modell producerar till synes trovärdiga svar som är faktamässigt felaktiga, påhittade eller utan grund i verkligheten.
Se även:
KILLM →
Large Language Model - AI-modell tränad på stora textdata som kan förstå och generera mänskligt språk, som GPT-4 och Claude.
KIRAG →Retrieval Augmented Generation - AI-arkitektur där modellen kompletteras med dokument hämtade i realtid för att ge faktabaserade svar.
KIPrompt-engineering →Tekniken att formulera exakta instruktioner till AI-modeller för att få relevanta, pålitliga och korrekta svar.
KIAI →Artificiell intelligens - teknik som gör det möjligt för maskiner att utföra uppgifter som normalt kräver mänsklig intelligens, som språkförståelse, mönsterigenkänning och beslutsfattande.