Definisjon
Hallusinasjon oppstår fordi språkmodeller er trent til å generere sannsynlig neste tekst - ikke til å verifisere fakta. Modellen kan "finne på" referanser, navn, lovparagrafer eller tekniske spesifikasjoner som høres plausible ut, men som ikke eksisterer. Hallusinasjoner er en av de viktigste risikoene ved bruk av AI i kritiske sammenhenger. Teknikker som RAGRetrieval Augmented Generation - AI-arkitektur der modellen suppleres med dokumenter hentet i sanntid for å gi faktabaserte svar. (Retrieval-Augmented Generation) og verktøybruk reduserer risikoen ved å forankre svar i verifiserbare datakilder.