Definition
Hallucination opstår fordi sprogmodeller er trænet til at generere sandsynlig næste tekst - ikke til at verificere fakta. Modellen kan "finde på" referencer, navne eller tekniske specifikationer der lyder plausible men ikke eksisterer.
KIsiden 2022⏱ ~1 min
Hallucination
Når en AI-model producerer tilsyneladende troværdige svar der er faktuelt forkerte, opdigtede eller uden grundlag i virkeligheden.
Se også:
KILLM →
Large Language Model - AI-model trænet på store tekstdata som kan forstå og generere menneskesprog, som GPT-4 og Claude.
KIRAG →Retrieval Augmented Generation - AI-arkitektur hvor modellen suppleres med dokumenter hentet i realtid for at give faktabaserede svar.
KIPrompt-engineering →Teknikken med at formulere præcise instruktioner til AI-modeller for at få relevante, pålidelige og nøjagtige svar.
KIAI →Kunstig intelligens - teknologi der giver maskiner mulighed for at udføre opgaver, der normalt kræver menneskelig intelligens, såsom sprogforståelse, mønstergenkendelse og beslutningstagning.