KIsiden 2023⏱ ~1 min

Kontekstvindu

Den maksimale mengden tekst en AI-modell kan "huske" og behandle i én og samme samtale eller operasjon.

Kontekstvinduet er grensen for hvor mye informasjon en stor språkmodell (LLMLarge Language Model - stor KI-modell trent på tekstdata som genererer og forstår naturlig språk.) kan holde i "arbeidsminnet" sitt under én sesjon. Det måles typisk i tokens (ca. 0,75 ord per token). Et lite kontekstvindu betyr at modellen glemmer informasjon fra begynnelsen av en lang samtale. Moderne modeller som Claude har kontekstvinduer på 200 000+ tokens - nok til å lese et helt lovverk eller en stor kodebase i én operasjon.

AILLM