Hopp til hovedinnhold

Hva er et RAG-system?

Retrieval-Augmented Generation: AI som henter svaret fra deres eget innhold, ikke fra det modellen lærte en gang.

Utvikler som jobber med kode ved en stor skjerm

Kort svar

Et RAG-system (Retrieval-Augmented Generation) kobler en språkmodell til bedriftens egne dokumenter og data. I stedet for å svare fra det modellen lærte under treningen, henter systemet de relevante utdragene fra kildene deres og svarer ut fra dem, med henvisning til hvor svaret kommer fra.

Hvorfor en vanlig språkmodell ikke er nok

En språkmodell vet hva som fantes i treningsdataene, ikke hva bedriften deres gjør: rutinene, produktmanualene, avtalene eller hva en kunde sa i går. Uten tilgang til kildene gjetter den, eller sier at den ikke vet. Et RAG-system gir modellen de riktige kildene i det øyeblikket spørsmålet stilles.

Slik fungerer RAG, steg for steg

  1. Dokumentene deres deles opp og indekseres, og indeksen holdes oppdatert når kildene endres.
  2. Når noen spør, søker systemet etter de mest relevante utdragene.
  3. Språkmodellen formulerer svaret ut fra utdragene, ikke fra hukommelsen.
  4. Svaret viser hvilke dokumenter det bygger på, så det kan sjekkes.

Hva et godt RAG-system har

  • En indeks som oppdateres når dokumentene endres
  • Hybrid søk, så både eksakte begreper og omtrentlig mening treffer
  • God støtte for norsk, både bokmål og nynorsk
  • Kildehenvisning i hvert svar
  • Tilgangsstyring, så ingen får svar fra dokumenter de ikke har lov til å se
  • Logg over spørsmål og svar, så kvaliteten kan følges opp

Typiske bruksområder

  • Intern kunnskapsbase for nye og erfarne ansatte
  • Kundeservice som svarer ut fra manualer, vilkår og spørsmål og svar
  • Selgere som raskt finner historikk og avtalevilkår
  • Juridiske team som søker i avtaler og korrespondanse

RAG eller trening av en egen modell?

For de fleste bedrifter er RAG riktig valg. Det er raskere å bygge, kildene kan oppdateres uten ny trening, og svarene kan spores. Egen trening er sjelden nødvendig, og løser sjelden problemet med oppdatert kunnskap.

Spørsmål og svar

Trenger vi å trene en egen modell?

Som regel ikke. Et RAG-system gir modellen tilgang til kildene deres uten trening, og kan oppdateres hver gang dokumentene endres.

Hvor mye dokumentasjon trengs?

Det finnes ingen nedre grense. Det viktigste er at dokumentene er riktige og oppdaterte, ikke at det er mange av dem.

Kan ansatte få svar fra dokumenter de ikke har tilgang til?

Ikke hvis systemet er bygget riktig. Søket følger de samme tilgangene som dokumentene har i dag.

Tjenestene dette gjelder

Artikler er én ting.
Deres situasjon er en annen.

I Startsamtalen går vi gjennom situasjonen deres. Etterpå får dere et skriftlig forslag med omfang, tidslinje og pris.