Wat is RAG?

RAG (retrieval-augmented generation) is een manier om een taalmodel zoals Claude, Gemini of ChatGPT te laten antwoorden op basis van je eigen documenten en data. Bij een vraag zoekt het systeem eerst de relevante stukken op in je eigen informatie, en geeft die mee aan het model. Het model schrijft daarna een antwoord dat op die stukken is gebaseerd, en kan vertellen waar het antwoord vandaan komt.

Waarom RAG?

Een taalmodel weet veel, maar niets over jouw bedrijf: je producten, je procedures, je klantafspraken. En wat het wel weet, kan verouderd zijn. Zonder die informatie gaat een model gokken. RAG lost dat op door het model bij elke vraag de juiste, actuele informatie te geven.

Hoe werkt RAG?

Voorbereiden: je documenten, handleidingen of productgegevens worden in kleine stukken verdeeld en in een zoekindex gezet.
Opzoeken: bij een vraag zoekt het systeem de stukken die er het beste bij passen.
Antwoorden: het taalmodel krijgt de vraag en die stukken, en schrijft een antwoord op basis daarvan. Staat het antwoord er niet in, dan kan het model dat ook zeggen.

Werk je een document bij, dan werk je de zoekindex bij. Het model zelf hoeft niet opnieuw getraind te worden.

Waar gebruik je RAG voor?

Een interne assistent die vragen beantwoordt uit handleidingen, procedures en werkinstructies.
Klantenservice die antwoorden voorstelt op basis van productinformatie en eerdere tickets.
Zoeken in dossiers, zoals contracten, offertes of onderhoudshistorie.
Een AI-agent die informatie nodig heeft om een taak goed uit te voeren.

Waar moet je op letten?

De kwaliteit van je documenten. Een assistent is zo goed als de informatie die hij kan vinden.
Wie wat mag zien. Een medewerker mag via de assistent alleen de informatie vinden waar hij ook zonder assistent bij kan.
Welke gegevens naar het model gaan. Alleen de stukken die voor de vraag nodig zijn.

RAG in je eigen software

RAG werkt het best als het in de software zit die je team al gebruikt. SQUARE Concepts bouwt AI-automatisering, assistenten en AI-agents op je eigen data, in Laravel en gehost in Europa. Lees meer over AI-automatisering voor je bedrijf.

Veelgestelde vragen

Waar staat RAG voor?

RAG staat voor retrieval-augmented generation. Retrieval is het opzoeken van informatie, generation het schrijven van een antwoord. Het taalmodel krijgt bij elke vraag de opgezochte informatie mee.

Wordt een taalmodel getraind op mijn documenten bij RAG?

Nee. Bij RAG wordt het model niet opnieuw getraind. Je documenten staan in een eigen zoekindex, en bij elke vraag gaan alleen de relevante stukken mee naar het model.

Wat is het verschil tussen RAG en fine-tuning?

Bij fine-tuning train je een model verder op je eigen voorbeelden, zodat het een bepaalde stijl of taak beter beheerst. Bij RAG blijft het model hetzelfde en geef je het bij elke vraag de juiste informatie mee. Voor actuele bedrijfsinformatie is RAG meestal de betere keuze, omdat je documenten gewoon kunt bijwerken.