RAG voor bedrijven: AI met jouw eigen data

Je bedrijf heeft waardevolle kennis: klantdossiers, product­documentatie, e-mails, contracten, handleidingen. ChatGPT kent die niet. Retrieval augmented generation (RAG) is de techniek die dat oplost — zonder dat je een model hoeft te hertrainen of je data naar een Amerikaanse server hoeft te sturen.

Dit artikel legt uit wat RAG is, hoe het werkt in een MKB-context, wanneer het de juiste keuze is en wat het kost om te bouwen.

Wat is RAG?

Retrieval augmented generation is een techniek waarbij een taalmodel (zoals GPT-4 of Claude) eerst relevante informatie ophaalt uit jouw eigen databronnen voordat het een antwoord genereert. In plaats van antwoorden uit algemene trainingsdata te halen, kijkt het model eerst in jouw documenten, zoekt de meest relevante stukken op en formuleert daarmee een antwoord dat klopt voor jouw bedrijf.

Kort gezegd: RAG koppelt de taalvaardigheid van een groot AI-model aan de feitelijke kennis die al in jouw eigen data zit. De naam verklapt de drie stappen: zoek relevante info in een documentendatabase (retrieval), plak die als context bij de vraag (augmented), en laat het taalmodel daarop een antwoord schrijven (generation).

Waarom is dit belangrijk? Een standaard AI-model weet niets over jouw prijslijst, jouw contracten, jouw klanten of jouw interne processen. Zonder RAG krijg je generieke antwoorden of, erger, hallucinaties. Met RAG krijg je antwoorden met bronvermelding — je ziet direct uit welk document iets komt en kunt het verifiëren.

Hoe werkt RAG in de praktijk

De workflow bestaat uit twee fases: een eenmalige voorbereiding en een proces dat draait bij elke vraag.

Fase 1 — Voorbereiding (eenmalig bij setup):

1. Je verzamelt je documenten: PDF's, Word-bestanden, e-mails, Confluence-pagina's, SharePoint, ondersteuningstickets, noem maar op
2. Een indexeerscript knipt die documenten in stukken (chunks) van 300–800 woorden
3. Elk stuk wordt omgezet in een numerieke representatie (een "embedding") die de betekenis vastlegt
4. Alle embeddings gaan in een vectordatabase zoals Pinecone, Weaviate of Qdrant

Fase 2 — Bij elke vraag (realtime):

1. De gebruiker stelt een vraag
2. Die vraag wordt ook omgezet in een embedding
3. De vectordatabase vindt de 3–10 meest relevante documentstukken op basis van betekenis (niet op trefwoord)
4. Die stukken worden samen met de oorspronkelijke vraag naar het taalmodel gestuurd
5. Het model formuleert een antwoord op basis van die context, met bronverwijzingen

Dit klinkt technisch, maar voor de eindgebruiker voelt het als een chatbot die jouw hele bedrijf kent. Voor een breder beeld van hoe dit past binnen agent-architecturen, zie ons artikel wat is een AI agent.

Waarom RAG voor MKB-bedrijven de logische keuze is

Er zijn grofweg drie manieren om AI met jouw eigen data te laten werken: een bestaand model fine-tunen op jouw data, een eigen model from scratch trainen, of RAG. Voor 95% van de MKB-use cases is RAG verreweg de beste optie.

Op kosten wint RAG met gemak. Fine-tuning loopt snel op tot €10.000–€50.000 aan rekentijd en data-engineering; een nieuw model trainen is een orde van grootte duurder. Een werkende RAG-setup bouwen kost doorgaans €5.000–€15.000, afhankelijk van complexiteit en aantal bronnen.

Daar komt bij dat RAG altijd up-to-date is. Voeg je vandaag een contract toe, dan kan de RAG-oplossing het morgen gebruiken. Een fine-tuned model is bevroren op het trainmoment — alles nieuws vereist een nieuwe trainingsronde.

Bronvermelding zit ingebakken. Elk antwoord wijst terug naar de documenten waar het vandaan komt — cruciaal voor compliance-gevoelige branches (juridisch, financiëel, medisch) en prettig voor iedereen die antwoorden wil kunnen verifiëren. Je bedrijfsdata blijft bovendien waar hij staat; alleen de gevonden stukken gaan tijdelijk naar het taalmodel voor het genereren van het antwoord. Geen training op jouw documenten.

En RAG schaalt lineair mee met je data. Tien documenten of tien miljoen — dezelfde architectuur, je indexeert gewoon meer bronnen.

Typische toepassingen in het MKB

RAG is niet alleen theorie. Dit zijn de meest voorkomende use cases die we in de Nederlandse MKB-praktijk zien:

• Interne kennisbank-assistent — medewerkers stellen vragen in natuurlijke taal en krijgen antwoord op basis van jouw handleidingen, beleidsdocumenten en procedures
• Klantenservice chatbot met productkennis — beantwoordt vragen over specifieke producten, bestellingen en beleidsregels zonder te fantaseren
• Juridische zoek-assistent — doorzoek contracten, NDA's en beleidsstukken in seconden in plaats van uren
• Sales enablement tool — salesmedewerkers krijgen direct het juiste antwoord op technische klantvragen, zonder door interne documenten te hoeven graven
• Onboarding-assistent — nieuwe medewerkers kunnen alles vragen wat ze nodig hebben zonder een collega lastig te vallen

Een goed opgezette RAG-oplossing is feitelijk een slimme versie van een AI-kennisbank opzetten voor je bedrijf — maar dan met de taalvaardigheid van een echt sterk taalmodel erbovenop.

Wanneer je RAG niet moet gebruiken

RAG is krachtig, maar geen wondermiddel. Gebruik het niet als:

• Je bron­data slecht gestructureerd is. Als je documenten tegenstrijdig, verouderd of slecht onderhouden zijn, wordt je RAG-assistent nooit betrouwbaar. De regel "garbage in, garbage out" geldt letterlijk.
• Het antwoord exact berekend moet worden. Voor financiële berekeningen, belastingen of formules ben je beter af met traditionele tools of een hybride aanpak waarin RAG een rekenagent aanroept.
• Je use case realtime acties vereist. RAG haalt informatie op en vat samen. Voor het daadwerkelijk uitvoeren van acties (een bestelling plaatsen, een agenda updaten) heb je een multi-agent systeem nodig waarbinnen RAG één van de componenten is.
• Je geen documentbeheer hebt. Als niemand in je bedrijf verantwoordelijk is voor het bijhouden van de brondocumenten, raakt je RAG-systeem binnen zes maanden verouderd.

Wat kost een RAG-implementatie en hoe begin je?

De kosten hangen af van de complexiteit van je databronnen en het aantal gebruikers, maar voor een solide MKB-setup reken je op:

Totaal jaar 1: €7.000–€24.000 voor een serieuze RAG-implementatie. Jaar 2 en verder: €4.000–€12.000 aan doorlopende kosten.

Voordat je bouwt, is één stap essentieel: zorg dat je data op orde is. Ons artikel over bedrijfsdata klaar maken voor AI beschrijft hoe je documenten catalogiseert, dubbelingen verwijdert en een bron van waarheid opzet. Zonder die voorbereiding wordt elke RAG-implementatie een ramp.

De volgende stap

RAG maakt een algemene AI-assistent iemand die jouw producten, processen en klanten kent. De techniek is rijp en de kosten zijn beheersbaar — het grootste obstakel is meestal de staat van je eigen documenten, niet de AI.

De bedrijven die het snelst rendement halen, beginnen bijna altijd op dezelfde plek: de plek waar ze al een half-werkend intern wiki of Confluence-gebruik hebben. Daar is de pijn bewezen, de documenten liggen er al, en je team weet precies welke vragen ze nu te vaak handmatig moeten uitzoeken. Kijk daarbij ook welke AI-agents je kunt inzetten die RAG combineren met actieve taken — daar verschuift de winst van "sneller zoeken" naar "sneller werk afgehandeld".

Wil je weten of jouw bedrijf klaar is voor een RAG-implementatie? Plan een gratis scan en we kijken samen naar je databronnen, de meest kansrijke use cases en de verwachte return.