Stel je voor: een medewerker kan elke vraag over jullie producten, processen of beleid beantwoord krijgen in seconden, met bronvermelding. Of een klant die aan een chatbot vraagt naar een specifieke clausule in zijn contract en direct een nauwkeurig antwoord krijgt. Dit is wat RAG mogelijk maakt.
RAG staat voor Retrieval Augmented Generation. Het is de technologie die AI-modellen in staat stelt om te zoeken in jouw specifieke documenten, in plaats van alleen te vertrouwen op hun algemene trainingsdata. In dit artikel leggen we uit hoe het werkt, wanneer je het nodig hebt, en hoe je ermee begint.
Het probleem dat RAG oplost
Standaard AI-modellen zoals GPT-4o en Claude zijn getraind op publieke internetdata. Ze weten veel over de wereld in het algemeen, maar niets over:
- Jouw specifieke productdocumentatie
- Interne beleidshandboeken en procedures
- Klantcontracten en afspraken
- Financiële rapporten en data
- HR-beleid en arbeidscontracten
Zonder RAG moet je deze informatie letterlijk in elke prompt meesturen (wat duur en beperkt is) of accepteer je dat de AI onjuiste antwoorden geeft. Met RAG zoek je eerst de relevante stukken informatie op, en geef je die vervolgens mee aan het AI-model.
Hoe werkt RAG technisch? (Zonder jargon)
Een RAG-systeem werkt in drie stappen:
Stap 1: Indexeren van je documenten
Je laadt je documenten, PDF's, Word-bestanden, webpagina's, Notion-pagina's, SharePoint-documenten, in het systeem. Het systeem verdeelt deze in kleinere stukken (chunks) van ongeveer 500-1000 tekens en zet elk stuk om in een wiskundige vector: een reeks getallen die de betekenis van de tekst vastlegt. Dit heet een embedding.
Die embeddings worden opgeslagen in een speciale database: een vector database. Bekende opties zijn Pinecone, Weaviate, ChromaDB en Qdrant.
Stap 2: Zoeken op betekenis
Wanneer een gebruiker een vraag stelt, zet het systeem die vraag ook om in een embedding. Vervolgens zoekt het in de vector database naar de stukken tekst waarvan de embedding het meest lijkt op die van de vraag. Dit heet semantic search: zoeken op betekenis in plaats van op exacte trefwoorden.
Het resultaat zijn de 3-10 meest relevante stukken uit jouw documentatie, de "context" die nodig is om de vraag te beantwoorden.
Stap 3: Antwoord genereren
Die relevante stukken worden samen met de originele vraag naar het AI-model gestuurd. Het model genereert dan een antwoord dat gebaseerd is op jouw specifieke bronnen. Optioneel voeg je bronvermelding toe, zodat de gebruiker precies kan zien welk document het antwoord ondersteunt.
Vector databases vergeleken
Pinecone
De meest volwassen cloud-optie. Schaalbaar, snel, gemakkelijk te integreren via de Pinecone API. Kosten: gratis tier voor kleine volumes, daarna ca. €25-€100/maand afhankelijk van schaal. Beste keuze als je snel wilt starten en geen eigen infrastructuur wilt beheren.
Weaviate
Open-source én cloud beschikbaar. Meer configuratie-opties, inclusief hybride search (semantic + trefwoord). Ideaal voor on-premise deployments bij bedrijven met strenge databeveiligingseisen. Gratis zelf te hosten.
ChromaDB
Lichtgewicht, ideaal voor prototypes en kleinere systemen. Draait lokaal, geen account nodig. Perfecte keuze voor een eerste RAG PoC voordat je schaalt naar productie.
Qdrant
Hoge performance, geschreven in Rust. Goede keuze voor systemen met miljoenen documenten en lage latency-eisen. Zelf te hosten of cloud-managed.
Use cases voor bedrijven
1. Interne kennisbank
Situatie: Medewerkers stellen dagelijks tientallen vragen aan collega's of HR over beleid, procedures en product specs. Antwoorden zitten verspreid over Confluence, SharePoint, e-mails en Word-documenten.
Oplossing: Een RAG-agent die toegang heeft tot al jullie interne documentatie. Medewerkers stellen vragen in Slack of via een intern portaal en krijgen direct een antwoord met bronvermelding.
Resultaat: 2-3 uur per medewerker per week bespaard. Voor een team van 20 medewerkers: 40-60 uur per week = €2.000-€3.000 per week aan recupereerde productiviteit. Dat is €8.000-€12.000 per maand, oftewel €96.000-€144.000 per jaar.
2. Compliance en juridische review
Situatie: Contracten en documenten moeten getoetst worden aan wet- en regelgeving, interne policies of sector-specifieke normen. Dit kost juristen nu uren per contract.
Oplossing: Een RAG-systeem dat regelgeving, jurisprudentie en interne standaarden indexeert. De agent scant nieuwe documenten, vergelijkt met de kennisbank, en flaggt afwijkingen of risico-clausules.
Resultaat: Een juridische review van 8 uur wordt teruggebracht naar 30 minuten. De jurist valideert wat de AI heeft gevonden, in plaats van zelf te moeten zoeken.
3. Onboarding van nieuwe medewerkers
Situatie: Nieuwe medewerkers overstelpen collega's met vragen in de eerste maand. "Hoe vraag ik verlof aan?", "Welke tools gebruiken we voor projectbeheer?", "Wat is ons retourbeleid?"
Oplossing: Een onboarding RAG-agent die alle relevante documentatie kent. Nieuwe medewerkers stellen hun vragen aan de agent in plaats van een collega te onderbreken.
Resultaat: 30-50% minder interrupt-tijd voor senior medewerkers. Nieuwe medewerkers zijn sneller productief.
4. Klantgerichte kennisbank
Situatie: Klanten zoeken antwoorden op je website maar vinden ze niet snel genoeg. Dit leidt tot onnodige supporttickets.
Oplossing: Een publiek-toegankelijke RAG chatbot op je helpcentrum die vragen beantwoordt op basis van je documentatie, handleidingen en FAQ's.
Resultaat: 40-60% minder inkomende tickets. Klanten helpen zichzelf 24/7.
Wat kost een RAG-systeem?
- Eenvoudig RAG-systeem (1 databron, intern gebruik): €3.000-€6.000
- Medium RAG (meerdere bronnen, integraties, UI): €7.000-€15.000
- Enterprise RAG (on-premise, multi-tenant, RBAC): €15.000-€30.000+
- Maandelijkse kosten: €100-€500 (vector database + embedding API + hosting)
Belangrijke technische overwegingen
Chunking strategie
Hoe je documenten opdeelt heeft grote invloed op de kwaliteit. Te grote chunks bevatten te veel irrelevante informatie. Te kleine chunks missen context. De optimale chunk-grootte hangt af van je documenttype en usecase.
Hybride search
Puur semantisch zoeken werkt uitstekend voor conceptuele vragen, maar mist soms bij exacte termen (productnummers, namen, codes). Hybride search, een combinatie van semantic search en BM25 trefwoordzoeken, geeft in de praktijk betere resultaten.
Re-ranking
Na de initiële zoekfase kun je een re-ranker model inzetten om de gevonden stukken nog eens te sorteren op relevantie. Dit verhoogt de nauwkeurigheid significant, zeker bij complexere vragen.
Beginnen met RAG: onze aanbeveling
Start klein. Kies één databron (je FAQ-documentatie, één SharePoint-bibliotheek, je producthandleidingen) en bouw daar een eerste RAG-agent omheen. Frameworks zoals LangChain versnellen de ontwikkeling aanzienlijk. Meet de kwaliteit, verzamel feedback, en breid daarna uit naar meer bronnen.
De technologie is volwassen genoeg voor productiegebruik. Het risico zit niet in de techniek, het zit in scope creep en onrealistische verwachtingen. Met een goed afgebakende eerste use case heb je binnen 5 dagen een werkend systeem. Bekijk ook hoe we klantenservice automatiseren met AI, lees onze AI readiness check voor MKB, of ontdek onze dienst AI agent bouwen.