RAG vs fine-tuning: hoe je kiest

RAG vs fine-tuning is een van de meestvoorkomende keuzes wanneer teams een taalmodel afstemmen op hun bedrijf, en de twee worden vaak als rivalen gepresenteerd terwijl ze andere vragen beantwoorden. Kort gezegd: retrieval-augmented generation (RAG) geeft een model toegang tot jouw informatie op het moment dat het antwoordt, terwijl fine-tuning verandert hoe het model zich gedraagt door het op voorbeelden te trainen. Deze gids legt uit wat elk doet, wanneer elk wint, en waarom de robuustste systemen vaak beide gebruiken.

Wat RAG eigenlijk is

Retrieval-augmented generation houdt je kennis buiten het model. Komt er een vraag binnen, dan doorzoekt het systeem een opslag van jouw documenten, haalt de meest relevante passages op en plaatst die in de prompt, zodat het model antwoordt op basis van die aangeleverde context in plaats van louter uit het geheugen. Het model zelf blijft onveranderd; je voert het het juiste materiaal op het juiste moment.

Omdat de kennis in een aparte opslag leeft, kun je die bijwerken op het moment dat je informatie verandert — een document toevoegen, een verouderd beleid verwijderen, een prijs corrigeren — en het volgende antwoord weerspiegelt dat. RAG laat het systeem ook bronvermelding geven, wat enorm telt wanneer gebruikers de output moeten vertrouwen of verifiëren. De keerzijde is dat de kwaliteit van het antwoord sterk afhangt van de kwaliteit van de retrieval, die op haar beurt afhangt van hoe goed je data is gestructureerd en geïndexeerd. Daarom leunt serieus RAG-werk meestal op degelijke data engineering eronder.

Wat fine-tuning eigenlijk is

Fine-tuning neemt een basismodel en traint het verder op je eigen voorbeelden, waarbij de gewichten van het model worden bijgesteld zodat het een patroon internaliseert. Je voegt minder feiten toe dan dat je gedrag vormt: een consistente toon, een strikt outputformaat, een bepaalde manier om een klasse invoer af te handelen. Na fine-tuning zit dat gedrag ingebakken en produceert het model het zonder dat je het in elke prompt opnieuw hoeft te vragen.

De kostenstructuur verschilt van RAG. Fine-tuning vraagt een zorgvuldig samengestelde set kwalitatieve voorbeelden, een trainingsrun en een hertraining telkens als het gewenste gedrag verandert. Cruciaal: fine-tuning is slecht in het aanleren van feiten die veranderen, want alles wat je intraint, ligt vast tot je opnieuw traint. Train je een model op de prijzen van vorig kwartaal, dan herhaalt het vol overtuiging de prijzen van vorig kwartaal. Deze ene eigenschap beslecht op zichzelf al veel RAG-vs-fine-tuning-discussies.

Wanneer RAG wint

Kies RAG, of begin ermee, als deze voorwaarden gelden:

• Je data is vers of verandert. Documentatie, beleid, prijzen, voorraad, supportartikelen — alles wat regelmatig wijzigt hoort in een retrieval-opslag, niet ingebakken in gewichten.
• Je hebt bronvermelding nodig. Moeten gebruikers de bron achter een antwoord zien, dan kan RAG naar de exacte passage wijzen die het gebruikte. Fine-tuning kan dat niet.
• Je wilt lagere aanvangskosten en snellere iteratie. Er is geen trainingsrun te beheren; je verbetert het systeem door de data en de retrieval te verbeteren, doorgaans sneller en goedkoper.
• Accuratesse op jouw specifieke feiten telt het zwaarst. Het model gronden in opgehaalde tekst vermindert de neiging om plausibel klinkende maar foute antwoorden over je domein te verzinnen.

Voor de meeste kennisvraagstukken in bedrijven — interne helpdesks, document-Q&A, klantsupportassistenten — is RAG de verstandige standaard. Het is ook de ruggengraat van de meeste AI-agents die op actuele bedrijfsinformatie moeten handelen.

Wanneer fine-tuning helpt

Grijp naar fine-tuning wanneer het probleem gaat over hoe het model zich gedraagt in plaats van wat het weet:

• Strikt outputformaat. Heb je elke keer consistente, gestructureerde output nodig — een specifieke JSON-vorm, een vast classificatieschema — dan kan fine-tuning dat gedrag betrouwbaar maken op een manier die prompten alleen op schaal moeilijk evenaart.
• Consistente stijl of vaktaal. Een bepaalde tone of voice, register of vakjargon dat het model standaard moet aannemen.
• Een smalle, stabiele taak op hoog volume. Draait dezelfde goed gedefinieerde taak voortdurend en verandert het gewenste gedrag zelden, dan kan fine-tuning de consistentie verbeteren en soms een kleiner, goedkoper model laten volstaan.

Let op het woord stabiel. Fine-tuning beloont taken waarvan je het gedrag kunt vastpinnen en waarvan de definitie niet wekelijks verschuift. Blijft de eis bewegen, dan vreet de hertrainingskost het voordeel op. Het juiste basismodel hiervoor kiezen en toepassen hoort bij echt machine learning-werk.

Het gangbare patroon: doe beide

In de praktijk kiezen de sterkste systemen zelden één. Ze fine-tunen voor gedrag en gebruiken RAG voor kennis. Een gefinetuned model geeft je betrouwbaar formaat, toon en taakafhandeling; een retrieval-laag voedt het met actuele, citeerbare feiten op het moment van antwoorden. De twee vullen elkaar aan omdat ze andere problemen oplossen — de een vormt het model, de ander levert de context.

Een typische opzet ziet er zo uit: RAG verzorgt alles wat verandert en alles wat vermeld moet worden, terwijl een lichte hand fine-tuning het outputcontract en de huisstijl afdwingt, zodat je niet in elke prompt uitvoerige instructies hoeft te herhalen. Je begint vaak met RAG alleen, omdat dat goedkoper en sneller te valideren is, en voegt fine-tuning pas toe als er bewijs is dat een gedragsprobleem aanhoudt dat prompten niet oplost. Deze lagen goed stapelen is een kernonderdeel van een onderhoudbare productie-AI-stack, en raakt aan bredere LLM-optimalisatie-keuzes zoals modelkeuze en kostenbeheersing.

Een eerlijke kanttekening over de grenzen

Geen van beide technieken is een wondermiddel. RAG kan de verkeerde passage ophalen, of geen enkele, en dan lijdt het antwoord, hoe capabel het model ook is — retrievalkwaliteit is het plafond. Fine-tuning kan overfitten op je voorbeelden, afdrijven van de bredere competentie van het basismodel en stilletjes verouderen terwijl je wereld verandert. Beide hebben evaluatie nodig: een manier om op echte gevallen te toetsen of antwoorden werkelijk correct en bruikbaar zijn, niet alleen vloeiend. Zonder die meting kun je niet zeggen welke aanpak helpt, dezelfde discipline die we benadrukken voor AI in productie in het algemeen.

Een simpele manier om te kiezen

• Begin met de vraag: gaat mijn probleem over kennis (wat het model weet) of gedrag (hoe het handelt)?
• Gaat het over kennis — zeker verse, veranderende of citeerbare kennis — begin dan met RAG.
• Gaat het over gedrag — strikt formaat, consistente stijl, een smalle stabiele taak — overweeg dan fine-tuning.
• Gaat het over beide, wat vaak zo is, begin dan met RAG en voeg fine-tuning toe zodra een gedragstekort is bewezen.
• Wat je ook kiest, bouw eerst de evaluatie, zodat je kunt zien of het werkt.

Waar te beginnen

Weeg je RAG vs fine-tuning voor een echte use case, dan is de goedkoopste weg naar helderheid het testen op je eigen data in plaats van er abstract over te discussiëren. Een korte audit kan vaststellen of je data klaar is voor retrieval en waar fine-tuning waarde toevoegt; een proof of concept laat je echte antwoorden op echte gevallen zien. Bekijk onze transparante prijzen — een audit vanaf circa €2.500, een proof of concept vanaf circa €20.000 en productiewerk vanaf €50.000 — of plan een vrijblijvend gesprek om door te nemen welke aanpak bij je probleem past. Het juiste antwoord wordt meestal bepaald door je data, niet door de trend.

Veelgestelde vragen