RAG of een AI-model trainen: wat past bij interne kennis?

RAG en modeltraining lossen verschillende problemen op. RAG geeft een model relevante broninformatie tijdens een vraag. Training verandert vooral hoe een model reageert. Het is daarom zelden een keuze tussen twee gelijkwaardige manieren om documenten “aan AI toe te voegen”.

Wat is RAG?

Retrieval-Augmented Generation zoekt eerst relevante passages in goedgekeurde bronnen en geeft die als context aan het taalmodel. Het antwoord kan daardoor aansluiten op interne documenten zonder dat het basismodel opnieuw wordt getraind. Bronnen kunnen worden bijgewerkt en, wanneer de toepassing dat ondersteunt, bij het antwoord worden getoond.

Wanneer past RAG?

• Kennis verandert regelmatig of komt uit veel documenten.
• Gebruikers moeten kunnen zien waarop een antwoord is gebaseerd.
• Toegang verschilt per team, rol of dossier.
• Nieuwe informatie moet snel beschikbaar zijn zonder nieuwe trainingscyclus.
• De organisatie wil bronnen afzonderlijk beheren, verwijderen en auditen.

Wanneer helpt aanvullende training?

Fine-tuning kan zinvol zijn wanneer een model consequent een specifieke uitvoervorm, toon, classificatie of taakstrategie moet volgen en daarvoor genoeg representatieve voorbeelden beschikbaar zijn. Het is minder geschikt als methode om snel veranderende feiten te onthouden. Vaak worden beide gecombineerd: RAG levert actuele kennis en training helpt bij voorspelbaar gedrag.

De bronkwaliteit blijft bepalend

Geen van beide technieken herstelt tegenstrijdige, verouderde of slecht toegankelijke informatie vanzelf. Bepaal daarom welke bron leidend is, hoe documenten worden verdeeld, welke metadata nodig is en wie inhoud mag zien. Test vervolgens met echte vragen, gewenste antwoorden en risicovolle uitzonderingen.

Beveiliging en menselijke controle

De AI-laag mag bestaande toegangsrechten niet omzeilen. Leg vast welke bronnen zijn gebruikt, voorkom dat gevoelige informatie in logging terechtkomt en bepaal wanneer een medewerker het resultaat moet beoordelen. Vooral bij financiële, juridische, veiligheids- of personeelsbeslissingen blijft menselijke verantwoordelijkheid essentieel.

Een besliskader in vier vragen

1. Gaat het probleem over kennis of gedrag? Feitelijke, veranderende kennis wijst meestal naar RAG; een vaste uitvoerstijl of classificatiestrategie kan training rechtvaardigen.
2. Moeten bronnen zichtbaar zijn? Wanneer herleidbaarheid belangrijk is, moet retrieval en bronpresentatie onderdeel van het ontwerp zijn.
3. Zijn voldoende goede voorbeelden beschikbaar? Fine-tuning vraagt consistente voorbeelden die het gewenste gedrag werkelijk vertegenwoordigen.
4. Hoe vaak verandert de informatie? Regelmatig veranderende inhoud hoort beheersbaar buiten de modelgewichten te blijven.

Test retrieval en antwoord apart

Bij RAG kan een onjuist antwoord ontstaan doordat de juiste passage niet is gevonden of doordat het model een goede passage verkeerd gebruikt. Meet daarom eerst of relevante bronnen in de zoekresultaten verschijnen en beoordeel daarna juistheid, volledigheid en brontrouw van het antwoord.

Test ook vragen waarop de bronnen geen antwoord bevatten. Een betrouwbare toepassing moet onzekerheid kunnen aangeven en mag ontbrekende kennis niet overtuigend invullen.

Lees ook wanneer AI geschikt is voor een bedrijfsproces en hoe wij AI-oplossingen gecontroleerd integreren.