Fine-tuning

Een groot taalmodel zoals GPT-4 of Claude is getraind op algemene internetdata en kan bijna alles. Voor specifieke toepassingen, zoals het beoordelen van aanvragen in jouw branche of het schrijven in de vaste toon van jouw bedrijf, is een general-purpose model niet optimaal. Fine-tuning lost dit op door het model bij te trainen op voorbeelden die precies laten zien wat jij verwacht.

Hoe fine-tuning werkt: je levert een set voorbeelden aan waarin de invoer en de gewenste uitvoer vastliggen, bijvoorbeeld een klantvraag met het antwoord dat een ervaren medewerker zou geven, of een concepttekst met de definitieve versie. Het model leert het patroon in die voorbeelden en past dat toe op nieuwe invoer. In de praktijk gebeurt dat meestal met parameter-efficiente technieken zoals LoRA, waarbij alleen een klein deel van het model wordt aangepast. Dat houdt het traject betaalbaar en maakt het eenvoudiger om later een nieuwer basismodel te gebruiken zonder het hele traject opnieuw te doen.

Fine-tuning is geen kennisbank. Het model wordt beter in een vaste taak, stijl of indeling, maar het leert geen nieuwe feiten bij: informatie die na het traject verandert, zit niet in het model. Voor actuele of veranderlijke kennis gebruik je RAG, waarbij de agent bij elke vraag de eigen bronnen raadpleegt. De volgorde die in de praktijk werkt is daarom: eerst prompt engineering, dan een koppeling met je eigen bronnen als de kennis in documenten of systemen zit, en pas fine-tuning als het model consequent dezelfde stijl of hetzelfde afwegingspatroon moet toepassen en prompts dat niet betrouwbaar krijgen.

Wat je nodig hebt: een set van honderden tot enkele duizenden goede voorbeelden, consistent opgesteld, met een duidelijke scheiding tussen wat wel en niet goed is. Kwaliteit weegt zwaarder dan volume. Leg per voorbeeld vast wat de invoer was, wat de gewenste uitvoer is en waarom een variant is afgekeurd. Zonder die afwijzingen leert het model alleen wat goed is, niet waar de grens ligt.

Een traject in vier weken: in week 1 bepalen we de taak, de grens van wat het model wel en niet mag doen en welke voorbeelden bruikbaar zijn. In week 2 leveren jullie de voorbeelden aan en zetten we een set apart die niet wordt gebruikt om te trainen, zodat we later kunnen meten of het model het echt beter doet. In week 3 draait het model op die aparte set en beoordeelt een medewerker de uitkomsten, inclusief de gevallen waarin het model twijfelt. In week 4 gaat het model in gebruik binnen de afgesproken taak, met menselijke controle op de momenten die jullie aanwijzen.

Waar het misgaat: te weinig voorbeelden, voorbeelden die elkaar tegenspreken, of een taak die eigenlijk om actuele informatie vraagt. Een model dat op honderd voorbeelden is bijgetraind, gaat niet betrouwbaar om met een branche waarin elke klant anders is. Verder moet je onderhoud inplannen: bij een nieuw basismodel of een gewijzigde werkwijze herhaal je de training. Reken daarom op een vaste evaluatieset en een eigenaar bij jullie die de kwaliteit bewaakt.

De kosten zitten vooral in de voorbereiding, niet in de rekentijd van de training: het verzamelen en beoordelen van voorbeelden kost uren van je eigen team. Bij Match-AI begint een AI-collega met een inwerkperiode van 4 weken voor €999 tot 3 personen of €2.495 tot 10 personen per 4 weken, excl. btw, en starten we pas met fine-tuning als uit de eerste analyse blijkt dat prompt engineering en een koppeling met je eigen bronnen het probleem niet oplossen.