Fine-tuning

Fine-tuning betyder, at man tager en allerede trænet sprogmodel og træner den videre på et mindre, virksomheds‑ejet datasæt. Målet er at ændre modellens stil, tone eller adfærd, så den for eksempel skriver i jeres sprogtone, leverer svar i et bestemt format eller håndterer interne navne og processer bedre.

Sådan virker fine-tuning i praksis

Fine-tuning svarer til at give en erfaren medarbejder en kort intern oplæring i jeres måde at skrive og svare på. Modellen har allerede lært sprog og sammenhænge fra enorme mængder tekst; fine-tuning viser den eksempler fra jeres virkelighed, så den vælger formuleringer, prioriteter og formater, der ligner jeres egne. Det ændrer hvordan modellen opfører sig, ikke hvilke fakta den kender. Det er altså en adfærdsændring, ikke en videnindsprøjtning.

I en arbejdsdag betyder det, at svar fra modellen kan have korrekte vendinger, fagsprog og standardfraser, men den vil ikke automatisk kende den nyeste prisliste eller den seneste kundemail, medmindre disse er med i det datasæt, du brugte til træningen.

Hvorfor fine-tuning sjældent er løsningen for SMV'er

Mange ledere siger: "Træn modellen på vores data, så den kender virksomheden." Det lyder rigtigt, men i praksis er fine-tuning dyrere og mere krævende end de fleste tror. Det kræver et rent, struktureret datasæt, teknisk opsætning, løbende vedligeholdelse og ofte hjælp fra udviklere eller konsulenter. Hvis dit mål er, at modellen har adgang til jeres dokumenter og altid kan hente de seneste facts, er RAG ofte mere effektivt: RAG giver modellen adgang til jeres viden uden at ændre modelens adfærd. Fine-tuning ændrer adfærden, RAG giver adgang til viden. For de fleste SMV'er er adgang vigtigere end at ændre tone.

Hvis I alligevel vælger fine-tuning, skal I være indstillet på at opdatere træningen med jævne mellemrum, fordi virksomhedsdata ændrer sig. Det koster tid. Og husk: en finetunet model kan fastholde fejl eller forældede procedurer, hvis træningsmaterialet ikke er renset først.

Eksempel: Fine-tuning hos en kontorleder i en lokal rådgivervirksomhed

En kontorleder i en rådgivervirksomhed sidder mandag morgen, to uger før årsrapporten skal sendes til kunderne. Hun har ansvaret for standardiserede svar på kunders spørgsmål om fakturering og leveringsfrister. Hun eksporterer 120 tidligere svarmails, tre skabeloner og en 40-siders intern procedure og får dem sat op som træningsdata. Efter første fine-tuning skriver modellen svar, der lyder korrekt, men som bruger gamle procedurenumre og en intern forkortelse, som kunder ikke forstår. Det kræver to iterationer: først at rydde træningsdatasættet for interne markører, så at lave en ny træning. Den samlede indsats tager to uger og kræver en udvikler og en time om dagen fra kontorlederen. Resultatet er en model, der nu kan foreslå udkast til kundemails i virksomhedens tone; men den har ikke adgang til den nyeste prisfil, så kontorlederen skal stadig tjekke tal særskilt. Læringen var, at fine-tuning gav bedre sprog og færre redigeringer, men at vedligehold og datarens er reelle omkostninger.

Fine-tuning er ikke det samme som RAG

RAG, eller retrieval-augmented generation, lægger viden fra jeres dokumenter ind i modellen i realtid, så svar bygges på aktuelle dokumenter uden at ændre selve modellens adfærd. Fine-tuning ændrer hvordan modellen skriver og prioriterer. Derfor bruges RAG typisk, når I vil have korrekte, opdaterede fakta fra jeres dokumenter. Fine-tuning bruges, når I vil have en særlig tone, format eller arbejdsmodel ind i modelens sprogbrug.

Relaterede begreber som Datasæt og Sprogmodel hører naturligt sammen med fine-tuning: datasættet er det indhold, I træner på, og sprogmodellen er den base, som træningen bygger videre på.

Hvad du skal være opmærksom på

Fine-tuning kræver rensning af data. Hvis datasættet indeholder fortrolige personoplysninger eller gamle fejl, vil modellen lære disse og gentage dem. Vær opmærksom på ejerskab og rettigheder til teksten i jeres datasæt, og sørg for dokumentation af, hvilke filer der er brugt. Overvej også, at en finetunet model kan være sværere at snyde tilbage til standard, hvis I senere vil ændre tone eller politik.

Teknisk og tidsmæssigt betyder fine-tuning, at I skal planlægge for løbende gen-træning: når jeres produktkatalog eller retningslinjer ændrer sig, skal datasættet opdateres og modellen trænes igen. Det koster enten tid internt eller penge til eksterne ressourcer.

Til sidst: fine-tuning kan give rigtig gode resultater i de tilfælde, hvor skrivestil og format er afgørende, men det løser ikke problemet med at få adgang til frisk virksomhedsviden. Vil I have det sidste, er RAG oftere en bedre og billigere løsning.

Sådan kommer I i gang med jeres første datasæt

1. Identificer en konkret opgave, fx standard-e-mails eller rapportskabeloner, ikke hele virksomheden.
2. Rens og strukturer datasættet: fjern persondata, interne markører og forældet information.
3. Test en pilot på et lille sæt og mål, om tonen og formatet forbedrer arbejdsdagen.
4. Beslut vedligehold: hvem opdaterer datasættet, og hvornår træner I igen.
5. Vurder løbende, om RAG ville være et bedre værktøj, hvis behovet er opdateret viden fremfor ændret adfærd.

En sidste tanke: fine-tuning kan føles som at bygge en specialsyet habit, men pas på med at gøre den til jeres eneste strategi. Som en lidt skæv sammenligning, så er det som at få syet deres firmaskjorte... og så opdage, at I stadig mangler at opdatere jeres visitkort og prisliste.

Vil I have fine-tuning sat i drift på jeres egen maskine, er det dét, AI Hero Sidekick er bygget til.