Træningsdata

Træningsdata er de tekster, billeder eller tal, en AI-model lærer sine mønstre fra. Når en model svarer, gætter den ud fra mønstre den har set i træningsdata, ikke ved at slå op i jeres interne filer. Derfor kommer både modellens viden, dens mangler og dens fordomme fra de data, den er trænet på, og den kender ikke nye ting, medmindre den trænes igen.

Sådan virker træningsdata i praksis

Træningsdata er ikke et enkelt dokument. Det er ofte milliarder af sætninger, billeder og tal, samlet fra bøger, hjemmesider, databaser og specialsamlinger. En sprogmodel som en stor sprogmodel lægger mønstre: hvilke ord der følger hinanden, hvilke formuleringer der betyder noget, og hvilke svar der plejer at høre sammen med et spørgsmål. Det er disse mønstre, modellen bruger, når den genererer tekst.

I hverdagen svarer det til at have en medarbejder, der har læst tusindvis af fagbøger og artikler. Medarbejderen kan efterligne stilen og gentage fakta, men kan også gentage forældet eller forkert information, hvis det stod i de bøger. Det, den kan, er mønstergenkendelse. Hvad den ikke kan, er at vide, hvilke dokumenter I lige nu har i jeres arkiv, medmindre I aktivt giver den adgang eller træner den på dem.

Derfor skal du som leder forstå, hvad træningsdata indeholder

Som leder møder du spørgsmålet "trænes der på vores data?" og det er først og fremmest et kontraktspørgsmål. Altså: hvad siger leverandøraftalen om ejerskab, viderebrug og opbevaring af de data, I uploader til en tjeneste? Hvis jeres dokumenter ikke var en del af modelens oprindelige træningsdata, kender modellen dem ikke. Men hvis I sender dem ind i en tjeneste, kan leverandøren i nogle tilfælde bruge dem til at forbedre sin model, medmindre kontrakten forhindrer det.

Det betyder også, at I som organisation ikke automatisk får en model, der "kender" jeres produktinformation, priser eller interne procedurer. For at få en model til at handle ud fra jeres viden, skal I enten bruge metoder som fine-tuning, retraining eller teknikker, hvor modellen får midlertidig adgang til jeres dokumenter (fx retrieval-tilgange). Spørg derfor altid om ejerskab og genbrug i kontrakten, og få det skriftligt.

Eksempel: træningsdata hos en dansk kontorleder

En kontorleder i en lokal revisionsvirksomhed skal forberede svarskabeloner til kunder midt i regnskabssæsonen. Hun prøver en generativ AI-chat for at få hurtige udkast og lægger en 40-siders intern vejledning og tre gamle kundemails ind i chatten. Modellen svarer flot, men indeholder oplysninger fra vejledningen, der blev opdateret for et år siden, og en gammel pris i en mail fra 2019 dukker op i et udkast. Kontorlederen opdager det dagen efter, og der skal bruges ekstra tid på at rette svarene, finde den opdaterede pris og dobbelttjekke formuleringer med en kollega.

Det kostede en time ekstra på en travl dag, og læringen var klar: modellen gengav mønstre fra de dokumenter, den fik. Den havde ikke en forståelse af, hvad der var aktuelt, og den ændrede ikke sin adfærd, fordi den kun havde set filerne én gang via chatten. Hvis virksomheden ville have en model, der altid kendte de korrekte priser, skulle der indgås en aftale om at træne eller opdatere en model med de rigtige data, eller bruge en løsning der slår op i et opdateret datalager.

Træningsdata er ikke det samme som input eller brugerdata

Folk blander ofte begreberne. Træningsdata er det, en model er lært på før den blev sat i produktion. Inputdata eller brugerdata er de oplysninger, I indtaster, mens I bruger modellen. De to kan overlappe, men de er ikke nødvendigvis det samme. En AI-model som ChatGPT er trænet på store, tidligere indsamlede datasæt, den kender ikke automatisk jeres e-mails, medmindre I har medtaget dem i en træningsproces eller sender dem ind som input.

Relaterede begreber er "AI-model", som er selve softwaren, og "sprogmodel", som er typen af model, der arbejder med tekst. Når I taler med leverandører, så brug ordene rigtigt: spørg om hvilken træningsdata modellen er bygget på, og hvordan leverandøren håndterer de data, I sender ind.

Hvad du skal være opmærksom på

Der er tre praktiske risici: forældet viden, bias og ejerskab. Forældet viden betyder, at modellen kan gentage oplysninger fra træningsdata, der ikke længere er korrekte. Bias betyder, at skævhed i træningsdata kan give uønskede konklusioner. Ejerskab handler om, om jeres data kan blive brugt til at træne andre modeller.

Spørg altid om kontraktbestemmelser for databrug, og få garantier for, at jeres fortrolige dokumenter ikke bruges uden tilladelse. Tjek også privatlivsregler med Datatilsynet hvis I håndterer personoplysninger. Husk, at man kan løse en del problemer teknisk eller juridisk, men ikke alle: træningsdata kan genskabe forkert eller forældet information, og det kan ingen kontrakt fuldstændigt fjerne.

I praksis: gå fra at antage til at kræve viden. Spørg: Hvad var modellen trænet på? Bliver vores data brugt videre? Og hvordan kan vi sikre, at modellen kender vores opdaterede fakta? Et par klare svar i kontrakten sparer tid og overraskelser senere. En sidste sammenligning: træningsdata er som bibliotekets bogsamling, nyttig, men ikke synonym med det du har liggende i jeres skrivebordsskuffe.

Når arbejdet med træningsdata skal passes, mens I laver noget andet, så se, hvad et AI-team i huset kan. Valget om træningsdata er sjældent kun teknisk. Retningen sættes med AI-rådgivning.