Foundation model

Foundation model er en stor, generel model trænet på meget brede datasæt, som andre bygger konkrete løsninger oven på i stedet for at træne en model fra bunden. Sprogmodeller er den mest kendte type, men også billed- og lydmodeller kan være foundation models. EU kalder dem "general-purpose AI models" eller GPAI, og Danmark har initiativet "Danish Foundation Models" for nationale modeller.

Hvorfor Foundation model er relevant for din virksomhed

Foundation model er økonomien bag moderne AI: få store spillere træner grundmodellerne, og så bygger resten, også danske SMV'er, specialiserede værktøjer ovenpå. For dig betyder det, at I sjældent skal betale for at bygge et helt nyt neuralt netværk. I vælger i stedet mellem tre veje: bruge modellen via prompts, købe eller lave fine-tuning for jeres data, eller lade modellen hente jeres egne dokumenter med RAG. Beslutningen påvirker budget, tid til drift og hvem i virksomheden der skal involveres.

Sådan virker Foundation model i praksis

Tænk på foundation model som telefonens styresystem: den har et udvalg af funktioner og adgang til meget indhold, men apps gør den konkret for jeres brug. Modellen er allerede trænet på sprog eller billeder, så når I stiller et spørgsmål, tager den udgangspunkt i det brede træningsmateriale og bruger jeres prompt eller data til at afgrænse svaret. Prompting er som at skrive en kort instruktion. Fine-tuning er at installere en app, der ændrer styrets opførsel, og RAG er som at give modellen adgang til et arkiv, den kan slå ting op i.

Eksempel: Foundation model hos en dansk IT-ansvarlig

IT-ansvarlig i en mellemstor produktionsvirksomhed modtog et tilbud om en AI-løsning tre uger før budgetgodkendelsen. Systemet skulle svare på tekniske spørgsmål fra driftsfolk på fabriksgulvet, men virksomhedens manualer lå som 120 PDF-sider, gamle Excel-lister og en scannet tegning. De valgte en foundation model fra en tredjepart og brugte RAG til at lade modellen slå op i deres egne dokumenter. I den første uge var svarene upræcise, fordi PDF'erne indeholdt scanningsfejl og ustrukturerede tabeller. IT-ansvarlig brugte to dage på at rydde i kilderne og et ekstra script til tekstudtræk. Resultatet var en funktionel intern hjælper, men den krævede løbende vedligehold af dokumentkvalitet og en beslutning om hvor følsomme data måtte opbevares. Det kostede tid, men undgik træning fra bunden.

Foundation model er ikke det samme som GPAI eller fine-tuning

EU bruger betegnelsen GPAI (General-Purpose AI) om de samme brede modeller, så termerne overlapper. En foundation model beskriver teknisk set selve den store, generelle model. Fine-tuning er en konkret handling: I tager foundation modellen og træner den videre på jeres data, så den opfører sig mere som jeres interne ekspert. RAG er en tredie vej, hvor I ikke ændrer modellen, men lader den slå op i jeres dokumenter.

Sådan kommer du i gang med Foundation model

1. Kortlæg hvad I vil bruge AI til, og vælg om I vil bruge prompts, fine-tuning eller RAG. Beslutningen påvirker privatliv, pris og tid.
2. Undersøg datakvaliteten; ustrukturerede PDF'er og scannede tegninger skal renses før RAG virker godt.
3. Tal med jeres leverandør om modelens ejerforhold, hvor data gemmes, og hvilke sikkerhedsforanstaltninger der findes.
4. Lav en lille pilot med en afgrænset opgave og mål tid og bemandingsbehov før I ruller ud.

For regler om definitioner og klassificering i EU, tjek EU's AI-forordning.

Når medarbejderne selv skal kunne bruge foundation model og ikke bare kende ordet, sker det hurtigst på en AI-workshop. Er I i tvivl om, hvad foundation model betyder for jeres eget ansvar, så tag det med i AI-rådgivningen.