Feedback-loop
Sprogmodellen ændrer kun adfærd, hvis I fanger rettelser og sender dem tilbage.
Indhold
Feedback-loop er en struktureret proces, hvor brugernes rettelser, tommelfinger-op/ned og eskalerede sager indsamles og genfødes til jeres systemer, så svar fra AI forbedres over tid. En sprogmodel lærer ikke automatisk af en enkelt chat; for at rettelser skal ændre adfærd, skal I have et bevidst loop, der gemmer feedback som træningsdata, opdaterer prompts eller retter i vidensbasen.
Sådan virker et feedback-loop i praksis
Et feedback-loop svarer til et kvalitetsstyringskort: hver gang en medarbejder retter et AI-udkast eller markerer et svar som forkert, registrerer systemet hvad der blev rettet, hvem rettede det, og hvorfor. Den data kan bruges tre steder: til at rette indhold i jeres vidensbase (knowledge base), til at forbedre de prompts I sender til modellen, eller til at samle træningsdata, som kan genbruges internt eller sendes til en leverandør til modelopdatering. Et godt loop adskiller korte observationer ("ukorrekt pris") fra rene præference-svar ("mindre formelt sprog"), så det er klart hvad der skal rettes.
Lærer AI af jeres rettelser?
Nej, ikke af sig selv. En sprogmodel gemmer ikke automatisk dine rettelser i produktionsmodellen. For at modellen skal 'lære' kræver det, at feedback enten indgår i en kontrolleret træningsproces som f.eks. RLHF (Reinforcement Learning from Human Feedback), eller at I manuelt opdaterer jeres vidensbase eller prompt-skabeloner. Der er også en risiko: hvis I lader feedback gå ud til leverandøren, kan jeres rettelser blive en del af generelle træningsdata hos dem, så spørg efter databrugspolitikken.
Eksempel: Feedback-loop hos en kontorleder
En kontorleder på et mindre revisionskontor arbejder mandag morgen med en chatbot, der skriver svar på klientforespørgsler. I løbet af en uge rettes 12 svar, især priser og referencer i en gammel prisliste fra 2019. Kontorlederen indsamler rettelserne i et regneark, mærker fem som 'kritisk' og uploader rettelserne til vidensbasen over to dage, men glemmer at opdatere prompten, så chatten stadig foreslår den gamle pris i nogle varianter. Modellen bliver bedre på de rettede dokumenter, men kollegerne oplever stadig fejl i formuleringer, indtil prompten også rettes. Læringen var klar: data alene dur ikke, processen skal dække både vidensbase og prompt-workflow.
Sådan kommer I i gang med et feedback-loop
- Bestem hvilke typer feedback I vil samle (tommel op/ned, rettelser, eskalationer).
- Skab en simpel indsamling: en knap i chatten eller et felt i jeres sagssystem, så feedback gemmes struktureret.
- Afsæt ansvar: hvem validerer rettelser, hvem opdaterer vidensbasen, og hvem vurderer om data skal bruges til træning.
- Sæt en politik for datadeling med leverandører og dokumentér, hvornår feedback bliver til træningsdata.
Hvad du skal være opmærksom på
Feedback kan indeholde persondata eller forretningsfølsomt indhold, og hvis I sender det videre, skal I have styr på rettigheder og anonymisering. Tjek reglerne hos Datatilsynet før I bruger kundedata til træning. Endelig: et feedback-loop tager tid at vedligeholde, og det virker kun hvis folk rent faktisk trykker på knappen og følger op.
Når arbejdet med feedback-loop skal passes, mens I laver noget andet, så se, hvad et AI-team i huset kan. Valget om feedback-loop er sjældent kun teknisk. Retningen sættes med AI-rådgivning.
Ofte stillede spørgsmål om Feedback-loop
Lærer ChatGPT af mine rettelser i chatten?
Nej, ikke automatisk. Offentlige chat-sessioner bliver ikke nødvendigvis brugt til at opdatere jeres model, medmindre leverandøren specifikt angiver, at de bruger chatdata til træning. For at jeres rettelser skal påvirke adfærden, skal I bygge et feedback-loop eller aftale brug af data med leverandøren.
Bliver min feedback brugt som træningsdata hos leverandøren?
Det kan den blive. Nogle leverandører bruger indsamlet feedback som træningsdata, medmindre I har en kontrakt eller indstilling, der forhindrer det. Spørg altid til databrugspolitikken, før I deler følsomme oplysninger.
Kan vi lave et feedback-loop uden udviklere?
Ja, i en simpel form. I kan begynde med et struktureret regneark eller en formular, hvor medarbejdere indrapporterer rettelser, og en ansvarlig person opdaterer vidensbasen og prompts. Skal feedback automatiseres og bruges til modeltræning, kræver det typisk teknisk hjælp.
Hvor meget arbejde kræver et feedback-loop?
Det afhænger af omfanget. Et manuelt loop kan klares med få timer om ugen i en lille organisation, mens et fuldt automatiseret loop til modeltræning kræver design, validering og løbende drift, hvilket kan involvere flere personer og en konkret budgetpost.
AI-rådgiver og underviser, grundlægger af AI Hero i Herning. Har bygget digitalt i over 20 år og hjælper danske virksomheder med at få AI i drift. Læs mere om Brian.