Human in the loop
Sæt et menneske på som stopklods, kontrol eller stikprøve, det er et aktivt designvalg.
Indhold
- Sådan virker Human in the loop i praksis
- Når lederen spørger: 'hvad hvis den laver fejl', Human in the loop som designbeslutning
- Eksempel: Human in the loop hos en ordremodtager i en webshop
- Human in the loop er ikke det samme som kvalitetssikring eller fuldt menneskeligt tilsyn
- Sådan kommer du i gang med Human in the loop
- Hvad du skal være opmærksom på
- Ofte stillede spørgsmål om Human in the loop
Human in the loop betyder, at et menneske indgår i beslutningskæden, hvor AI leverer forslag, handlinger eller anbefalinger. Det kan være alt fra at få en medarbejder til at godkende hver enkelt beslutning, via at medarbejderen kun træder til ved undtagelser, til at der kun tages stikprøver af AI'ens arbejde bagefter. Det er en bevidst designbeslutning, ikke en midlertidig kriseløsning.
Sådan virker Human in the loop i praksis
Human in the loop er tre klare niveauer: 1) mennesket godkender alt, 2) mennesket godkender undtagelser, 3) mennesket kontrollerer stikprøver bagefter. Ved niveau 1 får hver output en manuel godkendelse før levering til kunden eller systemet. Niveau 2 betyder, at AI'en håndterer rutinen, men flagger usikkerhed eller afvigelser til mennesket. Niveau 3 lader AI køre frit, mens mennesker løbende kører efterkontrol for at opdage fejl eller skævheder. Niveauet du vælger påvirker tempo, omkostning og risiko; høj kontrol reducerer fejlraten, men øger arbejdsmængden.
Når lederen spørger: 'hvad hvis den laver fejl', Human in the loop som designbeslutning
Når en leder siger "hvad hvis den laver fejl", vil human in the loop ofte være svaret. Det er ikke bare at sætte en person til at kigge efter fede fejl, det er at beslutte hvornår og hvordan mennesket skal intervenere. For højrisiko-anvendelser kan det være et lovkrav eller forventet af kunder. Tænk på det som et kvalitetsfilter: du vælger, om filtret skal sidde overalt, kun ved usikre sager eller kun som stikprøvekontrol. Det ændrer både drift, ansvar og hvem der signerer for resultatet.
Eksempel: Human in the loop hos en ordremodtager i en webshop
En ordremodtager modtager hver morgen 120 ordrer. Virksomheden indfører en AI, der automatisk tjekker adresser, lagerstatus og match mellem kundeoplysninger og betalingsdata. Det første udkast var uden menneskelig kontrol: AI accepterede ret mange ordrer med afvigende leveringsadresser, og tre dage før en kampagne gik live, opdagede teamet, at 8 af 90 forsendelser var utilstrækkeligt verificerede. Efter det valgtes niveau 2: AI behandler rutineordrer, men markerer ordrer med usædvanlige adresser eller mismatch mellem shipping- og faktureringsadresse. Ordremodtageren gennemgår de markerede sager, typisk 6-10 pr. dag, hvilket tilføjer cirka 20 minutter ekstra dagligt for én medarbejder. Resultatet var, at fejl reduceredes i de markerede kategorier, men arbejdet krævede også en opdateret vejledning til, hvordan markeringerne skulle tolkes. Læringen var klar: human in the loop kræver klare grænser og oplæring, og det ændrer ikke kun arbejdsgangen, det ændrer ansvaret for beslutningen.
Human in the loop er ikke det samme som kvalitetssikring eller fuldt menneskeligt tilsyn
Human in the loop overlapper med begreberne "Kvalitetssikring af AI-output" og "Menneskeligt tilsyn", men det er ikke synonymt med at have en QA-proces ved siden af systemet. Human in the loop er indbygget i beslutningsflowet: et godkendelsestrin, en undtagelsesrute eller en stikprøve. Kvalitetssikring kan være bredere og efterfølgende, mens menneskeligt tilsyn kan være et compliance-begreb. Vær også opmærksom på, at AI-forordningen (EU AI Act) stiller særlige krav til dokumentation og tilsyn for visse højrisiko-systemer, så human in the loop kan være en del af at opfylde disse krav, men det kræver også registrering og procedurer.
Sådan kommer du i gang med Human in the loop
- Beslut risikoniveauet: kortlæg hvilke beslutninger der kan få konsekvenser ved fejl, og hvilke der er rutine.
- Vælg niveau: alt-godkendelse, undtagelser eller stikprøver, og beregn tid og bemanding.
- Definér klare regler: hvad udløser en undtagelse, hvordan skal en medarbejder rette eller afvise output, og hvem signerer.
- Træn medarbejdere: lav eksempler, fejlscenarier og en kort beslutningsvejledning.
- Mål og juster: spor de tilfælde, medarbejdere ændrer, og brug det til at forbedre modellen eller reglerne.
Hvad du skal være opmærksom på
Human in the loop løser ikke alle risici. Det reducerer nogle typer fejl, men introducerer menneskelige fejl, flaskehalse og driftomkostninger. Hvis du satser på stikprøver, så planlæg hyppighed og metode, ellers opdager du først systematiske fejl for sent. Husk også ansvarsspørgsmålet: hvem underskriver en beslutning, når AI har foreslået den. Endelig, når du arbejder med systemer, som EU vurderer som højrisiko, så tjek kravene i EU AI Act for dokumentation og tilsyn, fordi menneskeligt tilsyn ofte skal være beskrevet og sporbar. Det hjælper, men det er ikke en trylleformular.
Det er lidt Onkel Bens replik: med stor magt følger stort ansvar. Human in the loop er måden, du udøver det ansvar på, med klare grænser, procedurer og et øje for kost og risiko.
Vil I arbejde videre med human in the loop på jeres egne opgaver, er det dét, en AI-workshop går ud på.
Ofte stillede spørgsmål om Human in the loop
Er Human in the loop det samme som menneskeligt tilsyn?
De overlapper, men er ikke identiske. Human in the loop er en konkret designbeslutning om, hvor og hvordan mennesker indgår i beslutningsflowet. Menneskeligt tilsyn kan være bredere og omfatte overvågning, audit og kvalitetsarbejde ved siden af systemet.
Skal jeg bruge Human in the loop for at overholde AI-forordningen?
Ikke automatisk, men for højrisiko-systemer stiller EU-regler krav om dokumenteret tilsyn og kontrol. Human in the loop kan være en del af overholdelsen, men du skal også dokumentere procedurer og ansvarsforhold.
Kan jeg implementere Human in the loop uden udviklere?
Delvist. Enkelte løsninger kan sættes op med standardværktøjer, men de fleste workflows kræver teknisk opsætning af flags, notifikationer og logning. Planlæg både teknisk support og oplæring af medarbejdere.
Hvad koster Human in the loop i tid?
Det afhænger af niveauet: fuld godkendelse kræver mest tid, undtagelsesstyring typisk få minutter per undtagelse, stikprøver kræver mindre dagligt arbejde men skal være metodisk. Beregn tid ud fra antal sager, andel af undtagelser og hvor hurtigt medarbejderne kan træffe beslutning.
AI-rådgiver og underviser, grundlægger af AI Hero i Herning. Har bygget digitalt i over 20 år og hjælper danske virksomheder med at få AI i drift. Læs mere om Brian.