Menneskeligt tilsyn

Menneskeligt tilsyn betyder, at et menneske kan følge, forstå, gribe ind i og stoppe et AI-system, så vigtige beslutninger ikke træffes af maskinen alene. I praksis dækker begrebet både "menneske i loopet" (personen godkender hver handling), "menneske over loopet" (overvågning og mulighed for indgriben) og fraværet af menneskelig kontrol ved fuld automatisering. For visse systemer er tilsyn et lovkrav.

Sådan virker menneskeligt tilsyn i praksis

Tænk på et system, der foreslår svarmail til kunder: menneskeligt tilsyn betyder, at en person kan læse forslaget, rette det og trykke send, eller at en person holder øje med hvor ofte forslagene fejler og kan slukke funktionen. I modellen "menneske i loopet" står et menneske mellem AI og handlingen: intet sendes uden accept. I "menneske over loopet" kører forslag automatisk, men en medarbejder kan og skal gribe ind ved fejl eller afvigelser. Fuld automatisering er ingen af delene: her handler systemet uden menneskelig godkendelse.

Praktisk beslutning: vælg graden af tilsyn efter, hvor meget systemet kan påvirke mennesker eller økonomi. Et system, der kun foreslår formuleringer i en intern note, kan have let tilsyn. Et system, der afslår en kundes kredit eller opretter fakturaer, kræver strengere kontrol.

Når AI-agenter sender mails og fakturaer: Menneskeligt tilsyn som designvalg

Spørgsmålet i din organisation bliver ofte: hvornår trykker nogen "ok"? Det er et designvalg med konsekvenser for arbejdsgange, ansvar og compliance. Hvis en AI-agent både skriver og sender fakturaer automatisk, flytter I ansvar for fejl fra systemudvikleren til den, der ejer processen. Det kræver klar rollefordeling: hvem tjekker afsendte bilag, hvem har mandat til at stoppe agenten, og hvilke logfiler gemmes, så I kan dokumentere beslutninger senere.

Designafvejning: manuel godkendelse betyder mere tid pr. opgave. Mindre kontrol betyder højere hastighed. Valget skal afspejle risikoniveauet og de krav, der følger af AI-forordningen og GDPR.

Eksempel: Menneskeligt tilsyn hos den databeskyttelsesansvarlige

Den databeskyttelsesansvarlige i en revisionskæde vågnede en mandag morgen til en intern klage: en automatisk agent havde sendt en betalingspåmindelse til en kunde, som i virkeligheden var sat på betalingspause i et andet system. Situationen opstod dagen efter, agenten gik i drift uden manuel check. Problemet kostede en eftermiddag i gennemgang af logfiler, tre korrigerende mails og en opdatering af agentens integrationsregler. Løsningen blev at flytte agentens rutine til "menneske over loopet" i første uge og indføre en hurtig habilitetskontrol, så en ansvarlig medarbejder kan stoppe eller rette fejludsendelser. Besværet viste, at fuld automatisering kræver flere sikkerhedschecks, og at dokumentation af hvem der greb ind er nødvendig, hvis en sag bringes videre til myndigheder.

Menneskeligt tilsyn er ikke det samme som...

Menneskeligt tilsyn er ikke bare "et ekstra øje". Det adskiller sig fra "Human in the loop" ved at definere graden af kontrol: human in the loop betyder ofte godkendelse før handling, mens menneske over loopet betyder overvågning og evne til at stoppe. Det er heller ikke det samme som at have en ansvarlig person på papir: tilsyn kræver evne til at forstå systemets output og faktisk indgriben. Nævn også relaterede begreber som "Automatiske afgørelser (GDPR artikel 22)" og "AI-forordningen (EU AI Act)", som begge berører, hvornår menneskelig kontrol er nødvendig.

Hvad du skal være opmærksom på

Først: for højrisiko-systemer stiller AI-forordningen krav om menneskeligt tilsyn (se artikel 14 i forslaget). Kontrollér også GDPR, hvor artikel 22 begrænser rent automatiserede afgørelser med væsentlig virkning. Dokumentation er nøglen: log, hvem der greb ind, hvorfor og med hvilken beslutning. Overvej træning: de medarbejdere, der skal føre tilsyn, skal kunne forstå systemets forslag og risici, ikke kun trykke "ok". Sidst: test scenarier, hvor systemet fejler, så indgreb er velprøvede og hurtige.

For konkrete regler og vejledning, tjek Datatilsynet og tekst i EU-lovgivningen om AI på EUR-Lex.

Skal I beslutte, hvor meget menneskeligt tilsyn må fylde hos jer, er det den slags valg, AI-rådgivning handler om. Vil I arbejde videre med menneskeligt tilsyn på jeres egne opgaver, er det dét, en AI-workshop går ud på.