Ansvarlig AI
Kunder og udbud spørger om praksis, dokumentation og ansvar, vær klar med et svar.
Indhold
Ansvarlig AI betyder, at I udvikler og bruger AI så den overholder loven, tager hensyn til mennesker og er teknisk robust. Det er ikke kun værdier; det er konkrete processer: en AI-politik, risikovurderinger, dokumentation af beslutninger og faste roller for hvem der har ansvar og kontrol.
Når store kunder og udbud stiller krav
Større kunder og offentlige udbud beder ofte om dokumentation for ansvarlig AI, ikke kun løfter. De vil se, at I har en AI-politik, kan vise risikovurderinger og pege på, hvem der har det operationelle og det juridiske ansvar. Som leverandør skal du kunne svare på spørgsmål om datakilder, privatliv, hvordan I tester for skævheder og hvordan mennesker kan gribe ind, hvis noget går galt.
Sådan omsætter I ansvarlig AI til praksis
- Lav en kort AI-politik: én side der forklarer formål, roller og grundlæggende krav.
- Lav en simpel risikovurdering for hvert projekt: identificer persondata, mulig skade og behov for menneskeligt tilsyn.
- Dokumentér: hvilke data I brugte, hvilke test I kørte, og hvem der godkendte modellen.
- Afsæt ansvar: peg på en person til drift, en til jura/privatliv og en til forretningen.
- Gentag ved ændringer: når modellen opdateres, kør risikovurdering og dokumentation igen.
Disse trin behøver ikke udviklere først. I kan starte med en tjekliste og få teknisk hjælp til tests, når I har identificeret risikoen.
Eksempel: Ansvarlig AI hos en databeskyttelsesansvarlig i en rådgivervirksomhed
En databeskyttelsesansvarlig i en rådgivervirksomhed får en henvendelse halvanden uge før et udbud: virksomheden skal levere en prototype til automatisk klassifikation af indkomne ansøgninger. Der ligger 2.300 e-mails og tre arkivmapper med scannede PDF'er. Databeskyttelsesansvarligens modstand: prototype bruger gamle CV-data uden samtykke, og en kollega insisterer på at køre modellen nu for at nå deadline. Løsningen blev at lave en kort risikovurdering, fjerne personfølsomme felter fra træningsdata, indføre menneskeligt tjek af alle afvisninger og skrive en to-siders AI-politik til udbuddet. Arbejdet tog tre dage ekstra og en ekstern gennemgang af dataflowet. Resultatet var dokumentation, der kunne fremlægges i udbuddet, og en midlertidig arbejdsgang, hvor mennesket altid godkendte afvisninger.
Ansvarlig AI er ikke det samme som AI-etik eller lovgivning
AI-etik handler om værdier som fairness og transparens. AI-forordningen (EU AI Act) er lovgivning der stiller bindende krav. Ansvarlig AI binder begge sammen i praksis: det er governance, processer og dokumentation, så I både kan leve op til interne værdier og til reglerne.
Hvad du skal være opmærksom på
Vær konkret. En generel erklæring om at "vi passer på" er ikke nok. Spørg jer selv: hvilke persondata bruger I, kan modellen skade en bruger, hvem retter op ved fejl, og hvor dokumenterer I beslutningerne? Tjek også myndighedskrav: Datatilsynet har vejledning om behandling af personoplysninger, og for større leverancer bør I kende status på EU's AI-forordning, fordi den vil påvirke kravene til klassificering, dokumentation og tilsyn. Endelig: sørg for løbende opdatering af dokumenter og at en ansvarlig person har mandat til at stoppe en løsning, hvis risikoen viser sig i drift.
Det er svært at læse sig til Ansvarlig AI. I kommer længere med en workshop, hvor I bygger på jeres egne opgaver.
Ofte stillede spørgsmål om Ansvarlig AI
Er Ansvarlig AI det samme som AI-etik?
Nej. AI-etik handler om de værdier I vil følge, som fairness og transparens. Ansvarlig AI er, hvordan I omsætter de værdier til konkrete processer, dokumentation og ansvar i virksomheden.
Koster det meget at indføre ansvarlig AI?
Det kan starte billigt: en kort AI-politik og en simpel risikovurdering koster tid fra en eller to medarbejdere. Mere komplekse projekter kræver test, ekstern gennemgang eller juridisk bistand og koster mere, men I kan prioritere efter risiko.
Kan vi have ansvarlig AI uden udviklere?
Ja. I kan begynde med politik, risikovurdering og dokumentation uden at lave kode. Teknisk test og modelopdatering kan senere udføres af udviklere eller eksterne leverandører.
Skal vi forholde os til EU's AI-forordning nu?
I bør holde øje med forordningen og vurdere, om jeres løsninger falder ind under dens krav. For højrisiko-systemer vil krav til dokumentation, tests og tilsyn være direkte bindende.
AI-rådgiver og underviser, grundlægger af AI Hero i Herning. Har bygget digitalt i over 20 år og hjælper danske virksomheder med at få AI i drift. Læs mere om Brian.