Forbudt AI-praksis

Forbudt AI-praksis dækker konkrete måder at bruge AI på, som EU's AI-forordning forbyder som uacceptabel risiko. Det omfatter blandt andet skadelig manipulation af mennesker, udnyttelse af sårbare grupper, social scoring, følelser- eller stemmegenkendelse i arbejdslivet og uddannelse, store ansigtsdatabaser skabt ved at skrabe nettet, samt profilering af folks kriminalitetsrisiko. Overtrædelse kan straffes med store bøder.

Sådan virker forbudt AI-praksis i praksis

Forbuddet er ikke abstrakt. Når en leverandør lover "humørregistrering" i kundeservice, eller et overvågningsværktøj lover at måle medarbejdernes engagement via kamera eller mikrofon, rammer det direkte ind i listen over forbudte anvendelser. Tænk mindre teknisk: det handler om beslutninger, som går mod basic rettigheder eller misbruger folks sårbarhed. Hvis systemet målrettet manipulerer, scoretager eller udnytter dem i svære situationer, er det forbudt, uanset om producenterne kalder det et træningsværktøj eller en forbedret kundeoplevelse.

Følelsesgenkendelse og anden forbudt AI-praksis: hvorfor du skal kende listen

Som leder køber du ikke bare et værktøj, du køber en anvendelse. Følelses- eller stemmegenkendelse i kundeservice kan lyde smart, men hvis den bruges til at vurdere, afskedige eller presse kunder og ansatte, er den ulovlig. Det samme gælder sociale score-systemer, der sorterer folk efter adfærd, og databaser over ansigter samlet uden samtykke. Kend listen før I sender en kravspecifikation til en leverandør eller tester en proof of concept, ellers står virksomheden og hæfter.

Eksempel: Forbudt AI-praksis hos en databeskyttelsesansvarlig

Den databeskyttelsesansvarlige i en mellemstor e-handelsvirksomhed opdager i december, at marketingafdelingen tester et værktøj, som analyserer kunders korte videosvar for "købsintention". Værktøjet kræver upload af kundevideoer og bruger en ekstern database med ansigtsdata, som leverandøren har samlet fra nettet. Problemet opdages på et tidligt stadie, men det kræver to ugers review af juridiske dokumenter, tre møder med leverandøren og en teknisk audit af dataflytninger for at dokumentere risiciene. Audit konkluderer, at løsningen kan udgøre både uacceptabel manipulation og brug af skrabede ansigtsdatabaser, altså forbudt. Virksomheden stoppede forsøget, fjernede de indsamlede prøver og bad leverandøren om skriftlig garanti for dataoprindelse, hvilket kostede tid og skabte intern frustration, men undgik potentielt større sanktioner.

Forbudt AI-praksis er ikke det samme som højrisiko-AI eller almindelig automatisering

Højrisiko-AI er også reguleret, men kan i visse tilfælde bruges, hvis kravene overholdes, for eksempel streng dokumentation og test. Forbudt AI-praksis er kategorier af anvendelse, der er udelukket helt. Almindelig automatisering af administrative opgaver eller chatbots, der ikke profilerer, manipulerer eller genkender følelser, falder typisk uden for forbuddet. Hvis du er i tvivl, spørg efter hvilken del af artikel 5 leverandørens løsning berører, og få det skrevet ind i kontrakten.

Hvad du skal være opmærksom på

Tjek leverandørens dataoprindelse og hvilke beslutninger systemet foretager automatisk. Dokumentér formålet, få skriftlige garantier for, at der ikke er brugt skrabede ansigtsdatabaser, og spørg om systemet bruger følelses- eller stemmegenkendelse. Husk, at Digitaliseringsstyrelsen og Datatilsynet fører tilsyn med dele af forbuddet, og reglerne opdateres; se derfor Digitaliseringsstyrelsens vejledning og Datatilsynet før endelig beslutning. Bøderne kan blive meget høje, og et forbud kan tvinge jer til at stoppe et projekt, selv midt i en lancering.

Vil I have et bud på, om Forbudt AI-praksis overhovedet er jeres næste skridt, så er det dét, AI-rådgivning er til for. Skal flere end én i huset kunne noget med Forbudt AI-praksis, så se, hvordan en AI-workshop er skruet sammen.