AI-etik
Når en medarbejder spørger, om chatbotten må lade som om den er et menneske.
Indhold
AI-etik handler om de valg, I træffer, når I udvikler eller bruger kunstig intelligens: hvad I automatisk vil lade maskinen beslutte, hvordan I informerer borgere og kunder, og hvem der står til ansvar, hvis noget går galt. Det omfatter fairness (retfærdighed), autonomi, gennemsigtighed og menneskelig værdighed, og det rækker videre end loven.
Når etik bliver konkret: må chatbotten lade som om den er menneske?
Et centralt etisk spørgsmål opstår ofte i konkrete arbejdssituationer: må en kundesupport-chatbot give indtryk af at være en rigtig medarbejder? Svaret kræver et valg, ikke en algoritme. I vælger, hvis I vil beskytte kundens ret til at vide, om de taler med en maskine, eller I prioriterer en mere naturlig samtaleoplevelse. Den beslutning påvirker tillid, klager og intern ansvarstilknytning. Tænk kort: én forklaring til kunden, og én til den medarbejder, der skal rette fejl.
Hvorfor AI-etik betyder noget for din virksomhed
Etik er ikke kun et internt kodeks. Når I tager et etisk valg, påvirker det kundernes oplevelse, jeres omdømme og risikoen for fejl. Valgene kan være små, om AI må foreslå en standardafvisning på en ansøgning, eller store, om I vil bruge AI til rekruttering. En etisk praksis gør beslutninger nemmere: hvem må godkende automatiske beskeder, hvilke data må bruges, og hvordan dokumenteres det, når en beslutning er truffet af en model? Brug begreberne Ansvarlig AI og Ansvar for AI-fejl i jeres roller, så det ikke kun bliver en 'tekniker-ting'.
Eksempel: AI-etik hos en databeskyttelsesansvarlig
Den databeskyttelsesansvarlige i en regional sundhedsklinik skal midt i en travl uge behandle en henvendelse: klinikkens nye patient-chatbot begyndte at anbefale bestemte brugbare behandlingslinjer på baggrund af tidligere journalnotater. Chatbotten var sat live for to uger siden; der var 1.200 samtaler, og en borger ringede bekymret. Den databeskyttelsesansvarlige bad om logfiler, spurgte hvem der havde trænet modellen, og fandt, at en gammel skabelon fra 2018 lå i træningsdatasættet. Modstanden var intern: læger sagde, det var hurtigere at lade chatbotten køre, fordi ventetiden var lang. Løsningen blev midlertidigt at slå anbefalinger fra, informere borgerne klart i chatvinduet, og sætte en proces i gang for at revidere træningsdata, en opgave, der tog tre arbejdsdage og involverede tre forskellige teams. Beslutningen kostede tid, men satte en klar ejer på Ansvar for AI-fejl.
Hvad du skal være opmærksom på
Etik kræver konkrete politiker: hvem må træffe beslutningen om automatisering, hvordan informeres borgere og kunder, og hvem skriver en funktionsbeskrivelse, så fejl kan reproduceres. EU's etiske retningslinjer for troværdig AI har dannet grundlaget for flere af kravene i den kommende AI-forordning, så tjek dem, når I skal sætte principper op. Se blandt andet materialet hos Europa: europa.eu. Når jeres løsning behandler persondata, bør I også tjekke krav og vejledning hos Datatilsynet. Vær særlig opmærksom på: bias i data, manglende forklarbarhed, uklare ansvarslinjer og hvordan I håndterer systemfejl.
Sådan kommer I i gang med AI-etik
- Sæt ét sted i organisationen, der ejer etiske vurderinger og kan træffe beslutninger.
- Lav en kort politik: hvilke beslutninger må AI tage, hvilke skal altid have menneskelig godkendelse.
- Marker overfor brugerne, når de taler med AI, og gem logfiler til gennemgang.
- Test data for skævheder, og dokumentér træningsdata og ansvar.
- Genbesøg politikken ved større ændringer i modellen eller i brugsscenariet.
Etik er valg, ikke kun tekst på en side. Og ja, I kan bygge det ind i jeres proces - men det tager tid og en beslutning om, hvem der står til ansvar, når det går galt. En lille smule forudseenhed sparer ærgrelser senere.
Skal flere end én i huset kunne noget med AI-etik, så se, hvordan en AI-workshop er skruet sammen.
Ofte stillede spørgsmål om AI-etik
Er AI-etik det samme som ansvarlig AI?
Nej. AI-etik er læren om hvad man bør gøre; Ansvarlig AI er ofte en praktisk tilgang til at implementere de etiske valg i organisationen. Begge hører sammen, men etik forklarer hvorfor, mens ansvar handler om hvem og hvordan.
Koster det meget at følge etiske retningslinjer for AI?
Der er en omkostning i tid og ressourcer til vurdering, dokumentation og test, men prisen afhænger af omfanget. Start med simple politikker og dokumentation, så I kan skalere indsatsen i takt med brugen.
Hvem har ansvaret, hvis AI laver fejl?
Ansvar afhænger af jeres organisatoriske beslutninger og lovgivning. I bør fastsætte en ansvarsperson internt, fx en databeskyttelsesansvarlig, og dokumentere Ansvar for AI-fejl, så det er klart, hvem der retter op og informerer brugere.
Kan vi bruge AI uden at involvere udviklere?
Ja, men ikke uden styring. Selv standardværktøjer stiller krav om data, opsyn og rollback-planer. Involver dem, der har ansvar for etik og drift, så I undgår utilsigtede konsekvenser.
AI-rådgiver og underviser, grundlægger af AI Hero i Herning. Har bygget digitalt i over 20 år og hjælper danske virksomheder med at få AI i drift. Læs mere om Brian.