Ansvar for AI-fejl
Lover chatbotten rabat, er det virksomheden der hæfter, og står det i kontrakten?
Indhold
Ansvar for AI-fejl betyder, at den virksomhed, der bruger et AI-system, som udgangspunkt bærer ansvaret over for sine kunder og medarbejdere, hvis systemet giver forkerte oplysninger, diskriminerer, krænker ophavsret eller forårsager skade. Det betyder ikke, at I kan pege på "det var AI'en" som et juridisk forsvar; i stedet handler det om hvilke pligter I påtager jer, hvilke garantier leverandøren har fraskrevet sig, og hvad kontrakten siger om regres og erstatning.
Hvorfor I normalt hæfter, når chatbotten lover noget
Når en chatbot på jeres hjemmeside lover en rabat, leverer forkert rådgivning eller vejleder en medarbejder forkert, ser lovgivningen på virksomheden som den ansvarlige part over for den tredjeperson, der blev påvirket. Kunden ser virksomheden i øjnene, ikke leverandørens fine print. Leverandørvilkår forsøger ofte at fraskrive ansvar for output, men sådan en klausul beskytter ikke nødvendigvis jeres ansvar over for kunder eller myndigheder. AI-forordningen (EU AI Act) lægger pligter på dem, der sætter systemer i drift, men forordningen alene ændrer ikke direkte hvem der skal betale erstatning.
Sådan virker ansvar i praksis
Tænk på ansvaret som lag: først står jeres forpligtelser udadtil, mod kunder, medarbejdere og offentlige myndigheder. Dernæst kommer den interne fordeling mellem jer og leverandøren, som I skal have på plads i kontrakten. Endelig kan leverandøren, hvis kontrakten tillader det, have en forpligtelse til at betale jer tilbage (regres), hvis fejlen skyldes deres fejl eller dårlig leverance. Produktansvar kan indgå, hvis AI'en er indbygget i et fysisk produkt, og diskrimination eller databrud kan bringe andre regler i spil, herunder persondataregler.
Eksempel: Kundeservicechefen der fik en forkert rabatopgave
En kundeservicechef i en mellemstor webshop opdager midt i julesalget, at chatten på hjemmesiden har tilbudt en kundes månedlig fast rabat, der ikke eksisterer i systemet. Det sker en tirsdag morgen, da der er højt pres på svar på ordrer og to kollegaer er syge. Kunden ringer og kræver rabatten. Chefen må annullere tilbuddet over for kunden og melde sagen til ledelsen. Fejlen viser, at chatbotten bruger gamle prisfiler og en manuel prisliste fra 2019, som lå i et delt drev. Det tog tre dage at finde årsagen, slette den gamle fil og få leverandøren til at ændre træningsdata. Der var samtaler om at kræve kompensation fra leverandøren, men kontrakten viste, at leverandøren havde fraskrevet sig ansvar for output, så sagen blev en kontraktforhandling frem for en simpel refusion. Læringen: kontrakten og de interne processer bestemmer både hvem der siger undskyld, og hvem der betaler.
Hvad du skal være opmærksom på
- Kontroller leverandørens ansvarsfraskrivelser og krav om regres, inden I tager systemet i drift. Mange standardvilkår fraskriver ansvar for "output"; det hjælper jer ikke nødvendigvis over for kunder.
- Sørg for dokumentation af data, træning og opdateringsrutiner, så I kan spore årsag ved fejl.
- Tjek hvordan persondata og diskrimination er håndteret; kontakt Datatilsynet ved tvivl om behandlinger.
- Følg udviklingen i AI-forordningen, fordi den fordeler pligter mellem leverandører og brugere; læs teksten på EUR-Lex for officielle ordlyd og krav.
Sådan reducerer I risikoen i praksis
- Gennemgå kontrakten: kræv klare garantier, SLA og muligheder for regres.
- Indfør en AI-politik: sæt regler for hvem der godkender svar fra chatbotter, og hvordan fejl rettes udadtil.
- Test løbende: få en kollega til at udføre realistiske scenarier, så systemet ikke lover noget, det ikke kan holde.
- Skab en ansvarskæde internt: ved fejl skal én person tage beslutning om svar til kunde og om eventuel krav mod leverandør.
Det er fristende at tro, at AI-ansvaret kan købes væk med en leverandørklausul... Men ikke hvis du er lidt smart. En klar kontrakt, dokumentation og interne processer er det, der gør forskellen, når en fejl rammer kundens regning.
Når medarbejderne selv skal kunne bruge Ansvar for AI-fejl og ikke bare kende ordet, sker det hurtigst på en AI-workshop.
Ofte stillede spørgsmål om Ansvar for AI-fejl
Er "det var AI'en" et juridisk forsvar?
Nej. At AI-systemet lavede fejlen fritager normalt ikke virksomheden for ansvar over for kunder eller medarbejdere. Du skal kunne vise, hvem der tog beslutningen om at sætte systemet i drift, og hvilke forholdsregler I havde.
Kan I lægge ansvaret over på leverandøren?
I kan forsøge at skifte risiko gennem kontrakten ved at kræve garantier og regres, men mange leverandører fraskriver sig ansvar for output, og sådanne klausuler beskytter ikke nødvendigvis jeres ansvar over for tredjepart.
Gælder AI-forordningen (EU AI Act) erstatningsregler?
AI-forordningen lægger pligter på dem, der bringer AI i drift og regulerer risikostyring, men den fastsætter ikke i sig selv regler for erstatning. Erstatningsspørgsmål afgøres efter eksisterende erstatningsret og kontraktret.
Hvad gør jeg først, hvis chatbotten giver forkerte oplysninger til en kunde?
Stop fejlen, kontakt kunden med rettelse, dokumenter årsagen, og gennemgå kontrakten med leverandøren for at vurdere mulighed for regres. Sørg også for at ændre træningsdata eller kildefiler, så fejlen ikke gentager sig.
AI-rådgiver og underviser, grundlægger af AI Hero i Herning. Har bygget digitalt i over 20 år og hjælper danske virksomheder med at få AI i drift. Læs mere om Brian.