Hallucination

Hallucination er, når en sprogmodel leverer forkerte oplysninger, opdigtede kilder eller ikke-eksisterende fakta med samme selvsikre tone som korrekte svar. Det sker, fordi modellen forudsiger sandsynlig tekst, ikke sand tekst; nogle foretrækker ordet konfabulation. Praktiske modtræk er grounding, RAG, at bede om kilder og altid tjekke tal, navne og love.

Hvorfor Hallucination er den største enkeltrisiko for din virksomhed

Hallucination rammer beslutninger der bygger på AI-svar: en forkert pris i et tilbud, en opdigtet reference i en salgspitch, forkerte citater i en kontrakt eller fejlagtige juridiske råd. Selv en enkelt fejlagtig oplysning, publiceret eller delt med en kunde, kan skabe ekstra arbejde, mistet troværdighed og i værste fald juridiske problemer. Som leder skal du kunne forklare, at fejlen ikke er ond vilje fra værktøjet, men en grundlæggende begrænsning i sprogmodellen: den søger det mest sandsynlige ord, ikke det dokumenterede.

Sådan virker hallucination i praksis

Forestil dig, at du spørger en sprogmodel om en leverandørs leveringsbetingelser. Modellen scanner ikke firmaets kontrakter, den beregner hvilke ord og vendinger der normalt følger en sådan forespørgsel og sætter dem sammen. Resultatet kan være en glat, overbevisende tekst med fiktive paragrafhenvisninger eller en dato for en aftale, som ikke findes. Det er lidt som en meget overbevisende sælger, der taler hurtigt og overbeviser, selv når han gætter; stemningen er rigtig, detaljerne kan være forkerte. Derfor skal alle tal, navne og juridiske formuleringer altid verificeres i kilder, I stoler på.

Eksempel: Hallucination hos en IT-ansvarlig i en mellemstor virksomhed

IT-ansvarligens opgave var at lancere et nyt internt søgeværktøj første uge i januar, midt i budgetplanlægningen. Hun testede en sprogmodel, der skulle levere hurtige svar fra virksomhedens videnbase og eksterne kilder. Under en demo svarede modellen på et spørgsmål om garantibetingelser med to referencer og et paragrafnummer. Teamet troede svaret kunne bruges i en supportartikel, og det kom i udkastet. Dagen efter opdagede en kollega, at begge referencer var opdigtede og paragrafnummeret pegede på en anden lov. Fejlen kostede en halv dags arbejde med at gennemgå teksterne og forklare situationen til kundeservice. Læringen var tydelig: implementeringen krævede grounding og en proces, hvor systemets kilder automatisk blev vist og et menneske godkendte juridiske og økonomiske udsagn, før de blev publiceret.

Sådan undgår og begrænser I hallucinationer

1. Grounding først: bind modellen til konkrete dokumenter eller databaser, så svar bygger på virksomhedens egne kilder. Grounding betyder, at modellen får adgang til verificerbare tekster, ikke bare intern hukommelse.
2. Brug RAG (retrieval-augmented generation): få systemet til først at hente relevante dokumenter og dernæst generere svar med klare kildehenvisninger.
3. Kræv kilder og citater: bed modellen om at vise de konkrete afsnit eller dokumentnavne, den bygger svaret på, og gør disse synlige for brugeren.
4. Lav menneskelig godkendelse for tal, aftaler og juridiske udsagn: sæt en politik om, at økonomiske tal, kontrakter og lovhenvisninger skal verificeres af ansvarlig person.
5. Træn brugerne: lær marketing, salg og support at spørge på en måde, der mindsker fejlgætninger, og at altid tjekke kritiske oplysninger.

Implementeringen koster tid og nogle gange ekstra licensfunktioner, men den mindsker risikoen for at en enkelt forkert oplysning spreder sig.

Hallucination er ikke det samme som en bug eller manipulation

En bug er en fejl i softwaren; hallucination er et sprogmodellens svarmønster. En bevidst forfalskning er en aktør med intention; hallucination er modelens statistiske gæt. Forvekslinger sker ofte: folk tror en model lyver, men den gætter blot. Derfor er begrebet "sprogmodel" vigtigt: forstå at modellen ikke har faktatjek indbygget. Relaterede begreber er "Grounding", som betyder at forankre svar i faktiske dokumenter, og "konfabulation", et andet ord for opfundne, men overbevisende udsagn. Når du planlægger at bruge AI i kundevendte processer, spørg altid: hvilke kilder ligger modellen til grund for sine svar, og hvordan viser den dem?

Hvad du skal forvente af AI og hvad den ikke kan

AI kan samle viden, formulere udkast og foreslå svar, men den kan ikke garantere faktuel nøjagtighed. Den kan hjælpe jer med at arbejde hurtigere, men ikke erstatte menneskelig verifikation af kritiske oplysninger. Vær åben over for medarbejderne: fortæl at værktøjet kan finde på ting, og sæt klare procedurer for kontrol. Og ja, vær lidt snedig med workflows: lad systemet pege på kilder, men lad mennesker trykke på godkend-knappen, hver gang det er vigtigt.

Det er svært at læse sig til hallucination. I kommer længere med en workshop, hvor I bygger på jeres egne opgaver. Valget om hallucination er sjældent kun teknisk. Retningen sættes med AI-rådgivning.