Deepfake

Deepfake er en video, et billede eller en lydoptagelse, hvor AI har sat en rigtig persons ansigt eller stemme ind i noget, personen aldrig har sagt eller gjort. Teknisk begyndte det med GAN-modeller (Generative Adversarial Networks), men moderne deepfakes bruger ofte diffusionsmodeller til billeder og avanceret stemmekloning til lyd. Deepfakes bruges både til underholdning og til svindel og misinformation, og EU's AI-forordning stiller nu krav om tydelig mærkning af sådan materiale.

Sådan virker deepfake i praksis

Tænk på en deepfake som en meget overbevisende efterligning: modellen kigger på rigtige optagelser af en persons ansigt og stemme, lærer mønstrene og bygger en ny version, som kan sættes ind i en video eller en lydfil. For billeder og video betyder det, at ansigtsudtryk, bevægelser og lys kan matches, så det ser ægte ud. For lyd betyder det, at tonefald, åndedræt og rytme efterlignes, så det kan lyde som personen. Analogi: det er som at have en professionel stand-in, der ligner og lyder som den rigtige person, men uden samtykke.

Hvorfor deepfakes er en konkret trussel mod din virksomhed

En klonet stemme eller en falsk video kan bruges til direktørsvindel, hvor en person får en medarbejder til at godkende overførsler eller hemmeligholdte instrukser. Det rammer især mindre virksomheder uden faste kontrolprocedurer: en telefonopringning med chefens stemme, en kort video sendt i haste-trafik, og beslutningen laves. Det er ikke kun økonomisk tab; omdømme, medarbejdertryghed og kundetillid kan lide. Du skal derfor lave simple tjek: dobbeltbekræft store betalinger, kræv skriftlig bekræftelse på kritiske beslutninger og træne medarbejdere i at genkende tegn på manipulation.

Eksempel: en videomand der opdager en deepfake lige før lancering

En freelance videomand arbejder for en lokal møbelproducent og får tre dage før en produktlancering en e-mail med en 90-sekunders reklame, hvor virksomhedens stifter taler direkte til kameraet. Klienten beder om hurtig redigering og upload til sociale medier. Videomanden genkender nogle unaturlige øjenbevægelser og en hård, lidt for perfekt stemmekvalitet i lydsporet. Han kontakter kommunikationsansvarlig via telefon og får forklaringen: en ekstern bureau‑leverandør har brugt AI til at forbedre en gammel optagelse uden at nævne det. Det tager videomanden yderligere to dage at få en autentisk optagelse og at gennemføre en simpel kontrol af leverandørens filer. Resultatet er, at lanceringen udsættes 48 timer, og at videomandens timeforbrug fordobles. Læringen: en hurtig kontrol af kilder og originale råfiler kunne have sparet tid og uncertainty.

Deepfake er ikke det samme som stemmekloning eller manipulation uden AI

Stemmekloning er en type deepfake, men ikke al manipulation er deepfake. En redigeret video, hvor man klipper i autentisk materiale, er manipulation men ikke nødvendigvis en deepfake. Stemmekloning betyder konkret, at en model producerer tale, som lyder som en bestemt person. Begreber som "syntetiske medier" dækker det hele bredere: deepfake er en underkategori. Når du vurderer materiale, så spørg: er stemmen genereret, eller er det en klippet optagelse? Er ansigtstransplantationen indsat med AI, eller er det simpel efterredigering?

Sådan kommer I i gang med en kontrolprocedure mod deepfakes

1. Lav en regel: ingen overførsel over en fast grænse uden to uafhængige godkendelser, mindst én skriftlig.
2. Tjek kilde og råfiler: bed om originale optagelser eller højopløst kildefil fra afsenderen.
3. Bekræft via en anden kanal: ring til lederen på et kendt nummer, eller send e-mail til en registreret adresse.
4. Træn medarbejdere i at genkende tegn: unaturlige øjenbevægelser, lyd uden baggrundsstøj, hurtigt tempo.
5. Aftal med leverandører, at AI-brug skal oplyses og mærkes, og få det på skrift.

Hvad du skal være opmærksom på

EU's AI-forordning kræver tydelig mærkning af deepfakes, og det betyder, at kommercielt materiale, som er helt eller delvist AI-genereret, skal markeres EUR-Lex. Reglerne ændrer kommunikationsrummet markant, så tjek løbende myndigheders vejledninger. Der er også falske positives: det ser ikke altid mistænkeligt ud, og nogle værktøjer til detektion har begrænsninger. Deepfakes er effektive, men de er ikke ufejlbarlige. En simpel kontrolprocedure og sunde vaner gør jer langt mindre sårbare... men kun hvis I handler, ikke bare læser om det.

Når medarbejderne selv skal kunne bruge deepfake og ikke bare kende ordet, sker det hurtigst på en AI-workshop. Vil I have deepfake sat i drift på jeres egen maskine, er det dét, AI Hero Sidekick er bygget til.