Udfordrer deepfake-videoer tilliden til information online?

Deepfakes – realistisk udseende fingerede lyd- og billedoptagelser, der forestiller rigtige personer – kan være med til at øge spredningen af desinformation på nettet, men det er endnu sparsomt med forskning i fænomenet og dets konsekvenser. Et nyt forskningsprojekt udarbejdet af IT-Universitetets Human-Centered Data Science-gruppe vil tackle problemet.

Aske MottelsonForskningInstitut for Digital Designalgoritmerpriserdemokratikunstig intelligenssociale medier

Skrevet 7. marts 2023 10:13 af Theis Duelund Jensen

Forestil dig, at du en morgen logger ind på din konto på dit foretrukne sociale medie, og det første der popper op i feedet er en video af statsministeren, der fra Folketingets talerstol erklærer krig mod et naboland. Videoen er selvfølgelig falsk – en hyperrealistisk manipuleret video, som er lavet ved hjælp af sofistikeret maskinlæring og kunstig intelligens – men det er ikke nødvendigvis åbenlyst for enhver. Forestil dig nu de samfundsmæssige konsekvenser af, at en del af befolkningen er overbevist om, at Danmark ligger i krig.

Såkaldte deepfakes – falske omend hyperrealistiske videoer som i ovenstående eksempel – var for et par årtier siden ren science-fiction, men i dag bliver de mere og mere udbredte online. Med opfindelsen af deepfake-teknologi følger en lang række juridiske, etiske, sociologiske og psykologiske problemstillinger, som forskningsverden først nu er begyndt at tage livtag med.

Det manglende datagrundlag betyder bl.a., at man på nuværende tidspunkt ikke har nogen indsigt i, hvor effektive deepfakes er til at sprede desinformation på fx sociale medier. Vi ved heller ikke, hvilke psykologiske faktorer er i spil, når deepfakes har succes med at sprede desinformation, og manglen på viden står i vejen for udviklingen af effektive modforanstaltninger i forhold til at beskytte sociale netværk.

Det er her et nyt forskningsprojekt, der netop har modtaget en bevilling fra Meta på knap 700 000 kroner, kommer ind i billedet. Det er nemlig dette videnshul, som projektet Investigating Persuasiveness of Contextualized Disinformation Across Media, udarbejdet af ITU’s Human-Centered Data Science research group (HCDS), der forsker de menneskelige faktorer i opfattelse, brug og forståelse af data, forsøger at lukke.

Til kamp mod desinformation

Ved hjælp af online-spørgeundersøgelser, hvor deltagere uden at vide det præsenteres for deepfake-videoer, vil forskerne undersøge, om deepfakes i sammenhæng med vildledende opslag på sociale medier har indflydelse på brugernes holdning og villighed til at dele mere indhold, end de ville have gjort, hvis der var tale om opslag genereret på anden vis. I samme ombæring skal projektet se nærmere på, om variabler som udtryksevne, livagtighed, forudgående kendskab til og appel til følelsesregistret i materialet står i et bestemt forhold til sandsynligheden for, at en person bliver vildledt af en deepfake-video.

Projektets overordnede målsætning er at undersøge deepfake-teknologis indflydelse på brugere af informationssystemer på nettet. Ved at sammenholde desinformation genereret ved hjælp af deepfake-teknologi har forskerne i sinde at afdække omfanget af udfordringerne, som nye teknologiske landvindinger præsenterer i forhold til at skabe vildledende indhold på nettet.

Et andet mål for projektet er at undersøge de psykologiske faktorer, der afgør, hvor overbevisende desinformation på nettet kan være. Som sådan vil forskningsresultaterne kunne være med til at sikre sociale netværk imod den deepfake-baserede desinformation, der i værste fald udgør en trussel mod demokratiet.

”Vi er meget interesserede i at finde ud af, om deepfakes er mere effektive redskaber til udbredelsen af desinformation end andre typer indhold,” siger adjunkt Aske Mottelson fra ITU’s Institut for Digital Design, som er forskningsleder på projektet. ”Vi undersøger, hvordan deepfakes påvirker det menneskelige sind og forsøger derved at skabe bedre forståelse for teknologien og bedre forudsætninger for potentiel lovgivning på området.”

Mere information