Direkte til sidens indhold

Kontroversiel deepfake-teknologi udstilles på Statens Museum for Kunst

Statens Museum for Kunst har fået hjælp af DTU til at lave en deep fake-video, hvor en koreansk kunstner taler dansk ved hjælp af kunstig intelligens.

Den kontroversielle deep fake-teknologi bliver nu sluppet løs på Statens Museum for Kunst (SMK).

For når den anerkendte koreanske kunstner Haegue Yang fortæller om sit arbejde og inspiration, sker det på dansk.

Kort fortalt er Yangs stemme konverteret til dansk ved at blande to lydoptagelser: En af Haegue Yangs stemme og en optagelse, hvor en SMK-medarbejder har oversat hendes udtalelse og indtalt dem på dansk.

Resultatet er skabt gennem et unikt samarbejde mellem SMK og Danmarks Tekniske Universitet (DTU), hvor professor Morten Mørup har vejledt de tre studerende Lukas Leindals, Peter Grønning og Gustav Larsen.

Via maskinlæring har de studerende formået at separere hver af de to lydoptagelser i to dele. Den ene del rummer selve indholdet såsom de fonetiske lyde og de ord, der bliver sagt. Den anden del rummer stilen, dvs. den enkelte stemmes unikke signatur, klang og tone.

Kan blive problematisk

Inden projektet med SMK havde de studerende allerede arbejdet med stemmekonvertering eller deep voice conversion, der er en type deep fake inden for lyd og fremstilles ved hjælp af kunstig intelligens.

Resultatet blev blandt andet en video, hvor Donald Trump talte, men hvor ordene var Obamas.

Professor Morten Mørup mener derfor, at det er nødvendigt, at der kommer en større diskussion omkring brugen af deep fake-teknologi.

– Tanken med projektet var at gå ind og anvende teknologien og undersøge de indbyggede etiske problemstillinger, for når gud og hver mand kan udnytte den til at manipulere med, bliver det problematisk og bekymrende. Det vigtigste er, at man er bevidst om, at det findes, så man kan være skeptisk overfor det, mener Morten Mørup.

Topchef snydt

Han nævner historien om en CEO i en stor energi-virksomhed i England, der blev narret til at overføre over en million kroner, da han talte i telefon med, hvad han troede, var chefen fra moderselskabet i Tyskland. I virkeligheden var der tale om en kunstig intelligens, der kunne efterligne samme accent og tone som chefen.

Gustav Gamst Larsen, der er en af de tre studerende bag projektet, mener også, at det er en teknologi, der skal bruges varsomt, men han ser også muligheder i det.

– Den her teknologi skal ikke falde i de forkerte hænder, men den kan jo sagtens bruges på en god måde, som vores projekt med kunstneren viser, siger Gustav Gamst Larsen.

Platformsdirektiv vedtaget i EU-parlamentet
Platformsøkonomi

Platformsdirektiv vedtaget i EU-parlamentet

Efter et langt og mudret politisk magtspil har Europa-parlamentet vedtaget et platformsdirektiv, som vil gøre app-ansatte Wolt-bude og Uber-chauffører til lønmodtagere.

Forsvarsminister: Nyt FE-tilsyn skal forholde sig til menneskerettigheder
Spionage

Forsvarsminister: Nyt FE-tilsyn skal forholde sig til menneskerettigheder

Eksperter er dybt bekymrede over, at de store datamængder, som Forsvarets Efterretningstjeneste indsamler, ikke længere er underlagt tilsyn. Kun enkelte partier er kritiske til citat, mens Forsvarsministeriet understreger, at en ny FE-lov vil forholde sig til danskernes privatliv.