Direkte til sidens indhold

Kina har nu hjemlig lov imod deepfakes – imens tiltager global kritik af kinesiske TikTok

Kinas tiltagende magt baseret på kunstig intelligens i apps som TikTok møder stigende kritik i Europa. Samtidig er det tydeligt, at det kinesiske kommuniststyre er stålsatte i at påføre algoritmer og kunstig intelligens censur i mødet med de kinesiske brugere, mener forsker.

Topchef i TikTok Shou Zi Chew. Foto: TikTok/Flickr-World Economic Forum

Internettet er den seneste måned kogt over med rødglødende lovprisninger af Open AI’s kunstige intelligens ChatGPT. Samtidig sætter kinesiske TikToks algoritmer og filtre måned for måned nye brugerrekorder. Men Kina går i den stik modsatte retning under hjemlige himmelstrøg.

Fra i dag vil det kinesiske cyberagentur håndhæve en ny lov, der begrænser muligheden for at generere deepfakes og syntetiske billeder, video og tekst med AI i Kina.

Loven forbyder brugen af AI-genereret indhold til at sprede falske nyheder eller information, som myndighederne kan anse for at være forstyrrende eller nedbrydende i forhold til økonomien og den nationale sikkerhed. Med så bredt et sigte vil der være rig mulighed for, at de kinesiske sikkerhedstjenester og censurorganer kan fortolke den nye lov ind i mange forskellige sammenhænge.

– Det minder meget om klassisk censur, siger André Ken Jakobsson, postdoc. ved Center for War Studies på Syddansk Universitet og forklarer:

– Der bliver indsprøjtet politisk ideologi i den kunstige intelligens med den her lovgivning. Det er et forsøg på at lukke den vilde og frygtløse AI ned, da det kinesiske styre ved at der ligger et potentiale i AI, som er svært at kontrollere.

Brugere registreres

Et af kravene til de kinesiske teleudbydere og virksomheder er, at brugere af produkter med syntetisk og generativ kunstig intelligens skal identificere sig for at bruge tjenesterne. Det er også et krav, at personer, hvis ansigter eller stemmer bruges i forbindelse med deepfake-teknologi, skal give samtykke. Loven pålægger også firmaer, forskningsinstitutioner og individer at deklarere meget tydeligt, når der er tale om syntetisk eller AI-manipuleret video og tekst.

Det lyder alt sammen fornuftigt. Med tanke på Kinas liberale forhold til eksempelvis generativ AI, som benyttes i eksempelvis TikTok i store dele af den demokratiske verden, så tegner der sig dog et billede af en kinesisk strategi, hvor man med alle midler vil vinde det globale kapløb om kunstig intelligens samtidig med, at Kina inddæmmer teknologien effektivt hjemme. Således har Kina indført en lang række techlove, hvor der også ligger omfattende begrænsninger på unges gaming og krav om, at man skal oplyse om algoritmer i produkter. Man skal sågar kunne fravælge produkter med forudsigelsesalgoritmer.

– I Europa har vi lovgivning på vej, som skal regulere kunstig intelligens, men vi prøver at finde balancen mellem, hvornår vi modererer og hvornår vi censurerer. I Kina er fokus vendt rundt. Borgerne har lært censuren i Kina. Nu er det algoritmernes tur, siger André Ken Jakobsson.

Global modstand

I det internationale samfund er der en almen forventning om, at det land eller de lande, som kan fremavle de bedste og mest avancerede systemer inden for kunstig intelligens, også vil være det 21. århundredes primære magtfaktorer i forhold til økonomi og forsvar. Frem til cirka 2015 var Kina utvivlsomt bag Europa og USA i udviklingen af AI. Men da det kinesiske selskab DeepMind i 2016 udviklede et stykke kunstig intelligens, der kunne slå verdensmesteren i det ekstremt komplicerede, kinesiske brætspil ‘go’, skete der et skifte.

Kinas præsident Xi Jinping erklærede efterfølgende, at landet ville blive verdens førende kapacacitet inden for AI. Og i årene frem skete der præcis det. Kineserne søgte om langt flere patenter end USA og de europæiske lande. Og frem for alt havde og har kineserne den enorme fordel, at de dybest set som autoritær stat kan bestemme sig for at bruge sine knap 1,5 mia. indbyggere som testlaboratorium for alskens kunstig intelligens i forskellige flydende samarbejder mellem stat og virksomheder. Og brugerbeskyttelse er noget, der suverænt formuleres af kommuniststyret.

Når TikToks topchef Shou Zi Chew i dag holder møde med den danske EU-kommissionsnæstformand og konkurrencekommissær Margrethe Vestager for at diskutere en række juridiske og sikkerhedsmæssige udfordringer på tech-området sker det på et kritisk bagtæppe.

Den franske præsident Emanuel Macron har kaldt TikTok en “bedragerisk uskyldig” app, der skaber virkelig afhængighed hos brugerne. Macron skulle desuden have givet udtryk for, at han er klar til at lovgive i forhold til TikTok. I USA er Kongressen og flere stater ved at gennemføre et TikTok-forbud på føderalt-ansattes telefoner. I Tyskland er kritikken af TikTok også voksende og flere politikere har talt for et forbud blandt ansatte i centraladministrationen.

For få uger kom det frem, at TikTok var blevet brugt til at lokalisere og spionere mod flere journalister, hvilket afstedkom heftig kritik i blandt andet USA.

EU afventer irsk datatilsyn

I EU har man grundet one-stop-shop tankegangen placeret to forskellige undersøgelser af TikTok hos det irske datatilsyn, da selskabets europæiske hovedkvarter er i Dublin. Det danske Datatilsyn afventer sammen med resten af de europæiske lande vurderingen af, om TikToks app lever op til GDPR eller om data sendes til Kina. Irerne kigger også på, om børns privatliv respekteres på TikTok.

Flere it- og sikkerhedseksperter har udtalt til Radar, at de mener, at man bør overveje et dansk TikTok-forbud blandt politikere og embedsmænd på grund af faren for spionage, tvivlsom datasikkerhed og overvågning.

Den danske EU-parlamentariker Christel Schaldemose (S) siger til Radar, at meget tyder på, at det irske datatilsyn er igen-igen er for langsomme til at vurdere, om store techselskaber lever op til europæiske datalovgivning. Hun forventer dog, at Digital Services Act vil have effekt i forhold til TikTok, hvis vurderingen er, at de udgør en systemisk risiko i forhold til unges afhængighed.

– Vi skal holde skarpt øje med TikTok. Her og nu med GDPR. Snart med DSA’en, siger hun og tilføjer, at et forbud ift. politikere og embedsmænd kan “overvejes, hvis ikke der findes andre måder at sikre, at telefonerne er fri af overvågning”.

Forsvarsminister: Nyt FE-tilsyn skal forholde sig til menneskerettigheder
Spionage

Forsvarsminister: Nyt FE-tilsyn skal forholde sig til menneskerettigheder

Eksperter er dybt bekymrede over, at de store datamængder, som Forsvarets Efterretningstjeneste indsamler, ikke længere er underlagt tilsyn. Kun enkelte partier er kritiske til citat, mens Forsvarsministeriet understreger, at en ny FE-lov vil forholde sig til danskernes privatliv.