Hoppa till huvudinnehåll

Nyhetsskolan

Deepfakes är häftiga, men sannolikheten för att du ska bli lurad av en sådan är liten

Uppdaterad 22.02.2023 13:33.
Två skärmdumpar från youtube och tiktok med bilder av USA:s förre president Barack Obama och skådespelaren Tom Cruise.
Bildtext Visst skulle det vara hemskt om stora folkmassor skulle tro på vad en världsledare säger i en deepfake video. Men detta har inte ännu hänt.
Bild: Niklas Evers / Yle

För fyra år sedan oroade vi oss mycket för hur opålitlig vår medieverklighet blir genom artificiell intelligens. Deepfake befarades leda till stora katastrofer om folkmassor börjar tro på dem.

Artificiell intelligens har utvecklats i rasande fart under fyra års tid och utnyttjas också inom desinformation. Antalet deepfake-videor verkar ändå inte ha ökat nämnvärt.

Martin Fällman är ansvarig för digital säkerhet på organisationen Civil Rights Defenders. Han berättade i UR-podden Algoritmen år 2019 att vår rädsla för deepfake kan vara farlig, ifall den leder till att vi inte litar på någonting alls. Organisationen Civil Rights Defenders stöttar och finansierar aktörer som arbetar för mänskliga rättigheter ute i världen.

Lätt att göra deepfake i dag

Artificiell intelligens har utvecklats massor under de senaste åren och framställningen av deepfakes har blivit mycket lättare.

– Du behöver inte längre ha en förlaga, det vill säga ett original som du börjar manipulera, utan du kan bara skriva: Finlands president äter en vaniljmunk på stranden i Cannes. Och sedan får du en bild på det, förklarar Martin Fällman.

För fyra år sedan var vi oerhört oroade över vart världen är på väg på grund av deepfake-videor, trots att de var väldigt arbetskrävande att producera. Man filmade en person som spelade rollen av någon annan och sedan manipulerade man bilderna så att talaren såg ut som en känd person.

Imitaattori Jarkko Tamminen Deepfake-palvelun kuvauksissa.
Bildtext Här filmas deepfake med en fejkad president Niinistö.

Exempel på det här är Buzzfeeds världsberömda manipulation av Barack Obama och Yles prisbelönta manipulation av president Sauli Niinistö.

Men desinformation som baserar sig på deepfakes har faktiskt inte ökat, trots att tiderna har varit så oroliga i många delar av världen. Vi har haft en pandemi, Ryssland har invaderat Ukraina och oroligheter har förekommit i många andra delar av världen under de senaste fyra åren.

En skäggig man i 30 årsåldern med allvarlig och vänlig blick står framför texten Civil Rights Defenders
Bildtext Enligt säkerhetsexperten Martin Fällman ledde pandemin till att folk som bor i stater som från början inte var särskilt demokratiska fick det ännu sämre ställt.
Bild: Civil Rights Defenders

Pandemin blev en förevändning för odemokratiska och repressiva stater att dra åt snaran ytterligare för civilsamhället.

– Vi på Civil Rights Defenders kunde se en tydlig global trend i att eftersom det av medicinska orsaker var förbjudet att samlas i grupper, så passade man på att förbjuda människor att ha möten över huvud taget, säger Martin Fällman.

Men antalet deepfakes ökade alltså inte. En orsak kanske är att de har varit tekniskt krävande att tillverka och att det är så lätt att lura människor med enklare knep.

@pelastetaan_lapset -Instagram profiili
Bildtext Pandemin ledde också till en mängd falsk information om vacciner.
Bild: Seppo Suvela / Yle

De stater som sysslar med intern och extern desinformation har redan en utbyggd infrastruktur för att nå ut med sitt budskap via både ”alternativa medier” och etablerade tidskrifter som stöds av olika stater.

– Tidskrifterna blandar sitt innehåll med dels korrekta nyheter, dels vinklad information som den betalande staten beställer och den formen av desinformation har ökat mycket, förklarar Martin Fällman.

Deepfake inom pornografi och i undervisningssyfte

Men vad deepfake-videor och datorgenererade bilder beträffar delas de i dag främst för skojs skull, inte för att sprida desinformation.

– Det enda negativa som jag hittills noterat att folk använder deepfake-teknologi till, är att framställa pornografiskt material med människor som på riktigt aldrig skulle ställa upp för porrfilm, konstaterar Martin Fällman.

Däremot har det inte förekommit deepfakes med världsledare som skulle säga något chockerande.

De enda deepfakes som gjorts har uttryckligen gjorts i undervisningssyfte för att varna och upplysa allmänheten om att den här teknologin finns och att man därför inte ska tro på allt man ser i sitt flöde.

Martin Fällman, Civil Rights Defenders

De manipulationer som sprids är så enkla att det inte behövs mycket tankearbete för att avslöja dem som manipulationer. Ändå sprids bilderna effektivt när folk inte tänker efter och tror på vad de ser.

Deltog Zelenskyj i Prideparad år 1991?

Den här manipulerade bilden, som föreställer en påstådd Volodymyr Zelenskyj på Prideparad i New York, spreds på sociala medier i höstas för att misstänkliggöra Ukrainas president.

fejkbild av Zelenskyj på Pride parad i spända lädershosrt och stor peruk
Bildtext Till vänster originalbilden och till höger den manipulerade bilden.
Bild: Heidi Maria Finnilä / Yle

Hade Zelenskyj på riktigt varit på Prideparad i New York år 1991 skulle han ha varit 13 år gammal och personen på bilden ser äldre ut än så.

Redan nu kan artificiell intelligens skapa texter som ser verkliga ut, men artificiell intelligens kan inte tänka. Bildmanipulationer har dessutom funnits sedan man skapade kameran. Det har alltid varit möjligt att manipulera fotografier. Inget av det här är nytt. Det är bara teknologin som är nyare.

Det viktiga är att vi förstår att det finns stater som vill sprida falsk information. Och de väljer de metoder som ger störst effekt med minst investering.

Martin Fällman, Civil Rights Defenders

Tror du att kommande generationer blir bättre på att se skillnad mellan sant och falskt i medieflödet?

– Det är upp till er som arbetar inom media. Vi på Civil Rights Defenders har inte sett någon förändring i kvaliteten av den desinformation som sprids, konstaterar Martin Fällman.

Enligt honom är det viktigt att nya generationer får vägledning i hur man ser skillnad på sant och falskt. Med det allra viktigaste är att sakta ner.

– Vi har så många olika appar för att sprida information. Vi delar snabbt något som vi reagerat på med känsla och så delar våra vänner det och det är just vad spridarna av lögner utnyttjar. Snabbheten utnyttjas för att sprida desinformation, påminner Martin Fällman.

Stanna upp och tänk till innan du delar

En viktig del av källkritiken är att sakta ner i processen och tänka till innan man delar. Det är viktigt att förstå att man inte behöver dela allt som känns spännande eller skojigt.

– Ta ett ögonblick och tänk på vad du har sett. Innehållet kan vara chockerande och berörande, men måste jag dela det direkt? Eller kan jag först ta reda på mer information? föreslår Martin Fällman.

Bildkollage med Twittercitat mot en bakgrund med den blåa fågel som är Twitters logotyp.
Bildtext Ryska trollfabriker har bråda tider, men tillsvidare är deras lögner lätta att avslöja. I det här fallet stavar trollet inte särskilt väl på finska.
Bild: Maija Hurme / Yle

Att tänka efter innan man delar är något som var och en av oss ibland kunde fundera mer på.

Lätt att kapa Facebook-konton

På sistone har allt fler personers Facebook-konton blivit kapade. Ett exempel på det är att en Facebook-kontakt ber dig skicka ditt telefonnummer via Messenger.

Du ska aldrig ge ditt telefonnummer via Messenger om du inte är säker på att det på riktigt är din vän som ber om det. Det är mycket vanligt att folk skapar falska konton.

Martin Fällman, Civil Rights Defenders

Oftast handlar det om standard-bedrägerier. De flesta bedragare bryr sig inte så mycket om vem de låtsas vara, utan de försöker ta sig in på någons konto och använder sedan kontot för helt vanliga tråkiga bedrägerier, berättar Martin Fällman.

En identitetskapning handlar sällan om att komma över särskilt stora mängder hemligstämplad information. Det handlar mest om att man skickar meddelanden till det kapade kontots kontakter och ber om pengar.

Hastigheten kan användas som ett trick för att få människor att vara mindre källkritiska.

Martin Fällman, Civil Rights Defenders

Typiskt för lurendrejare är att skapa en känsla av att det är bråttom.

– Jag vet inte hur många mejl jag har fått av min ”chef”, det vill säga någon som använder en fejkad e-postadress och påstår sig vara min chef, som skriver att det är bråttom och att jag omedelbart måste hjälpa till med att överföra pengar till ett bankkonto, berättar Martin Fällman.

I allmänhet är det frågan om ganska stora summor till ett konto någonstans i Kina. Tanken hos svindlarna är att skicka ett mejl från en auktoritet, signalera att det är bråttom och att du har möjlighet att göra din chef en tjänst.

Och då är det lätt hänt att man inte stannar upp och tänker efter. Exakt samma problem gäller i fråga om källkritiken.

– Därför är det så viktigt med utbildning i källkritik. För det är så lätt i dagens digitala verklighet att göra saker snabbt utan att tänka efter, suckar Martin Fällman.

Men enligt Fällman hjälper det inte att konstant vara rädd för att blir lurad. Inte heller hjälper det att skämmas om man blivit lurad.

Det som är viktigt är att förstå i vems intresse det är att lura och även ha beredskap att klara av situationer där vi blir lurade.

Martin Fällman, Civil Rights Defenders

I allmänhet går världen inte under av att man blivit lurad på nätet. Men det lönar sig att känna till vilka grupper som sprider desinformation och varför. Det finns både ekonomiska och politiska intressen bakom desinformation och alltid är det någon som vinner när någon annan förlorar.