Hoppa till huvudinnehåll

Utrikes

Läcka visar: Facebook famlar i världen, förstår sig inte på språk och kulturer

Facebook-emojin och ett förundrat robothuvud.
Bild: Joonas Haverinen / Yle

Facebook har under många års tid aggressivt expanderat över hela världen. Yle har fått tillgång till interna dokument som visar att bolaget är medvetet om riskerna med att innehållsgranskningen inte håller måttet.

Att granska det innehåll som publiceras på Facebook runt om i världen bereder bolaget stora svårigheter. Såväl den manuella modereringen som de automatiska systemen är bristfälliga. Bolagets problem beskrivs i läckta dokument som Yle har kommit över.

De dokument som visselblåsaren Frances Haugen har överlåtit till den amerikanska tillsynsmyndigheten Securities and Exchange Commission visar att Facebooks system i första hand har tagits fram för att fungera på engelska och uttryckligen i Förenta staterna. I de interna rapporterna medger man öppet att systemen fungerar betydligt sämre utanför USA.

Facebooks uppmärksamhet och resurer styrs ofta just till Förenta staterna. Det team som har hand om innehållsmoderering var i fjol nästan helt upptaget med det amerikanska presidentvalet.

Bolaget har försökt åtgärda problemeen genom att sätta mera resurser på instabila och våldsdrabbade länder, tills vidare med magra resultat.

Att genomslaget blivit litet beror på att Facebook ofta saknar förståelse för kulturer och språk i olika länder.

Till exempel arabiska - som talas i över 20 länder på över 30 olika dialekter, modereras på två ställen, i tyska Essen och i Casablanca i Marocko. Arabiska är det tredje vanligaste språket på Facebook och nästan alla arabisktalande länder definieras som riskländer i bolagets bedömning. Enligt dokumenten är det ändå bara cirka 550 personer som modererar på arabiska.

På Facebook är man medveten om problemet. I en intern rapport om arabiska språket konstaterar man till exempel att en marockan kan förstå diskussioner i Tunisien eller Algeriet, men nästan säkert får problem med syriskt eller jemenitiskt innehåll.

Ändå styr Facebook en stor del av det arabiska innehållet till Casablanca för granskning.

Algoritmer löser inte Facebooks problem

Som vanligt i Silicon Valley försöker Facebook lösa mänskliga problem med hjälp av teknologi.

– Vi behöver algoritmer som fungerar i stor skala och förstår den kulturella kontexten, skrivs det i en rapport kallad Operation Gröna lyktan.

De läckta dokumenten visar ändå att det här är mycket utmanande. I nuläget gör Facebooks algoritmer ofta feltolkningar av ord, även på engelska.

Läget blir inte bättre av att coronapandemin har tvingat Facebook att i högre grad förlita sig på algoritmer i sin innehållsgranskning. Det står nu klart för företaget att algoritmer inte klarar alla uppgifter.

I synnerhet hatprat och desinformation orsakar problem. Ständigt nya omskrivningar och kulturella skillnader gör det mycket svårt att känna igen exempelvis hatpropagande med hjälp av artificiell intelligens.

Emellanåt gör de automatiska systemen klumpiga fel, som kan få makabra drag i sin kontext.

Då Indonesien skakades av en kraftig jordbävning år 2019, skrev många indonesier selamat (i säkerhet) på Facebook. Men selamat är också en lyckönskning på indonesiska, och det var i den betydelsen det tolkades av Facebooks algoritm. Inläggen där indonesierna meddelade att var i säkerhet blev dekorerade med ballonger och konfetti av den artificiella intelligensen.

Alla använder inte Facebook som amerikanerna gör

Genom läckan får man en bild av ett amerikanskt storföretag som brer ut sig över världen utan att bry sig om lokala seder eller kulturer. Företaget erbjuder en och samma tjänst åt rika västländer och utvecklingsländer på randen till inbördeskrig.

Bolagets brist på insikt tas upp i flera interna dokument.

Hösten 2018 förundrade sig Facebooks anställda över att röstmeddelanden är så populära i Kambodja. Landet med bara 16 miljoner invånare stod för nästan hälften av alla röstmeddelanden på Facebooks chattapp Messenger.

Facebook försökte lösa mysteriet men lyckades bara hitta en enda kambodjan att intervjua om ämnet. Förra månaden skrev Rest of World att röstmeddelandenas popularitet sannolikt beror på att det khmeriska tangentbordet är mycket svåranvänt.

Facebooks egen undersökning lyckades inte reda ut orsaken, utan kom istället att handla om hur användarna upplever Facebooks tjänster. Företaget förbisåg att tjänsterna används på olika sätt i olika länder.

Det här tas upp i en rapport om marknader under utveckling. Författarna påpekar att Facebooks antaganden om hur tjänsterna användss ofta slår fel i de fattigaste länderna.

I Myanmar är det exempelvis vanligt att köpa en färdig Facebook-profil, vilket gör att profilsidan inte uppfattas som personlig på samma sätt som i västvärlden. Om en myanmariers får sitt konto spärrat eller glömmer sitt lösenord skaffar hen en ny profil.

Facebook fungerar i Myanmar snarare som nyhetskälla än kommunikationsredskap. Appen används överlag på ett begränsat sätt.

De flesta myanmarier använder Facebook på engelska eftersom de inte känner till att appen finns på deras modersmål. Det här leder till att de använder en mycket begränsad uppsättning funktioner i appen och att de inte förstår instruktioner och felmeddelanden som dyker upp i rutan.

I en sådan användarmiljö är riskerna av en en helt annan karaktär än i Silicon Valley.

Facebooks okunskap leder till våld

År 2018 slog FN:s människorättsrapportörer fast att Facebook hade en roll i våldsamheterna i Myanmar där tusentals rohingya-muslimer dödades.

Enligt deras rapport möjliggjorde Facebooks dåliga övervakning att plattformen användes för hatpropaganda och uppvigling till våld. I vissa fall förstärkte Facebooks algoritmer till och med de här inläggen.

Rapporten anklagar Facebook för att reagera trögt och ineffektivt på desinformationen i dess tjänster.

Redan innan FN-rapporten kom hade Facebook meddelat att man ökar på resuserna i Myanmar. Det här syns också i de läckta dokumenten.

Facebook har definierat Myanmar och 39 andra länder som riskländer. I fallet Myanmar innebär det att burmesiska finns på nästan alla prioriteringslistor. Många dokument nämner också att man ska gå in för närmare samarbete med lokala människor.

Trots detta konstaterar en intern mellanrapport från sommaren 2020 att företagets klassificerare, indikatorer och faktagranskningar är bristfälliga i synnerhet i Myanmar och i Etiopien.

– Vi vet att vår övervakning inte är perfekt, men vi arbetar ständigt för att förbättra den och går igenom olika möjligheter för att lösa utmaningarna, säger Facebooks moderbolag Meta till Yle.

Myanmarierna visste vad de kunde lita på - tills Facebook kom

Förföljelserna av det huvudsakligen muslimska rohingyafolket går tillbaka till 1970-talet, långt innan Facebook uppstod.

Förföljelserna och våldsamheterna tilltog ändå samtidigt som användningen av sociala medier i landet ökade, påpekar en forskare i ett sammandrag av en intern paneldebatt som finns bland det läckta materialet.

Diskussionen som gällde läget i Myanmar och Sri Lanka visade att den tidigare indirekta demoniseringen av muslimer blev allt mera uttalad och rak i och med Facebook. I stället för att gå via media som kontrollerades av staten sprids hatpratet helt hämningslöst genom chattapparna.

Forskaren beskriver hur myanmarier som följde statscensurerade medier lärde sig vilka uppgifter man kunde lita på. Folk var inte blåögda då de läste tidningar med tomma spalter istället för nyheter.

Det enorma dataflödet i Facebook krossade de här överlevnadsstrategierna. Då människor tidigare litade på sina vänner, litar de nu på sina Facebook-vänner, konstaterade en av forskarna i paneldebatten.

Forskarna som deltar i diskussionen berättar att användningen av metaforer ökar då samhället glider mot folkmord. Med hjälp av metaforer försöker man få människor att bli accepterande åskådare.

För att känna igen metaforer krävs förståelse för den kulturella kontexten och det är mycket svårt för maskiner. Det är svårt även för människor.

I sammanfattningen av paneldebatten står det så här:

– Vi erkänner vår roll i hur Facebook används för att uppvigla till hat, skador och våld i den riktiga världen.