Möt människorna som städar ditt medieflöde
Dokumentären The Cleaners är en bra inblick i en mycket komplicerad situation.
När de sociala medierna slog igenom med buller och bång utlovade Facebook, YouTube och Twitter med flera innehåll utan ekonomiska eller geografiska hinder. Lösningen på många av mänsklighetens problem var mer kommunikation och större förståelse.
Men ganska snabbt blev började det också frodas terroristpropaganda och radikala åsikter i det fria medieflödet. I dag i den utsträckningen att det påverkar politisk agenda och utlöser sporadiska våldsbrott runt om i världen. Här sprids också våld, tortyr och barnpornografi.
Den stora majoriteten av användare har reagerat med avsky och fruktan och myndigheter svarat med nya lagar för att försöka kontrollera kontroversiellt material.
Med tiden har helt enkelt behovet av, och kravet på, kontrollerat innehåll blivit allt större. Frågan är vem som skall, och vem som kan ta kontrollen? Och vem som skall sköta det smutsiga arbetet?
Storbolagens "renhållningsarbetare"
Silicon Valley har sitt eget sätt att handskas med problemet. Med hjälp av innehållsmoderatorer kan man kontrollera vad som publiceras på ens plattform. En verksamhet som vuxit till en jätteindustri i det fördolda.
En verksamhet du troligtvis inte hört mycket om och som bolagen inom sociala medier gör sitt bästa för att dölja. Och medan reglerna skrivs av storföretagen i Silicon Valley finns moderatorerna huvudkvarter i Manila på Filippinerna.
Här finns tiotusentals anonyma unga ”digitala renhållningsarbetare” som modererar tusentals störande och kränkande bilder och videos under sitt tio timmar långa arbetspass. Att inte påverkas psykiskt av materialet är omöjligt.
Samtidigt väcks större frågor hos arbetarna som på sitt sätt är tunga att bära. Vad klassas som konst, vad är propaganda, vad är fake news och vad är god journalistik?
Hur skall man någonsin hitta balansen så att mediekanalerna inte skall kännas laglösa men inte heller fulla med censur. Hur skall man på några sekunder kunna avgöra vad som är rätt och vad som är fel i en konflikt på andra sidan jorden?
I dokumentären "The Cleaners" möter vi några av alla dessa innehållsmoderatorer. Dessa underbetalda arbetare i tredje världen skall inte bara skydda oss i västvärlden mot det onda, de skall också gärna upprätthålla utopin om de genomgoda sociala medierna.
Här kan du läsa mer om några av dokumentärens huvudpersoner:
Bilderna som inte försvinner
Han säger skämtsamt att han kunde vara inskriven i Guinness Rekordbok som den snabbaste innehållsmoderatorn. Inte omöjligt eftersom han granskar närmare 25 000 bilder per dag.
Han älskar sitt jobb och försöker hålla avstånd till det påfrestande och emotionellt tunga innehållet. Men vissa videor etsar sig fast i hans huvud och följer med honom hem.
Källa: Dokumentärens presskit / fritt översatt
Det verkade vara ett skämt. Vi visste inte om att det var på riktigt. Han försökte ta livet av sig genom att hänga sig i ett rep. Det var liveströmmat och många tittade. Så länge han faktiskt inte tagit livet av sig fick vi inte stoppa strömningen. Om vi sätter stopp för såna saker är det vi som råkar illa ut.
Innehållsmoderator i dokumentären
Arbetet som kulturkrock
Uppfostrad i en katolsk familj har hon byggt upp en hård moral till sexualitet och nakenhet. Hon ser det som sin uppgift att skydda världen mot de syndiga bilderna online.
Samtidigt driver hennes nyfikenhet henne mot det oanständiga. Det finns en "guilty pleasure" i jobbet och hon slits mellan religiösa värderingar och en lust att utforska.
Källa: Dokumentärens presskit / fritt översatt
Det allvarligaste misstag man kan göra är att godkänna nakenbilder. Bröst och manliga könsdelar är fullständigt oacceptabla
Innehållsmoderator i dokumentären
Drömmen om ett riktigt jobb
Hon gjorde allt för att skaffa sig ett riktigt jobb och fick en första anställning som innehållsmoderator. Hon må jobba i Manilas affärsdistrikt som hon vill men innehållet hon modererar påverkar henne och många av hennes medarbetare.
Hon är arg och ifrågasätter varför skadliga jobb skall utlokaliseras till tredje världen.
Källa: Dokumentärens presskit / fritt översatt
Man måste hålla allt hemligt. Ingen får känna till vårt arbete. Om folk kände till det, skulle det väcka nyfikenhet.
Innehållsmoderator i dokumentären.
Som en sniper
Han jämför sig med Rodrigo Duterte - Filippinernas president som "städat undan" 10 000 knarklangare, missbrukare och hemlösa sen han kom till makten.
Han är stolt över sin hårda moderering, men mycket av det han skall ta ställning till gäller politiska konflikter han inte vet mycket om. Modereringen kräver ändå snabba beslut, som en sniper i ett dataspel.
Källa: Dokumentärens presskit / fritt översatt
Stor gråzon förbryllar också storbolagen
Förutom innehållsmoderatorerna möter vi i dokumentären också folk från Silicon Valley.
Vi träffar bland andra Nicole Wong som tidigare jobbat både för Google och Twitter och en av dem som varit med och byggt upp regler och arbetsstruktur hos innehållsmoderatorerna. Hon har hela sitt arbetsliv arbetat mot censur online och representerar den ursprungliga drömmen om den öppenhet som sociala medier skulle skapa.
När Saddam Hussein avrättades smygfilmades avrättningen för att sen läggas upp på Youtube. Två filmer laddades upp, en visade hängningen och den andra hans kropp efter avrättningen. Vi tog beslutet att låta filmen som visade hängningen vara kvar eftersom den kändes viktig ur ett historiskt perspektiv. Jag vet faktiskt inte om vi fattade rätt beslut. Det får historien utvisa.
Nicole Wong i dokumentären.
Vi möter också Antonio Garcia Martinez, tidigare product manager på Facebook, som kan konstatera att de sociala medierna lite mot sin vilja fått enorm makt. På exempelvis Facebook själv ser sig som teknikföretag och inte ett mediebolag. Trots det sätter man agendan för otaliga tidningar.
Liten snopp i fokus vid stor konstnärsframgång
I slutändan har modereringen naturligtvis också påverkat användare av sociala medier. För vissa har det inneburit att enstaka bilder raderats, för andra har det haft stor inverkan i karriären.
Konstnären Illma Gore målade 2016 en tavla av Donald Trump med liten penis. Tavlan fick namnet "Make America great again" och blev en viral hit. Miljontals människor delade den på flera plattformar.
Karriären tog enorm fart men raserades lika fort när alla hennes konton stängdes samtidigt. Hennes kanal för att sprida sin konst och hennes möjligheter att kommunicera vad som hänt till sina följare försvann på en gång.
Det kan anses vara porr, men konst skildrar något. Det är inget foto som har tagits utan lov. Det är ett fiktivt verk. Det innehåller inget våld eller sex.
Illma Gore i dokumentären
I dokumentären träffar vi också Abdulwahab Tahhan som arbetar med att samla information om exemeplvis kriget i Syrien för organisationen NGO Airwars.
Organisationen arbetar med att arkivera videosnuttar när de dyker upp på sociala medier innan de eventuellt blockas och försvinner för gott. I videorna ligger stor information om kriget: vem som utför bombningar, var de utförs, effekten och förödelsen efter.
Dessa videos tagna av privatpersoner utmanar de uttalanden som ges av de stridande parterna. Men med censuren blir det allt svårare att få igenom det budskapet.
Är sociala medierna demokratins bästa vän eller värsta fiende? Gör storbolag som Facebook, Google och Twitter tillräckligt för att kontrollera sitt innehåll? Är det rättvist att underbetalda arbetare skall genomföra ett nära på omöjligt arbete och dessutom må psykiskt dåligt av innehållet de konfronteras med?
De fria sociala mediernas framtid ligger i vågskålen. Dokumentären The Cleaners är en bra inblick i en mycket komplicerad situation. Se den på Yle Arenan.
The Cleaners finns tillgänglig 90 dagar på Yle Arenan (publiceras 11.11.2018 kl. 06.00). I Yle Fem sänds dokumentären söndag 11.11.2018 kl. 22.00
Orginaltitel: The Cleaners (Tyskland, 2018)
En dokumentär av Hans Block & Moritz Riesewick