Hoppa till huvudinnehåll

Lögndetektorn: Tortyrfilmer, hotelser och porr - den som modererar diskussioner på nätet utsätts i sitt arbete för folks mörkaste sidor

näthat
Att moderera nätdiskussioner är ett psykiskt tungt jobb med dålig lön. näthat näthat

Diskussioner om nätetikett och artighet på internet var populära då diskussioner på nätet var ett nytt fenomen. Nu verkar det som att man gett upp med att försöka uppfostra allmänheten till artighet. Fokus ligger istället på att rensa bort de värsta hatinläggen. Men det är ett tungt arbete att moderera nätdiskussioner.

Och det är många som jobbar med att gallra bland det värsta som folk delar på nätet. Saga Raippalinna var en av dem tills hon blev utbränd. Ingen vet hur många moderatorer det finns i Finland. Man har sällan moderator som titel, i stället anställs man under benämningen kundservice.

Saga Raippalinna är en av de mest erfarna finländska moderatorerna. Hon har modererat nätdiskussioner sedan år 2005, först som frivillig och från och med 2006 som anställd.

Saga Raippalinna, kasvokuva
För Saga Raippalinna var modererandet ett kall, men till slut blev det för mycket. Saga Raippalinna, kasvokuva Bild: YLE / Alexandra_Malanin Yle Oppiminen,porträtt

Det är psykiskt tungt att moderera, ibland kan det t.o.m. vara farligt. Det har hänt att arga nätanvändare blivit hotfulla efter att de lyckats ta reda på moderatorns namn. Det har också Raippalinna fått uppleva.

- En del av de vidrigheter som moderatorer utsätts för är så hemska att det inte går att beskriva i en artikel. De är så grymma, säger Raippalinna, som i sitt arbete har sett det mesta.

Den stora allmänheten stöter sällan på det värsta innehållet, eftersom moderatorerna har hunnit raderat det. Men arbetet är krävande. En moderator måste kunna ta avstånd från innehåll som är traumatiserande, med de får sällan utbildning för krisarbete eller krishjälp.

Många uppfattar nätet som en ö som finns utanför verkligheten― Saga Raippalinna

- Folk publicerar de mest vidriga saker på nätet. Men det är inte nätets fel, det är människor bakom varje vidrig grej som läggs ut, säger Raippalinna.

Raippalinna blev utbränd och sjukskriven år 2016 och har nu så gott som slutat arbeta som moderator.

Anonym person framför en laptop
När folk är anonyma kan de visa sina värsta sidor. Anonym person framför en laptop Bild: Andrey Popov hackare,data,internet,Polykarbonat

Arbetet som moderator var först ett kall för Saga Raippalinna. Hon började jobba med modererande när de första sociala medierna kom år 2005. Trots att IRC, Internet Relay Chat, en finländsk chat-tjänst som utvecklats år 1998, inte kallades för ett socialt medium, så var den det i praktiken. Folk delade bilder, kommenterade dem och diskuterade. Som bäst hade IRC-galleriet över en halv miljon användare.

IRC-galleriets popularitet växte fort i början av 2000-talet när antalet digitala kameror ökade och det blev allt lättare att dela bilder på nätet. Tack vare den tekniska utvecklingen blev det också möjligt att skicka kommentarer i realtid genom textmeddelanden via sin telefon.

“Galtsu” var de ungas sometjänst och användarna var i åldern 15–25 år. När Raippalinna började moderera var hon själv i tjugoårsåldern och hon upplevde frivilligarbetet som både intressant och givande. Användarna var mottagliga när man tillrättavisade dem för dåligt beteende.

Skolattack i realtid på nätet

Sjunde november 2007 blev en vändpunkt. Raippalinna följde i realtid paniken som uppstod under massakern i Jokela. Skräcken spred sig över hela landet. Först hörde moderatorerna i IRC att något är på gång i Jokela. Vid det skedet hade kvällstidningarna bara en notis om händelsen, berättar Raippalinna.

Efter det hittade moderatorerna gärningsmannens manifest i IRC-galleriet. Moderatorerna förmedlade uppgifterna till polisen.

- Jag vet inte om polisen redan då visste namnet eller inte, säger Raippalinna.

De som jobbade på IRC-galleriet märkte att ungdomarna kände sig otrygga och tog också initiativ till en kris-chat i samarbete med Mannerheims barnskyddsförbund. När den värsta krisen var över, var alla som jobbade med IRC väldigt trötta.

Det är de vuxna som är problemet i sociala medier, inte de unga

Tyvärr blev sociala medier betydligt värre när de vuxna gjorde entré där.

De vuxna tog med sig det oförskämda snacket vid grillkön. När man tillrättavisar unga för dåligt beteende tar de åt sig och förbättrar sig, medan vuxna går till motattack och vägrar följa regler― Saga Raippalinna

Raippalinna ansvarade för modererandet på diskussionsforumet Suomi24 mellan åren 2014–16. På den tiden hade forumet 1,5 miljoner besök per vecka. Raippalinna berättar att hon under en arbetsdag gick igenom 8 000–10 000 meddelanden. Hon var den enda heltidsanställda moderatorn, andra modererade vid sidan av andra uppgifter.

Närbild på en laptop. På tangentbordet är två händer som lyses blåa av skenet från skärmen.
Problemet på nätet är inte ungas dåliga beteende, utan de vuxnas. Närbild på en laptop. På tangentbordet är två händer som lyses blåa av skenet från skärmen. Bild: Niklas Mäkinen / Yle Tangentbord,hatprat,skrivande,Kädet

Raippalinna berättar att hon använde i genomsnitt sex sekunder per bild. På den tiden hann hon gå igenom en tankeprocess där hon försökte sätta sig in i huvudet på både skribenten, mottagaren och föremålet för meddelandet.

Under den här tiden ska en moderator också beakta både lagparagrafer och användarvillkor.

Enligt Raippalinna är en moderators känsloreaktioner både en styrka och en svaghet. Om en moderator reagerar med för mycket känsla på meddelanden, blir det svårt att vara opartisk. Samtidigt kan magkänslan ofta underlätta arbetet och försnabba besluten.

Meddelanden är skribenternas egendom. För många är det ett hårt slag om ens meddelande raderas. Ofta handlar det om en stor fråga för skribenten, fast skribenten i fråga kanske inte är så bra på att uttrycka sig. Det här är något som man också borde respektera som moderator, förklarar Raippalinna.

En moderator får inte radera meddelanden bara för att åsikterna går isär med ens egna värdegrund
― Saga Raippalinna

Det största problemet är meddelanden som inte kan raderas enligt användarvillkoren eller lagen. Många skribenter är duktiga på att agera i en gråzon mellan lagparagrafer och lyckas sprida budskap som är både chockerande och kränkande, men som inte bryter mot reglerna.

På nätet finns personer som är experter på att trötta ut dem som modererar

De här personerna tröttar ut dem som modererar innehållet. De vet att en moderator blir tvungen att läsa varje ord och utnyttjar situationen för att få utlopp för sina egna våldsfantasier, berättar Raippalinna. Själv minns hon särskilt ett meddelande med sadistiska beskrivningar av hängning och flående.

- De här grupperingarna utsätter också journalister och poliser för sina fantasier och gör folks arbete så tungt att arbetet fördröjs och blir ibland till och med omöjligt, berättar Raippalinna.

Enligt Raippalinna finns det flera olika orsaker till att folk beter sig illa på nätet. En del ger utlopp för sin egen frustration och känsla av vanmakt. Nätet är den enda platsen i samhället där de får sin röst hörd och de kan bli beroende av den maktkänsla de får av att kommentera på nätet. Enligt Raippalinna är det både politisk aktivism och rädsla som driver många personer till ett störande beteende på nätet. En del av de här personerna agerar självständigt, en del agerar i grupp.

Nätet är den enda platsen i samhället där de får sin röst hörd och de kan bli beroende av den maktkänsla de får av att kommentera på nätet― Saga Raippalinna

Också i Finland finns det organiserad propagandistisk verksamhet. Helt vanliga medborgare kan obehindrat dras med i propagandistiska grupper. Utöver dem finns det också en liten grupp medvetna påverkare som antingen är aktivister eller anställda agitatorer.

Användarvillkor och lagparagrafer är moderatorernas rättesnöre

En moderator får inte radera meddelanden utgående från sina egna åsikter. Det är bara åsikter som bryter mot lagen eller nättjänstens regler som får raderas.

Ibland har jag varit tvungen att låta blir att radera kommentarer där man önskar min död om kommentarerna inte råkar gå mot nät-tjänstens regler― Saga Raippalinna

Moderatorerna följer diskussionerna både på eget initiativ och på basen av tips som de får av användarna. Tipsen är viktiga, eftersom de kan leda till att man får nys om ett större sammanhang där det förs flera diskussioner som bryter mot lag och regler.

Men enligt Saga Raippalinna är en god moderator inte den som raderar så mycket som möjligt eller åstadkommer mest disciplinära åtgärder.

Modereringen är som bäst om den gör diskussionen mer balanserad och respektfull och om den leder till att användarna själva tar ansvar för ett sakligt innehåll― Saga Raippalinna

Medan Saga Raippalinna arbetade på Suomi24 som moderator dök det upp en ny nätpublikation som hette Mitä Vittua!? Senare ändrades namnet till MV-lehti. Raippalinna noterade den invandringsfientliga publikationens inverkan på diskussionsklimatet långt innan man började föra en offentlig diskussion om publikationen.

Utbränd efter en lavin av falska nyheter och hatretorik

Raippalinna började känna igen mer eller mindre rasistiska nyord som sajten MV spred i diskussionsforumet Suomi24 och som många användare anmälde till administratörerna som olämpliga.

Yleiskuva
Tidningen MV:s anhängare demonstrerade utanför tingsrätten i Helsingfors i juni 2018. Yleiskuva Bild: Mikko Koski / Yle Ilja Janitskin,Helsingfors tingsrätt,demonstrationer (samhälleliga händelser)

I och för sig var invandringsfientligt och antisemitiskt innehåll inget nytt för moderatorerna, men tidningen MV:s innehåll började spridas systematiskt i alla diskussioner, också när artiklarna inte hade något med innehållet i diskussionstråden att göra.

- Det fanns flera identiska kommentarer som kopierades till olika diskussionstrådar och det kryllade av kommentarer som hyllade tidningen MV som "den nya källan till yttrandefrihet och oberoende nyheter" och det hela eskalerade i förföljelser, våldsamma fantasier om invandrare, mordhot, bilder på döda människor, tortyr och videon där folk mördades. Mina arbetsdagar fylldes av aggression, berättar Raippalinna.

Diskussionsklimatet blev inflammerat och Raippalinna blev allt tröttare. Hatretoriken påverkade alla diskussionstrådar.

- Till slut var jag inget annat än moderator, fast jag borde ha hunnit vara, mor, hustru och vän.

I oktober 2018 dömdes publikationen MV:s grundare Ilja Janitskin i tingsrätten till 22 månaders ovillkorligt fängelsestraff för sammanlagt 16 olika brott. Enligt tingsrätten har han erbjudit en plattform för kränkande skriverier om flera olika personer.

Janitskin förnekar att han varit publikationens chefredaktör och bestrider också domen för grov ärekränkning, hets mot folkgrupp och brott mot upphovsrätten. Ärendet behandlas som bäst i hovrätten.

Traumatiserande arbete med usel lön

Internationella nättjänster har utlokaliserat sin moderering till fabriksliknande miljöer i länder med billig arbetskraft. Enligt uppgift finns det modereringsfabriker t e x på Filippinerna. Moderatorerna avkrävs tystnadsplikt, men uppgifter om olidliga arbetsomständigheter har läckt ut i internationell media.

I tekniktidningen The Verge berättar 12 anonyma moderatorer om sitt arbete som för Facebook. I sitt arbete ser de videofilmer där folk mördas och våldtas, många får panikångestattacker och lider av post-traumatisk stress, men arbetsgivaren erbjuder knappt någon hjälp. Cheferna avskedar moderatorer av minsta orsak. I brist på traumaterapi bedövar de anställda sina sinnen med droger eller sex.

- Arbetet som moderator är psykiskt tungt och lönen är usel. Ingen kan garantera att man som praktikant bara ska få lätta case, för på nätet kan vad som helst komma emot en, säger Raippalinna.

Själv har hon också sett mycket sådant som hon gärna sluppit se.

Jag har sett tortyr, tonårspornografi och våldsamma bilder och bevittnat hotfulla situationer där en nätanvändare hotar en annan ― Saga Raippalinna

I Finland har moderatorer inget eget fackförbund, arbetsavtal, trauma- eller krisvård eller andra stödfunktioner. Yrkeskåren har inte ens en gemensam benämning. Arbetet utförs ofta vid sidan av annat arbete som journalist, praktikant eller inom kundtjänst.

- Ingen ser vad en moderator gör i praktiken. Chefen ser inte hurudant material den anställda går igenom. När ett meddelande raderas, blir det genast hemligt, förklarar Raippalinna och varnar för mängden av mental ohälsa som sociala medier kommer att leda till.

Sociala medier innebär en stor risk för mental hälsa eftersom var och en som är aktiv i sociala medier i praktiken också är en moderator. Vem som helst kan utsättas för trakasserier och störande kommentarer av främmande personer
― Saga Raippalinna

Trots att Saga Raippalinna inte längre arbetar som moderator, är hon fortfarande aktiv i sociala medier. Som hobbyverksamhet modererar hon en kroppspositiv Facebookgrupp med 30 000 medlemmar.

Dags att damma av nätetiketten

Raippalinna är övertygad om att också vuxna kan lära sig att diskutera civiliserat på nätet. Ett exempel på det här är enligt henne den politiska diskussionen som på sistone blivit rikare. Det här ger henne hopp.

Ett elakt troll kommer ut ur datorns tangentbord
Det borde inte vara omöjligt att lära sig vett och etikett på nätet. Ett elakt troll kommer ut ur datorns tangentbord Bild: Alexander Granholm Cyberhot,internet,troll,Näthat,näthat

Det är viktigt att undervisa folk i att uttrycka sig konstruktivt i stället för att tysta ner diskussioner.

I skolorna undervisas man också i att hantera känslor, det här är något som äldre generationer helt har gått miste om. Det är viktigt att lära sig att hantera konflikter i stället för att hindra dem
― Saga Raippalinna

Raippalinna är övertygad om att hon genom att berätta om modererandet i offentligheten påverkar diskussionsklimatet mycket mer än genom att moderera på heltid på Suomi24.

Hon hoppas på bättre arbetsomständigheter och uppskattning för dem som arbetar med att moderera nätdiskussioner och hoppas att alla tillsammans kan börja arbeta för ett bättre diskussionsklimat och skapa en gemensam nätetikett.

Vad man får säga på nätet och vem ansvarar för övervakningen?

-Medierna fattar själva beslut om sin moderering, men alla måste följa lagen.

- Moderatorer har ingen utbildning i Finland. Suomi24 och Aller Media startade tillsammans en modereringsutbildning där också Saga Raippalinna medverkade. Skolan skulle svara på det behov som det ökade antalet hatprat hade lett till. Utbildningen blev bara på försöksstadiet och det blev aldrig någon fortsättning på den.

- Varje nättjänst, community och journalistisk publikation fattar själv beslut om sin kommentarspolicy. Här kan du läsa om Yles diskussionspolicy: https://svenska.yle.fi/sida/diskussionspolicy
En del medier modererar kommentarerna före publicering, liksom yle, medan de flesta modererar efteråt.

- Lagen om yttrandefrihet i massmedia gäller all kommunikation, även diskussioner på nätet. Administratören kan ställas till svars för olagligt innehåll om man varit medveten om den. Det här gäller t o m FB-gruppers administratörer.
https://oikeusministerio.fi/artikkeli/-/asset_publisher/uusi-laki-laajentaa-keskustelupalstojen-yllapitajien-vastuuta?_101_INSTANCE_0tW6d2FGlU8O_languageId=sv_SE

- Europakommissionen övervakar hur aktivt sociala medier reagerar mot hatprat. Enligt en rapport som kommissionen publicerade i februari 2019 går FB igenom 93 % av användarnas anmälningar inom 24 timmar.
https://ec.europa.eu/info/sites/info/files/code_of_conduct_factsheet_7_web.pdf

Svenska Yle, vetenskapen och journalistiken

I Yles etiska regler konstateras att vi "tar hänsyn till relevanta fakta och olika perspektiv" samt att vi vågar "fråga och ifrågasätta."

Det konstateras också att vi ska "främja en pluralistisk samhällsdebatt" och att våra program "mångsidigt ska spegla olika åsikter".

Detta är grundläggande värderingar i all vår journalistik.

Men det betyder inte att alla åsikter per definition är likvärdiga ifall det finns en etablerad, vetenskapligt belagd konsensus kring en fråga. Klimatfrågan är en sådan fråga, men det finns också andra, t.ex. en del hälsofrågor.

Att framställa olika sidor i en debatt som skenbart likvärdiga kan nämligen skapa ett slags "falsk balans" i vår rapportering, som inte överensstämmer med verkligheten.

I så fall uppfyller inte journalistiken ett annat centralt villkor, nämligen att ge en så sanningsenlig bild som möjligt av det som sker.

Den här artikeln baserar sig på journalisten Johanna Vehkoos artikel
https://yle.fi/aihe/artikkeli/2019/11/10/valheenpaljastaja-kidutusvideoita-uhkauksia-ja-teinipornoa-nettikeskustelun

Vetamix

Nyligen publicerat - Vetamix