Youtube tog bort 110 000 hatvideor på kort tid – experter: Tänk kritiskt om extremt innehåll

Youtube har tagit bort fem gånger fler hatiska videor under det andra kvartalet i år jämfört med samma period i fjol. Sådant här innehåll förekommer ändå fortfarande och det är viktigt att vuxna intresserar sig för ungas digitala liv, säger experter.

På videoplattformen Youtube är det lätt hänt att användaren styrs vidare till mer extremt innehåll.

En ny vetenskaplig analys av 79 miljoner kommentarer på olika Youtubekanaler bekräftar att det här fenomenet är verkligt och att det gäller en "avsevärd" mängd användare.

Användaren kan ha börjat med att titta på nationalistiska videor eller videor av personer som är emot det de ser som politisk korrekthet i media och vetenskapen, men i slutändan kan han eller hon hamna till exempel på högerextremt innehåll.

Maarit Suhonen, socialpsykolog på föreningen Rädda barnen i Finland, tycker att det är bra att det har forskats i det här fenomenet men hon är kritisk till att Youtube slussar vidare folk så här.

– Det är definitivt oroande, säger hon.

Atte Oksanen som är professor i socialpsykologi vid Tammerfors universitet säger att det enligt forskning är ett fenomen som är illa både för individen och för samhället.

– Redan det att man ser hatiskt innehåll har negativ inverkan på förtroendet och på de rädslor man har, konstaterar han.

Handlar om att hålla användarens intresse uppe

Radikaliseringen på nätet är ett globalt fenomen som också gäller Finland.

– Sociala medier visar användarna polariserande och möjligtvis radikaliserande innehåll för det väcker känslor och får dem att stanna kvar så länge som möjligt, säger Suhonen.

Det handlar alltså om att erbjuda relaterat innehåll som samtidigt väcker känslor. Det kan vara positivt eller negativt, beroende på vad man har tittat på tidigare.

– Om jag ser på gulliga djurvideor, så får jag mer gulliga djurvideor. Där är samma målsättning, kommenterar Isabella Holm som är digital antropolog vid teknologi- och designföretaget Reaktor.

Folk i alla åldrar kan råka ut för hatiskt innehåll på Youtube, men unga användare hör ofta till de som är mest utsatta.

Nya regler

I år har Youtube ändå sett över sitt regelverk för hatspråk och antisemitism så reglerna är nu striktare.

Youtube berättade den här veckan att det har lett till att fem gånger så många videoklipp helt har tagits bort under perioden april–juni, jämfört med samma period i fjol.

Konkret har företaget tagit bort drygt 111 000 videor, närmare 18 000 kanaler och 538 miljoner kommentarer.

Dessutom har man automatiskt minskat synligheten för många videor som bedöms vara gränsfall.

– Det är definitivt en bra början. Det har redan länge talats om att sociala medier polariserar och leder till extrema ideologier, och det har oroat många. Men mycket behöver ännu göras, säger Maarit Suhonen på Rädda barnen.

Kritiker påpekar också att det fortfarande är lätt att hitta antisemitiskt och rasistiskt innehåll på Youtube.

Att ta bort innehåll löser inte heller problemet, för användare kan flytta sig annanstans, säger professorn i socialpsykologi, Atte Oksanen.

– Det är ändå en bra början att rensa upp på sådana sociala plattformar som många människor använder sig av, säger Oksanen.

Isabella Holm vid teknologi- och designföretaget Reaktor tycker för sin del att det är bra att Youtube och andra sociala medier har börjat ta mer ansvar för det innehåll de sprider, istället för att bara hänvisa till att de är plattformar utan innehållsansvar.

Det gjorde de ännu inte för några år sedan.

– Jag är hemskt glad att se att samhällsansvar är något som också börjar beröra de stora digitala jättarna, säger Holm.

Gäller inte bara Youtube

Polariseringen gäller dessutom Facebook och Instagram, och flera andra sociala medier.

– Det är samma typs algoritmer, det baserar sig på rekommendationer och vad du sett på tidigare, påpekar den digitala antropologen Isabella Holm.

Samtidigt är det inte lätt att moderera på ett korrekt sätt. Till exempel på Instagram kan det finnas mer eller mindre högerextrema eller rasistiska memer, eller skämt, och många av dem är gränsfall.

– Just det där gör det svårt. Det är lättare när det kommer till något svart eller vitt, att det inte är okej. Men sedan är det är faktum att många av de tjänster vi använder kommer från USA och hur de modereras påverkas av den värdegrund som finns i det samhället.

Så här kan du diskutera om extremt innehåll

Vad borde föräldrar göra om de märker att deras barn börjar titta på mer och mer extremt innehåll på Youtube?

– Det är mycket viktigt att tala med sina barn om deras digitala liv. Att faktiskt intressera sig för det som försiggår i en tonårings liv och då ingår det också om de tillbringar mycket tid på Youtube, att fråga vad de tycker om att se på.

Hon tillägger att det kan vara en bra öppning till att öppna upp också andra perspektiv, om man som förälder är orolig för att barnet börjat konsumera hatiskt eller extremt innehåll.

På Rädda barnen är man inne på samma linje som Isabella Holm. Man har ett pågående projekt som går ut på utbilda ungdomsarbetare runtom i landet för att kunna tackla den radikalisering unga råkar ut för på nätet.

Projekt ska motverka extrema åsikter

Projektet kallas Radical web, eller den radikala webben och utbildningar kommer att ske till exempel i Åbo, Uleåborg och Tammerfors nu under hösten.

Det viktiga för ungdomsarbetare, men också till exempel för föräldrar, handlar om hur man borde tala med unga om radikalt innehåll på nätet. Att göra det är viktigt, men inte nödvändigtvis så lätt.

– Det är viktigt att vara så vänlig och nyfiken som möjligt. Om man direkt dömer ut den andra personens åsikter eller funderingar så kommer man inte så långt, säger Maarit Suhonen på Rädda barnen.

Hon tillägger att det är viktigt att vuxna pratar med unga om radikala innehåll och om fenomen som används som bränsle i sådana här diskussioner, till exempel om invandring och diskriminering.

– Om den unga har frågor gällande sådana här ämnen och vårdnadshavaren inte vill befatta sig med det så kan den unga lätt hitta en diskussionskamrat via nätet; kanske någon som har betydligt mer extrema åsikter, säger hon.

Gynna öppna och dumma frågor

Det gäller att ställa öppna frågor som man inte kan svara ja eller nej på, betonar hon.

– Det gäller att modigt ställa också så kallade “dumma” frågor, för de kan få den unga att öppna upp hur den unga tänker, och få honom eller henne att tänka kritiskt och inte så svartvitt.

Hon föreslår att man kan till exempel fråga vad den unga tycker om materialet, vad han eller hon får ut av det.

Dessutom kan man be personen tänka på motiven bakom innehållet, och spekulera kring vad det troligen försöker åstadkomma. Vill det till exempel att vi ska känna en viss känsla, såsom hat, och vems intressen gynnar det, samt vilken världsbild representerar det.

– Förstås måste man anpassa diskussionen enligt hur gammal och mogen ungdomen är, tillägger Suhonen.

Dessutom är det avgörande att vara lyhörd och diskutera på riktigt; inte bara diktera.

Suhonen rekommenderar också föräldrar att fråga sina barn vem de diskuterar med på nätet, vilket slags innehåll barnet konsumerar och också be honom eller henne att visa sina favoritsidor, favoritvideor och favorityoutubers.