Johanna Törn-Mangs: Yles värderingar och uppdrag ska avspeglas i användningen av AI

Yles värderingar och uppdrag ska avspeglas i hur vi utnyttjar artificiell intelligens, skriver Johanna Törn-Mangs, som ansvarar för utarbetandet av nya principer för ansvarsfull användning av artificiell intelligens på Yle.

I somras publicerade det amerikanska public service-radiobolaget NPR ett avsnitt av ekonomipodden Planet Money, där manuset var skrivet av artificiell intelligens (AI) och den ena programledaren skapats genom att klona en tidigare programledares röst och sätt att prata med hjälp av AI.

NPR:s experiment är inte alls unikt i dessa dagar. AI har i åratal använts som hjälpmedel på redaktionerna, men på senare tid har allt fler medieföretag börjat testa och använda AI på nya sätt, framför allt i produktionen av nyheter och annat innehåll. Det har resulterat i AI-nyhetsankare på tv och AI-sammanfattningar av nyhetsartiklar på webben. AI har också regisserat och klippt tv-serier och filmer, och till och med förvandlat webbnyheter till raplåtar.

Utvecklingen går snabbt framåt

På Yle är AI inte något nytt. Man kan med fog säga att Yle varit föregångare då det gäller bruk av AI inom mediebranschen. På Yle har vi i åratal både genomfört olika pilotprojekt och också börjat använda AI på olika sätt i den dagliga verksamheten. Det gäller allt från rekommendationer på Yle Arenan och NHL-matchresultat (länk på finska) som gjordes för många år sedan, till färskare exempel som ljudnyheter utifrån webbtexter och nyheter på ukrainska.

Och användningen av AI på Yles redaktioner fortsätter. Bland annat jobbar vi som bäst aktivt med att utveckla rekommendationerna på Yle Arenan, med målet att erbjuda inloggade användare en ännu bättre och mer personanpassad tjänst. Utvecklingen av tjänster i en mer personanpassad riktning bygger på AI och maskininlärning, och personliga rekommendationer som skapas utifrån dem.

Användningen av AI är starkt förknippad med etik

I framtiden väntas AI revolutionera många olika branscher - läkarvetenskap, kundtjänst, juridik, kodning, marknadsföring och så vidare. Kommer den att revolutionera också journalistiken och produktionen av annat medieinnehåll? Många experter anser åtminstone att de medieföretag, som klarar av att utnyttja AI bäst, kommer att avgå med segern.

Ur ett medieföretags synvinkel känns det emellanåt som om det inte finns någon gräns för vad som är möjligt, och att det nu är bråttom med att utnyttja all tillgänglig AI i så stor utsträckning som möjligt.

Men ett ansvarsfullt public service-bolag måste också fundera på hur vi vill utnyttja AI på redaktionerna. Användningen av AI är starkt förknippad med etik och med etiska val. Yles värderingar och uppdrag ska avspeglas i det sätt på vilket vi utnyttjar AI.

Johanna Törn-Mangs

Utan en etisk diskussion är det omöjligt att hantera de risker som är förknippade med AI.

Rätt frågor vid rätt tidpunkt

Ofta tror man att en etisk diskussion om AI enbart handlar om att begrunda frågor som i vilken mån användningen av AI påverkar mänskligheten och samhället i stort.

Blir AI mera intelligent än människan? Tar AI över världen? Det är viktigt att ett public service-bolag som Yle diskuterar också den här typen av existentiella frågor.

Men ett ansvarsfullt förhållningssätt till AI handlar ändå i huvudsak om att föra betydligt mera jordnära diskussioner. En ansvarsfull utveckling och användning av AI innebär att man måste ha ett systematiskt förhållningssätt till data och algoritmer. Det handlar i stor utsträckning om att vi människor ska ha en förmåga att ställa rätt frågor vid rätt tidpunkt.

Varför ska vi använda just AI till att lösa det aktuella problemet? Använder vi rätt data när vi tränar AI? Uppfyller data vårt ändamål? Vilka skevheter och ofullständigheter kan finnas i de data som AI tränats på?

Och vad optimerar algoritmen egentligen? Vad ber vi algoritmen göra? Ber vi om det på rätt sätt? Förstår vi vad algoritmen gör? Och kan vi förklara hur den fungerar för andra?

Vad ska algoritmernas slutsatser användas till? Vilka är följderna och för vem? Vem ansvarar för den eventuella skada som algoritmen orsakar?

Och eftersom en av Yles mest centrala värderingar är pålitlighet, är de frågor som har att göra med det särskilt viktiga för oss. Hur påverkar användningen av AI finländarnas förtroende för Yle? Hur påverkar AI förtroendet för mediebranschen? Hur påverkar användningen av AI vad vi uppfattar som sanning i vårt samhälle?

Det här är grundläggande frågor i ett bolag vars uppdrag är att stärka samhället och kulturen. Om publiken inte litar på oss kan vi inte utföra vårt uppdrag, och därför kan de etiska val Yle gör i anslutning till AI också ha en inverkan på vårt samhälle i stort.

Därför vill Yle vara aktivt och påverka hur AI utnyttjas i mediebranschen till nytta för medborgarna. Vi vill också hjälpa finländarna att förstå följderna av AI.

AI genomsyrar allt fler funktioner

Nu är ju detta med etiska frågor förknippat med AI inget nytt för Yle. Vi har begrundat ansvarsfull användning av AI i flera sammanhang. Det finns till exempel redan regler för hur vi använder AI på nyhetsredaktionerna, och hur vi samlar in och hanterar data.

Men på senare tid har vi konstaterat att det inte räcker att ha etiska principer som gäller enbart för vissa områden eller enheter inom Yle. AI genomsyrar en allt större del av verksamheten. Vi behöver ett övergripande regelverk för hur vi använder AI inom hela bolaget.

Därför har vi denna höst påbörjat ett omfattande arbete för att skriva nya principer för en ansvarsfull användning av AI inom hela bolaget.

Samtidigt ser vi ett behov att se över beslutsprocesserna i anslutning till AI. Vi vill klargöra vem som har ansvar för vad, och skapa en modell för hur vi fattar beslut i frågor som har att göra med AI.

Hot och möjligheter

Chat GPT, som bygger på generativ AI, är en av de snabbast växande apparna riktade till konsumenter någonsin. Som bäst ökar användningen av AI explosionsartat. Mängden data ökar snabbt, och det blir ständigt billigare och lättare att utnyttja data.

Man får lätt känslan av att det är omöjligt att behärska helheten, och att människohjärnan inte har någon chans att hänga med.

Jag tror ändå att vi genom att sätta oss in i frågeställningarna, och genom att fundera igenom våra etiska val tillsammans, kan lyckas navigera i den nya verkligheten. Därför är den dominerande känslan inte rädsla, utan entusiasm.

Johanna Törn-Mangs,
Svenska Yles ansvariga redaktör som ansvarar för utarbetandet av nya principer för ansvarsfull användning av artificiell intelligens på Yle.