Många satsar på artificiell intelligens för att få snabba vinster - men ”algoritmer utan etik ger AI utan moral”, varnar expert

Företag och myndigheter använder sig allt mer av artificiell intelligens, eller AI. De här systemen borde utvecklas så att de bättre tar oss människor i betraktande, påpekar experter. Flera EU-länder har nyligen börjat titta på den här frågan på allvar - konsekvenserna av att låta bli kan bli alltför stora.

– Etiken inom AI borde diskuteras mycket mer, annars riskerar utvecklingen att gå helt i fel riktning, säger digitaliseringsexperten Anna Felländer.

Hon är verksam vid Kungliga tekniska högskolan i Stockholm, är rådgivare till den svenska digitaliseringsministern och senior rådgivare till konsultföretaget Boston consulting group.

Felländer tillägger att de vinster som AI kan ge är lockande.

– Men om man bara kör på så hamnar man lätt i en fallgrop såsom Facebook gjorde.

Felländer syftar alltså på att detaljerade data från 87 miljoner Facebook-profiler kunde missbrukas av analysföretaget Cambridge analytica.

– Absolut, det är ju ett exempel på när man inte har haft översyn, transparens och styrning kring hur man hanterar data och hur ens partnerorganisationer hanterar data.

Facebooks algoritmer har också fått kritik för hur de modererar inlägg, och att de i många fall inte har varit så bra på att känna igen propaganda, hatretorik med mera.

Felländer påpekar att AI och algoritmer ofta används utan att det finns kompetens eller mätmetoder för att förstå vad det leder till i ett bredare sammanhang.

Man kan jämföra det med att utföra ett experiment utan att bry sig om att titta på resultatet, menar hon.

– Vi behöver ha organisationer och myndigheter som arbetar proaktivt med att skapa transparens och förutsägbarhet i algoritmerna som används.

Framgång med att skapa effektiv AI kan bli den största händelsen i vår civilisations historia. Eller den värsta

― Professor Stephen Hawking

Det finns mycket olika uppfattningar om hur farligt det är att låta artificiell intelligens utvecklas obehindrat.

Till exempel den brittiska fysikern Stephen Hawking varnade att AI kan komma att innebära slutet för mänskligheten, om samhället inte kan styra dess utveckling tillräckligt.

– Framgång med att skapa effektiv AI kan bli den största händelsen i vår civilisations historia. Eller den värsta. Vi vet helt enkelt inte. Därmed kan vi inte veta om vi kommer att vara oändligt hjälpta av AI, eller ignoreras av den och åsidosatta eller möjligen förstörda av den här tekniken, sade Hawking i ett tal vid en teknikkonferens i Portugal i fjol.

Den tekniska utvecklingen möjliggör framsteg

Utvecklingen på AI-området är snabb, i och med att både hårdvara och mjukvara möjliggör det bättre än förr - något som Svenska Yle berättade om till exempel i februari.

Konsultföretag talar gärna om artificiell intelligens, och förbereder sig för tillfället för en kraftigt växande marknad. AI har blivit ett modeord, och en lösning för företag och myndigheter som vill försöka effektivera sin verksamhet.

Via mer automation hoppas man till exempel kunna hjälpa de anställda att hinna med mer, eller så har man kanske för avsikt att i förlängningen ge en del anställda sparken och låta datorprogram ta över.

Att tillväxten antas bli stor skvallrar samtidigt om att det ännu finns en hel del aktörer som inte har skaffat AI-lösningar, även om tekniken redan har blivit betydligt vanligare än till exempel för två år sedan.

Mindre effektivt men bättre

Felländer påpekar att i och med att AI-system fungerar och lär sig på basis av hur de programmeras så kan algoritmer utan etik ge artificiell intelligens utan moral. Gamla fördomar kan alltså cementeras och det finns risk att mångfald inte prioriteras.

– Just nu är det många unga vita män i stora teknikföretag som programmerar och det är en hjärnflykt från forskningen, så vare sig det är inom forskningen eller företag så måste vi börja med att skapa en viss typ av transparens i inledningsskedet.

Hon säger att AI-system borde köras genom etiska filter och etiska kontrollsystem.

– Och även fastän vi då skapar en mindre effektiv AI så behöver vi den här typen av inte nödbroms, men en pausknapp för att utvecklingen ska gå i önskad riktning.

Hur mycket information är det etiskt försvarbart att använda i kredit- och långivningsprocesser?

I allmänhet kan olika slags problem uppstå om ett AI-system inte är tillräckligt tränat eller om datamaterialet är bristfälligt.

AI som kombinerar öppet tillgängliga data från olika register kan också vara integritetskränkande för individen. Till exempel, hur mycket information är det etiskt försvarbart att använda i kredit- och långivningsprocesser?

Finland siktar högt

I statens AI-strategi som publicerades i oktober i fjol sägs att Finland ska bli ett av de främsta länderna i världen på att använda sig av artificiell intelligens.

Samtidigt nämner rapporten mycket litet om etik. Men det framkommer ändå att etiken borde sätta gränser för hur tekniken ska tillämpas - till exempel när det gäller öppna hälsodata, GPS-positionering eller användningen av robotar i vårdbranschen.

Ska vi skicka mer sockerreklam till sockerberoende? Är det etiskt försvarbart?

― Anna Felländer, digitaliseringsexpert

Felländer säger att verkligheten är att många aktörer tar i bruk AI i hopp om att få konkreta vinster. Och det lyckas de ofta också med.

– Företag är ju väldigt intresserade av att skapa personifiering och att därmed få lojala kunder som köper mer. Men de etiska värderingarna kopplat till det är ska vi skicka mer sockerreklam till sockerberoende. Är det etiskt försvarbart, oavsett om det är medvetet eller icke medvetet, frågar hon sig.

Svårt att kontrollera lärande AI

Dessutom förstärker AI-system lätt olika saker, och det hela kan ta skruv. Till exempel på Youtube så kan det bli slagsida på de videor som man rekommenderas se, på basis av vad man har tittat på tidigare.

AI skalar upp på ett sätt som man inte alltid kan förutsäga

― Anna Felländer, digitaliseringsexpert

En enskild video om matlagning leder till att systemet rekommenderar några matlagningsvideor till och sedan några till, och rätt vad det är ens flöde nästan fyllt av sådana videor. Detsamma kan ske med olika typer av extremt innehåll - till exempel våldsamma scener, konspirationsteorier och så vidare.

– Det brukar jag kalla att det skalar upp på ett sätt som man inte kan förutsäga, utan att AI-systemet tränas.

Digitala assistenter oroar

I dagens läge kan olika algoritmer samla in och använda data om en själv på sätt som folk inte inser.

Få vet till exempel vad allt de digitala assistenterna Amazon Echo eller Google home som håller på att bli vanligare också i finländska hem egentligen sparar för information.

Det är dessutom svårt att veta hur de här och andra liknande apparater kommer att utvecklas inom de kommande åren.

New York Times påpekade nyligen att det i patentansökningar framkommer att Amazon har utvecklat en algoritm som ska kunna fungera i flera olika apparater och till exempel kunna lyssna på och analysera vad folk säger att de älskar, köpte eller inte gillar.

Det här är värdefull information för kommersiella företag och kan användas för att rikta reklam.

Det är upp till var och en att avgöra om man vill ta risken att till exempel ha en digital assistent, eller om man vill använda sig av Facebook eller någon annan tjänst som bygger på algoritmer.

Man ska genom sin kundmakt kräva mer transparens kring hur data används och vilka de etiska värderingarna är

― Anna Felländer, digitaliseringsexpert

Digitala tjänster och produkter är ju också ofta till stor nytta för användarna.

– Som konsument och medborgare tycker jag att man ska vara balanserat försiktig och kanske genom sin kundmakt kräva mer transparens kring hur data används och de etiska värderingar som AI-beslutsprocesserna står för.

Hon efterlyser nu riktlinjer eller certifiering för hållbar AI. Och EU har också det här på gång. Mer om det senare i artikeln.

Det kommer att kosta mer än det smakar

― Anna Felländer.

Felländer säger att vi konsumenter och medborgare hittills har fått tjänster som gett stort mervärde. Man brukar tala om konsumentöverskott - att vi får saker gratis eller till ett billigt pris, trots att vi egentligen är beredda att betala betydligt mer. Det här är inte självklart i framtiden, menar hon.

– I framtiden kommer det att kosta mer än det smakar. Så det blir ett skifte av hur vi faktiskt upplever digitala tjänster och rekommendationerna, och kanske att vi också identifierar en bitter eftersmak.

Jag ser en bild framför mig där själva datamaterialet hanteras av individen själv så att man har en digital plånbok med sina egna data

― Anna Felländer

Datamedvetenheten ökar

I och med EU:s nya dataskyddsförordning som börjar tillämpas den 25 maj 2018 så kommer fler troligen att börja se värdet av sina data.

Felländer säger att många har varit ganska så naiva med sina data hittills.

– Jag ser en bild framför mig där själva datamaterialet hanteras av individen själv så att man har en digital plånbok med sina egna data, och sen är det upp till mig hur jag delar med mig av materialet eller inte, och kanske hur jag köpslår och använder data som en valuta.

En rörelse som kallas My data, alltså “Mina data”, har jobbat för en liknande framtid med utökade digitala mänskliga rättigheter redan längre. Men det är oklart hur snabbt det kan bli verklighet.

Fenomenet att få betalt för sina data existerar nog i begränsad skala redan i dag, men det är ganska så marginellt - åtminstone tills vidare. Ett exempel är tjänsten Citizen me som kan betala användare för att de uppger eller delar med sig av vissa data.

Rekommendationer om AI på kommande

EU-kommissionen håller som bäst på och funderar på artificiell intelligens, och etiken står också starkt i fokus i det arbetet.

Man har alldeles nyligen tillsatt en expertgrupp som ska komma med rekommendationer på hållbar AI, och fundera på om den nuvarande lagstiftningen räcker till, eller om den måste kompletteras eller förnyas helt.

– Vi tror verkligen att artificiell intelligens kan förbättra folks liv avsevärt men vi vill också svara på den oro som flera medborgare har gällande hur AI kommer att påverka våra samhällen och arbetsmarknaden i framtiden, säger Nathalie Vandystadt, talesperson för EU-kommissionen, till Svenska Yle.

Vandystadt tillägger att det är viktigt att AI-frågan avgörs på EU-nivå och inte endast av enskilda länder var för sig. Då blir det enhetliga regler som ger olika aktörer större klarhet i vad som gäller.

Vi vill svara på den oro som flera medborgare har gällande hur AI kommer att påverka våra samhällen

― Nathalie Vandystadt, talesperson för EU-kommissionen

24 EU-länder samt EES-landet Norge skrev också förra veckan under ett avtal om att samarbeta kring AI-frågor, för att komma fram till en gemensam linje.

Länderna hoppas att den potential AI har för Europa kan realiseras bättre i och med samarbetet.

– Att vi saknar ett etiskt och juridiskt ramverk är en av våra största utmaningar. Vi är inte framme i detta än men vår demokratiska tradition i EU gör att det är en stor fråga för oss och utan ett ramverk riskerar vi också att förlora i den globala konkurrensen, kommenterade Sveriges bostads- och digitaliseringsminister Peter Eriksson vid konferensen Digital Day 2018 i Bryssel förra veckan.

Artificiell intelligens kan bidra stort till samhället och ekonomin, och kan till exempel ge bättre hälso- och sjukvård, säkrare transporter och en mer konkurrenskraftig industri, påpekar EU-kommissionen.

Digitaliseringsexperten Anna Felländer håller med.

– Anledningen till att jag håller på med AI och etik är att jag är övertygad om att artificiell intelligens kan skapa enorma vinster för individ, medborgare, samhället och företag. Det är ingen tvekan om det.

En del ny information om vad EU siktar på inom AI väntas den 25 april 2018, då EU-kommissionen kommer med ett nytt initiativ för att stärka utvecklingen av artificiell intelligens.

Ännu mer information kommer senare det här året i takt med att expertgruppens arbete framskrider.

Jag tycker att det viktigaste är att vi landar i att människan kan styra den artificiella intelligensen

EU-kommissionens expertgrupp ska också fundera på en del oklarheter kring ansvarsfördelningen - bland annat vem som ansvarar när ett AI-system inte fungerar som det är meningen och det orsakar skada.

Det är inte en helt lätt fråga för ett självlärande system kan fatta oväntade beslut som en programmerare inte har tänkt på, även om systemet i princip fungerar enligt hur det är byggt.

Förutsägbarhet är viktigt, för vissa slags AI-system är extra viktiga och det kan bli en hög fallhöjd om allt inte går som det är meningen.

Anna Felländer säger avslutningsvis att AI har potential till att förstärka och utöka den mänskliga intelligensen, och minska på fördomar och partiskhet.

– Jag tycker att det viktigaste är att vi landar i att människan kan styra den artificiella intelligensen. AI får inte bli som en svart låda som ingen förstår sig på och som ingen heller kan kontrollera.