Algoritmer styr våra liv men datakoden innehåller ofta fel – experter efterlyser mer kontroll för att undvika allvarliga problem

Allt mer i vårt samhälle automatiseras och det blir hela tiden viktigare att programkoden fungerar korrekt och såsom det är meningen. Men flera företag och myndigheter har dålig koll på läget, säger experter.

Algoritmer har blivit en del av de allra flesta finländares vardagsliv. De kan berätta vädret för oss på morgonen, och hjälpa oss att veta vilken väg vi ska ta till jobbet för att komma snabbast fram.

De avgör också hurdana uppdateringar vi ser på Facebook, vilka sökresultat Google ger oss, och kan styra flygplan och självkörande bilar.

En algoritm är i praktiken en programkod, eller källkod, som stakar ut hur ett program ska agera om en viss situation uppstår.

– Förenklat uttryckt, till exempel om talet A är större än B så ska programmet göra C, påpekar Jouni Viljanen.

Han är delägare med fokus på IT-riskhanteringstjänster vid konsultföretaget Deloitte.

– Men algoritmer här i Finland kan ha olika slags problem. Vissa större, andra mindre. Det förekommer väldigt ofta olika slags logiska fel, kommenterar han.

Viljanen avslöjar att algoritmer hos en del finländska företag till exempel har angett fel lagersaldo och fel pris på produkter. Det här skulle ha kunnat leda till negativa konsekvenser för kunder och investerare.

Det gick också snett när det amerikanska teknologiföretaget Amazon för en tid sedan använde sig av algoritmer för att välja vilka kandidater som skulle rekryteras, rapporterade nyhetsbyrån Reuters i oktober.

– Algoritmen drog nytta av historiska data som sträckte sig tio år tillbaka i tiden, och föreslog att endast män skulle väljas. Tidigare hade främst män anställts och då drog algoritmen slutsatsen att kvinnor inte var lämpliga kandidater.

Många aktörer har alltså inte så god koll på sina algoritmer. Det säger Mika Helenius, verksamhetsledare på Finska dataförbundet, att det borde bli ändring på.

– Algoritmer borde granskas regelbundet, antingen av experter i den egna organisationen eller av utomstående experter, kommenterar han.

Det krävs en hel del kunskap för att revidera algoritmer. Det handlar om tvärvetenskaplig granskning där man bland annat behöver matematisk, teknisk, etisk, psykologisk och juridisk kunskap.

Viljanen på Deloitte är regelbundet med om att göra sådana här granskningar.

– Vi kollar om algoritmen till exempel har designats och kodats såsom den borde, om den använder representativ data och om slutresultatet är korrekt, etiskt och enligt lagen, säger han.

Dessutom är det viktigt att algoritmer är skyddade så att de inte kan ändras utan tillstånd.

Om en algoritm inte fungerar som det är meningen så kan det alltså få stora negativa konsekvenser för individer, för olika aktörer och för samhället.

Del av en större helhet

Mika Helenius på Finska dataförbundet påpekar dessutom att man inte kan komma åt att kontrollera all kod, eftersom vissa dataprogram inte har öppen källkod. Det finns också en hel del stängd källkod i den hårdvara datorer använder.

Han betonar att ett sätt att ha ännu mer koll är alltså att satsa mer på programmering i Finland, och inte köpa in så mycket från utlandet.

Till exempel storföretag såsom amerikanska Facebook kan i sin stängda kod dela med sig av användardata väldigt frikostigt eftersom det gynnar företaget ekonomiskt, men det kan samtidigt bryta mot det användarna förväntar sig.

– När vi talar om att revidera eller kontrollera de algoritmer som finländska aktörer använder så handlar det om att säkerställa och upprätthålla vår kultur och vår demokrati. Då kan man eventuellt också upptäcka hur storföretag och utländska stater försöker påverka oss via datorkoden, säger han.

Helenius förespråkar mer öppenhet.

– All källkod i samhället borde vara öppen och transparent. Vår demokratiska modell är ju också transparent, säger han.

Helenius tillägger att det skulle öka förtroendet för att koden fungerar rätt och etiskt. Flera aktörer kunde då dra nytta av varandras kod.

Det är för övrigt också i linje med vad Frankrike planerar. Landet ska så småningom öppna upp den offentliga sektorns algoritmer.

Men algoritmer anses ofta vara en affärshemlighet, så det är ingen självklarhet att man vill låta någon annan granska dem, för att eventuellt öka allmänhetens förtroende.

– Få aktörer vill öppna upp sina algoritmer offentligt. Till exempel en nätbutik eller en bank har inte nödvändigtvis något att vinna på det, men mycket att förlora på det, säger Viljanen.

Helenius påpekar att det också skulle vara ekonomiskt lönsamt för vårt land att bygga upp eget mjukvarukunnande, för att klara sig bättre i den globala konkurrensen. Det kommer av allt att döma att bli en ännu mer central fråga i framtiden.