Är Sverige redo att låta maskinerna bestämma?

I Finland profileras arbetssökande utifrån vad de har i sin inkorg. I Italien bestämmer algoritmer vilka som ska få behandling i sjukvården. I Polen sorterar algoritmer arbetslösa. I Danmark identifieras barn som kan behöva extra socialomsorg identifieras av algoritmer.

Automatiserat beslutsfattande används inom allt fler områden. I många fall kan det gynna medborgare, men det finns också risker för orättvis behandling, ökad övervakning och minskad jämlikhet.

Politiker och beslutsfattare har svårt att överblicka såväl användningsområden som syfte med algoritmer som tar automatiserade beslut. Frågor som rör detta diskuteras inom Europaparlamentet. Syftet är att komma fram till gemensamma regler och etiska riktlinjer som kan styra och utvärdera automatiserade system.

Används inom offentlig förvaltning
Rapporten ”Automating Society – Taking Stock of Automated Decision-Making in the EU” riktar uppmärksamhet mot de områden där automatiserat beslutsfattande faktiskt tillämpas. Den innehåller drygt 60 exempel från tolv länder samt en översikt över relevanta aktörer och aktuella politiska debatter. Bakom rapporten står den tyska organisationen AlgorithmWatch samt Bertelsmann Stiftung.

I Sverige har automatiserad beslutsfattande fått genomslag inom offentlig förvaltning. Sedan 2017 har kommuner runt om i landet automatiserat beslutsfattande för försörjningsstöd. Med Trelleborgs kommun i framkant har en algoritm utvecklats som automatisk kopplar uppgifter från Skatteverket med databaser från andra myndigheter. Ett beslut genereras automatiskt och levereras till ”kunden”. Antalet handläggare har reducerats från elva till tre. Samtidigt hävdar Trelleborg att de kunnat sänka antalet personer med försörjningsstöd signifikant, och därmed sänkt kostnaderna även när det gäller försörjningsstöd. Trelleborg har utvecklat algoritmen som ett pilotprojekt och exporterat sin automatiseringsmodell till fjorton andra kommuner som förbereder en introduktion av samma lösning.

Tekniska system som inte kan ställas till svars
Den här typen av automatisering har fått viss publicitet men allmänheten är fortfarande omedveten om att människor ska ersättas av algoritmiskt beslutsfattande som till exempel bestämmer fördelningen av försörjningsstöd. Handläggare ersätts av tekniska system som inte kan ställas till svars när det gäller myndighetsutövande. Projektet strider just nu mot befintlig lagstiftning som förbjuder helt automatiserade beslut i Sverige på kommunnivå. Dessutom bygger beslutsfattandet på att samköra registerdata från olika myndigheter, vilket i Sverige är en ny utveckling utan en bredare offentlig diskussion.

– Sverige och andra nordiska länder har varit exceptionella i att bygga byråkratier baserat på mycket information om sina medborgare. Att dessa olika register nu kan samköras har effekter för medborgarna som kräver en öppen diskussion, säger Anne Kaun, docent i medie- och kommunikationsvetenskap vid Södertörns högskola och en av författarna bakom rapporten.

Tekniken möjliggör helt nya sätt att spåra och förutsäga beteende och attityder baserat på stora datamängder, menar hon.

– När det får konsekvenser för till exempel försörjningsstöd måste samhället vara delaktig i beslutet kring hur vi vill använda tekniska lösningar.

Inkonsekvent hanterande
Rapporten visar för första gången både hur utspritt automatiserat beslutsfattande är och hur varierande och inkonsekventa försöken att hantera dem är. Med hjälp av rapporten kan politiker och medborgare jämföra situationen i olika länder och få ett kritiskt förhållningssätt till sina egna tillvägagångssätt.

Julia Velkova, som är forskare vid Helsingfors Universitet, har också varit med och författat rapporten. Hon framhåller att rapporten visar att vi inte längre kan tänka på problem kring algoritmer och automatiserat beslutsfattande som något som ligger långt borta från oss i Norden.

– Vi lever i en vardag där beslut om välfärd och ekonomi alltmer delegeras till maskiner, ibland i strid mot befintlig lagstiftning eller i strid mot etablerade värderingar kring vad som är rätt och rimligt. Det är därför viktigt att inte bara uppmuntra mer teknisk utveckling kring maskininlärning och automatisering, utan även noga analysera de bredare samhälleliga konsekvenserna och frågor som systemen väcker, säger Julia Velkova.

Rapport
Automating Society – Taking Stock of Automated Decision-Making in the EU

Kontakt
Anne Kaun, docent i medie- och kommunikationsvetenskap, Södertörns högskola anne.kaun@sh.se
Julia Velkova, forskare vid Helsingfors Universitet, julia.velkova@sh.se,