Fler AI-beslut i offentlig sektor – men vad tycker medborgarna?
I takt med att tekniska hjälpmedel blir alltmer avancerade blir också automatiserat beslutsfattande en allt vanligare företeelse inom offentlig sektor. Men hur känner egentligen medborgarna inför denna trend? En ny studie från Södertörns högskola kastar ljus över frågan.
− Våra studier visar att medborgare generellt är ganska omedvetna om sina rättigheter när det handlar om att bidra med data för automatiserat beslutsfattande. Men våra studier visar också stora skillnader i attityder kring specifika användningar mellan medborgare i de olika länder som ingår i studien; Estland, Sverige och Tyskland, säger Anne Kaun, professor i medie- och kommunikationsvetenskap.
Automatiserat beslutsfattande använder algoritmer och artificiell intelligens för att fatta beslut som tidigare fattades av handläggare och andra tjänstemän. Strängnäs kommun till exempel har jobbat med att ta fram en språkmodell som ska stödja handläggare i prioriteringen av orosanmälningar.
Skillnad i tillit
Studien, som nyligen publicerades i den vetenskapliga tidskriften Journal Information, Communication & Society,Länk till annan webbplats. visar också att medborgare i Estland och Sverige är mer positivt inställda till automatisering än de i Tyskland. Det kan, enligt Anne Kaun och kollegorna Anders Olof Larsson och Anu Masso, bero på kulturella skillnader mellan länderna och variationer i tillit till myndigheter generellt.
− Automatisering kan visserligen leda till mer effektiva processer och konstandsbesparingar, men det kan också resultera i minskad transparens och minskat ansvarsutkrävande. När beslut fattas av algoritmer istället för av människor kan det vara svårt för medborgare att förstå bakgrunden till beslutet, och till och med få dem att uppfatta beslutet som orättvist, säger Anne Kaun.
Utbilda allmänheten
Forskarna ser ett behov av att utbilda allmänheten i frågor som rör automatiserat beslutsfattande samt öka engagemanget i frågorna. Medborgare måste informeras om sina rättigheter när det kommer till att förse systemet med data. De borde också, enligt forskarna, ha möjligheten att påverka hur systemen ser ut och implementeras.
− Det är viktigt att inte enbart se digitaliseringens fördelar utan även dess utmaningar, ja till och med nackdelar, säger hon.
Frågan om medborgarnas attityder till de här frågorna var nyligen på tapeten under en EU-konferens arrangerad av det svenska ordförandeskapeLänk till annan webbplats.. Mötet handlade om hur EU kan främja innovation inom AI-området för att lösa klimatkrisen. Där deltog en blandning av beslutfattare, tech-utvecklare och forskare. Även företrädare från civilsamhället var på plats, bland andra före detta ärkebiskopen Antje Jackelén.
− Möten som det här visar att det är viktigt att föra samman olika perspektiv kring teknologi: från akademin, politiken och industrin, och inte minst civilsamhälle. Men det är en utmaning i att hitta ett gemensamt språk och inte stanna vid väldigt abstrakta diskussioner. Jag tog med mig att min forskning faktiskt bidrar med ett perspektiv som ofta hamnar i skymundan, nämligen medborgarnas och civilsamhällets, och att det tyvärr är en utmaning att göra det synligt i vissa sammanhang, avslutar Anne Kaun.
