Riksdagspolitiker tar hjälp av AI när de skriver motioner – utan att redovisa det

https://mb.cision.com/Public/5569/4390641/9ac7ede86a808020_800x800ar.jpg

Under det senaste riksdagsåret har runt 300 motioner skrivits med hjälp av AI-baserade chattbottar. Om man ser till specifika stycken i texterna innehåller nästan tio procent av de cirka 3000 politiska förslag som lämnats in till Sveriges riksdag AI-assisterat innehåll. Inte i något fall har AI-stödet redovisats. Det konstaterar forskare på Chalmers tekniska högskola och Edinburgh Napier University.

De två forskargrupperna har utvecklat och använt AI-detektorer som tränats på tusentals politiska motioner i Sverige och Storbritannien. Det som förvånade forskarna var inte att politikerna tog hjälp av AI – utan att inte en enda redovisade det öppet.

– Oavsett i vilken grad AI har använts kan det finnas risker med att inte vara transparent. Vi ser också att texter som producerats med hjälp av AI ofta är mycket välformulerade och övertygande, vilket ökar risken för att fel inte ens upptäcks av skribenten själv. Dessutom är det en förtroendefråga utifrån mottagarens perspektiv säger Minerva Suvanto, som är rapportens huvudförfattare och doktorand på Chalmers tekniska högskola.

Hon hänvisar exempelvis till SOM-institutets rapport Svensk AI-opinion 2023–2025 som handlar om allmänhetens syn på AI i olika sammanhang. Den visar bland annat att sammantaget 88 procent av svenskarna är ganska eller mycket oroade över att ”falsk information genererad med AI ska påverka demokratiska val”.

Krav på ökad transparens

I takt med att AI-användningen blivit så utbredd i samhället, har det på senare tid blivit vanligt att texter eller bilder som tas fram med hjälp av AI märks upp, bland annat i medierna. Men fram tills helt nyligen har det inte funnits tvingande regler som krävt sådan redovisning i Sverige. Den 2 augusti trädde dock EU-kommissionens nya transparensregler i kraft. AI-förordningen beskriver hur och när exempelvis företag och samhällsaktörer ska märka sitt innehåll så att det framgår om AI har använts och i så fall i vilken utsträckning.

– I vår forskning har vi varken fokuserat på regelverk eller faktainnehåll, utan hållit oss strikt till språket. Men det blir intressant att följa hur de nya reglerna kommer att tillämpas i Sverige och om det kommer att påverka motionsskrivandet framöver. Även om AI-förordningen är ganska vag, och det finns undantag för om man bara använder AI för redigering, så kanske politikerna omvärderar hur de redovisar sin AI-användning – utifrån att de vill ha väljarnas förtroende, säger Minerva Suvanto.

För att kunna avgöra om AI använts i någon utsträckning i riksdagsmotioner skapade forskarna skräddarsydda AI-detektorer – en för svenska texter och en för engelska. De utgick inledningsvis från 1400 svenska och 1400 brittiska motioner som skrevs mellan 2014 och 2020 – innan det fanns etablerade chattbottar och alla motioner skrevs av människor. För att få fram motsvarande texter med hjälp av AI lät de en chattbot först sammanfatta varje originaltext och utifrån sammanfattningen skriva en egen ny text. Med hjälp av den stora mängden träningsdata – med både de ursprungliga och de AI-skrivna versionerna av varje text – kunde forskarna skapa språkdetektorer som med mycket hög precision kan avgöra om AI använts i skrivprocessen.

Detektorerna redovisar allt öppet

Redan idag finns ett antal verktyg på nätet som uppges kunna avgöra om en text är AI-genererad eller inte. Det som utmärker den Chalmersutvecklade metoden är att den öppet redovisar sin språkanalys. Med hjälp av färgkodningar i texten kan man följa hur AI-detektorn resonerat.

– Vi använder så kallad tolkningsbar AI. Det innebär att vi inte bara kan undersöka huruvida AI använts, utan också var det syns i texten. Men det går inte att säga att enskilda ord är ”AI-ord” – det är mer komplext än så, säger Mattias Wahde, professor på Chalmers tekniska högskola.

För att kontrollera hur väl detektionen fungerade testade forskarna sin metod på ett stort antal motioner från 2021, då dagens AI-stöd inte fanns. Endast vid ett enda tillfälle blev bedömningen fel.

När samtliga motioner från 2022 och fram till i våras analyserades kunde forskarna notera en tydlig ökning av texter där AI använts i någon form. Från att ha varit nära noll under riksdagsåret 2021–2022 hade nästan var tionde motion någon AI-assisterad textdel under riksdagsåret 2025–2026.

Forskarna fann inga signifikanta skillnader mellan brittiska och svenska parlamentariker – och heller inte mellan olika politiska partier.  

Bildtext till bilden i topp: Forskare på Chalmers tekniska högskola och brittiska Edinburgh Napier University har utvecklat och använt AI-detektorer som tränats på tusentals politiska motioner i Sverige och Storbritannien. När samtliga svenska motioner från 2022 och fram till i våras analyserades kunde forskarna notera en tydlig ökning av texter där AI använts i någon form.

Foto: Sveriges riksdag | Melker Dahlstrand | 2023 | Bilden är beskuren.

Mer om forskningen:

Bakom studien ”Detecting undisclosed LLM-generated content in parliamentary texts” står Minerva Suvanto, Andrea McGlinchey, Peter J. Barclay och Mattias Wahde. Forskarna är verksamma vid Chalmers tekniska högskola och Edinburgh Napier University i Skottland. Rapporten finns i sin helhet på Arxiv (preprint under granskning): https://arxiv.org/abs/2606.14209

Forskarnas AI-detektorer finns inte på marknaden och är specifikt framtagna för parlamentariska texter på svenska respektive engelska. Liknande detektorer har däremot tagits fram av samma forskargrupp på Chalmers – bland annat för att analysera om litteratur är människo- eller AI-skriven.

Svenska riksdagsmotioner som skrivits med AI-assistans, respektive innehåller minst ett stycke med AI-assisterat innehåll:

2022–2023: 0,1 procent respektive 1,7 procent
2023–2024: 1,9 procent respektive 4,1 procent
2024-2025 4,7 procent respektive 8 procent
2025–2026: 6,5 procent respektive 9,4 procent

För mer information, kontakta:

Minerva Suvanto, doktorand, institutionen för Mechanical Engineering, Chalmers tekniska högskola, 031 772 36 04, minerva.suvanto@chalmers.se (Minerva talar engelska, finska och en del svenska)

Mattias Wahde, professor, institutionen för Mechanical Engineering, Chalmers tekniska högskola, 031 772 37 27, mattias.wahde@chalmers.se (Mattias talar svenska och engelska)

https://mb.cision.com/Public/5569/4391318/91d5151b95f65655_800x800ar.jpg