Flydde Ukraina – nu utvecklar hon AI-metoder för att förhindra desinformation

Umeå universitet öppnade upp för ukrainska forskare när kriget i Ukraina bröt ut. Nina Khairova, professor i datalingvistik, är en dem som välkomnades. Här är hon knuten till Humane AI Net, ett stort EU-finansierat AI-forskningsprogram om totalt 500 miljoner kronor, där Umeå universitet är partner. Hon leder och medverkar i två studier, som båda syftar till att med hjälp av AI, hantera misinformation när det gäller kriget och dess konsekvenser.

Underminera medborgares förtroende

I det ena projektet studeras myndigheters användning av sociala medier. Dessa konton bidrar till större insyn för medborgarna och har hög trovärdighet eftersom offentlig sektor är skyldiga att följa lagar och regler. Men, om reglerna inte följs, om kommunikationskanalen uppdateras i förtid eller om användarnas kommentarer besvaras ofullständigt, kan problem uppstå.

– Då söker människor sig istället till information på nätet, och dessa informationskällor kan vara traditionella nyhetsbyråer, opinionsbildare eller ”vanliga” användare. Migrationsfrågor hör till de mest omdebatterade på sociala medier och de kan vara särskilt utsatta för försök till olika typer av desinformation, säger Nina Khairova.

Sprids felaktig information kan det undergräva medborgarnas förtroende och leda till betydande sociala konsekvenser, som social ojämlikhet, skapandet av sociala klyftor och manipulering av åsikter.

– Ryska aktiviteter som trollfabriker, botfabriker och deepfake utvecklas hela tiden, och sträcker sig långt bortom Ukraina. Det påverkar den allmänna opinionen i europeiska länder, säger Nina Khairova.

Förhindra med avancerad AI

Tillsammans med forskare inom Humane AI Net tar hon sig an problemet med att detektera felaktig information i internationella nyhetsartiklar och utvecklar en lösning baserad på en kombination av AI-algoritmer som övervakad maskininlärning, textanalys och extraktion av händelseargument. Med dessa avancerade AI-metoder går det att ”märka” trovärdiga källor och mindre säkra källor, och skilja ut vilka som uppvisar en högre sannolikhet för att vara falska. En omfattande granskning av artiklar från ansedda medier i olika regioner över hela världen, inklusive Europa, USA, Ukraina och Ryssland har genomförts.

–Nu tillämpar vi vår metod för att upptäcka desinformation i nyhetsartiklar relaterade till den ryska invasionen av Ukraina publicerade från februari till september 2022. Vi planerar att tillämpa vår metod för analys av textinformation på polska, ukrainska och engelska, tematiskt relaterade till frågor om Ukraina och migration.

Förbättra policys

I det andra projektet används analysdrivna metoder för att utvinna djupgående insikter från fritt tillgängliga textdata på sociala medier.

– Vi vill erbjuda lösningar för att förbättra program och policyer i syfte att främja en stödjande miljö för effektiv integration av ukrainska migranter i värdländerna, säger Nina Khairova.

På Umeå universitet känner hon sig både välkommen och stöttad av sina kollegor ”uppe i norr.”

– Jag är tacksam mot Umeå universitet universitet och Institutionen för datavetenskap. De har gett mig chansen att vara en del av intressant och användbar forskning, avslutar Nina Khairova.

Om Humane AI Net

Ett EU-finansierat forskningsprogram som samlar några av Europas ledande forskningscentra, universitet och företag. Umeå universitet är en partner. Syftet är att utveckla robusta, pålitliga AI-system som kan ”förstå” människor. Arbetspaket 5: AI-etik och ansvarsfull AI leds av Virginia Dignum, professor i ansvarsfull AI vid Umeå universitet. Gå till HumanE AI Net.

Kontaktinformation

Nina Khairova, professor i datalingvistik, nås via e-post: nina.khairova@umu.se. Du kan även kontakta Victoria Skeidsvoll, kommunikatör: victoria.skeidsvoll@umu.se, 070-616 57 88.