Artificiell intelligens kan vara på väg in i trådlösa kommunikationssystem som Försvarsmakten använder. Men att använda AI i sådana system kan öka risken för attacker av motståndare. Det visar en rapport från Totalförsvarets forskningsinstitut, FOI.
De senaste årens genomslag för AI och maskininlärning håller nu på att ske även inom trådlös kommunikation, exempelvis radiosystem.
– I radiosystem är det en kedja av algoritmer som används för att bearbeta data, sända data genom luften och sedan avkoda den på mottagarsidan. Det finns traditionell signalbehandling som kan göra det, men det går också att byta ut den helt eller delvis mot AI-teknik för att göra samma sak, säger Erik Axell, forskare på FOI:s avdelning Telekrig i Linköping, i ett pressmeddelande.
I en rapport har FOI-forskare analyserat risker och sårbarheter med att införa AI i trådlös kommunikation.
– De senaste fem, tio åren har det publicerats väldigt mycket vetenskapligt där AI-teknik föreslås användas på olika sätt i trådlösa kommunikationssystem. Vi vet att det finns en del AI-teknik inskriven i dagens mobiltelefonistandard, men hur mycket det används i praktiken är svårt att veta, säger Erik Axell.
Oklart kring militär användning
Än så länge är det också osäkert om AI används i militär trådlös kommunikation. Men enligt Erik Axell kommer detta troligen att ske inom en snar framtid. Framöver kan tekniken finnas i olika delar av systemen, även när det gäller att fördela frekvenser effektivt.
Forskarna konstaterar att det är skralt med tidigare forskning om hot och sårbarheter för AI i trådlösa kommunikationssystem.
– Det har studerats inom bild- och språkbehandling, där har ju AI-boomen varit större och tidigare. Men man har sett att det går att göra sådana här attacker även mot trådlösa kommunikationssystem.
Så kan attacker gå till
För att bedöma om detta kan innebära ett hot har forskarna gått igenom olika exempel på hur attacker kan gå till. De har utgått från åtta olika kategorier där attackernas egenskaper beskrivs. En kategori kallas Domain, eller domän på svenska, och visar var attacken kan göras på en skala från digital till fysisk.
– Vid en digital attack behöver den som attackerar ha tillgång till indata till AI-modellen. Vid en fysisk attack kan motståndaren påverka indata fysiskt, till exempel sända en radiosignal genom luften. Här har vi gjort bedömningen att en helt digital attack blir mer av en cyberattack, som vi inte bedömer som så realistisk i radiosammanhang, säger Erik Axell.
Detaljkunskap svårt för motståndare
En annan kategori kallas Knowledge, eller kunskap. Här graderas kunskapen som en motståndare kan ha om sitt mål utifrån olika nivåer: whitebox, greybox och blackbox.
I ett whitebox-fall har motståndaren fullkomlig och exakt kunskap om AI-modellen, medan man i ett blackbox-fall inte vet någonting. Kunskapsnivån greybox betyder att motståndaren har viss kunskap.
– Att en motståndare skulle veta exakt hur vår AI-modell ser ut och är tränad bedömer vi inte som realistiskt. Den kan möjligen veta principen, studera vetenskaplig litteratur och veta hur strukturen på AI-modellen ser ut – men inte veta exakt i detalj hur vi gjort.
Effektiva attacker möjliga
Mycket av den tidigare forskningen om ämnet utgår från att motståndaren har full kunskap, men enligt Erik Axell är detta orealistiskt. Studierna utgår också från enkla modeller, där ingen radiokanal är inblandad.
– För att se om det verkligen går att göra de här attackerna krävs en mer realistisk modell av en radiokanal. Det har inte gjorts tidigare i någon större utsträckning, säger Erik Axell.
Även om det är svårt att ge ett tydligt svar kring tänkbara attacker och konsekvenser går vissa slutsatser att dra, enligt rapportförfattarna.
– Även om en motståndare bara har lite kunskap om en kanal går det att genomföra effektiva attacker. Det är det vi har sett. Exakt vad konsekvenserna skulle bli i praktiken har vi inte riktigt rett ut.
Samtidigt utgår den här typen av attacker från att AI faktiskt används i radiotekniken från början.
– Än så länge är det förmodligen inte så utbrett. Använder man inte AI så är det inte heller något hot, säger han.
Rapport:
Hot- och sårbarhetsanalys av attacker mot AI i trådlösa kommunikationssystem, FOI
