Allt fler mobilappar tar hjälp av artificiell intelligens för att upptäcka hudcancer. Men många appar, som används utanför vården, har brister som kan påverka analysen av hudförändringar. Det visar två studier.
Att tidigt upptäcka hudcancerformen malignt melanom är viktigt, och i dag finns många mobilappar som utlovar snabb och smidig analys av egentagna bilder av leverfläckar och födelsemärken.
Men det är svårt för en enskild konsument att veta om apparna håller måttet. Det konstaterar Åsa Ingvar som är överläkare i hudsjukvård på Skånes universitetssjukhus och docent vid Lunds universitet.
I två studier har hon undersökt AI-baserade appar för självundersökning av hudförändringar.
– För att kunna avgöra om det går att lita på appens kvalitet behöver man som användare få information om hur den är uppbyggd – och det saknas ofta idag, säger Åsa Ingvar.
Begränsningar framgår inte
Studierna genomfördes i Australien. Syftet var att undersöka vilken typ av märkning och information som tillverkarna ger, men också komma med riktlinjer för hur informationen om apparna bör se ut.
I den ena studien granskade forskarna 21 AI-baserade dermatologiska mobilappar. De kunde konstatera att ingen av apparna uppfyllde vanliga märkningsrekommendationer.
– Det är ett bekymmer eftersom man som användare inte får kunskap om apparnas begränsningar, säger Åsa Ingvar.
AI tränas på ljus hud
Som exempel nämner hon att flera av apparna ofta är tränade på bilder av hudförändringar bland personer med ljus hudton. Det kan göra dem sämre på att analysera bilder från personer med en annan hudfärg.
Apparna kan också begränsas av att de bara tränats på bilder från en viss typ av kamera. De kan även ha tränats på för få, eller inga bilder alls, av vissa hudförändringar.
– Det är välkänt bland utvecklare att AI-appar är känsliga för avvikelser från den data de är tränade på. Men denna kunskap måste även spridas bland användare, oavsett om de är sjukvårdspersonal eller inte, säger Åsa Ingvar.
Låg tröskel ökar belastning på vården
En annan begränsning är att apparna ofta har låg tröskel när det gäller att varna användarna för hudförändringar.
– Apptillverkarna vill inte riskera att missa till exempel malignt melanom, så de ger hellre rådet att söka vård för ofta än för sällan. Det kan innebära ökad belastning på den mer traditionella vården genom en ökad andel onödiga besök som inte medför ett medicinskt mervärde i form av förbättring av ett sjukdomstillstånd, säger Åsa Ingvar.
Hjälp av expertpanel
I den andra studien tog forskarna hjälp av en expertpanel för att reda ut vilka krav och vilken märkning som bör gälla för AI-baserade dermatologiska appar.
Panelen landade bland annat i att det behöver vara tydligt hur apparna testats och tränats, vilka kliniska studier som eventuellt gjorts och vilka begränsningar appen har.
– Precis som många andra har jag goda förhoppningar på användandet av AI inom sjukvården. Men AI-baserade appar har begränsningar när det gäller att upptäcka elakartad hudcancer. Förhoppningsvis kan tydligare riktlinjer leda till att kvaliteten höjs, säger Åsa Ingvar.
Text: Rebecka Sjöberg
Artikeln är ursprungligen publicerad i Vetenskap och Hälsa.
Vetenskapliga studier:
Examining labelling guidelines for AI-based software as a medical device: A review and analysis of dermatology mobile applications in Australia, Australasian Journal of Dermatology.
Minimum labelling requirements for dermatology artificial intelligence-based Software as Medical Device: A consensus statement, Australasian Journal of Dermatology.
