AI-appar för att upptäcka hudcancer har brister i informationen

Att upptäcka hudcancerformen malignt melanom är viktigt och fler och fler använder nu mobilappar som lovar en snabb och enkel analys av sina egna bilder av leverfläckar och födelsemärken.
År 2022 fick över 5 200 personer diagnosen malignt melanom i Sverige, den allvarligaste formen av hudcancer. Diagnosen har också ökat stadigt under de senaste två decennierna, enligt Socialstyrelsen.
Åsa Ingvar, överläkare i dermatologi vid Skånes universitetssjukhus och docent vid Lunds universitet, har lett två studier i Australien om AI-baserade appar för självundersökning av hudförändringar.

Syftet bakom studierna var att undersöka vilken information apptillverkarna lämnar, och även att föreslå riktlinjer för hur informationen om apparna ska se ut. Av de 21 AI-baserade mobilapparna för dermatologi som undersöktes, ingen uppfyllde rekommendationerna.
– Folk har en vidskepelse på att AI fungerar och löser alla problem, att teknik är smartare än människor, säger Åsa Ingvar.

För att kunna lita på kvaliteten på apparna behöver du som konsument få information om hur sådana appar är uppbyggda. Något som saknas idag.
– Det är ett problem som kommer att växa enormt inom en snar framtid. Folk använder sådana här appar mer och mer, men många har inte kunskap om hur AI fungerar och vilka begränsningar apparna har, säger hon.
– När man inte förstår hur man ska tolka svaren från apparna kan det leda till oro, onödig skötsel och därmed stora kostnader.
Myndigheterna har ett ansvar att hänga med i utvecklingen och ställa krav på apptillverkarna. Det behövs utbildning och att nå ut till befolkningen. Vårdpersonalen behöver också utbildas och uppdatera sina kunskaper, säger Ingvar.
– Med utvecklingen av AI har regler och lagar hamnat på efterkälken, så det är extra viktigt att myndigheter sätter press på tillverkarna för att dessa appar ska vara transparenta och verkligen vara tydliga med deras brister: när du kan använda dem och när du inte kan använda dem dem.

Ett specifikt problem för de AI-baserade apparna är att de är programmerade på bilder av hudförändringar tagna på ljus hud. Detta gör att apparna presterar sämre på personer med en annan hudfärg.
– Jag tror inte vi har insett hur stort problem det här är, och det kommer bara att bli större ju fler som använder AI-teknik, säger överläkare Åsa Ingvar.

Läs mer:
Sommar och sol – och mer och mer hudcancer