Uusi menetelmä paljastaa tekoälyn ihonsäviharhat yksilötasolla

Uusi tekoälymenetelmä ehdottaa, että ihosairauksia tunnistavia tietokonenäköjärjestelmiä pitäisi arvioida ja korjata yksilöllisen ihonsävyn, ei vain karkeiden ryhmäluokkien perusteella. Tavoitteena on tunnistaa ja lieventää vinoumia, jotka voivat kohdistua erityisesti harvinaisiin tai aliedustettuihin ihonsävyihin. Perinteisesti lääketieteellisen kuvantamisen oikeudenmukaisuutta on tarkasteltu vertaamalla suuria ryhmiä, kuten vaaleaihoisia ja tummempia potilaita. Tällainen jaottelu voi kuitenkin peittää alleen eroja yksilöiden välillä: ryhmän sisäiset “poikkeavat tapaukset” voivat kärsiä heikommasta diagnostiikasta, vaikka koko ryhmä näyttäisi pärjäävän tilastollisesti hyvin. Tutkimuksessa ihonsävy käsitellään jatkuvana ominaisuutena, ei enää laatikkona, johon potilas sijoitetaan. Sen jakaumaa mallinnetaan niin sanotulla ytimitiheysarviolla (kernel density estimation), joka antaa tilastollisen kuvan siitä, millaisia sävyjä aineistossa todellisuudessa esiintyy ja miten ne jakautuvat. Tämän jälkeen tutkijat vertaavat ihonsävyjen jakaumia kahdentoista erilaisen tilastollisen etäisyysmitan avulla. Etäisyysmitta kuvaa, kuinka paljon mallin näkemä data poikkeaa esimerkiksi ihonsävyjen tasaisemmasta tai toivotusta jakaumasta. Keskeinen tekninen uudistus on etäisyyksiin perustuva uudelleenpainotettu tappiofunktio (distance-based reweighting, DRW). Käytännössä harvinaisten tai aliedustettujen ihonsävyjen kuville annetaan suurempi paino koulutusvaiheessa, jotta luokittelija oppii tunnistamaan ihomuutokset tasapuolisemmin eri sävyillä. Lähestymistapa tarjoaa kehyksen arvioida ja lieventää yksilötason epäoikeudenmukaisuutta ihomuutosten automaattisessa luokittelussa – sellaista, joka ei välttämättä näy, jos tarkastellaan vain suuria potilasryhmiä. Lähde: Mitigating Individual Skin Tone Bias in Skin Lesion Classification through Distribution-Aware Reweighting, ArXiv (AI).