Uusi viitekehys pyrkii kokoamaan tekoälyn oikeudenmukaisuuden yhteen karttaan

Tutkijat esittävät uuden ihmiskeskeisen viitekehyksen, jonka tavoitteena on jäsentää tekoälyn oikeudenmukaisuutta koskevaa tutkimusta ja helpottaa oikeudenmukaisiksi suunniteltujen järjestelmien käyttöönottoa. Taustalla on huoli siitä, että tekoälyä käytetään yhä useammin kriittisissä päätöksissä, jotka voivat koskea esimerkiksi työhönottoa, lainanmyöntöä tai sosiaalietuuksia – aloja, joilla epätasa-arvoinen kohtelu rodun, sukupuolen tai sosioekonomisen aseman perusteella on erityisen ongelmallista. Oikeudenmukaisuudesta tekoälyssä puhutaan monilla eri käsitteillä, jotka ovat usein keskenään ristiriidassa. Yhden mittarin parantaminen voi heikentää toista, minkä lisäksi tasapainoilu ennustetarkkuuden ja oikeudenmukaisuuden välillä on osoittautunut käytännössä vaikeaksi. Uuden viitekehyksen tavoitteena on tehdä näistä jännitteistä näkyviä ja hahmotettavia. Tutkijoiden kehittämä rakenne kokoaa järjestelmällisesti kahdeksan erilaista oikeudenmukaisuuden mittaria. Ne syntyvät yhdistämällä kolme ulottuvuutta: yksilö- ja ryhmäoikeudenmukaisuuden näkökulmat, niin sanotut inframarginaaliset ja intersektionaaliset oletukset sekä lopputulokseen perustuvat ja yhdenvertaisia mahdollisuuksia korostavat (equality of opportunity) lähestymistavat. Yksilöoikeudenmukaisuudessa kysytään, kohdellaanko samanlaisia yksilöitä samalla tavalla, kun taas ryhmäoikeudenmukaisuus tarkastelee eri ihmisryhmien, kuten sukupuolten tai etnisten ryhmien, välisiä eroja. Intersektionaalisuus tuo mukaan useiden ominaisuuksien risteämät, esimerkiksi sen, miten sukupuoli ja etninen tausta yhdessä vaikuttavat kohteluun. Kirjoittajat ehdottavat, että tällainen yhtenäinen ihmiskeskeinen viitekehys auttaa suunnittelijoita ja päätöksentekijöitä valitsemaan tilanteeseen sopivat oikeudenmukaisuuskriteerit tietoisesti ja ymmärtämään paremmin, millaisia kompromisseja eri valintoihin liittyy. Lähde: A Unifying Human-Centered AI Fairness Framework, ArXiv (AI).