Selittävä tekoäly pyrkii tekemään konepäätöksistä ymmärrettäviä tavallisille käyttäjille

Tutkimus tarkastelee, miten tekoälystä voidaan tehdä ymmärrettävää ihmisille, jotka eivät ole teknisiä asiantuntijoita. Taustalla on ajatus selittävästä tekoälystä: järjestelmistä, jotka eivät ainoastaan anna vastauksia, vaan myös kertovat, miksi ne päätyivät tiettyyn ratkaisuun.

Tekoälyn selitettävyys kytkeytyy suoraan ihmisen ja tietokoneen vuorovaikutukseen. Jos käyttäjä ei ymmärrä, miten päätös syntyy, luottamus heikkenee ja virheiden huomaaminen vaikeutuu. Tutkimus sijoittuu tähän rajapintaan ja tarkastelee tekoälyn toimintaa käyttäjän näkökulmasta: millaiset selitykset ovat hyödyllisiä, ymmärrettäviä ja riittävän tarkkoja eri tilanteissa.

Selittävyys ei ole vain käytettävyyden kysymys, vaan myös osa kyberturvallisuutta ja vastuullisuutta. Kun tekoälyä käytetään esimerkiksi turvallisuuteen, terveyteen tai talouteen liittyvissä sovelluksissa, läpinäkyvyys auttaa havaitsemaan väärinkäytöksiä ja teknisiä virheitä. Tutkimus tuo esiin, että tekoälyn selitykset voivat toimia eräänlaisena turvakerroksena: ne antavat käyttäjälle mahdollisuuden arvioida, onko järjestelmän toiminta järkevää ja luotettavaa.

Käyttäjälähtöisyys on työssä keskeinen lähtökohta. Selitysten ei tarvitse toistaa monimutkaisia algoritmeja, vaan niiden on vastattava konkreettisiin kysymyksiin: miksi juuri tämä suositus, miksi tämä hälytys, miksi tämä riskiarvio? Tutkimus korostaa, että selitettävä tekoäly on osa vastuullista tekoälyn kehitystä, jossa huomioidaan sekä tekninen toimivuus että ihmisten oikeus ymmärtää itseään koskevia konepäätöksiä.

Lähde: Explainable artificial intelligence (XAI) : making AI understandable for end users, Finnish AI Dissertations (Finna).