Psykologit voivat luulla ymmärtävänsä tekoälyä, vaikka osaavat vain käyttää sitä

Psykologien työssä tekoäly on yleistynyt vauhdilla: sitä käytetään istuntojen litterointiin, asiakasdatan analysointiin ja jopa hoitosuunnitelmien luonnosteluun. Uusi AI & SOCIETY -lehdessä julkaistu puheenvuoro varoittaa kuitenkin ”pätevyysparadoksista”: tehokas työkalun käyttö voi synnyttää harhaanjohtavan tunteen siitä, että ammattilainen myös ymmärtää, miten järjestelmä toimii. Kirjoittajan mukaan tekoälyn suurin riski psykologialle ei ole se, että koneet olisivat teknisesti ihmistä parempia, vaan se, että osaaminen sekoitetaan käyttövarmuuteen. Kun tekoäly tuottaa sujuvia yhteenvedoja tai uskottavia ehdotuksia, käyttäjä voi päätellä niiden pohjautuvan ”asiantuntevaan” päättelyyn, vaikka taustalla on tilastollinen malli, jonka toimintalogiikka ja rajoitteet jäävät hämäriksi. Artikkeli rakentaa argumenttinsa kirjallisuuspohjaisena kommentaarina ja nojaa myös lähialojen tuoreisiin havaintoihin siitä, miten ihmiset yliarvioivat teknologisen järjestelmän ymmärtämistä silloin, kun käyttö tuntuu helpolta ja tulokset vaikuttavat järkeviltä. Pätevyysparadoksi vääristää kirjoittajan mukaan ammatillista harkintaa ja heikentää vastuullisuutta: jos tekoälyyn nojataan kuin ”mustaan laatikkoon”, on vaikeampi arvioida, milloin sen antamat tulokset ovat epäluotettavia ja kuka on lopulta vastuussa päätöksistä asiakkaan hoidossa. Siksi kirjoittaja korostaa, että psykologien on opittava vähintään keskeiset periaatteet siitä, miten tekoälyjärjestelmät tuottavat vastauksiaan ja missä niiden rajat kulkevat, jotta niitä voidaan käyttää eettisesti ja turvallisesti. Lähde: The competence paradox: when psychologists overestimate their understanding of Artificial Intelligence, AI & SOCIETY.