Uusi viitekehys kytkee tekoälyn arkkitehtuurin suoraan yhteiskunnalliseen vaikutukseen

Uusi tutkimus esittelee vaikutuslähtöisen tekoälyn viitekehyksen, jonka tarkoitus on suunnitella tekoälyjärjestelmiä alusta alkaen sen mukaan, millaista todellista yhteiskunnallista vaikutusta niillä tavoitellaan. Menetelmä kantaa nimeä Impact-Driven AI Framework (IDAIF). Taustalla on tekoälyn niin sanottu linjausongelma: miten varmistetaan, että tekoälyjärjestelmien toiminta vastaa ihmisten arvoja ja tavoitteita, etenkin terveydenhuollon, rahoituksen ja julkisen päätöksenteon kaltaisilla riskialoilla. Nykyiset tekoälyjärjestelmät optimoidaan usein vain teknisille mittareille, kuten tarkkuudelle tai nopeudelle, vaikka järjestelmien todelliset seuraukset näkyvät vasta niiden käytössä yhteiskunnassa. IDAIF yhdistää kehitysmaailmasta tutun muutoslogiikan (Theory of Change) periaatteet tekoälyarkkitehtuuriin. Muutoslogiikka pilkkoo hankkeen viiden vaiheen ketjuksi: panokset, toiminnot, tuotokset, tulokset ja vaikutus. Tutkimuksessa nämä vaiheet sidotaan suoraan tekoälyjärjestelmän kerroksiin: datakerrokseen, käsittelyputkeen, päättelykerrokseen, toiminnalliseen eli "agenttimaiseen" kerrokseen sekä normatiiviseen kerrokseen, jossa huomioidaan arvot ja säännöt. Tavoitteena on luoda systemaattinen kartta, joka yhdistää tekniset ratkaisut ja yhteiskunnalliset tavoitteet samaan suunnittelupöytään. Näin suunnittelijat voisivat jo järjestelmän arkkitehtuuria rakentaessaan arvioida, miten data, algoritmit ja tekoälyn toimintatapa tukevat haluttuja muutoksia ja millaisia ei-toivottuja vaikutuksia on syytä ennakoida. Tutkimus ei tarjoa yksittäistä uutta algoritmia, vaan tavan jäsentää koko tekoälyjärjestelmä niin, että tekninen suorituskyky ja sosiaaliset seuraukset tarkastellaan yhtenä kokonaisuutena. Lähde: From Accuracy to Impact: The Impact-Driven AI Framework (IDAIF) for Aligning Engineering Architecture with Theory of Change, ArXiv (AI).