Tekoälyagentti oppii punnitsemaan sääntörikkomuksen hinnan ennen päätöstä

Uusi lähestymistapa autonomisten tekoälyagenttien suunnitteluun opettaa koneet pohtimaan etukäteen, mitä seuraa sääntöjen rikkomisesta – ja milloin rikkominen voi silti olla perusteltua. Vineel Tummalan ja Daniela Inclezan ArXivissa julkaistu työ tarjoaa kehikon, jossa tekoäly ei vain yritä noudattaa sääntöjä, vaan myös arvioi niihin liitettyjä rangaistuksia. Taustalla on ajatus niin sanotuista politiikkatietoisista agenteista. Ne toimivat ympäristössä, jossa on erilaisia määräyksiä, velvollisuuksia ja oikeuksia, aivan kuten ihmiset toimivat lakien ja sääntöjen puitteissa. Perinteisesti tutkimus on keskittynyt siihen, miten tekoäly pidetään tiukasti sääntöjen rajoissa. Tummala ja Inclezan kehys huomioi kuitenkin tilanteet, joissa sääntöjen rikkominen voi olla välttämätöntä tärkeän tavoitteen saavuttamiseksi, esimerkiksi korkean panoksen päätöksissä. Tutkimuksessa laajennetaan Gelfondin ja Lobon kehittämää valtuutus- ja velvoitepolitiikan kieltä (Authorization and Obligation Policy Language, AOPL) niin, että siihen lisätään nimenomaiset rangaistukset sääntöjen rikkomisesta. Päätöksentekoa varten käytetään loogiseen ohjelmointiin kuuluvaa vastausjoukko-ohjelmointia (Answer Set Programming), jonka avulla agentti voi laskea, mitä eri toimintavaihtoehdoista seuraa. Lähestymistavan kerrotaan varmistavan, että politiikat eli sääntökokonaisuudet ovat hyvinmuodostettuja, ottavan huomioon eri sääntöjen väliset tärkeysjärjestykset ja parantavan selitettävyyttä. Agentti pystyy perustelemaan toimintansa osoittamalla, mitä rangaistuksia se odotti ja miksi jokin sääntö kannatti silti rikkoa. Tekijöiden mukaan tällainen ei vain täydellisen kuuliaisuuden tavoittelu, vaan myös realistisen sääntörikkomuskäyttäytymisen mallintaminen voi auttaa poliittisia päättäjiä simuloimaan ihmisten kaltaista päätöksentekoa ennen uusien sääntöjen käyttöönottoa. Lähde: Autonomous Agents and Policy Compliance: A Framework for Reasoning About Penalties, ArXiv (AI).