Uusi järjestelmä opettaa robotteja toimimaan eettisten periaatteiden mukaan

Tutkijat ovat kehittäneet Principles2Plan-nimisen järjestelmän, joka auttaa muuttamaan yleiset eettiset periaatteet konkreettisiksi toimintaohjeiksi roboteille ja muille automaattisille järjestelmille. Tavoitteena on tukea robottien eettistä toimintaa ympäristöissä, joissa ne ovat tekemisissä ihmisten kanssa. Nykyiset automaattiset suunnittelutyökalut osaavat jo laatia toimintasuunnitelmia, mutta ne ottavat huonosti huomioon esimerkiksi yksityisyyden suojan tai vahingon välttämisen. Eettisten sääntöjen käsin määrittely on toisaalta työlästä ja erittäin tapauskohtaista: sama periaate voi tarkoittaa eri tilanteissa eri asioita. Principles2Plan tuo väliin vuorovaikutteisen kerroksen, jossa ihmisen asiantuntemus ja suuri kielimalli yhteistyössä muodostavat tilanteeseen sopivia sääntöjä. Järjestelmä saa käyttäjältä kuvauksen suunnittelun kohteena olevasta tehtävämaailmasta, käsillä olevasta ongelmasta sekä keskeisistä korkeantason periaatteista, kuten hyvän tekeminen (beneficence) ja yksityisyys. Tämän pohjalta järjestelmä tuottaa tarkempia, käytännössä toteutettavissa olevia eettisiä sääntöjä, jotka ovat linjassa annettujen periaatteiden kanssa. Käyttäjä voi tarkistaa ja tarvittaessa muokata sääntöjä sekä asettaa niille tärkeysjärjestyksen. Sen jälkeen sääntöjä käytetään automaattisen suunnittelijan ohjaamiseen, jotta tämän tuottamat toimintasuunnitelmat ovat eettisesti harkittuja. Tutkijoiden mukaan vastaavaa järjestelmää, joka tukisi käyttäjiä eettisten periaatteiden jäsentämisessä suunnittelua varten, ei ole aiemmin esitelty. Principles2Plan on prototyyppi, joka demonstroi, miten ihminen ja kielimalli voivat yhdessä rakentaa tilannekohtaisia eettisiä ohjeita osaksi robottien päätöksentekoa. Lähde: Principles2Plan: LLM-Guided System for Operationalising Ethical Principles into Plans, ArXiv (AI).