Graafiseen rakenteeseen nojaava tekoäly tunnistaa epäasiallista kielenkäyttöä verkossa

Uusi tekoälymenetelmä pyrkii tunnistamaan verkon epäasiallisen kielenkäytön hyödyntämällä viestien välisiä suhteita eikä pelkkää tekstiä. Tutkimus keskittyy tilanteisiin, joissa suuret kielimallit eivät toimi riittävän tarkasti tai tehokkaasti, ja ehdottaa tilalle rakenteeseen perustuvaa ratkaisua. Työn kohteena on englanninkielinen Wikipedia-yhteisö, jossa epäasiallisuus – kuten toksisuus, aggressio ja henkilöön käyvät hyökkäykset – kuormittaa sekä käyttäjiä että vapaaehtoisia ylläpitäjiä. Nykyiset automaattiset tunnistusjärjestelmät jäävät usein jälkeen sekä tarkkuudessa että laskennallisessa tehokkuudessa. Tutkijat esittelevät niin sanotun graafineuroverkon (graph neural network), tekoälymallin, joka ei katso kommentteja yksittäin vaan osana laajempaa verkkoa. Jokainen käyttäjäkommentti esitetään verkon solmuna, ja solmujen väliset yhteydet määritellään tekstien samankaltaisuuden perusteella. Näin malli oppii yhtä aikaa sekä kielen sisällöstä että siitä, miten kommentit suhteutuvat toisiinsa. Lähestymistapa mahdollistaa sen, että epäasiallisuutta ei arvioida vain yksittäisten sanojen tai lauseiden perusteella, vaan huomioidaan kokonainen keskustelurakenne. Tavoitteena on tukea verkkoyhteisöjen moderointia järjestelmällä, joka havaitsee toksisuuden, aggression ja henkilökohtaiset hyökkäykset aiempaa luotettavammin ja kevyemmin laskentaresurssein. Tutkimus ehdottaa näin vaihtoehtoista suuntaa automaattiselle moderoinnille aikana, jolloin huomio on pitkälti keskittynyt suuriin kielimalleihin. Graafineuroverkkoon perustuva malli pyrkii tuomaan keskustelun rakenteen osaksi ongelmanratkaisua, mikä voi olla olennaista suurissa ja vilkkaissa verkkoyhteisöissä. Lähde: When Large Language Models Do Not Work: Online Incivility Prediction through Graph Neural Networks, ArXiv (AI).