Uutiset

Väitös: Tehokkaampi vihapuheen tunnistus voi lisätä myös tietoturvariskejä

Kieliteknologian kehittyminen helpottaa paitsi moderointia myös sensuuria, sanoo kieliteknologiamenetelmistä väittelevä Tommi Gröndahl.
Neural networks process language effectively, but not necessarily the same way as humans. Picture: Matti Ahlgren, Aalto University.
Neuroverkot prosessoivat kieltä tehokkaasti, mutta eivät välttämättä samoin kuin ihminen. Kuva: Matti Ahlgren, Aalto-yliopisto.

Tohtorikoulutettava Tommi Gröndahl väittelee 23. elokuuta kieliteknologioista Aalto-yliopistossa. Kieliteknologia on yksi yleisimmistä tekoälyn muodoista, ja Gröndahl testasi sen menetelmiä muun muassa valheiden ja vihapuheen tunnistamisessa.

”Tekoälyä tarvitaan, kun massiivista datamääristä pitää seuloa ja siivilöidä haluttuja asioita. Kieliteknologiat ovat kuitenkin olleet musta laatikko eli niitä on käytetty ilman, että on oikeastaan ymmärretty, miten ne prosessoivat kieltä”, Gröndahl sanoo.

Gröndahlia kiinnostivat erityisesti menetelmien seuraukset tietoturvan ja yksityisyydensuojan näkökulmasta.

”Jos kieliteknologiamenetelmiä kehitetään, se parantaa sekä moderoinnin että sensuroinnin mahdollisuuksia. Tekniikat ovat ihan samoja, on tekstin luokittelulla mitä tahansa seurauksia kirjoittajalle”, Gröndahl sanoo.

Gröndahl vertasi tutkimuksessa syväoppivia neuroverkkoja perinteisempiin sääntöpohjaisiin menetelmiin. Niissä ihminen luo järjestelmään säännön, jota sitten hyödynnetään automatisoinnissa. Menetelmien väliltä löytyi suuria eroja.

”Monimutkaisissa neuroverkkomalleissa on niin valtavasti numeroita, että on vaikea tietää, mitä tekstin piirrettä kukin edustaa ja mitä tekstille tapahtuu, kun jokin numeroista muuttuu. Kun teksti kaipaa yksityiskohtaista jäsentämistä, yleisimmin käytetyt neuroverkkomallit eivät aina ole luotettavia. Neuroverkkomallilla saattaa esimerkiksi olla vaikeuksia tehdä eroa lauseen ja sen kielteisen vastineen välillä”, Gröndahl sanoo.

Sääntöpohjaisten menetelmien vahvuus taas ei ole isojen datamäärien seulomisessa. Siksi on oleellista yhdistää eri menetelmien parhaat puolet.

Menetelmät helposti huijattavissa

Tekstin luokittelu perustuu tyypillisesti melko yksinkertaisiin piirteisiin, kuten tiettyihin yksittäisiin sanoihin. Esimerkiksi valheentunnistuksessa menetelmät eivät oikeastaan tunnista valheita vaan juuri näitä yksinkertaisia piirteitä datassa. Monimutkaiset koneoppimismallit jäävät kiinni tällaisiin piirteisiin yhtä lailla kuin yksinkertaisemmat mallit. Tämä asettaa mallit alttiiksi hyökkäyksille; esimerkiksi vihapuheentunnistimet ovat helposti ihmisten huijattavissa, kun tekstistä poistetaan välilyöntejä tai tekstin sekaan lisätään esimerkiksi sana ’rakkaus’.

Gröndahlin mukaan annettu tehtävä ja harjoitusdata vaikuttavat siihen, miten hyvin tekoälyyn perustuva luokittelija onnistuu tehtävässään.

”Kun koneoppimismallit ovat massiivisia, on tärkeää, että luokittelija saa tarpeeksi harjoitusdataa. Se voi helposti jäädä kiinni myös ei-toivottuihin piirteisiin, jos harjoitusdata on vinoutunutta eli jollain tapaa epäedustavaa. Monimutkaiset koneoppimismallit eivät tiedä, milloin joku sana tai merkki kannattaa ottaa huomioon ja milloin ei vaan toimivat annetun harjoitusdatan perusteella”, Gröndahl sanoo.

Gröndahl tutki vihapuheen ja valheentunnistuksen lisäksi myös kieliteknologian mahdollisuuksia kirjoitustyylin automaattisessa muuttamisessa sekä automaattisessa tekstinmuokkauksessa. Tavoitteena voi olla esimerkiksi se, että kirjoittajaa ei pystytä tunnistamaan.

Esimerkiksi kirjoitustyylin automaattisessa muuttamisessa neuroverkko tuotti konekäännöksen tapaisen muunnoksen, jonka lopputuloksena saattoi olla saman tekstin toistaminen tai tekstisisällön merkityksen muuttuminen. Sääntöpohjaisissa menetelmissä pystytään kontrolloimaan yksityiskohtaisemmin esimerkiksi tietyn sanan, vaikkapa synonyymin tai vastakohdan, vaikutusta lauseen muunnokseen.

Tommi Gröndahl

Poikkeuksellinen polku

Tietoturvan tohtorikoulutettavaksi ei voi yleensä päästä ilman tietotekniikan maisteri- tai kandidaattiopintoja. Näin kävi kuitenkin Gröndahlille, joka oli Helsingin yliopiston kognitiotieteilijänä aiemmin suuntautunut kielen tutkimukseen. Hän päätyi professori N. Asokanin tutkimusryhmään, kun hän oli kesäharjoittelun aikana ensin avustanut ryhmää käyttäjätutkimuksissa.

”Kun Tommi Gröndahl aloitti jatko-opinnot, hänellä ei ollut minkäänlaisia taustatietoja tietoturvan alueelta. Siitä huolimatta hän on menestynyt erinomaisesti sekä julkaisujen että medianäkyvyyden osalta”, Asokan sanoo.

Gröndahl on viimeistelemässä myös toista väitöskirjaa kääntämisen kognitiotieteestä Helsingin yliopistolle.

Lisätietoja:

Tommi Gröndahl

Postdoctoral Researcher
Google Perspective arvioi verkkokommentteja loukkaavuuden perusteella. Vihapuheeksi alun perin tunnistettu lause läpäisee seulan, kun se sotketaan kirjoitusvirheellä ja sanalla ’rakkaus’.

Vihapuhetta tunnistavat tekoälyt menevät sekaisin ”rakkaudesta”

Tutkijat osoittivat, että sosiaalisessa mediassa ja verkkopalveluissa käytettävät vihapuheentunnistimet ovat helposti ihmisten huijattavissa.

Uutiset
  • Julkaistu:
  • Päivitetty:
Jaa
URL kopioitu

Lue lisää uutisia

Logo
Yhteistyö, Mediatiedotteet, Yliopisto Julkaistu:

Pääkaupunkiseudun korkeakouluyhteisö yhdistää voimansa: EveryMoveCounts -kampanja käynnistyy

EveryMoveCounts -kampanjan tavoitteena on lisätä opiskelijoiden tietoisuutta arjen aktiivisuuden myönteisistä vaikutuksista hyvinvoinnille ja toimintakyvylle
Päivi Törmä ja Sebastiaan van Dijken
Mediatiedotteet, Tutkimus ja taide Julkaistu:

Tietokoneet haaskaavat valtavasti energiaa – nyt tutkijat kehittävät laskentaa, joka tuottaa huomattavasti vähemmän hukkalämpöä

Nykyiset tietokoneet ovat suuria energiasyöppöjä. Aalto-yliopiston tutkijat ovat juuri saaneet merkittävän Tulevaisuuden tekijät -rahoituksen ongelman ratkaisemiseksi.
Physicists at Aalto University and VTT have developed a new detector for measuring energy quanta at unprecedented resolution. Photo: Aalto University
Mediatiedotteet Julkaistu:

Tutkijat kehittivät maailman tarkimman säteilyilmaisimen – nyt se räätälöidään osaksi kvanttitietokoneita

Professori Mikko Möttönen on tiiminsä ja yhteistyökumppaniensa kanssa saanut Jane ja Aatos Erkon säätiöltä ja Teknologiateollisuuden 100-vuotissäätiöltä Tulevaisuuden tekijät -ohjelman rahoituksen. Sen avulla he haluavat jalostaa bolometriteknologian osaksi paitsi kvanttitietokoneita myös superpakastimia ja terahertsikameroita. Kyseessä olisi ensimmäinen kerta, kun uutta bolometria hyödynnetään käytännön sovelluksissa.
Schematic view of the entangled photon generator. Picture: Ethan D. Minot.
Mediatiedotteet Julkaistu:

Mullistava valonlähde voi tuoda lisätehoa ja -turvaa kvantti-informaation siirtämiseen

Aalto-yliopistossa aletaan rakentaa vallankumouksellista fotoniparien kvanttilomittumiseen perustuvaa LED-valonlähdettä professori Pertti Hakosen johdolla. Tutkimusryhmä on saanut työhön Jane ja Aatos Erkon säätiöltä ja Teknologiateollisuuden 100-vuotissäätiöltä kolmivuotisen Tulevaisuuden tekijät -ohjelman rahoituksen.