Uutiset

Tekoäly voi tehdä julkisesta palvelusta syrjivän tai tietoturvariskin – osallistava tutkimushanke tähtää parempiin palveluihin

Uuden tutkimusprojektin tarkoitus on auttaa valtiota ja pääkaupunkiseudun kuntia kehittämään luotettavia ja turvallisia tekoälyyn nojaavia sovelluksia ja vastaamaan tulevaan EU-sääntelyyn.
CRAI-CRIS research group
Civic Agency in AI -projektin tarkoitus on parantaa julkisia palveluja. Kuvassa Karolina Drobotowicz (vas.), Nitin Sawhney, Bruna de Castro e Silva ja Kaisla Kajava. Kuva: Matti Ahlgren / Aalto-yliopisto

Tekoäly tehostaa jatkuvasti suurempaa osaa julkisista palveluista. Samalla algoritmipohjaisiin apuvälineisiin liittyy aina riskejä syrjinnästä yksityisyyden suojan loukkauksiin – etenkin, jos loppukäyttäjät eivät itse pääse vaikuttamaan kehitystyöhön. 

Aalto-yliopiston uusi tutkimusprojekti tuo kansalaiset, sovellusten kehittäjät ja viranomaiset yhteen parempien tekoälyyn nojaavien palvelujen kehittämiseksi.

“Haluamme voimaannuttaa kaikki osapuolet tekemään parempia päätöksiä ja ymmärtämään näiden teknologioiden seuraamuksia”, sanoo projektia johtava työelämäprofessori Nitin Sawhney Aalto-yliopistolta ja Suomen tekoälykeskus FCAI:lta.

“Meidän täytyy suojella itseämme järjestelmiltä, jotka tekevät meistä oletuksia jotka eivät ole reiluja tai oikeita.”

Civic Agency in AI -projektin tarkoitus on parantaa erityisesti valtion sekä Helsingin ja Espoon kaupunkien käyttämiä tekoälytyökaluja. Hankkeen ytimessä ovat tapaustutkimukset, joissa tarkastellaan, miten luotettavia ja eri ihmisryhmien kannalta tasapuolisia kansalaisille tarjotut palvelut ovat. Suunniteltujen tutkimuskohteiden joukossa ovat muun muassa Espoon kaupungin maahanmuuttajille suunnatut digitaaliset neuvontapalvelut sekä Kelan asiakkaita auttava chatbot.

Tekoälypohjaisten palveluiden luotettavuus on Suomessa juuri nyt erityisen ajankohtainen kysymys, koska Euroopan Unioni on kehittämässä uutta lainsäädäntöä niiden säätelemiseksi. Yksi tutkimusprojektin päämääristä on auttaa julkista sektoria ymmärtämään odotettavissa olevan lainsäädännön seuraamukset olemassa oleville ja suunnitelluille palveluille.

“Näen säätelyn mahdollisuutena innovaatioille. Jos me Suomessa pystymme rakentamaan järjestelmiä, jotka ovat ymmärrettäviä ja vastuullisia sekä osoittamaan työkalumme ja käytäntömme luotettaviksi, meillä on kilpailuetu muuhun maailmaan nähden”, Sawhney sanoo.

Tutkijoiden tarkoituksena on esitellä työtään sekä Suomen hallitukselle että EU:lle, ja lopulta vaikuttaa politiikan linjauksiin.
 

Työpajat tuovat yhteen sovellusten kehittäjät ja käyttäjät

EU ei ole ainoa alue, jossa säätely tai sen mahdollisuus asettaa palveluntarjoajat uuden eteen. Yhdysvalloissa useat rahoitusta kahmineet startup-firmat tekevät jo sitä työtä, jota Sawhney kumppaneineen aloittelee Suomessa.

“Panokset ovat todella korkealla. Yritykset tuntevat lainsäätäjiltä tulevan paineen ja ne investoivat paljon rahaa. Siksi uusia startupeja syntyy auttamaan firmoja säätelyn kanssa ja kehittämään työkaluja ja teknologiaa niiden avuksi”, Sawhney sanoo.

Sawhney pitää tärkeänä, ettei keskeinen työ tekoälysovellusten läpinäkyvyyden edistämiseksi jää vain yksityisille yrityksille.

Tutkijat aikovat järjestää haastatteluja ja työpajoja, joihin he kutsuvat laajan joukon sovellusten kehittäjiä ja käyttäjiä. Tapahtumien pohjalta he kokoavat yhteen toimivia toimintamalleja ja yleistettäviä suosituksia hyvään hallintoon. Projektissa myös kerätään muun muassa mediateksteistä ja poliittisista dokumenteista aineisto, jonka avulla tutkijat analysoivat kielitieteen keinoin tekoälyyn ja sen etiikkaan liittyviä puhetapoja yhteiskunnassa.

“On tärkeää ymmärtää, miten erilaiset toimijat puhuvat näistä algoritmeista. Se vaikuttaa meidän ymmärrykseemme tekoälystä ja sen mahdollisuuksista”, projektin kielitieteellisestä analyysistä vastaava väitöstutkija Kaisla Kajava sanoo.

Civic Agency in AI -hanke on saanut Koneen säätiöltä nelivuotisen rahoituksen. Projekti alkoi vuoden alussa.

 

Pattern, computer science, robots and other artificial intelligence things, illustration Matti Ahlgren

Critical AI & Crisis Interrogatives (CRAI-CIS) -seminaari

Näkökulmia tekoälyyn ja Human Computer Interaction -aiheisiin.

Tapahtumat
FCAI

Suomen tekoälykeskus FCAI (ulkoinen linkki)

Suomen tekoälykeskus FCAI on osaamiskeskittymä, jonka ovat käynnistäneet Aalto-yliopisto, Helsingin yliopisto ja Teknologian tutkimuskeskus VTT. FCAI:n tavoitteena on kehittää uudenlaista tekoälyä, joka voi toimia ihmisen kanssa monimutkaisessa ympäristössä ja auttaa uudistamaan suomalaista teollisuutta. FCAI on yksi Suomen Akatemian lippulaivoista.

  • Julkaistu:
  • Päivitetty:
Jaa
URL kopioitu

Lue lisää uutisia

Risto Siilasmaa. Kuva: WithSecure
Yhteistyö Julkaistu:

Yrittäjä Risto Siilasmaa kannustaa opiskelijoita muuttamaan maailmaa

Aalto-yliopiston alumni, Risto Siilasmaa rohkaisi Aalto International Talent -ohjelman osallistujia muuttamaan maailmaa.
Utuinen ihmishahmo näyttää kävelevän pois päin, varjo heijastuu vaalealle pinnalle
Tutkimus ja taide, Opinnot, Yliopisto Julkaistu:

Maisteriopiskelijoiden näyttely Suomen valokuvataiteen museossa

Valokuvataiteen pääaineen maisteriopiskelijoiden MoA in Photography 23 -näyttely on esillä 12. maaliskuuta asti.
Nainen rannalla tuulisella säällä hymyilee, taustalla meri kuohuaa
Nimitykset, Tutkimus ja taide Julkaistu:

Professori Ranja Hautamäki: ”Monimuotoinen kaupunkiluonto on keskeinen tekijä hyvinvoinnin ja hiilinielujen lisäämiseksi”

Maisema-arkkitehtuurin professori ratkoo ilmastonmuutoksen hillintää ja kaupunkiluonnon hiilinieluja koskevia kysymyksiä.
NASAn Curiosity-mönkijä kuvaama pölypyörre Marsin Gale-kraatterissa. Kuvankäsittely: Henrik Kahanpää. Alkuperäinen kuva: NASA / JPL-Caltech
Tutkimus ja taide, Opinnot Julkaistu:

Marsin sää vaihtelee rajusti, mutta sen ilmasto ei ole muuttumassa

Väitöstutkimuksessaan Henrik Kahanpää myös kyseenalaistaa Marsin pölypyörteisiin liittyvän vallitsevan käsityksen. Tutkijana hän toivoo, että ihminen ei koskaan menisi Marsiin.