Uutiset

Miksi tekoäly ei osaa sanoa ”en tiedä”?

Liialliseen itsevarmuuteen sortuvat tekoälyjärjestelmät voivat olla vaarallisia, joten tutkijat opettavat niille nöyryyttä. Lassi Meronen tutki asiaa perjantaina 15.12.2023 tarkastetussa väitöskirjassaan.
Doctoral researcher Lassi Meronen dressed in a blue shirt, photographed from the side with a studio light shining on the right side of the photo
Lassi Meronen väitteli Aalto-yliopiston tietotekniikan laitokselta 15. joulukuuta 2023. Kuva: Matti Ahlgren/Aalto-yliopisto

ChatGPT:n kaltaisten tekoälyjärjestelmien tehokkuus perustuu syväoppimismalleihin. Tekoälytutkimuksessa on kuitenkin kiinnitetty huomiota järjestelmien liialliseen itsevarmuuteen sekä niiden heikkoon kykyyn arvioida omien ennusteidensa epävarmuutta. Eli vaikka tekoäly kohtaisi itselleen tuntemattoman tilanteen, se ei osaa sanoa, ettei se tiedä vastausta.

“Tämä on ongelmallista etenkin sovelluksissa, joissa turvallisuus on elintärkeää. Esimerkiksi itseohjautuvissa autoissa huonot päätökset voivat johtaa vakaviin seurauksiin”, sanoo koneoppimisen väitöskirjatutkija Lassi Meronen Aalto-yliopiston tietotekniikan laitokselta.

”Syväoppimismalli voisi auttaa esimerkiksi sairauksien diagnosoinnissa, jos sillä olisi kyky diagnosoida 90 prosenttia tapauksista luotettavasti. Tällöin vain 10 prosenttia epävarmoista tapauksista jäisi lääkärin tarkastettavaksi. Jos malli ei kuitenkaan pysty ilmaisemaan epävarmoja tapauksia, lääkäri joutuu tarkistamaan kaikki diagnoosit, jolloin siitä ei olisi lainkaan hyötyä.”

Meronen on tutkinut väitöskirjassaan eri menetelmiä, joilla syväoppimismallit voisivat arvioida näitä epävarmuusasteitaan paremmin. Malleista voisi näin olla enemmän hyötyä myös turvallisuutta vaativissa sovelluksissa.

”Väitöskirjani tärkeimmät tulokset on saatu hyödyntämällä matemaattisia yhteyksiä todennäköisyysmalleihin, jotka ovat tunnettuja hyvistä epävarmuusarvioistaan. Havaitut yhteydet mahdollistavat näiden hyödyllisten ominaisuuksien tuomisen myös syväoppimismalleihin”, sanoo Meronen. 

Kun syväoppimismallien kykyä arvioida ennusteidensa epävarmuutta parannetaan, ne voivat myös paremmin erottaa monimutkaiset syötteet yksinkertaisemmista, kertoo Meronen. Tämä säästää laskennallisia resursseja, kun raskas laskenta voidaan kohdistaa vain vaikeammille syötteille. Näin vähennetään myös syväoppimismallien energiankulutusta, mikä on yhä tärkeämpää, kun mallien koon kasvaessa myös niiden energiankulutus kasvaa jatkuvasti suuremmaksi.

Yhteistyö Saabin kanssa

Merosen väitöskirja koostuu useista merkittävistä tutkimusartikkeleista, joista kaksi julkaistiin tekoälytutkimuksen arvostetuimmassa tieteellisessä konferenssissa NeurIPS:ssä (the Conference on Neural Information Processing Systems) vuosina 2019 ja 2021. 

Hänen tutkimustaan vauhditti myös tiivis yhteistyö Saabin kanssa. Aalto-yliopisto ja Saab solmivat vuonna 2017 kymmenen vuoden strategisen yhteistyösopimuksen ja laajensivat ohjelmaa vuonna 2021 kattamaan myös uusia tieteenaloja. Kumppanuus on Saabille 23 miljoonan euron arvoinen investointi, ja se on jo poikinut useita tieteellisiä julkaisuja sekä patenttihakemuksia.

”Kun selvitimme meille parasta tutkimuskumppania, Aalto-yliopisto erottui edukseen”, sanoo Saab Finlandin teknologiajohtaja Petteri Alinikula. ”Aallolla on juuri sitä osaamista, jota me tarvitsemme ja Aallon asenne yritysyhteistyöhön on esimerkillinen. Tavoitteenamme on kouluttaa ainakin 20 uutta tohtoria kymmenvuotisen  ohjelman aikana.”

Merosen yhteistyö Saabin kanssa on keskittynyt turvallisuuskriittisiin syväoppimismalleihin.

”Saab työskentelee useiden eri sovellusten kanssa, jotka voisivat hyötyä syväoppimismallien käytöstä. Monissa sovelluksissa turvallisuus on keskeinen tekijä, mikä tekee omasta tutkimuksestani melko relevantin Saabille. Olen muun muassa kehittänyt automaattisen tutkasignaalin luokittelun, jota voi käyttää ilma-alusten tunnistamiseen. Tällaisen järjestelmän täytyy kyetä arvioimaan ennusteidensa epävarmuusasteita, koska liian itsevarman järjestelmän väärä arvio voi pahimmassa tapauksessa johtaa erittäin vakaviin seurauksiin”, sanoo Meronen.

Arno Solin

Arno Solin

Assistant Professor
Susanna Jaarmo

Susanna Jaarmo

Corporate Relations Manager, School of Science
Saab Aalto Research Day 2019

Strateginen yrityskumppani Saab

Saabin pitkäjänteinen sitoutuminen yhteistyöhön luo hyvät edellytykset tieteellisille läpimurroille ja uusien innovaatioiden kehittämiselle.

Yritysyhteistyö
FCAI

Suomen tekoälykeskus FCAI (ulkoinen linkki)

Suomen tekoälykeskus FCAI on osaamiskeskittymä, jonka ovat käynnistäneet Aalto-yliopisto, Helsingin yliopisto ja Teknologian tutkimuskeskus VTT. FCAI:n tavoitteena on kehittää uudenlaista tekoälyä, joka voi toimia ihmisen kanssa monimutkaisessa ympäristössä ja auttaa uudistamaan suomalaista teollisuutta. FCAI on yksi Suomen Akatemian lippulaivoista.

Kaksi naista tekemässä kankaisia rintamerkkejä. Kuva: Marko Oikarinen / Aalto-yliopisto

Yritysyhteistyö

Tutkimusyhteistyö vahvistaa osaamista ja liiketoiminnan kehittämistä. Opintoprojekteissa syntyy uusia tuote- ja palveluideoita. Kampuksemme tarjoaa innostavan toiminta- ja verkostoitumisympäristön.

Miten tohtorinkoulutukseen haetaan?

Tietoa hakijoille ja tohtorinkoulutuksesta kiinnostuneille

Read more
A man with a doctor's hat on celebrating his promotion as a doctor with other doctors
  • Julkaistu:
  • Päivitetty:

Lue lisää uutisia

Kesäinen Otaniemen rantanäkymä, jossa Aalto-yliopiston logo ja tapahtuman nimi sekä VTT:n ja Avoimen tieteen logot.
Kampus, Yhteistyö, Tutkimus ja taide Julkaistu:

Avoimen tieteen ja tutkimuksen kesäpäivät 2024 järjestetään Aalto-yliopistossa

Aalto-yliopisto järjestää Avoimen tieteen ja tutkimuksen kesäpäivät 2024 yhdessä Avoimen tieteen ja tutkimuksen kansallisen koordinaation ja Teknologian tutkimuskeskus VTT:n kanssa.
Kaksi tummiin pukeutunutta miestä istuu suunnittelemiensa huonekalujen keskellä
Tutkimus ja taide, Opinnot Julkaistu:

Aaltolaisten muotoilua esillä Milanon huonekalumessuilla

Italialaisen muotoilijan ja japanilaisen arkkitehdin suomalaisesta kulttuurista inspiroitunutta yhteistyötä nähdään Salone del Mobile -messuilla Milanossa huhtikuussa. INTERDEPENDENCE-näyttelyssä on esillä myös muita projekteja Aallosta.
Ilmakuvassa kosken kuivunut uoma, jonka ylittää silta.
Mediatiedotteet Julkaistu:

Kuivuus on uhka runsaiden vesivarojen Suomessakin

Viime vuosikymmenien kuivista kausista on Suomessa aiheutunut vakavia vaikutuksia etenkin maataloudelle ja vesihuollolle.
A glass needle probes a tiny droplet sitting on a black surface.
Mediatiedotteet Julkaistu:

Fyysikot onnistuivat selittämään tuntemattoman voiman, joka kiskoo vesipisaroita huippuliukkailla pinnoilla

Tulokset auttavat kehittämään aiempaa liukkaampia pintoja, jollaisia hyödynnetään esimerkiksi lääketeollisuudessa ja liikenteessä.