Uutiset

ChatGPT on kallellaan vasemmalle? Totta vai tarua – viisi myyttiä tekoälyn luotettavuudesta

ChatGPT, Dall-e ja muut generatiiviset tekoälyt herättävät sekä intoa että pelkoa. Aalto-yliopiston vieraileva tutkija ja Helsingin yliopiston yhteiskuntadatatieteen yliopistonlehtori Matti Nelimarkka kertoo, mitä yleisistä niihin liitetyistä uskomuksista pitäisi ajatella.
Kuvituskuva, henkilö seisoo vihreässä pikselöidyssä ympäristössä
Tekoälypalvelujen vastausta ei pidä ajatella totuutena vaan näkökulmana. Niillä on omat tulkintansa asioista aivan kuin meillä ihmisilläkin, sanoo Matti Nelimarkka. Kuva: Aki-Pekka Sinikoski / Aalto-yliopisto

Teksti: Antti Kivimäki

1. ChatGPT ja muut tekoälypalvelut ovat objektiivisia

TARUA. ChatGPT:ltä saa samalla kysymyksellä aina hieman erilaisen vastauksen. Siihen, kuten muihinkin generatiivisiin tekoälyalgoritmeihin, on tarkoituksella rakennettu satunnaisuutta. Vastaus tuskin voi olla ”totta”, jos totuus vaihtuu uudestaan kysyessä.

Samoja ongelmia on kuvantunnistuspalveluissa. Olemme tutkineet niitä näyttämällä niille samoja kuvia. Eri palvelut tunnistivat kuvissa eri määrän asioita ja antoivat erilaisia vastauksia. Yksi palvelu väitti varmasti kuvassa olevan paloauton, vaikka muut palvelut eivät sitä havainneet – enkä havainnut minäkään.

Tekoälypalvelujen vastausta ei pidä ajatella totuutena vaan näkökulmana. Niillä on omat tulkintansa asioista aivan kuin meillä ihmisilläkin.

2. Tekoäly tuottaa vastaukset itsenäisesti

TARUA. Ihmiset osallistuvat monin tavoin tekoälypalveluiden tiedon tuottamiseen ja prosessointiin. 

Esimerkiksi ChatGPT:ssä moderaattorit seulovat pois epäsopivina pidettyjä vastauksia. Generatiivisen tekoälyn yritykset palkkaavat töihin runoilijoita, jotta vastausten retoriikkaa saataisiin viilattua kauniimmaksi ja soljuvammaksi. 

Ihmiset myös annotoivat koneoppimisen materiaalia, eli merkitsevät siitä erilaisia piirteitä. Jotta tekoäly voi tunnistaa kuvasta kissan, ihmisten on pitänyt ensiksi käydä läpi kuvia ja merkitä kissallisiin kuviin tiedoksi koneoppimismallille, että tässä kuvassa on kissa - eli annotoida kuvamateriaalia. Monet annotoijista ja moderoijista työskentelevät globaalissa etelässä pienellä palkalla.

Myös käyttäjät voivat vaikuttaa tekoälyn toimintaan. He voivat esimerkiksi peukuttaa ChatGPT:ssä hyvästä vastauksesta, mikä auttaa koneoppimisjärjestelmää kalibroimaan vastauksiaan. 

3. Tekoäly on poliittista

Totta ja tarua.

TOTTA. Harvat asiat maailmassa ovat täysin epäpoliittisia. Kun tekoäly avustaa yhä enemmän yhteiskunnan toiminnoissa, eri intressiryhmillä syntyy paljon ajatuksia, mihin sitä voisi hyödyntää ja toisaalta, miten sitä ei saisi käyttää. Esimerkiksi Hollywoodissa käsikirjoittajat lakkoilivat siinä pelossa, että tekoäly vie heiltä työt. 

TARUA. Haluamme helposti nähdä tekoälyn tietoisempana ja inhimillisempänä kuin se onkaan. Vaikka ChatGPT tuottaa poliittisesti latautuneita lauseita, se ei itse ”tajua” olevansa poliittisesti herkällä maaperällä. Se vain järjestelee ja prosessoi dataa tilastollisesti. 

4. ChatGPT on kallellaan vasemmalle

Totta ja tarua.

TOTTA siinä mielessä, että monissa tutkimuksissa ChatGPT:lle on esitetty arvoväittämiä, ja sen.vastausten on katsottu painottuvan enemmän vasemmalle kuin oikealle. Tämä on toki tapahtunut yhdysvaltalaisella mittapuulla, jossa demokraatit ovat vasemmalla ja republikaanit oikealla. 

Löydöstä voi yrittää selittää parilla teorialla.

Ehkä vasemmistolaisemmin ajattelevat tekevät enemmän tutkimusartikkeleita, jotka sitten näkyvät myös netissä, ja kirjoittavat muutenkin enemmän ajatuksiaan nettiin kuin oikeistolaisesti ajattelevat. Koska ChatGPT käy läpi netin koko sisältöä, aineisto voi olla vasemmalle painottunut.

Poliittisen korrektiuden nimissä tekoälyn vastauksia moderoidaan ja sensuroidaan jonkin verran. Voi olla, että oikeistolaisia mielipiteitä jää moderoijien haaviin hieman enemmän kuin vasemmistolaisia mielipiteitä.

Tai sitten selitys ChatGPT:n vasemmistolaisuuteen on jotain ihan muuta. Oikeastaan meidän on hyvin vaikea sanoa näistä monimutkaisista algoritmisista järjestelmistä tarkasti mitään.

TARUA sikäli, että kyseisten tutkimusten metodologiaa on laajasti kyseenalaistettu, enkä minäkään ole niistä kovin vakuuttunut. 

ChatGPT:n kanssa pienetkin kysymyksen muotoilut johtavat erilaisiin vastauksiin. Eli jos samaa asiaa kysyy hiukan eri tavalla, voi tulla ihan erilaisia vastauksia.

Lisäksi osassa tutkimuksia ei ole toistettu asioita tarpeeksi, jotta ChatGPT:n satunnaisuus olisi oikeasti otettu huomioon.

5. Tekoäly nostaa huimasti tuottavuutta

TARUA 

Isojen aineistojen käsittelyä on tekoälyllä saatu tehostettua. Tietotyöläiset voivat pyytää moniin rutiinitöihin apua tekoälyltä. ChatGPT voi vaikkapa muotoilla sähköpostiviesteihin ystävällisen sävyn, ja kuvantunnistusjärjestelmä erittelee nopeasti miljoonien kuvien sisällön. 

Hyöty on kuitenkin osin näennäistä. 

Tekoäly seuloo, luokittelee ja yhdistelee tehokkaasti, mutta se ei useinkaan tuota mitään kovin hyödyllistä. Jos koneoppimisalgoritmiä pyytää etsimään aineistosta kymmenen ryhmää, se löytää kymmenen ryhmää – niissä ei vain välttämättä ole päätä eikä häntää. Ihmisen pitää laittaa valot päälle ja arvioida löydöksen mielekkyyttä. 

Jos laskee faktantarkastukseen kuluvan ajan, tiedonhaku voi olla nopeampaa perinteisin keinoin kuin tekoälyn avulla.

Kun ihmisiä palkataan asiantuntijatyöhön, heidän toivotaan hallitsevan oman alueensa niin hyvin, ettei heidän työtään tarvitse juuri valvoa. Tekoälyllä ei ainakaan vielä ole kovinkaan syvällistä asiantuntemusta tai kykyä kokonaisharkintaan. Esihenkilön – eli ihmisen – pitää siksi alati valvoa tekoälyn toimintaa ja suhtautua sen tuloksiin epäillen. 

Matti Nelimarkan kollegoineen tekemä tutkimus, joka avaa tekoälyn ja algoritmien toimintaa byrokratian käsitteen kautta

  • Julkaistu:
  • Päivitetty:

Lue lisää uutisia

Harald Herlin Learning Center
Tutkimus ja taide Julkaistu:

Oppimiskeskuksessa pilotoidaan 19.8.2024 alkaen uusia aukioloaikoja

Opiskelijoiden ja henkilöstön mahdollisuudet käyttää tiloja ja kokoelmia laajentuvat.
Joukko ihmisiä kävelee Lehmuskujaa pitkin kesällä
Tutkimus ja taide, Yliopisto Julkaistu:

Vahva kokonaistulos: Suomen Akatemialta 27,5 miljoonaa euroa tutkimukseen

Akatemiatutkija- ja akatemiahankerahoituksen sai yhteensä 52 aaltolaista. Aalto-yliopistolle myönnetty rahoitus on kokonaisuudessaan 27,5 miljoonaa euroa.
Aalto Space mockup ravintolatarjonnasta
Kampus, Yliopisto Julkaistu:

Ravintolapalvelut Aalto Spaceen - testaa ja voita!

Testaa, löydätkö kampuksen ravintolat Aalto Space -sovelluksesta ja voita kesäisiä palkintoja.
pohjallinen pdp-gaalassa
Mediatiedotteet, Tutkimus ja taide, Opinnot Julkaistu:

Opiskelijaprojekti synnytti innovaation: Kengän sisäpohjat syntyvät muovin sijaan kompostoituvasta puuvaahdosta

Aalto-yliopiston opiskelijat kehittivät kestävän sisäpohjan prototyypin, joka taipuu, kestää kosteutta ja tuntuu pehmeältä ihoa vasten. Suomalainen kenkäyritys VIBAe lähtee syksyllä testaamaan materiaalia käyttäjillä.