Ohjeet tekoälyn käytön ilmoittamisesta ja tekoälyn tuottaman sisällön merkitsemisestä

Kaikki tekoälyn käyttö ei edellytä merkintää tai ilmoittamista. Vaikka tekoälyasetus ei edellyttäisi merkintää, se voi silti olla hyvän käytännön mukaista tai muuten vaadittua, esimerkiksi julkaisijan toimesta.

Asetuksen velvoitteet koskevat pääasiassa seuraavia tilanteita.

A. Ihmisten kanssa suoraan vuorovaikutuksessa olevat tekoälyjärjestelmät

Kun tekoälyjärjestelmä on suunniteltu olemaan suoraan vuorovaikutuksessa ihmisten kanssa — esimerkiksi chatbot, tekoälyagentti tai tekoälypohjainen avatar — käyttäjille on ilmoitettava selkeästi, että he ovat vuorovaikutuksessa tekoälyjärjestelmän eivätkä ihmisen kanssa. Velvoite koskee keskustelun aiheesta riippumatta.

Ainoa poikkeus on tilanne, jossa olosuhteista ja asiayhteydestä käy selvästi ilmi, että henkilö on tekemisissä tekoälyjärjestelmän kanssa.

B. Deepfake-sisällöt

Deepfake on tekoälyn tuottamaa tai tekoälyn avulla muokattua kuva-, ääni- tai videosisältöä, joka muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja, yhteisöjä tai tapahtumia ja joka voi johtaa ihmiset harhaan siten, että he pitävät sitä aitona.

Esimerkkejä:

• video, jossa todellinen henkilö sanoo tai tekee jotakin, mitä hän ei ole sanonut tai tehnyt
• äänitallenne, jossa jäljitellään todellisen henkilön ääntä
• kuva todellisesta henkilöstä, paikasta tai tapahtumasta, jota on muokattu niin, että se vaikuttaa aidolta

Käyttöönottajien on merkittävä deepfake-sisältö selkeästi ja visuaalisesti, jotta ihmiset voivat tunnistaa sen tekoälyn avulla tuotetuksi tai muokatuksi.

C. Yleisen edun kannalta merkityksellisiä aiheita koskeva tekoälyn tuottama teksti

Tekoälyn tuottama tai tekoälyn avulla muokattu teksti on merkittävä, jos se:

• on julkaistu yleisön tiedottamiseksi
• koskee yleisen edun kannalta merkityksellistä aihetta, kuten politiikkaa, kansanterveyttä, yleistä turvallisuutta, ympäristönsuojelua, kuluttajaturvallisuutta, perusoikeuksia tai muita julkiseen keskusteluun liittyviä taloudellisia, tieteellisiä tai kulttuurisia kysymyksiä

Merkintää ei vaadita, jos ihminen on tarkastanut tekstin sisällöllisesti tai se on käynyt läpi toimituksellisen valvonnan (pelkkä oikeinkirjoituksen tai kieliopin tarkistaminen ei riitä) ja julkaisusta on toimituksellisesti vastuussa luonnollinen henkilö tai oikeushenkilö.

D. Tunteiden tunnistamisen ja biometrisen luokittelun järjestelmät

Ihmisille on ilmoitettava, kun he ovat tekemisissä tekoälyjärjestelmien kanssa, joissa käytetään:

• tunteiden tunnistamista — esimerkiksi työkaluja, joiden väitetään tunnistavan kasvonilmeiden, äänen, liikkeen tai muun datan perusteella tunteita, mielialaa, tarkkaavaisuutta, stressiä tai sitoutuneisuutta
• biometristä luokittelua — esimerkiksi työkaluja, jotka luokittelevat ihmisiä biometristen tietojen, kuten kasvojen, äänen, kävelyn tai muiden fyysisten tai käyttäytymiseen liittyvien ominaisuuksien perusteella

Ilmoitus on annettava selkeästi ennen järjestelmän käyttöä tai sitä käytettäessä.

Jos organisaatio kehittää tai tarjoaa tekoälyjärjestelmiä, jotka tuottavat synteettistä sisältöä (kuvia, ääntä, videoita tai tekstiä), sen on varmistettava, että tuotokset merkitään koneellisesti luettavaan muotoon, jotta ne voidaan tunnistaa tekoälyn avulla tuotetuiksi tai muokatuiksi. Tähän kuuluu esimerkiksi vesileimojen, metatietojen tai muiden teknisten ratkaisujen käyttö.

Jos organisaatio ainoastaan ottaa käyttöön muiden kehittämiä tekoälyjärjestelmiä, sen kannattaa varmistaa, että tarjoajat noudattavat tätä merkintävaatimusta.

Euroopan komissio on julkaissut tekoälyn tuottaman sisällön merkitsemistä ja ilmoittamista koskevan vapaaehtoisen käytännesäännöstön, jossa esitetään käytännön toimia, joiden avulla tarjoajat ja käyttöönottajat voivat täyttää nämä velvoitteet.

Merkintää ei välttämättä vaadita, vaikka se voisi silti olla hyvän käytännön mukaista, jos:

• deepfake-sisältö on selvästi taiteellista, luovaa, fiktiivistä, satiirista tai vastaavaa ja se esitetään sellaisena (huom: tätä nimenomaista poikkeusta ei sovelleta tekoälyn tuottamaan tekstiin — taiteellinen tai fiktiivinen teksti jää kuitenkin yleensä soveltamisalan ulkopuolelle, koska sitä ei julkaista yleisön tiedottamiseksi yleisen edun kannalta merkityksellisistä aiheista)
• tekoälyn tuottama teksti on käynyt läpi ihmisen tekemän tarkastuksen tai toimituksellisen valvonnan ja julkaisusta vastaa toimituksellisesti luonnollinen henkilö tai oikeushenkilö
• käyttö on lain nojalla sallittua, esimerkiksi rikosten havaitsemiseen, ehkäisemiseen, tutkintaan tai syytteeseenpanoon

Huomaa, että komission Article 50 -ohjeissa annetaan yksityiskohtaiset määritelmät, käytännön esimerkit ja poikkeukset.