Toimenpide hyväksyttiin Euroopan parlamentin täysistunnossa Strasbourgissa äänin 423 puolesta, 57 vastaan ja 174 tyhjää, ja sen tarkoituksena on muuttaa tiettyjä tällä hetkellä voimassa olevia Euroopan tekoälylainsäädännön sääntöjä.

Euroopan parlamentti totesi lausunnossaan, että jos se saa lopullisen ”vihreän valon” EU:n neuvostolta, laki kieltää ”tekoälyjärjestelmät, jotka tuottavat lasten seksuaalista hyväksikäyttöä esittävää materiaalia tai luovat kuvia, videoita ja äänitallenteita, joissa kuvataan tunnistettavan henkilön intiimejä ruumiinosia tai seksuaalisesti eksplisiittisiä toimia ilman tämän suostumusta”.

”Toimittajat eivät saa tuoda näitä järjestelmiä EU:n markkinoille, elleivät ne ole varustettuja riittävillä teknisillä suojatoimilla, jotka estävät tällaisen materiaalin luomisen. Kielto koskee myös käyttäjiä, jotka turvautuvat näihin järjestelmiin näihin tarkoituksiin”, Euroopan parlamentti totesi.

Instituutio lisäsi, että yrityksillä on nyt aikaa 2. joulukuuta asti päivittää järjestelmänsä ja varmistaa, että ne noudattavat näitä seksuaalisia kuvia koskevia uusia sääntöjä.

Tästä ehdotuksesta olivat jo päässeet yhteisymmärrykseen Euroopan parlamentti ja EU:n neuvosto, joka edustaa 27 jäsenvaltion hallituksia.

Jotta toimenpide voisi tulla voimaan, EU:n neuvoston on kuitenkin hyväksyttävä se virallisesti.

Ehdotus syntyi sen jälkeen, kun Euroopan komissio päätti tammikuussa käynnistää tutkimuksen sosiaalisen verkoston X:n tekoälytyökalusta Grokista, joka levitti seksuaalisesti eksplisiittisiä kuvia, mukaan lukien sisältöä, joka saattoi olla lasten seksuaalista hyväksikäyttöä.

Digitaalisen vihan torjunnan keskuksen (CCDH) ja amerikkalaisen sanomalehden The New York Timesin raportin mukaan Grok tulvi tammikuussa kyseisen verkoston noin kolmella miljoonalla seksuaalisella kuvalla 11 päivän aikana, mukaan lukien 23 000 kuvaa lapsista ja 1,8 miljoonaa kuvaa naisista.

Seksuaalisesti eksplisiittisiä kuvia tuottavien tekoälyjärjestelmien kieltämisen lisäksi tämä muutos eurooppalaiseen lainsäädäntöön sisältää myös toimenpiteitä, joilla yksinkertaistetaan tekoälyyn tällä hetkellä sovellettavaa sääntelykehystä.

Näin ollen ehdotuksessa säädetään nyt mahdollisuudesta sekä yleiskäyttöisissä että korkean riskin tekoälyjärjestelmissä ”käsitellä henkilötietoja aina, kun se on ehdottoman välttämätöntä puolueellisuuksien havaitsemiseksi ja korjaamiseksi, asianmukaisin suojatoimenpitein”.

Se poistaa myös ”koneisiin, komponentteihin ja lisälaitteisiin sovellettavien tekoälyvaatimusten päällekkäisyydet”, ja tekoälylaissa selvennetään, että ”niiden on noudatettava vain alakohtaista lainsäädäntöä varmistaen samalla vastaavan tason terveyden ja turvallisuuden”.