Cette mesure a été adoptée lors de la séance plénière du Parlement européen à Strasbourg, par 423 voix pour, 57 contre et 174 abstentions, et vise à modifier certaines règles actuellement en vigueur dans le cadre de la législation européenne sur l’IA.

Le Parlement européen a déclaré que, s’il recevait le « feu vert » définitif du Conseil de l’UE, la loi interdirait « les systèmes d’IA qui génèrent du contenu pédopornographique ou qui créent des images, des vidéos et des enregistrements audio représentant les parties intimes d’une personne identifiable, ou des activités sexuellement explicites, sans son consentement », selon un communiqué.

« Les fournisseurs ne seront pas autorisés à mettre ces systèmes sur le marché de l’UE à moins de disposer de garanties techniques adéquates pour empêcher la création de ce type de contenu. L’interdiction s’applique également aux utilisateurs qui recourent à ces systèmes à ces fins », a précisé le Parlement européen.

L'institution a ajouté que les entreprises ont désormais jusqu'au 2 décembre pour mettre à jour leurs systèmes et s'assurer qu'ils sont conformes à ces nouvelles règles sur les images à caractère sexuel.

Cette proposition avait déjà été approuvée par le Parlement européen et le Conseil de l'UE, qui représente les gouvernements des 27 États membres.

Toutefois, pour entrer en vigueur, la mesure devra être formellement adoptée par le Conseil de l'UE.

Cette proposition fait suite à la décision prise en janvier par la Commission européenne d’ouvrir une enquête sur Grok, un outil d’IA du réseau social X, pour diffusion d’images sexuellement explicites, y compris de contenus pouvant constituer des abus sexuels sur mineurs.

Selon un rapport du Centre for Combating Digital Hate (CCDH) et du journal américain The New York Times, en janvier, Grok aurait inondé ce réseau d’environ trois millions d’images à caractère sexuel en 11 jours, dont 23 000 représentant des enfants et 1,8 million des femmes.

Outre l’interdiction des systèmes d’IA générant des images à caractère sexuellement explicite, cette modification de la législation européenne comprend également des mesures visant à simplifier le cadre réglementaire actuellement applicable à l’IA.

Ainsi, la proposition prévoit désormais la possibilité, tant pour les systèmes d’IA à usage général que pour ceux à haut risque, « de traiter des données à caractère personnel lorsque cela est strictement nécessaire pour détecter et corriger des biais, avec des garanties adéquates ».

Elle élimine également le « chevauchement des exigences en matière d’IA applicables aux machines, aux composants et aux accessoires », la loi sur l’IA précisant qu’« ils doivent uniquement se conformer à la législation sectorielle, tout en garantissant un niveau équivalent de santé et de sécurité ».