La medida fue aprobada en la sesión plenaria del Parlamento Europeo en Estrasburgo, con 423 votos a favor, 57 en contra y 174 abstenciones, y tiene por objeto modificar determinadas normas actualmente vigentes en la legislación europea sobre IA.

El PE ha señalado que, si recibe la «luz verde» definitiva del Consejo de la UE, la ley prohibirá «los sistemas de IA que generen material de abuso sexual infantil o que creen imágenes, vídeos y audios que muestren partes íntimas de una persona identificable, o actividades sexualmente explícitas, sin su consentimiento», según un comunicado.

«No se permitirá a los proveedores comercializar estos sistemas en el mercado de la UE a menos que cuenten con las garantías técnicas adecuadas para impedir la creación de este material. La prohibición también se aplica a los usuarios que recurran a estos sistemas con estos fines», indicó el PE.

La institución añadió que las empresas tienen ahora hasta el 2 de diciembre para actualizar sus sistemas y garantizar que cumplen estas nuevas normas sobre imágenes de carácter sexual.

Esta propuesta ya había sido acordada por el PE y el Consejo de la UE, que representa a los gobiernos de los 27 Estados miembros.

Sin embargo, para entrar en vigor, la medida deberá ser adoptada formalmente por el Consejo de la UE.

La propuesta surgió después de que la Comisión Europea decidiera en enero abrir una investigación sobre Grok, una herramienta de IA de la red social X, por difundir imágenes sexualmente explícitas, incluido contenido que podría constituir abuso sexual infantil.

Según un informe del Centro para la Lucha contra el Odio Digital (CCDH) y el periódico estadounidense The New York Times, en enero, Grok supuestamente inundó dicha red con aproximadamente tres millones de imágenes sexualizadas a lo largo de 11 días, incluidas 23 000 de menores y 1,8 millones de mujeres.

Además de la prohibición de los sistemas de IA que generan imágenes sexualmente explícitas, este cambio en la legislación europea también incluye medidas para simplificar el marco regulador que se aplica actualmente a la IA.

Así, la propuesta prevé ahora la posibilidad, tanto en los sistemas de IA de uso general como en los de alto riesgo, «de tratar datos personales siempre que sea estrictamente necesario para detectar y corregir sesgos, con las garantías adecuadas».

Asimismo, elimina la «superposición de los requisitos de IA aplicables a las máquinas, los componentes y los accesorios», y la ley de IA aclara que «solo deben cumplir con la legislación sectorial, garantizando al mismo tiempo un nivel equivalente de salud y seguridad».