Tras varias recomendaciones adoptadas en los últimos tres años para el ámbito de la inteligencia artificial (IA) y una consulta sobre el mercado, el ejecutivo de la UE presentó, el 21 de abril, una propuesta de reglamento para salvaguardar los valores y derechos fundamentales de la UE y la seguridad de los usuarios, con el objetivo de obligar a los sistemas considerados de alto riesgo a cumplir requisitos obligatorios relacionados con su fiabilidad.

"El incumplimiento por parte de un proveedor de IA [...] puede suponer una multa de hasta el 6 por ciento de su facturación anual global", explicó en una rueda de prensa en Bruselas Margrethe Vestager, vicepresidenta ejecutiva de la Comisión Europea con la cartera de "una Europa preparada para la era digital".

Mediante un enfoque basado en el riesgo, el ejecutivo de la UE ha propuesto que en esta primera legislación de la UE para la IA se impongan controles estrictos a los sistemas considerados de alto riesgo y se prohíban los de riesgo inaceptable.

Sin embargo, aunque los sistemas de identificación biométrica a distancia se mencionan en la nueva legislación como de "alto riesgo", Margrethe Vestager aclaró a la prensa que hay aplicaciones que "no son problemáticas", como el reconocimiento facial o las huellas dactilares, siempre que sean para uso personal.

"Un uso específico de la IA que entra tanto en la categoría de alto riesgo como en la de prohibición es la identificación biométrica por identificación remota, que puede utilizarse para muchos fines y algunos de ellos no son problemáticos, como cuando se utiliza en el control fronterizo individual por parte de las autoridades aduaneras o cuando se nos pide que firmemos con nuestras huellas dactilares o por reconocimiento facial", especificó.

Por el contrario, "en nuestra propuesta nos centramos en la identificación biométrica remota, por la que se rastrea a muchas personas al mismo tiempo", señaló Margrethe Vestager, argumentando que "cualquier uso de este tipo es muy arriesgado desde el punto de vista de los derechos fundamentales".

"Y por eso sometemos la identificación biométrica a distancia a normas aún más estrictas que otros casos de uso de alto riesgo", justificó.

Continuó diciendo que "hay situaciones en las que [las normas para los sistemas de alto riesgo] pueden no ser suficientes y es cuando la identificación biométrica remota es utilizada en tiempo real por las autoridades policiales en lugares públicos", por lo que su uso estará ahora prohibido en la UE ya que "no hay lugar para la vigilancia masiva en la sociedad europea".

La nueva ley establece que todos los sistemas de reconocimiento de emociones y categorización biométrica estarán sujetos a requisitos específicos de transparencia, y también deberán considerarse de alto riesgo en los casos de uso en las áreas de empleo, educación, aplicación de la ley, migración y control de fronteras, por ejemplo.

Además, según Margrethe Vestager, "corresponderá a los Estados miembros identificar qué autoridad nacional será la mejor" para supervisar las nuevas normas, ya sea, por ejemplo, la protección de datos o la vigilancia del mercado.

En este expediente, prioritario para la presidencia portuguesa de la UE, Bruselas crea entonces la primera legislación dirigida a la IA, aunque los responsables de esta tecnología ya están sujetos a la legislación europea sobre derechos fundamentales, como la protección de datos, la privacidad y la no discriminación.