Dopo diverse raccomandazioni adottate negli ultimi tre anni per il settore dell'intelligenza artificiale (AI) e una consultazione del mercato, l'esecutivo dell'UE ha presentato, il 21 aprile, una proposta di regolamento per salvaguardare i valori e i diritti fondamentali dell'UE e la sicurezza degli utenti, con l'obiettivo di obbligare i sistemi considerati ad alto rischio a rispettare i requisiti obbligatori relativi alla loro affidabilità.

"Il mancato rispetto da parte di un fornitore di IA [...] può comportare una multa fino al 6% del suo fatturato annuo globale", ha spiegato Margrethe Vestager, vicepresidente esecutivo della Commissione europea con il portafoglio "un'Europa adatta all'era digitale", in una conferenza stampa a Bruxelles.

Attraverso un approccio basato sul rischio, l'esecutivo dell'UE ha proposto che in questa prima legislazione dell'UE per l'IA, si dovrebbero imporre controlli stretti sui sistemi considerati ad alto rischio e quelli di rischio inaccettabile dovrebbero essere vietati.

Tuttavia, anche se i sistemi di identificazione biometrica a distanza sono menzionati nella nuova legislazione come "ad alto rischio", Margrethe Vestager ha chiarito alla stampa che ci sono applicazioni che "non sono problematiche", come il riconoscimento facciale o le impronte digitali, purché siano per uso personale.

"Un uso specifico dell'IA che rientra sia nelle categorie ad alto rischio che in quelle di divieto è l'identificazione biometrica tramite identificazione a distanza, che può essere utilizzata per molti scopi e alcuni di essi non sono problematici, come quando viene utilizzata nel controllo delle frontiere uno a uno dalle autorità doganali o quando ci viene chiesto di firmare con le nostre impronte digitali o tramite riconoscimento facciale", ha specificato.

Al contrario, "nella nostra proposta, ci concentriamo sull'identificazione biometrica a distanza, per cui molte persone sono tracciate allo stesso tempo", ha sottolineato Margrethe Vestager, sostenendo che "qualsiasi uso di questo tipo è altamente rischioso dal punto di vista dei diritti fondamentali".

"Ed è per questo che sottoponiamo l'identificazione biometrica a distanza a regole ancora più severe di altri casi d'uso ad alto rischio", ha giustificato.

Ha continuato dicendo che "ci sono situazioni in cui [le regole per i sistemi ad alto rischio] possono non essere sufficienti e questo è quando l'identificazione biometrica a distanza è usata in tempo reale dalle autorità di polizia in luoghi pubblici", quindi il suo uso sarà ora vietato nell'UE in quanto "non c'è spazio per la sorveglianza di massa nella società europea".

La nuova legge prevede che tutti i sistemi di riconoscimento delle emozioni e di categorizzazione biometrica saranno soggetti a specifici requisiti di trasparenza, e dovranno anche essere considerati ad alto rischio in caso di utilizzo nei settori dell'occupazione, dell'istruzione, dell'applicazione della legge, dell'immigrazione e del controllo delle frontiere, per esempio.

Sempre secondo Margrethe Vestager, "spetterà agli stati membri identificare quale autorità nazionale sarà la migliore" per supervisionare le nuove regole, se per esempio la protezione dei dati o la sorveglianza del mercato.

In questo dossier, che è una priorità della presidenza portoghese dell'UE, Bruxelles crea quindi la prima legislazione rivolta all'IA, anche se i responsabili di questa tecnologia sono già soggetti alla legislazione europea sui diritti fondamentali, come la protezione dei dati, la privacy e la non discriminazione.