Yapay zeka (AI) alanı ve pazar danışmanlığı için son üç yılda kabul edilen çeşitli önerilerin ardından, AB yöneticisi 21 Nisan'da, AB değerlerini ve temel haklarını ve kullanıcı güvenliğini korumak için önerilen bir düzenleme sundu ve yüksek riskli olarak kabul edilen zorunlu sistemleri hedefleyen, güvenilirliği ile ilgili zorunlu şartlara uymak için.

“ Dijital Çağ'a uygun bir Avrupa” portföyü ile Avrupa Komisyonu İcra Başkan Yardımcısı Margrethe Vestager, Brüksel'de düzenlediği basın toplantısında, “Yapay Zeka sağlayıcısına uyulmaması [...] küresel yıllık cirosunun yüzde 6'sına kadar para cezası gerektirebilir.

Risk temelli bir yaklaşımla AB yöneticisi, bu ilk AB AI mevzuatında, yüksek risk olarak kabul edilen sistemlere sıkı kontroller uygulanmasını ve kabul edilemez riskleri yasaklanmasını önermiştir.

Ancak, uzak biyometrik tanımlama sistemleri yeni mevzuatta “yüksek risk” olarak belirtilse de Margrethe Vestager, kişisel kullanım için olması şartıyla yüz tanıma veya parmak izi gibi “sorunlu olmayan” uygulamaların olduğunu basına açıklığa kavuşturdu.

“ Hem yüksek riskli hem de yasaklama kategorilerine giren yapay zeka'nın belirli bir kullanımı uzaktan tanımlama ile biyometrik tanımlamadır ve bunların bazıları gümrük makamları tarafından bire bir sınır kontrolünde kullanıldığında veya bizim parmak izi veya yüz tanıma ile imzalamak istedi” diye belirtti.

Aksine, “önerimizde, birçok insanın aynı anda takip edildiği uzak biyometrik tanımlamaya odaklanıyoruz” diyen Margrethe Vestager, “bu tür kullanımların temel haklar açısından son derece riskli olduğunu” savundu.

“ Ve bu yüzden uzak biyometrik tanımlamayı diğer yüksek riskli kullanım durumlarından bile daha katı kurallara tabi tutuyoruz.” diyor.

“ Yüksek riskli sistemler için kuralların yeterli olmayabileceği durumlar vardır ve bu da uzaktan biyometrik tanımlamanın kamuya açık yerlerde kolluk kuvvetleri tarafından gerçek zamanlı olarak kullanıldığı zaman” demeye devam etti, bu yüzden artık AB'de “kitleye yer yok” olarak kullanımı yasaklanacak Avrupa toplumunda gözetim”.

Yeni yasa, tüm duygu tanıma ve biyometrik kategorizasyon sistemlerinin belirli şeffaflık gereksinimlerine tabi olacağını ve örneğin istihdam, eğitim, kolluk kuvvetleri, göç ve sınır kontrolü alanlarında kullanım durumunda yüksek risk olarak kabul edilmesini öngörmektedir.

Margrethe Vestager'a göre, veri koruma veya pazar gözetimi gibi yeni kuralları denetlemek için “hangi ulusal otoritenin en iyisi olacağını belirlemek üye ülkelere kalmış olacak”.

AB'nin Portekiz'in başkanlığı için bir öncelik olan bu dosyada Brüksel, daha sonra yapay zekaya yönelik ilk mevzuatı oluşturur, ancak bu teknolojiden sorumlu olanlar veri koruma, gizlilik ve ayrımcılık gibi temel haklara ilişkin Avrupa mevzuatına tabidir.