AI-bedrijven die nieuwe EU-regels overtreden, kunnen worden beboet

Door TPN/Lusa, in Nieuws, Zakelijk, Misdaad, Tech, Europa · 22-04-2021 16:49:00 · 0 Reacties

Bedrijven op het gebied van kunstmatige intelligentie (AI) die zich niet aan de nieuwe regels van de Europese Unie (EU) houden, kunnen een boete krijgen die kan oplopen tot 6 procent van hun wereldwijde jaaromzet.

Na verschillende aanbevelingen die de afgelopen drie jaar zijn goedgekeurd op het gebied van kunstmatige intelligentie (AI) en een marktraadpleging, heeft de uitvoerende macht van de EU op 21 april een voorstel voor een verordening ingediend om de waarden en grondrechten van de EU en de veiligheid van gebruikers te beschermen, met als doel systemen die als zeer riskant worden beschouwd, te verplichten te voldoen aan dwingende eisen met betrekking tot hun betrouwbaarheid.

"Niet-naleving door een AI-aanbieder [...] kan leiden tot een boete van maximaal 6 procent van zijn wereldwijde jaaromzet," verklaarde Margrethe Vestager, uitvoerend vicevoorzitter van de Europese Commissie met de portefeuille "een Europa dat klaar is voor het digitale tijdperk", op een persconferentie in Brussel.

Door middel van een op risico's gebaseerde aanpak heeft het uitvoerend orgaan van de EU voorgesteld dat in deze eerste EU-wetgeving voor AI strenge controles moeten worden opgelegd aan systemen die als zeer riskant worden beschouwd en dat systemen met een onaanvaardbaar risico moeten worden verboden.

Maar hoewel biometrische identificatiesystemen op afstand in de nieuwe wetgeving als "hoog risico" worden genoemd, verduidelijkte Margrethe Vestager tegenover de pers dat er toepassingen zijn die "niet problematisch" zijn, zoals gezichtsherkenning of vingerafdrukken, mits deze voor persoonlijk gebruik zijn.

"Een specifiek gebruik van AI dat zowel in de categorie "hoog risico" als in de categorie "verbod" valt, is biometrische identificatie door identificatie op afstand, die voor vele doeleinden kan worden gebruikt en waarvan sommige niet problematisch zijn, zoals wanneer het wordt gebruikt bij één-op-één grenscontrole door douaneautoriteiten of wanneer ons wordt gevraagd te tekenen met onze vingerafdrukken of door gezichtsherkenning," specificeerde zij.

In ons voorstel richten wij ons daarentegen op biometrische identificatie op afstand, waarbij veel mensen tegelijk worden gevolgd", aldus Margrethe Vestager, die stelt dat "een dergelijk gebruik vanuit het oogpunt van de grondrechten zeer riskant is".

"En daarom onderwerpen wij biometrische identificatie op afstand aan nog strengere regels dan andere risicovolle gebruiksgevallen", zo motiveerde zij.

Zij zei verder dat "er situaties zijn waarin [de regels voor systemen met een hoog risico] misschien niet volstaan en dat is wanneer biometrische identificatie op afstand in real time door rechtshandhavingsinstanties op openbare plaatsen wordt gebruikt", zodat het gebruik ervan nu in de EU verboden zal zijn omdat "er in de Europese samenleving geen plaats is voor massatoezicht".

De nieuwe wet bepaalt dat voor alle systemen voor emotieherkenning en biometrische categorisering specifieke transparantie-eisen zullen gelden, en dat deze ook als zeer riskant moeten worden beschouwd in gevallen van gebruik op het gebied van bijvoorbeeld werkgelegenheid, onderwijs, rechtshandhaving, migratie en grenscontrole.

Eveneens volgens Margrethe Vestager "is het aan de lidstaten om te bepalen welke nationale autoriteit het meest geschikt is" om toezicht te houden op de nieuwe regels, of het nu gaat om gegevensbescherming of markttoezicht.

In dit dossier, dat een prioriteit is voor het Portugese voorzitterschap van de EU, creëert Brussel dan de eerste wetgeving gericht op AI, hoewel degenen die verantwoordelijk zijn voor deze technologie al onderworpen zijn aan de Europese wetgeving inzake grondrechten, zoals gegevensbescherming, privacy en non-discriminatie.



Gerelateerde artikelen


Commentaren

Wees de eerste die hierop reageert
Interactive onderwerpen, zend ons uw commentaar/mening aangaande dit artikel.

Houd er rekening mee dat The Portugal News geselecteerde commentaren kan gebruiken in de gedrukte editie van de krant.