Die Maßnahme wurde auf der Plenarsitzung des Europäischen Parlaments in Straßburg mit 423 Ja-Stimmen, 57 Nein-Stimmen und 174 Enthaltungen angenommen und zielt darauf ab, bestimmte derzeit geltende Vorschriften des europäischen KI-Rechts zu ändern.

Das EP erklärte in einer Stellungnahme, dass das Gesetz – sofern es vom EU-Rat endgültig „grünes Licht“ erhält – „KI-Systeme verbieten wird, die Material über sexuellen Kindesmissbrauch generieren oder Bilder, Videos und Audioaufnahmen erstellen, die intime Körperteile einer identifizierbaren Person oder sexuell eindeutige Handlungen ohne deren Einwilligung darstellen“.

„Anbieter dürfen diese Systeme nicht auf den EU-Markt bringen, es sei denn, sie verfügen über angemessene technische Schutzmaßnahmen, um die Erstellung dieses Materials zu verhindern. Das Verbot gilt auch für Nutzer, die diese Systeme für diese Zwecke in Anspruch nehmen“, erklärte das EP.

Die Institution fügte hinzu, dass Unternehmen nun bis zum 2. Dezember Zeit haben, ihre Systeme anzupassen und sicherzustellen, dass sie diesen neuen Vorschriften zu sexuellen Darstellungen entsprechen.

Dieser Vorschlag war bereits vom EP und vom EU-Rat, der die Regierungen der 27 Mitgliedstaaten vertritt, vereinbart worden.

Um in Kraft zu treten, muss die Maßnahme jedoch noch vom EU-Rat formell verabschiedet werden.

Der Vorschlag folgte auf die Entscheidung der Europäischen Kommission im Januar, eine Untersuchung gegen Grok einzuleiten, ein KI-Tool des sozialen Netzwerks X, wegen der Verbreitung sexuell expliziter Bilder, darunter Inhalte, die sexuellen Kindesmissbrauch darstellen könnten.

Laut einem Bericht des Centre for Combating Digital Hate (CCDH) und der amerikanischen Zeitung The New York Times soll Grok im Januar dieses Netzwerks innerhalb von 11 Tagen mit rund drei Millionen sexualisierten Bildern überschwemmt haben, darunter 23.000 von Kindern und 1,8 Millionen von Frauen.

Neben dem Verbot von KI-Systemen, die sexuell eindeutige Bilder generieren, umfasst diese Änderung des europäischen Rechts auch Maßnahmen zur Vereinfachung des derzeit für KI geltenden Rechtsrahmens.

So sieht der Vorschlag nun sowohl für Allzweck- als auch für risikoreiche KI-Systeme die Möglichkeit vor, „personenbezogene Daten zu verarbeiten, wann immer dies zur Erkennung und Korrektur von Verzerrungen unter Einhaltung angemessener Schutzvorkehrungen unbedingt erforderlich ist“.

Außerdem beseitigt er die „Überschneidung von KI-Anforderungen, die für Maschinen, Komponenten und Zubehör gelten“, wobei das KI-Gesetz klarstellt, dass „diese lediglich die sektoralen Rechtsvorschriften einhalten müssen, wobei ein gleichwertiges Gesundheits- und Sicherheitsniveau gewährleistet sein muss“.