Środek ten został przyjęty na posiedzeniu plenarnym Parlamentu Europejskiego w Strasburgu 423 głosami za, przy 57 głosach przeciw i 174 wstrzymujących się, a jego celem jest zmiana niektórych przepisów obowiązujących obecnie w ramach europejskiego prawa dotyczącego sztucznej inteligencji.

PE oświadczył, że jeśli otrzyma ostateczne „zielone światło” od Rady UE, prawo to zakazuje „systemów sztucznej inteligencji, które generują materiały przedstawiające seksualne wykorzystywanie dzieci lub tworzą obrazy, filmy i nagrania audio przedstawiające intymne części ciała możliwej do zidentyfikowania osoby lub czynności o charakterze jednoznacznie seksualnym bez jej zgody”, jak podano w oświadczeniu.

„Dostawcy nie będą mogli wprowadzać tych systemów na rynek UE, chyba że posiadają odpowiednie zabezpieczenia techniczne zapobiegające tworzeniu tego rodzaju materiałów. Zakaz dotyczy również użytkowników, którzy korzystają z tych systemów w tych celach” – zaznaczył PE.

Instytucja dodała, że firmy mają teraz czas do 2 grudnia na aktualizację swoich systemów i zapewnienie ich zgodności z nowymi przepisami dotyczącymi obrazów o charakterze seksualnym.

Wniosek ten został już uzgodniony przez PE i Radę UE, która reprezentuje rządy 27 państw członkowskich.

Jednak aby środek ten mógł wejść w życie, musi zostać formalnie przyjęty przez Radę UE.

Wniosek pojawił się po tym, jak Komisja Europejska postanowiła w styczniu wszcząć dochodzenie w sprawie Grok, narzędzia opartego na sztucznej inteligencji należącego do serwisu społecznościowego X, w związku z rozpowszechnianiem treści o charakterze jednoznacznie seksualnym, w tym treści, które mogą stanowić wykorzystywanie seksualne dzieci.

Według raportu Centrum Zwalczania Nienawiści Cyfrowej (CCDH) oraz amerykańskiej gazety „The New York Times”, w styczniu Grok rzekomo zalał tę sieć około trzema milionami obrazów o charakterze seksualnym w ciągu 11 dni, w tym 23 000 przedstawiających dzieci i 1,8 miliona kobiet.

Oprócz zakazu stosowania systemów sztucznej inteligencji generujących obrazy o charakterze jednoznacznie seksualnym, ta zmiana w prawie europejskim obejmuje również środki mające na celu uproszczenie ram regulacyjnych mających obecnie zastosowanie do sztucznej inteligencji.

W związku z tym wniosek przewiduje obecnie możliwość, zarówno w systemach sztucznej inteligencji ogólnego przeznaczenia, jak i systemach wysokiego ryzyka, „przetwarzania danych osobowych, gdy jest to absolutnie konieczne do wykrywania i korygowania błędów systematycznych, przy zastosowaniu odpowiednich zabezpieczeń”.

Eliminuje również „nakładanie się wymogów dotyczących sztucznej inteligencji mających zastosowanie do maszyn, komponentów i akcesoriów”, a prawo dotyczące sztucznej inteligencji wyjaśnia, że „muszą one jedynie być zgodne z przepisami sektorowymi, zapewniając jednocześnie równoważny poziom zdrowia i bezpieczeństwa”.