Önlem, AB'nin Strazburg'daki genel kurul oturumunda 423 lehte, 57 aleyhte ve 174 çekimser oyla onaylandı ve Avrupa yapay zeka yasası kapsamında şu anda yürürlükte olan bazı kuralları değiştirmeyi amaçlıyor.

AP, AB Konseyi'nden nihai “yeşil ışık” alırsa, yasanın “çocuklara yönelik cinsel istismar materyalleri üreten veya tanımlanabilir bir kişinin mahrem kısımlarını gösteren görüntüler, videolar ve sesler oluşturan yapay zeka sistemlerini veya onların rızası olmadan cinsel açıdan müstehcen faaliyetleri oluşturan yapay zeka sistemlerini” yasaklayacağını söyledi.

“Tedarikçilerin, bu malzemenin oluşmasını önlemek için yeterli teknik önlemlere sahip olmadıkça bu sistemleri AB pazarına sokmalarına izin verilmeyecektir. EP, yasak, bu amaçlar için bu sistemlere başvuran kullanıcılar için de geçerli” dedi.

Kurum, şirketlerin sistemlerini güncellemek ve cinsel imgelerle ilgili bu yeni kurallara uymalarını sağlamak için 2 Aralık'a kadar zamanları olduğunu da sözlerine ekledi.

Bu öneri AP ve 27 üye ülkenin hükümetlerini temsil eden AB Konseyi tarafından çoktan kabul edilmişti.

Ancak, yürürlüğe girmek için tedbirin AB Konseyi tarafından resmen kabul edilmesi gerekecektir.

Teklif, Avrupa Komisyonu'nun Ocak ayında, sosyal ağ X'ten bir AI aracı olan Grok hakkında, çocuklara cinsel istismarı teşkil edebilecek içerikler de dahil olmak üzere cinsel açıdan müstehcen görüntüleri yaymak için bir soruşturma başlatmaya karar vermesinin ardından geldi.

Dijital Nefretle Mücadele Merkezi (CCDH) ve Amerikan gazetesi The New York Times tarafından hazırlanan bir rapora göre, Grok'un Ocak ayında bu ağı 11 gün boyunca 23.000 çocuk ve 1.8 milyon kadın dahil olmak üzere yaklaşık üç milyon cinselleştirilmiş görüntüyle doldurduğu iddia ediliyor.

Cinsel içerikli görüntüler üreten yapay zeka sistemlerinin yasağına ek olarak, Avrupa hukukundaki bu değişiklik, şu anda yapay zekaya uygulanan düzenleyici çerçeveyi basitleştirmek için önlemler de içeriyor.

Bu nedenle, öneri artık hem genel amaçlı hem de yüksek riskli AI sistemlerinde, “önyargıları tespit etmek ve düzeltmek için kesinlikle gerekli olduğunda kişisel verileri yeterli önlemlerle işleme” olasılığını sağlıyor.

Ayrıca yapay zeka yasası, “eşdeğer bir sağlık ve güvenlik seviyesi sağlarken yalnızca sektörel mevzuata uymaları gerektiğini” açıklayan “makineler, bileşenler ve aksesuarlar için geçerli AI gereksinimlerinin örtüşmesini” ortadan kaldırır.