Данная мера была одобрена на пленарном заседании Европейского парламента в Страсбурге 423 голосами «за», 57 «против» и 174 воздержавшимися и направлена на внесение изменений в некоторые положения действующего европейского законодательства в сфере искусственного интеллекта.

Европейский парламент заявил, что, если он получит окончательное «зеленый свет» от Совета ЕС, закон запретит «системы искусственного интеллекта, которые генерируют материалы, связанные с сексуальным насилием над детьми, или создают изображения, видео и аудиозаписи, изображающие интимные части тела идентифицируемого лица или действия явно сексуального характера без его согласия», согласно заявлению.

«Поставщикам не будет разрешено размещать эти системы на рынке ЕС, если у них нет адекватных технических мер безопасности для предотвращения создания такого материала. Запрет также распространяется на пользователей, которые прибегают к этим системам для указанных целей», — указал ЕП.

Институт добавил, что у компаний теперь есть время до 2 декабря, чтобы обновить свои системы и обеспечить их соответствие этим новым правилам в отношении изображений сексуального характера.

Это предложение уже было согласовано ЕП и Советом ЕС, представляющим правительства 27 государств-членов.

Однако для вступления в силу эта мера должна быть официально принята Советом ЕС.

Предложение было выдвинуто после того, как в январе Европейская комиссия приняла решение начать расследование в отношении Grok — инструмента искусственного интеллекта от социальной сети X — за распространение изображений явно сексуального характера, включая контент, который может представлять собой сексуальное насилие над детьми.

Согласно отчету Центра по борьбе с цифровой ненавистью (CCDH) и американской газеты The New York Times, в январе Grok якобы за 11 дней наводнил эту сеть примерно тремя миллионами изображений сексуального характера, в том числе 23 000 с участием детей и 1,8 миллиона с участием женщин.

Помимо запрета на системы искусственного интеллекта, генерирующие изображения откровенно сексуального характера, данное изменение в европейском законодательстве также включает меры по упрощению нормативно-правовой базы, действующей в настоящее время в отношении ИИ.

Таким образом, предложение теперь предусматривает возможность как в системах ИИ общего назначения, так и в системах ИИ с высоким уровнем риска «обработки персональных данных, когда это строго необходимо для выявления и исправления предвзятости, с применением надлежащих мер защиты».

Кроме того, устраняется «дублирование требований к ИИ, применимых к машинам, компонентам и принадлежностям»: в законе об ИИ уточняется, что «они должны соответствовать лишь отраслевому законодательству, обеспечивая при этом эквивалентный уровень охраны здоровья и безопасности».