Los sistemas de inteligencia artificial para el porno deepfake deberían prohibirse

Parlamento Europeo

Los sistemas de inteligencia artificial para el porno deepfake deberían prohibirse

A la luz del debate actual en Alemania, la UE votó a favor de prohibir los sistemas de inteligencia artificial que crean deepfakes pornográficos. Debería entrar en vigor en unos meses.

La UE está tomando medidas contra la pornografía ultrafalsa y las imágenes sexualizadas en Internet: el jueves en Bruselas, el Parlamento Europeo votó a favor de prohibir las aplicaciones de inteligencia artificial que permiten a los usuarios crear este tipo de vídeos e imágenes de personas sin su consentimiento. Se espera que la prohibición entre en vigor en unos meses, una vez que finalmente se decida el cambio.

Se refiere a aplicaciones que pueden utilizar inteligencia artificial para editar o crear imágenes y videos que muestran “actividades sexualmente explícitas o áreas íntimas del cuerpo de una persona identificable sin su consentimiento”. Esas imágenes y vídeos “dañan a las víctimas y violan los derechos fundamentales a la dignidad y la privacidad”, afirma el proyecto de ley.

Los parlamentarios sostienen que “se necesita urgentemente” una prohibición explícita. La UE está reaccionando, entre otras cosas, a incidentes a principios de este año cuando los usuarios utilizaron el chatbot Grok del multimillonario estadounidense Elon Musk para crear y distribuir en línea millones de imágenes de IA sexualizadas de mujeres y niños. Varios países y la Comisión Europea han iniciado investigaciones contra Grok y algunos han bloqueado el chatbot.

El enfoque de Bruselas es la contraparte de un proyecto de ley que la ministra federal de Justicia, Stefanie Hubig (SPD), quiere presentar pronto: la UE es responsable de las normas y prohibiciones de esta tecnología, el gobierno federal se preocupa por castigos más severos para los autores que crean deepfakes pornográficos. Hubig quiere llenar los vacíos legales; Hasta ahora, la simple realización de grabaciones pornográficas no es un delito punible en este país.

Según un plan, la creación y difusión de deepfakes se castigará en el futuro con hasta dos años de prisión. Hubig había anunciado sus planes en el contexto del caso de la actriz Collien Fernandes. La semana pasada, Fernandes hizo públicas las acusaciones de agresión sexual digital contra su exmarido Christian Ulmen. El propio Ulmen niega las acusaciones.

La acción de la UE forma parte de una serie de cambios a la ley de IA aprobada por la UE en 2024. La reforma también incluye flexibilizaciones en otros ámbitos: se pospondrán, por ejemplo, las normas para el uso de la inteligencia artificial en las autoridades de seguridad y los sistemas sanitarios. El Parlamento Europeo tendrá que negociar toda la reforma con el Consejo de los 27 estados de la UE en las próximas semanas y meses.