Las aplicaciones de IA para la creación abusiva de deepfakes sexualizados deben utilizarse en unión Europea prohibirse en el futuro. Los representantes de los Estados miembros y del Parlamento Europeo han acordado la correspondiente adaptación de la Ley sobre Inteligencia Artificial, según anunció la Presidencia chipriota del Consejo de la UE. Al mismo tiempo, será necesario simplificar otras normas sobre IA para explotar el potencial económico de la IA en Europa.
Antes de que los cambios puedan entrar en vigor, el acuerdo tendrá que ser confirmado por el pleno del Parlamento Europeo y el Consejo de Gobiernos de los Estados miembros. Por regla general, esto se considera una formalidad. Si se aprobara la reforma, la prohibición sería aplicada a partir del 2 de diciembre de 2026 por la Oficina de IA de la UE, creada hace dos años.
Con el llamado falsificaciones profundas Por ejemplo, se inserta el rostro de una mujer en otro vídeo (por ejemplo, en una secuencia porno) o se imita artificialmente su voz para que parezca que está haciendo o diciendo cosas que en realidad nunca sucedieron. El desarrollo de la inteligencia artificial ha hecho que sea mucho más fácil crear contenidos engañosamente reales.
La nueva prohibición también debería apuntar explícitamente a la creación de contenido que represente abuso sexual infantil. La eurodiputada del FDP, Svenja Hahn, acogió con satisfacción el acuerdo: “La IA no debe ser una herramienta para la violencia sexual contra los niños”, dijo tras las negociaciones nocturnas.
Los escándalos de Grok y el debate alemán sobre la violencia digital
A nivel europeo, la cuestión cobró protagonismo a finales del año pasado gracias al chatbot con inteligencia artificial Grok: hasta que la empresa estadounidense detrás del software, dirigida por el multimillonario tecnológico Elon Musk, restringió esta función, la gente ordenó repetidamente a la IA que desnudara a las mujeres en las imágenes seleccionadas. En Nochevieja, el propio chatbot se disculpó por crear una imagen de dos adolescentes “con ropa sexualizada”.
En Alemania, el debate sobre la violencia sexual digital adquirió nueva urgencia a finales de marzo, cuando Collien Fernandes hizo públicas las acusaciones contra su exmarido Christian Ulmen. Ella lo acusa de crear perfiles falsos a su nombre y utilizarlos para distribuir contenido pornográfico. Para Ulmen se aplica la presunción de inocencia. Desde que se conocieron las acusaciones, ha habido un importante debate a nivel nacional sobre la violencia digital y sexual contra las mujeres, y una amplia cobertura mediática al respecto. Miles de personas salieron a las calles para manifestarse y exigir mayor protección para las víctimas. En relación con este debate, se ha hablado varias veces de los deepfakes sexualizados y de la pornografía deepfake. Material como este ha estado circulando en línea durante años.
La UE ha presentado una directiva sobre este asunto ya en 2024
El endurecimiento previsto de la ley no es la primera legislación de la UE destinada a combatir la violencia digital. Las leyes vigentes ya establecen que la creación y distribución de representaciones manipuladas de actos sexuales sin el consentimiento de las personas afectadas debería ser punible en todos los Estados miembros.
Aunque la correspondiente directiva de la UE está en vigor desde mayo de 2024, Alemania aún no la ha transpuesto a su legislación nacional. La República Federal todavía tiene hasta el verano del próximo año para hacerlo. Recientemente, la ministra de Justicia, Stefanie Hubig (SPD), anunció un correspondiente endurecimiento del derecho penal y mayores derechos para las personas lesionadas.
La nueva prohibición que está surgiendo en la regulación de la IA a nivel de la UE cambiaría la perspectiva de castigar el delito a prohibir la herramienta, es decir, la aplicación de la IA en sí. Los participantes en las negociaciones subrayan que la prohibición no pretende restringir demasiado la creación o manipulación de imágenes.
La nueva ley debería definir con precisión qué es contenido sexualizado y qué no. Por lo tanto, las fotografías en bikini no consensuadas como las creadas por Grok y distribuidas en X podrían seguir estando permitidas.
Se posponen las marcas de agua obligatorias para el contenido de IA
La Comisión Europea propuso inicialmente cambios en la ley de IA para aliviar la carga sobre la economía y, en particular, sobre la industria de la IA. Sin embargo, últimamente las empresas han pedido repetidamente más tiempo para implementar los ajustes necesarios para cumplir con los requisitos más estrictos. Según el acuerdo, esta vez deberían proporcionarse proveedores de chatbots y otros servicios.
Las empresas detrás de ChatGPT, Claude & Co. ahora solo tienen que cumplir algunas partes de la ley que la Oficina Europea de Inteligencia Artificial debía aplicar originalmente de agosto a diciembre de 2026. A más tardar para entonces, los proveedores deberían marcar claramente el contenido de IA como tal y luego marcar las imágenes y vídeos generados con marcas de agua. Se espera que la oficina de IA no aplique otras reglas hasta diciembre de 2027.
La industria teme una doble regulación
Recientemente, la industria ha pedido que se reduzca la doble regulación para no comprometer la competitividad de Europa. También el Canciller Friedrich Merz (CDU) se pronunció recientemente a favor de simplificar las normas europeas en este ámbito. Para garantizar que la industria de la ingeniería mecánica no tenga que cumplir varias normas de la UE al mismo tiempo cuando utiliza inteligencia artificial, deberían crearse excepciones.
Para el eurodiputado de la CDU, Axel Voss, estos cambios no son suficientes: “Necesitamos un marco que permita la innovación y garantice la protección, no un mosaico de normas de IA específicas para cada sector”, comentó el diputado.
© dpa-infocom, dpa:260507-930-45277/2
About The Author
