La UE quiere prohibir las aplicaciones de inteligencia artificial para la creación abusiva de deepfakes de orientación sexual y ahora ha llegado a un acuerdo. Sin embargo, se espera que otras reglas para los proveedores de IA se apliquen más tarde de lo esperado.
En el futuro, la UE debe prohibir las aplicaciones de inteligencia artificial para la creación abusiva de deepfakes sexuales. Los representantes de los Estados miembros y del Parlamento Europeo han acordado la correspondiente adaptación de la Ley sobre Inteligencia Artificial, según anunció la Presidencia chipriota del Consejo de la UE. Al mismo tiempo, será necesario simplificar otras normas sobre IA para explotar el potencial económico de la IA en Europa.
Antes de que los cambios puedan entrar en vigor, el acuerdo tendrá que ser confirmado por el pleno del Parlamento Europeo y el Consejo de Gobiernos de los Estados miembros. Por regla general, esto se considera una formalidad. Si se aprobara la reforma, la prohibición sería aplicada a partir del 2 de diciembre de 2026 por la Oficina de IA de la UE, creada hace dos años.
Los deepfakes implican insertar el rostro de una mujer en otro vídeo, como una secuencia porno, o imitar artificialmente su voz para que parezca que está haciendo o diciendo cosas que en realidad nunca sucedieron. El desarrollo de la inteligencia artificial ha hecho que sea mucho más fácil crear contenidos engañosamente reales.
Chatbot Grok centró el tema
A nivel europeo, el tema volvió a ser el centro de atención a finales del año pasado gracias al chatbot de IA Grok. Hasta que la empresa estadounidense liderada por Elon Musk detrás del software limitó esta característica, la gente siguió ordenando a la IA que desnudara a las mujeres a través de imágenes. En Nochevieja, el propio chatbot se disculpó por crear una imagen de dos adolescentes “con ropa sexualizada”. La nueva prohibición también debería apuntar explícitamente a la creación de contenido que represente abuso sexual infantil.
La nueva prohibición que está surgiendo en la regulación de la IA a nivel de la UE cambiaría la perspectiva de castigar el delito a prohibir la herramienta, es decir, la aplicación de la IA en sí. Sin embargo, los participantes en las negociaciones subrayan que la prohibición no debería dar lugar a restricciones excesivas a la creación o manipulación de imágenes.
falsificaciones profundas
El término deepfake se compone de los términos en inglés “deep learning” (un método de aprendizaje de inteligencia artificial) y “fake”. “Deepfake” se refiere a medios manipulados, generalmente videos o imágenes, en los que rostros o voces se cambian o reemplazan engañosamente mediante inteligencia artificial (IA). Cuanto más material hay de una persona, más auténticas parecen las imágenes manipuladas.
La ley debería definir con precisión el contenido sexualizado
La nueva ley debería definir con precisión qué es contenido sexualizado y qué no. Las imágenes en bikini no consensuadas, como las creadas por Grok y distribuidas en X, podrían seguir estando permitidas.
Las empresas detrás de ChatGPT, Claude & Co. ahora solo tienen que cumplir algunas partes de la ley que la Oficina Europea de Inteligencia Artificial debía aplicar originalmente de agosto a diciembre de 2026. A más tardar para entonces, los proveedores deberían marcar claramente el contenido de IA como tal y luego marcar las imágenes y vídeos generados con marcas de agua. Se espera que la oficina de IA aplique otras reglas recién a partir de diciembre de 2027. Recientemente, las empresas han pedido repetidamente más tiempo para implementar los ajustes necesarios para cumplir con los requisitos más estrictos.
Ya existen normas de la UE contra la violencia digital
El endurecimiento previsto de la ley no es la primera legislación de la UE destinada a combatir la violencia digital. Las leyes vigentes ya establecen que la creación y distribución de representaciones manipuladas de actos sexuales sin el consentimiento de las personas afectadas debería ser punible en todos los Estados miembros.
Aunque la correspondiente directiva de la UE está en vigor desde mayo de 2024, Alemania aún no la ha transpuesto a su legislación nacional. La República Federal todavía tiene hasta el verano del próximo año para hacerlo. Recientemente, la ministra de Justicia, Stefanie Hubig (SPD), anunció un correspondiente endurecimiento del derecho penal y mayores derechos para las personas lesionadas.
About The Author
