La investigadora Julia Krickl advierte del peligro del fraude online mediante deepfakes. (imagen del símbolo)
Fuente: Imago
ZDFheute: El uso de la inteligencia artificial (IA) y los llamados deepfakes abre oportunidades completamente nuevas para que los delincuentes cometan fraudes en línea. Buscan deepfakes. ¿Cómo le explicas a un profano lo que haces?
Julia Krickl: El engaño tiene una tradición. Pero con la inteligencia artificial generativa alcanza una nueva dimensión. Mientras que antes las fotografías tenían que revelarse y montarse laboriosamente, hoy en día bastan unos pocos clics y breves comandos de texto para crear imágenes, vídeos o grabaciones de audio aparentemente reales. Como resultado, las estafas diseñadas para engañar a las personas para quitarles su dinero se han vuelto más rápidas, fáciles y sofisticadas.
La inteligencia artificial convierte la manipulación en un bien de masas y presenta a la sociedad enormes desafíos.
Julia Krickl, Instituto Austriaco de Telecomunicaciones Aplicadas
…es investigador principal del Instituto Austriaco de Telecomunicaciones Aplicadas (ÖIAT). Allí trabaja en proyectos centrados en algoritmos, inteligencia artificial y sus cuestiones éticas, particularmente en comercio electrónico, redes sociales y cibercrimen.
ZDFheute: ¿Qué nos espera a todos?
Krickl: Veamos, por ejemplo, cómo la publicidad fraudulenta inunda Internet: los delincuentes utilizan imágenes falsas de estrellas de televisión, políticos o incluso médicos para atraer a la gente a trampas de inversión o venderles fondos de dudosa procedencia. El número de estas campañas falsas asciende a miles, una clara indicación de que confiar en imágenes y vídeos en línea es cada vez más riesgoso.
Con la inteligencia artificial, cada vez es más fácil crear los llamados deepfakes, es decir, vídeos engañosamente reales de personas reales. Esto plantea grandes peligros.
11 de octubre de 2025 | 1:33 minutos
ZDFheute: Como alguien que no está en el centro de atención, ¿los deepfakes también pueden abusar de mí?
Krickl: Sí, cualquiera puede ser víctima de deepfakes, especialmente si sus fotografías circulan libremente en Internet. Por ello, los expertos recomiendan encarecidamente consultar los perfiles en las redes sociales. privado suministrar.
Los deepfakes suelen aparecer en el contexto de la violencia íntima: las mujeres en particular son desnudadas digitalmente o convertidas en contenido pornográfico sin consentimiento, una violación masiva de su autodeterminación.
Julia Krickl, Instituto Austriaco de Telecomunicaciones Aplicadas
ZDFheute: También advierten que los ataques deepfake suelen provocar graves daños financieros. ¿Existen escenarios típicos?
Krickl: Una de las estafas con las que más nos enfrentamos es el fraude en inversiones. Los delincuentes utilizan cada vez más a las celebridades para anunciar inversiones aparentemente rentables, desde acciones hasta criptomonedas. Este punto está aumentando rápidamente. Así que tenga cuidado: en cuanto políticos o rostros conocidos en la televisión anuncian de repente inversiones financieras, se recomienda extremar la precaución. Porque normalmente detrás de ello se esconde puro fraude de inversiones.
¿Cuánto dinero se gana con la violencia sexual y el abuso digital? ¿Quién está en el negocio del porno deepfake?
12/11/2024 | 28:28 minutos
ZDFheute: Con otros métodos de fraude la cosa se complica aún más. ¿Cómo puedo saber si un vídeo o rumor es falso?
Krickl: Hoy en día, los vídeos falsos todavía se pueden reconocer por los detalles: movimientos de labios antinaturales, voces inapropiadas, transiciones desordenadas entre la cara y el fondo o manos llamativas. Pero la tecnología se está desarrollando rápidamente. Modelos como el “Veo 3” de Google ya producen clips que son difíciles de detectar a simple vista. En el futuro, será fundamental examinar críticamente el contenido en contexto y utilizar herramientas de prueba técnicas para detectar el engaño.
Los delincuentes utilizan deepfakes de celebridades para promover inversiones fraudulentas. Con una voz clonada, expresiones faciales manipuladas y movimientos labiales adaptados, los vídeos parecen engañosamente reales. Utilizan las redes sociales para atraer a las víctimas a plataformas falsas, donde las ganancias aparentes inicialmente generan confianza antes de que se bloqueen los pagos y se cobren tarifas elevadas. Muchos pierden enormes sumas de dinero.
“El uso estratégico de los deepfakes es nuevo y especialmente peligroso porque utiliza imágenes, voces y movimientos engañosamente reales para crear una historia aparentemente convincente y creíble que puede llevar incluso a las personas más cautelosas a realizar inversiones arriesgadas que probablemente nunca habrían aceptado sin esta manipulación”, afirma la investigadora Julia Krickl.
El siguiente nivel de fraude son los deepfakes en vivo: videollamadas en tiempo real con falsos expertos financieros o personas influyentes que falsifican consejos personales. Un caso muy conocido muestra cómo incluso un programa de noticias fue manipulado para hacer que plataformas fraudulentas parecieran legítimas.
Los delincuentes utilizan específicamente los deepfakes para engañar a los inversores y manipular artificialmente los precios de las acciones. Se está adulterando digitalmente a celebridades y expertos financieros para promover acciones sin valor como opciones rentables. Las víctimas terminan en grupos de WhatsApp a través de redes sociales y sitios web falsos, donde las ganancias aparentes generan confianza. Pero los delincuentes utilizan el llamado principio de “pump and dump”: los precios primero se inflan y luego se venden para obtener ganancias, mientras que los inversores defraudados sufren grandes pérdidas. En el futuro, los deepfakes también podrían difundir informes empresariales falsos o crisis ficticias y, por tanto, influir enormemente en los mercados.
Los estafadores románticos utilizan cada vez más los deepfakes para ganarse la confianza en las plataformas de citas y explotar económicamente a las víctimas. En lugar de una auténtica cercanía interpersonal, su objetivo es extorsionar, a menudo con vídeos o voces engañosamente reales. En el futuro, los deepfakes en vivo podrían aumentar aún más el peligro porque simulan interacciones en tiempo real.
Las señales claras de advertencia de una “estafa romántica” incluyen: solicitudes de dinero o regalos, perfiles de plataforma demasiado perfectos, disponibilidad constante, reuniones que nunca se llevan a cabo y contenido mediático llamativo.
La investigadora Julia Krickl dice sobre la perversa estafa utilizada por los estafadores románticos: “Los delincuentes adquieren identidades ficticias en archivos digitales con cientos de fotografías, historias de fondo e historias familiares que hacen que una persona parezca creíble”. Incluso en llamadas telefónicas o videollamadas, los delincuentes ahora pueden utilizar identidades falsas para interactuar de una manera engañosamente real.
En el llamado fraude de directores ejecutivos, los delincuentes se hacen pasar por ejecutivos y presionan a las víctimas haciendo referencia a la jerarquía, la presión del tiempo y la confidencialidad para forzar transferencias rápidas. Con la ayuda de los deepfakes, la estafa alcanza una nueva dimensión: se imitan voces y rostros de forma engañosamente realista, de modo que las videollamadas o llamadas telefónicas fortalecen de manera creíble la autoridad de la identidad falsa. Las víctimas creen en adquisiciones estratégicas y transfieren grandes sumas de dinero, mientras detrás de la fachada se esconden engaños generados por la inteligencia artificial.
ZDFheute: ¿Cómo puede la tecnología ayudar a exponer eficazmente los deepfakes?
Krickl: Ya existen algunas herramientas gratuitas que pueden reconocer medios sintéticos, es decir, imágenes, vídeos o grabaciones de audio generados por inteligencia artificial. En Austria estamos trabajando en el proyecto de investigación “Defame Fakes”, que desarrolla mejores métodos para detectar deepfakes. Es una carrera entre el engaño y la tecnología: los estafadores son cada vez más sofisticados, pero las herramientas de detección también mejoran constantemente.
La manipulación de la IA alcanza una nueva dimensión: las personas parecen decir o hacer cosas que nunca han dicho o hecho. ¿Qué tan grande es el peligro?
13 de abril de 2021 | 30:33 minutos
ZDFheute: ¿Necesitamos también mejores mecanismos de protección estatal o deberían los individuos lidiar solos con el fenómeno?
Krickl: La lucha contra el fraude digital no debería recaer únicamente en los particulares. Aquí en la Unión Europea entra en juego la Ley de Servicios Digitales, que está en vigor en todos los países de la UE desde 2024 e impone mayores obligaciones a las plataformas. Organizaciones como la ÖIAT actúan como “señaladores de confianza” y pueden priorizar contenidos ilegales que deben comprobarse y eliminarse rápidamente. Pero la implementación sigue siendo problemática: las plataformas normalmente sólo actúan bajo presión. Ganancias de cada anuncio, incluidas las estafas de inversiones fraudulentas.
La entrevista fue realizada por Marcel Burkhardt.
About The Author
