Giorgia Meloni: IA y fotografías deepfake de Sri Lanka

La organización no gubernamental Reset Tech ha logrado localizar cientos de fotografías y vídeos falsos de la primera ministra italiana, Giorgia Meloni, que circulan en línea en direcciones de Internet de Sri Lanka creadas mediante inteligencia artificial. Según la ONG con sede en Londres, las fotos y vídeos falsos de AI circulan a través de una red de al menos 90 páginas de Facebook recientemente activadas, todas operadas desde Sri Lanka y dirigidas a usuarios en Italia y a usuarios de habla italiana en todo el mundo.

Todas las páginas pertenecían a la misma categoría y utilizaban marcas casi idénticas con nombres de usuario relacionados con Italia, como “Bella Italia”, “Life in Italy” o “La Dolce Vita”, escribe Reset Tech. La campaña que presenta a Meloni aparentemente es parte de una campaña más amplia destinada a llegar a numerosos países europeos con contenido generado por IA. Cientos de sitios similares han difundido recientemente mensajes nacionalistas o patrióticos, narrativas antimusulmanas y propaganda política abierta en apoyo de ciertos partidos o políticos de derecha, dijo Reset Tech.

A mediados de mayo, la BBC también informó sobre contenidos generados por IA en las redes sociales de Sri Lanka, dirigidos contra el gobierno laborista del primer ministro Keir Starmer y, en particular, contra el alcalde laborista de Londres, Sadiq Khan. A cambio, gran parte del contenido creado utilizando inteligencia artificial reveló simpatías por Nigel Farage, líder del partido populista de derecha Reform UK. El informe de la BBC sugirió que los deepfakes originarios de Sri Lanka fueron impulsados ​​principalmente por los intereses financieros de los productores más que por sus creencias políticas.

Si las fotos y vídeos falsos de IA se vuelven virales, importantes cantidades de dinero fluirán desde sitios operativos como Facebook o Instagram hacia los proveedores de contenido. Los operadores de redes sociales, es decir, Meta, colocan publicidad comercial en contenidos de amplia difusión, independientemente de si estos contenidos son auténticos o falsos. Una parte de los ingresos publicitarios se transfiere a los productores de contenidos, incluso si dichos contenidos han sido creados o falsificados mediante inteligencia artificial. El informe de la BBC habla de un conocido influencer de Sri Lanka que afirma haber ganado 300.000 dólares para usuarios en Gran Bretaña con contenido generado por IA para páginas de Facebook antiinmigración, racistas e islamófobas.

En Italia, el contenido generado por IA tenía menos impulso político, pero estaba explícitamente sexualizado y mostraba imágenes y vídeos manipulados del primer ministro Meloni, escribe ahora Reset Tech. Algunas de estas publicaciones han alcanzado un alcance enorme. Reset Tech evaluó una muestra de 12.000 publicaciones publicadas recientemente por el grupo de sitios italiano. En conjunto, estas publicaciones alcanzaron nueve millones de me gusta, 1,6 millones de comentarios y más de 326.000 acciones.

El jefe del gobierno italiano comentó recientemente una de las imágenes sexualizadas de la inteligencia artificial que circula en las redes sociales y que aparentemente proviene de una fábrica falsa en Sri Lanka. En una publicación en la plataforma, Meloni denunció que los deepfakes son una “herramienta peligrosa” porque pueden “manipular a cualquiera y causar daño a cualquiera”. La publicación de Meloni se compartió millones de veces en un corto período de tiempo, aparentemente sin detener la marea de deepfakes sobre ella.

Incluso antes de su elección como primera ministra en septiembre de 2022, Meloni se había defendido del porno falso. Un anuncio de Meloni de la primavera de 2021 llevó a los investigadores a seguir la pista de dos diseñadores web sardos que habían manipulado vídeos porno montando la cabeza de Meloni sobre los hombros de las actrices que aparecían en ellos. En Italia, según la actualización del artículo 612, apartado 4, del Código Penal, se castiga “la distribución no autorizada de contenidos creados o modificados mediante sistemas de inteligencia artificial”. La creación de deepfakes se castiga con una pena de prisión de uno a cinco años si una persona sufre un daño ilegal mediante la publicación o distribución de imágenes, vídeos o audio de IA sin su consentimiento.

En la UE, el parlamento y el ejecutivo también están tratando de adaptar la legislación al fenómeno de rápida expansión de las falsificaciones de IA. El uso no consensuado de las llamadas “aplicaciones nudificadoras” debe prohibirse en toda la UE para frenar la proliferación desenfrenada de contenidos sexualmente explícitos generados por IA en Internet. Actualmente se está llevando a cabo un proceso legislativo correspondiente en virtud de la Ley Ómnibus de IA. El paquete legislativo podría ser aprobado por el Consejo de la UE y adoptado por el Parlamento Europeo a finales de este año.