Cada vez más personas confían en la inteligencia artificial para obtener respuestas fiables a sus preguntas. Ahora, un nuevo estudio analiza críticamente los sistemas de diálogo altamente desarrollados. En particular, el chatbot de IA Claude habría utilizado varias veces el contenido de una red de desinformación rusa como fuente de noticias.
Un estudio encuentra problemas con las respuestas de la IA
ChatGPTClaude o Gemini de Google: si tienes preguntas sobre noticias actuales, las plantillas ahora son indispensables para la mayoría de los usuarios. Un estudio del grupo de expertos berlinés Agora Digital Transformation, en el que Así lo informa el “Spiegel”.sin embargo, muestra que los sistemas a menudo dependen de una pequeña selección de fuentes y nadie revela cómo se seleccionan. Para el estudio, los investigadores analizaron aproximadamente 4.800 referencias de fuentes de 675 solicitudes sobre temas actuales.
Claude utiliza la red rusa
Particularmente notable fue el chatbot Claude de Anthropic. Durante el período de investigación se refirió siete veces a la llamada red Pravda. Los expertos lo ven como una red de desinformación rusa. La autora del estudio, Vivien Benert, advierte: Si la propaganda de IA y el periodismo serio se presentaran en pie de igualdad, la formación de opiniones podría verse comprometida. Los expertos también advierten sobre el llamado envenenamiento de datos, en el que la propaganda se optimiza específicamente para los sistemas de inteligencia artificial.
Solicitud de mayor transparencia
El estudio también muestra claras diferencias entre proveedores. ChatGPT y Perplexity utilizan predominantemente medios periodísticos, mientras que Claude y Gemini dependen de otras fuentes con mucha más frecuencia. Los autores del estudio piden reglas claras y mayor transparencia en la selección de fuentes para frenar la desinformación y proteger el periodismo.
About The Author
