Las siete vulnerabilidades que Tenable reveló se derivan de la forma en que ChatGPT ingiere y procesa instrucciones de fuentes externas, incluidos los sitios web a los que accede, resultados de búsqueda, comentarios de blogs y URL especialmente diseñadas.
Citado de Sosteniblela compañía mostró cómo los atacantes podrían explotar esas vulnerabilidades ocultando mensajes maliciosos en los comentarios del blog, “envenenando” los resultados de búsqueda para evitar los filtros de seguridad de ChatGPT y explotando la forma en que ChatGPT procesa el historial de conversaciones y almacena la memoria.
1. Inyección de aviso indirecto en el contexto de navegación
Esta vulnerabilidad se produce cuando un atacante inyecta instrucciones maliciosas en contenido externo legítimo, como comentarios en publicaciones de blogs o páginas web confiables.
Si el usuario solicita a ChatGPT que resuma el contenido de la página, el componente del navegador web recuperará y ejecutará las instrucciones ocultas.
Estas instrucciones pueden manipular las respuestas de ChatGPT, por ejemplo, enviando al usuario un enlace a un sitio de phishing malicioso, todo sin el conocimiento del usuario.
2. Desvío del mecanismo de seguridad
Los mecanismos de seguridad de ChatGPT están diseñados para bloquear URL no seguras. Pero los investigadores descubrieron que los ataques pueden eludir esta característica. Lo hacen utilizando envoltorios de URL confiables para disfrazar enlaces maliciosos reales.
Debido a que ChatGPT confía en el dominio contenedor, se mostrará al usuario un enlace malicioso y un archivo ejecutable, lo que potencialmente conducirá al usuario a un sitio web malicioso.
3. Inyección de conversación
Esta vulnerabilidad explota la forma en que ChatGPT interactúa con SearchGPT. Los atacantes pueden insertar instrucciones maliciosas en el contenido recuperado por SearchGPT.
Una vez que estas instrucciones ingresan al tema de conversación, ChatGPT las lee como si fueran parte del chat anterior. Esto obliga al modelo a proporcionar respuestas que no eran las previstas.
About The Author
