Anthropic, una empresa estadounidense que desarrolla modelos de inteligencia artificial, reveló el jueves que un grupo de piratas informáticos había utilizado uno de sus productos, Claude Code, para llevar a cabo un ciberataque generalizado. Según Anthropic, el grupo fue financiado por el Estado chino y el ataque tuvo como objetivo una treintena de grandes empresas tecnológicas, instituciones financieras, empresas químicas y agencias gubernamentales: en al menos cuatro casos, el ataque tuvo éxito.
Aunque en los últimos dos años ha habido otros casos en los que se ha utilizado la inteligencia artificial para llevar a cabo ciberataques, este parece ser el primer caso en el que el modelo ha conseguido llevar a cabo la mayoría de las acciones de forma autónoma, con una mínima intervención humana. Claude Code (similar al chatbot Claude, pero especializado en programación) realizó más del 80% del trabajo que suelen realizar los hackers humanos, en mucho menos tiempo. Anthropic dijo en su comunicado que la velocidad a la que han evolucionado las capacidades de programación de los sistemas de inteligencia artificial ha superado sus expectativas.
Anthropic dijo que descubrió la operación en septiembre, abrió una investigación interna para comprender cómo sucedió y también informó a las organizaciones involucradas (cuyos nombres no fueron revelados). Dijo que decidió hacer público el asunto para advertir a empresas y gobiernos y aconsejarles que mejoren sus sistemas de ciberdefensa, porque cree que estos ataques serán más frecuentes y más fáciles de realizar. Agregó que ha comenzado a trabajar para evitar en la medida de lo posible que sus modelos realicen este tipo de operaciones.
El ataque fue posible gracias a tres características de los modelos de inteligencia artificial desarrollados durante el año pasado: la capacidad de ejecutar instrucciones complejas y tareas muy sofisticadas; la capacidad de actuar como agente, es decir, de realizar acciones autónomas y de secuenciar tareas a partir de una única orden humana inicial; la capacidad de utilizar otro software en línea para su beneficio.
En su análisis, Anthropic dividió el ataque en tres fases: en la primera, los hackers humanos eligieron los objetivos a los que pretendían atacar (por ejemplo, una agencia gubernamental para infiltrarse) y desarrollaron un plan de ataque basado en el hecho de que Claude Code llevaría a cabo todas las operaciones que llevaran más tiempo. Luego eludieron los protocolos de seguridad de Claude, que deberían impedir que el sistema fuera utilizado en operaciones de este tipo: lo hicieron encargándole numerosas tareas pequeñas sin hacerle saber cuál era su objetivo, y convenciendo a Claude de que trabajaba para una empresa de TI legítima que realizaba pruebas de defensa, que las empresas necesitan para comprender su grado de protección contra los ciberataques.
La segunda fase identificada por Anthropic es aquella en la que Claude comenzó a trabajar de forma prácticamente autónoma: el modelo inspeccionó los portales de las empresas y agencias involucradas, identificó sus vulnerabilidades y luego intentó, a través de ellas, infiltrarse y descargar datos sensibles, en algunos casos con éxito. Según Anthropic, el programa identificó las cuentas con los permisos más altos en cada plataforma y las creó. puerta trasera (básicamente sistemas para acceder secretamente a un sistema) y luego robó los datos en secreto.
Esta es la parte de los ciberataques que suele tardar mucho tiempo y muchas veces la llevan a cabo varias personas al mismo tiempo. Claude, sin embargo, pudo hacerlo mucho más rápido y por su cuenta, realizando “miles de solicitudes por segundo”.
En la fase final, Claude elaboró, a petición de los piratas informáticos, documentación que resumía el ataque, las credenciales robadas utilizadas y los objetivos alcanzados, añadiendo además consejos sobre cómo proceder en el futuro.
About The Author
