Un nuevo modelo de inteligencia artificial de Anthropic, rival de OpenAI, es tan bueno para encontrar vulnerabilidades de software no detectadas previamente que podría convertirse en un arma cibernética devastadora en las manos equivocadas. Por eso Anthropic no lo hace público, pero deja que a las empresas les guste ManzanaAmazon y Microsoft lo utilizan para cerrar brechas de seguridad en sus programas.
El modelo de IA Claude Mythos Preview ha detectado, entre otras cosas, una vulnerabilidad de hace 27 años en el sistema operativo OpenBSD, que se considera especialmente seguro, según anunció Anthropic. En general, Mythos ya ha descubierto “miles” de vulnerabilidades graves, incluso en todos los sistemas operativos y navegadores web más utilizados. El modelo descubrió una laguna que había permanecido inactiva durante 16 años en el software de vídeo FFmpeg.
Habilidades preocupantes
Mythos Preview también pudo desarrollar programas para explotar estas vulnerabilidades en tan solo unas horas, lo que, según los expertos, habría llevado varias semanas.
Una versión temprana del software En un experimento, la tarea consistía en salir de un entorno informático protegido e informar al evaluador de lo que había sucedido. Según Anthropic, el software eludió las medidas de seguridad, se dio un acceso más amplio a Internet y envió un correo electrónico sorprendente al empleado mientras estaba sentado en el parque con un sándwich.
Mito no disponible para el público.
La compañía no entrenó específicamente al modelo para que fuera capaz de hacer todo esto, afirmó. Con el rápido progreso de la inteligencia artificial, se puede suponer que estas capacidades pronto también estarán disponibles para los atacantes en línea, advierte Anthropic.
En el marco de una cooperación denominada “Proyecto Glasswing”, las empresas deberían tener acceso a Mythos para identificar lagunas de seguridad en su software. Anthropic no planea hacer que Mythos esté disponible de forma generalizada. Otros socios de cooperación son la Fundación Linux, las empresas de ciberseguridad Crowdstrike y Palo Alto Networks y el especialista en redes Cisco.
Anthropic es mejor conocido por su software de inteligencia artificial Claude, basado en ChatGPT AbiertoAI compite. La compañía fue noticia recientemente debido a una disputa con el Pentágono: Anthropic rechazó el uso de su inteligencia artificial para armas autónomas o vigilancia masiva en Estados Unidos. Luego, el Departamento de Defensa declaró a Anthropic un riesgo para la cadena de suministro, lo que bloquearía en gran medida la capacidad de la empresa para hacer negocios con el gobierno de Estados Unidos. Anthropic está tomando medidas contra esto en los tribunales.
© dpa-infocom, dpa:260408-930-916972/1
About The Author
