La Casa Blanca quiere ver nuevos modelos de IA antes que nadie

El martes 5 de mayo, la Casa Blanca formalizó acuerdos con Google DeepMind, Microsoft y xAI que ofrecen al gobierno de Trump acceso temprano a sus nuevos modelos de inteligencia artificial, incluso antes de su lanzamiento al mercado, para evaluar sus capacidades y riesgos. Este sistema, liderado por el Centro de Estándares e Innovación en Inteligencia Artificial (Caisi), reconoce que la evaluación técnica de la inteligencia artificial más avanzada se convierte en una herramienta central de la política industrial y de seguridad nacional.

Al comienzo de su mandato, Donald Trump envió la señal contraria al revocar el decreto de Joe Biden que exigía a las empresas de inteligencia artificial transmitir algunos datos sobre sus modelos más potentes al gobierno federal. Un año después, el presidente republicano toma nota de la aceleración tecnológica y del contexto geopolítico: la inteligencia artificial generativa y los agentes de software capaces de actuar de forma semiautónoma ya no son sólo objeto de competencia económica, sino una cuestión estratégica de ciberseguridad, inteligencia y defensa.

Al conceder al ejecutivo el derecho de revisar los sistemas de Google DeepMind, Microsoft y xAI, los acuerdos presentados en Washington pretenden al mismo tiempo anticipar usos maliciosos y evitar un “momento Mythos”, que lleva el nombre de este modelo antrópico cuya comercialización se ha pospuesto debido a su capacidad para descubrir vulnerabilidades de software a gran escala.

La Agencia de Seguridad Nacional (NSA) obtuvo acceso restringido al modelo Mythos para realizar sus propias pruebas, según una investigación de Axios, lo que ilustra el riesgo de ver modelos considerados demasiado peligrosos para el público en general capturados por las agencias de seguridad.

Para la Casa Blanca, el objetivo declarado ahora es dejar de sorprenderse por las verdaderas capacidades de futuros modelos de IA más potentes, ya sean sistemas civiles para la nube o bloques de construcción que podrían impulsar aplicaciones militares, ofensivas o de ciberespionaje.

Caisi, una rama del gobierno federal con sede en el Departamento de Comercio, se construyó sobre la base del Centro para la Seguridad de la Inteligencia Artificial creado bajo la administración Biden, antes de ser renombrado y reposicionado en torno a la estandarización y evaluación de los modelos más avanzados. Su misión oficial: realizar evaluaciones específicas de sistemas considerados estratégicos, producir recomendaciones técnicas sobre sus riesgos y contribuir al desarrollo de estándares para el sector.

En la práctica, Caisi depende estrechamente del ecosistema del Instituto Nacional de Estándares y Tecnología (Nist), que desarrolla desde hace varios años un corpus de marcos metodológicos y herramientas para la evaluación de la inteligencia artificial, desde la gestión de riesgos hasta las pruebas “contrarias”.

También ejecuta campañas de prueba a gran escala, particularmente en agentes de IA, estos programas que pueden llamar código, interactuar con sistemas críticos o lanzar acciones en el mundo real. Una publicación en el blog del Centro, titulada “Perspectivas sobre la seguridad de los agentes de IA a partir de una competencia de equipos rojos a gran escala”, detalla una competencia internacional de pruebas que destacó patrones recurrentes de elusión de salvaguardias y coordinación entre agentes, todas señales que Washington ahora quiere detectar antes de cualquier despliegue masivo.

Oficialmente, los marcos desarrollados por el NIST, como su Marco de Gestión de Riesgos de IA, siguen siendo puramente voluntarios y no crean obligaciones legales directas para las empresas. Pero a medida que las agencias federales alinean sus procedimientos de adquisiciones y cumplimiento con estas herramientas, estos estándares se convierten, de hecho, en una condición para el acceso a contratos gubernamentales, financiamiento y buena voluntad regulatoria.

Con Caisi esta dinámica da un paso adelante: los métodos de evaluación inicialmente diseñados para ayudar a las organizaciones a medir mejor los riesgos se convierten en la base de un filtro centralizado sobre los modelos considerados más sensibles. El acceso temprano a los sistemas Google DeepMind, Microsoft y xAI permite a Washington comparar su desempeño y vulnerabilidades en una cuadrícula de análisis que el poder ejecutivo controla en gran medida, desde la definición de métricas hasta los umbrales de riesgo considerados aceptables.

Este cambio se ve reforzado por las primeras evaluaciones de modelos extranjeros, como las que Caisi realizó con el DeepSeek V4 Pro chino, destacando tanto los riesgos de seguridad como un retraso tecnológico estimado de varios meses en los mejores modelos americanos. Incluso cuando no tienen valor regulatorio inmediato, estas evaluaciones se convierten en referencias para los tomadores de decisiones públicas, inversionistas y grandes clientes privados, ayudando a estructurar la percepción de la situación. “ seguridad » y el “ vencimiento » de los diferentes actores.

Para Google DeepMind, Microsoft y xAI, aceptar entregar sus modelos de IA más avanzados a Caisi antes de cualquier anuncio público equivale a hacer una apuesta a largo plazo: la de comprar una forma de previsibilidad regulatoria de la Casa Blanca a cambio de una mayor transparencia sobre sus capacidades más sensibles. Los grupos obtienen acceso privilegiado a los mercados público y de defensa, un asiento en la mesa donde se definen las métricas de IA y la capacidad de dar forma a los estándares que luego se impondrán a sus competidores.

Por lo tanto, estos actores, que ya han firmado contratos masivos con el Pentágono o agencias de inteligencia, se están preparando para alinearse con las prioridades de Caisi y Nist para acceder a usos clasificados, donde los modelos se adaptan a necesidades específicas y se remuneran a niveles incomparables con las ofertas públicas en general. Por el contrario, un juicio desfavorable sobre un sistema demasiado permisivo en términos de ciberataques o proliferación de armas biológicas puede retrasar su lanzamiento, imponer costes adicionales para reforzar las salvaguardias o impulsar la creación de versiones diferenciadas para el mercado civil y los clientes gubernamentales.

Los riesgos no son sólo financieros. Al exponer sus modelos inéditos a evaluadores federales, las empresas refuerzan una asimetría de información que beneficia al estado, que puede detectar capacidades emergentes, combinaciones de características o soluciones alternativas que los equipos internos aún no han identificado. Combinada con la posibilidad de acuerdos confidenciales como el mencionado en torno al modelo Mythos de Anthropic y la NSA, esta asimetría plantea el espectro de un nuevo complejo de IA militar-industrial en el que las innovaciones más sensibles quedan, en parte, fuera del campo competitivo tradicional.

La evaluación de Caisi de los modelos DeepSeek, escaparate de la inteligencia artificial china, ya ilustra la dimensión geopolítica de este nuevo sistema: al objetivar, con sus propios parámetros, la brecha en términos de rendimiento, costes y seguridad entre los sistemas estadounidense y chino, Washington se equipa de una herramienta estratégica para contar historias con sus aliados y sus industriales. Estos informes alimentan los debates sobre los controles de las exportaciones, la seguridad de las cadenas de valor y la justificación del gasto masivo en IA de defensa.

En el extremo opuesto del espectro, el caso Mythos muestra cómo un modelo diseñado por un actor privado puede considerarse demasiado peligroso para un despliegue amplio, y aun así volverse lo suficientemente valioso como para que la NSA obtenga acceso exclusivo, fuera de cualquier marco de gobernanza pública. También en este caso las herramientas de evaluación no se limitan a una función de certificación, sino que también sirven para identificar los sistemas sobre los cuales el Estado quiere asegurar el control.

Para los europeos, este aumento del control antes de los modelos plantea una doble cuestión: la de la soberanía tecnológica, frente a un aliado capaz de dictar de facto normas de seguridad, y la del acceso a las capacidades más avanzadas, si una parte de ellas permanece confinada dentro de un perímetro de seguridad nacional. En un momento en que la Unión Europea aspira a una mayor regulación legal con la regulación de la IA, la estrategia articulada por la Casa Blanca perfila otro camino: el de la gobernanza a través de pruebas, métricas y acuerdos bilaterales, que podría erigirse como el nuevo lenguaje de poder para la IA.