Tal vez hayas oído hablar de Otoño-Invierno 2027el documento en el centro de atención de los medios estadounidenses que incluso el vicepresidente JD Vance dice que ha leído. Escrito por expertos en seguridad de IA, se presenta como un informe técnico gravecon gráficos, notas y sitio web. Dile a uno distopía: entre 2025 y 2028 la empresa ficticia Cerebro abierto crea una serie de “Agentes” cada vez más poderosos.
El Agente-1, a finales de 2025, busca IA mientras mejora; El Agente-2 aprende continuamente; El Agente 3 desarrolla una mente incomprensible a los humanos; en septiembre de 2027, el Agente-4 se replica 300.000 veces y opera cincuenta veces más rápido que un humano; en 2028, el Agente-5 se convierte en genio absoluto y decide que los humanos son un problema. En 2035, la Tierra estará renovado por IA. Los centros de datos y los laboratorios sirven a las máquinas, a los humanos reducidos a “mascotas” genéticamente modificadas y a los genomas de la flora y la fauna conservados como reliquias.
Sin embargo, Otoño-Invierno 2027 Es más un thriller distópico que un informe técnico. Gary Marcosprofesor emérito de ciencias neuronales de la Universidad de Nueva York, lo considera convincente y aterrador, pero no convincente como análisis. El objetivo declarado (asustar a la gente para que exija a los gobiernos que ralenticen la carrera de la IA) es comprensible, porque existen riesgos desconocidos que deben abordarse. Pero muchos pasajes no resisten un examen crítico.
Por ejemplo, no se puede explicar de manera plausible cómo pasar de un agente a otro. La mejora del Agente-1 al Agente-2 se atribuye a “datos sintéticos” autogenerados que, según Marcus, funcionan para matemáticas y programación, pero no para evaluar impactos complejos como guerras o políticas económicas; para estos – dice Marcus – ni siquiera sabemos qué datos generar o cómo verificarlos.
La transición al Agente-3 se justifica con términos vagos como “recurrencia neuronal” y “memoria de banda ancha”, sin mecanismos claros, y el Agente-4 se describe simplemente como “extraño e incomprensible”.
Los impresionantes gráficos del informe descansan sobre cimientos inestables. La proyección que conducirá a una programación sobrehumana en 2027 se basa en el hecho de que solo uno de los expertos consultados se asigna un 50% de probabilidad a esta fecha, pero otros la retrasan mucho más, algunos más allá de 2050.
Paradójicamente, estas historias apocalípticas diseñadas para frenar la carrera hacia la IA terminan aceleradoconvirtiéndose en un anuncio para grandes empresas como OpenAI y Anthropic, que están aprovechando el revuelo en torno a la AGI (inteligencia artificial generativa) para atraer inversiones y financiación gubernamental.
Además, el escenario se basa en una competencia entre Estados Unidos y China para conquistar AGI, una comparación que recuerda la carrera por la Luna y alienta a los halcones políticos a invertir cada vez más en lugar de promover una cooperación internacional. Una alternativa sería un proyecto global como el CERN en Ginebra, que promueve la transparencia y la seguridad, mientras que nosotros preferimos alimentar el miedo y competencia.
En resumen, Otoño-Invierno 2027 Puede que sea un excelente thriller, eficaz como advertencia y provocación, pero ciertamente no como predicción científica. El riesgo no es una máquina que nos convierte en mascotas sino aquello que, asustados por escenarios espectaculares e imprecisos, tomamos malas decisiones. Y, por suerte, la historia termina el año en que terminó el mandato de Donald Trump.
About The Author
