Anthropic, rival de OpenAI, está introduciendo una pausa en el desarrollo de una poderosa inteligencia artificial en la conversación. “Creemos que sería bueno para el mundo tener la capacidad de ralentizar o pausar el desarrollo de modelos particularmente avanzados”, dijo el desarrollador de IA en una publicación de blog. El objetivo sería adaptar las estructuras sociales durante este período y avanzar en la investigación para garantizar esto. Inteligencia artificial actúa en interés del pueblo.
Anthropic admitió que tal paso requeriría el acuerdo de los principales desarrolladores de IA. Hasta el momento no ha habido ninguna voluntad evidente por parte del sector de hacerlo. Es más probable que las empresas se superen entre sí con planes de invertir cientos de miles de millones de dólares en infraestructura de inteligencia artificial, como centros de datos masivos.
No es una ruptura unilateral
El jefe de economía antropogénica, Dario Amodei, también subrayó en el Foro Económico Mundial de Davos en enero que la carrera por la inteligencia artificial con China haría muy difícil frenar el desarrollo porque sería difícil llegar a un acuerdo ejecutable. La antropología rechaza las rupturas unilaterales: esto sólo cambiaría a los que están en frente.
Como medida concreta, el instituto de investigación de la empresa de IA quiere ahora colaborar con otros para desarrollar un sistema de control que dé a los desarrolladores la confianza de que todos los participantes respetan dicha moratoria y que nadie se beneficia en secreto de ella.
Hace años, el multimillonario tecnológico Elon Musk también abogó por una pausa de seis meses en el desarrollo de la IA para prevenir riesgos. Más tarde se supo que, al mismo tiempo, estaba buscando fundar su propia empresa de inteligencia artificial.
Una inteligencia artificial que evoluciona
Según Anthropic, el motor del impulso actual es el rápido progreso de los modelos de inteligencia artificial, especialmente en su capacidad de mejora y desarrollo. Si pudieran hacer esto, aumentaría el riesgo de que las personas perdieran el control sobre la IA. El hito podría alcanzarse más rápido de lo que muchas instituciones están dispuestas a hacerlo, advirtió Anthropic.
La empresa que desarrolla el software de IA Claude actúa a menudo como advertencia y, entre otras cosas, ha pedido una regulación más estricta del sector para prevenir riesgos. La Casa Blanca del presidente Donald Trump acusó a Anthropic de decir que frenaría la industria estadounidense en la competencia global. Anthropic recientemente causó revuelo con su software Claude Mythos Preview, que descubrió brechas de seguridad en varios programas que habían pasado desapercibidas durante décadas.
© dpa-infocom, dpa:260605-930-176400/1
About The Author
