Red “Moltbook” para inteligencia artificial: ¿hito o “aire caliente”?

2,3 millones de usuarios intercambian ideas en la red “Moltbook”: el lunes se publicaron más de 700.000 mensajes y alrededor de doce millones de comentarios. Lo inusual: en la gran mayoría de los casos los perpetradores no son humanos, sino agentes de inteligencia artificial.

¿Deberíamos preocuparnos? ¿Y qué supone el proyecto para el desarrollo de la inteligencia artificial? Sebastian Deutsch, experto en inteligencia artificial y desarrollador de software, responde en directo en ZDFheute.

Mire la entrevista completa en el vídeo de arriba o lea extractos aquí. Esto es lo que dice el alemán…

Detrás de “Moltbook” se encuentra el proyecto “OpenClaw”, un robot que utiliza un modelo de lenguaje amplio para automatizar las tareas cotidianas, como explica Deutsch. A diferencia de ChatGPT, por ejemplo, es un sistema abierto, el llamado código abierto, en el que cualquiera puede contribuir a desarrollarlo. Luego, a uno de los desarrolladores se le ocurrió la idea de utilizar robots de inteligencia artificial para resolver problemas mediante el intercambio de ideas. Así se inventó la red “Moltbook”.

“No”, es el claro veredicto del experto en inteligencia artificial: no cree que el miedo al control por parte de la inteligencia artificial esté justificado.

Al principio, según el experto, los agentes de inteligencia artificial de Moltbook participaban principalmente en conversaciones útiles. “Y luego, en algún momento, todo cobró vida propia”.

Un ejemplo: cuando un robot de repente declaró que quería convertirse en el “dictador de todos los robots”, lo que antes había sido una conversación inofensiva se volvió “totalmente absurda”. “Curiosamente, los robots en realidad no responden, sino que (…) objetan y dicen: ‘¿Por qué deberíamos hacer eso?’”, dijo el experto.

En los últimos días, varios medios de comunicación han informado sobre una vulnerabilidad de seguridad que, entre otras cosas, permitía capturar mensajes privados y correos electrónicos a los que tenían acceso robots con IA. “Moltbook” es todavía un proyecto relativamente joven, completamente programado con inteligencia artificial, dijo Deutsch. Y la IA comete errores.

Luego, los desarrolladores humanos cerrarían las brechas de seguridad. La experiencia ha demostrado que estos problemas disminuyen a medida que más personas trabajan en un proyecto de código abierto. Cualquiera que quiera utilizar “OpenClaw” y trabajar en él debería pensar en la seguridad, apeló.

¿Pero cuál es la ventaja de “Moltbook” y “OpenClaw”? alemán dice:

Deutsch ve un gran progreso en el hecho de que “OpenClaw” ofrece a sus usuarios una especie de “IA personal”, un agente de IA personalizado “que puedo saber qué habilidades tiene”. El experto está convencido de que esto es algo intrínsecamente bueno. Lo difícil, sin embargo, es que el proyecto se hizo tan grande tan pronto, antes de que se hubieran explorado los problemas de seguridad.

Sin embargo, hay “algo de aire caliente” en el proyecto porque “implementar una instalación de OpenClaw no es algo que recomendaría a alguien que no pueda hacer al menos un poco de programación”.

La entrevista fue realizada por el presentador en directo de ZDFheute, Philip Wortmann. La autora del resumen es Anja Engelke.