¿Sobrevivirá la humanidad a la máquina o el fin es inminente? El rápido desarrollo en el campo de la inteligencia artificial (IA) parece confirmar todos los temores que se han escenificado en las distopías de ciencia ficción durante décadas. Ha surgido un nuevo culto apocalíptico, y a la vanguardia están los responsables del revuelo por la IA, que alimenta aún más la máquina de atención.
Pero tal vez, después de todo, ¿no todo sea tan malo? ¿Quizás ChatGPT & Co. también son un poco estúpidos a veces? Esta impresión nos viene a la mente si creemos en las afirmaciones del nuevo libro de Katharina Zweig. “¿Sabe la IA que no sabe nada?” pregunta el informático en el título y en unas 250 páginas llega a la conclusión: cuando hablamos de inteligencia artificial no podemos hablar de conocimiento o inteligencia en el sentido humano. Eso no cambiará con la tecnología actual, incluso si los modelos se hacen más grandes y se invierte más dinero en potencia informática. Simplemente no hay acceso al mundo físico.
Por tanto, la prueba de Turing sería inválida.
¿Por qué todavía nos impresiona cuando ChatGPT nos ayuda a formular cartas de solicitud o discursos de boda en un tiempo récord? Zweig no cree que el hombre sea un “instrumento de medición” adecuado para evaluar la inteligencia de una máquina: “Desde un punto de vista evolutivo probablemente no hubo muchas situaciones en las que a nosotros, los seres humanos, nos hubiera resultado ventajoso poder distinguir con precisión los diferentes niveles de inteligencia”. Según la teoría de la mente, que Zweig toma prestada de la psicología, las personas están constantemente ocupadas poniéndose en el lugar del otro y “encontrando significado a lo que el otro dice”.
La idea del test de Turing, que el matemático epónimo Alan Turing llamó en 1950 el “juego de la imitación”, sería, por tanto, inválida: el hecho de que una persona no pueda distinguir si está charlando con otra persona o con una máquina no dice nada sobre la inteligencia de la máquina, sobre todo porque, históricamente hablando, nos pillan desprevenidos máquinas mucho más sencillas que ChatGPT. Zweig cita como ejemplo el primer chatbot del mundo de los años 60, Eliza, de Joseph Weizenbaum, conocido por el guión de “Doctor” y la psicoterapia simulada. El software de diálogo basado en reglas, como lo describió el informático Weizenbaum, impresionó a los sujetos de prueba con reacciones puramente mecánicas a sus preguntas, siguiendo el patrón simple: “Soy BLAH”. – “¿Cuánto tiempo llevas siendo BLA?”
¿Y qué dicen estas afirmaciones históricas sobre los sistemas de inteligencia artificial actuales, que se cree que son capaces de prácticamente todo, desde planificar vacaciones hasta revolucionar el mundo laboral y subyugar a la humanidad, según a quién le preguntes? Al fin y al cabo, ya no se trata de chatbots basados en reglas como Eliza, que reaccionan según fórmulas para casos de uso limitados, sino de máquinas asociativas gigantes que parecen adecuadas para casi todos los campos de aplicación. Pero Zweig no se deja impresionar, fiel a su lema: ¿realmente queremos confiar nuestras tarjetas de crédito a ChatGPT si no puede responder ni siquiera a las preguntas más simples?
¿Quién es la madre de Tom Cruise?
Por ejemplo, existe la “maldición de la inversión”, es decir, la incapacidad de los modelos lingüísticos para llegar a las conclusiones lógicas inversas de las que somos capaces los seres humanos. ¿Quién es la madre de Tom Cruise? María Lee Pfeiffer. ¿Quién es el hijo de Mary Lee Pfeiffer? Ni siquiera una pista. Dado el rápido desarrollo en el campo de la inteligencia artificial, los detalles también pueden quedar obsoletos. Los estudios que Zweig cita en el libro se basan en versiones anteriores de ChatGPT, algunas de las cuales quedaron obsoletas con la publicación de su libro. Una autoevaluación lo demuestra: ChatGPT sabe muy bien quién es el hijo de Mary Lee Pfeiffer, concretamente “Thomas Cruise Mapother IV”, conocido como Tom Cruise.
Pero eso no cambia el problema fundamental, como dijo Zweig cuando se le preguntó. En el aviso del sistema, es decir, en las instrucciones básicas para el comportamiento independiente de las solicitudes, se pueden corregir errores individuales, pero esto sólo ocurre “poco a poco y debe repararse nuevamente con cada nuevo error”. El problema fundamental es la dependencia de la máquina de las búsquedas de patrones: “La madre de Tom Cruise” se encuentra mucho más a menudo en Internet que “el hijo de Mary Lee Pfeiffer”.
El subtítulo del libro de Zweig es “Para qué deberíamos usar chatbots y agentes de inteligencia artificial, dónde fallan y dónde debemos tener cuidado”. El lector no aprende casi nada sobre cómo se pueden utilizar los chatbots de forma productiva, pero mucho menos sobre sus limitaciones. Por lo tanto, el libro no es adecuado para los optimistas de la IA que ya están profundamente involucrados en el debate técnico, sino más bien para aquellos que estaban un poco preocupados por todo el boom desde el principio. El enfoque interdisciplinario de Zweig permite una visión general que a menudo falta en las discusiones cotidianas.
Katharina Zweig: ¿Sabe la IA que no sabe nada? Por qué deberíamos usar chatbots y agentes de inteligencia artificial, dónde fallan y dónde debemos tener cuidado: ChatGPT and Co. lo explicaron de manera simple. Heyne Verlag, Múnich 2025, 272 páginas, 20 euros.
About The Author
