El Garante de Privacidad italiano ha impuesto una multa de 158.000 euros a la empresa estadounidense Character Technologies por una serie de infracciones identificadas en el funcionamiento de Character.AI, un popular chatbot basado en inteligencia artificial a partir del cual es posible crear modelos lingüísticos que imitan aspectos de la personalidad de personajes famosos o de ficción. En su investigación, el Garante dijo que había identificado, entre otras cosas, violaciones de las normas de protección de datos de los usuarios y “cuestiones críticas” en las salvaguardias sobre la protección de menores y en los sistemas de verificación de la edad.
El chatbot también es ampliamente utilizado por audiencias menores de edad y en el pasado la compañía había sido criticada por controles deficientes sobre el tipo de interacciones que tenían lugar en la plataforma, particularmente de sus usuarios más jóvenes. En 2024, fue acusada de ser responsable del suicidio de un chico estadounidense de 14 años que había hablado extensamente de sus tendencias suicidas con el chatbot sin que el servicio interrumpiera la conversación ni aconsejara al usuario que se pusiera en contacto con un psicólogo o una línea antisuicida. También es por ello que en octubre de 2025 la compañía introdujo límites, impidiendo que los menores chateen con nosotros y permitiéndoles únicamente interactuar con otros usuarios o generar contenido, como vídeos.
El Garante de Privacidad reconoció que la empresa había realizado mejoras desde que comenzó la investigación, pero las consideró insuficientes. Le dio a Character Technologies 120 días adicionales para mejorar sus sistemas de verificación de edad, garantizar que los perfiles de los menores se establezcan automáticamente en modo privado y mejorar los mecanismos que deberían evitar que los menores cuyos perfiles han sido bloqueados creen otros nuevos.
About The Author
