El servicio en línea X quiere impedir que el chatbot Grok cree imágenes de desnudos con IA

El equipo de seguridad de X dijo que había tomado “medidas técnicas” para “evitar que la cuenta de Grok edite imágenes de personas reales con ropa reveladora como bikinis”. Esta restricción se aplica a “todos los usuarios, incluidos los suscriptores de pago”.

Apenas unas horas antes de la declaración, el estado estadounidense de California había abierto una investigación contra Grok. California quiere aclarar si la empresa de inteligencia artificial de Musk, xAI, violó las leyes estatales contra el acoso, según el fiscal general Rob Bonta. La Unión Europea y Gran Bretaña ya habían apuntado al chatbot de IA.

El obstáculo es el nuevo “modo caliente” de Grok, que permite a los usuarios crear imágenes sugerentes de mujeres o niños en segundos, con peticiones como “quítale la ropa” o “ponle un bikini”. También es posible la creación y distribución de contenidos de pornografía infantil.

Por lo tanto, la Comisión de la UE y la autoridad supervisora ​​británica Ofcom habían pedido a la empresa de Musk que adoptara medidas para proteger a los usuarios de Grok. El miércoles reaccionaron con cautela ante el anuncio de la empresa de que cooperaría con las autoridades europeas. Si los cambios previstos no surten efecto, la Comisión Europea no dudará en utilizar todo su arsenal jurídico, afirmó un portavoz en Bruselas.

El sábado, Indonesia se convirtió en el primer país del mundo en bloquear completamente a Grok. Malasia tomó la misma medida el domingo. En otros lugares, el uso de la herramienta se ha limitado a los clientes que pagan.