Cambio de dirección. OpenAI suspendió indefinidamente su plan para permitir conversaciones eróticas en ChatGPT, confirmó la compañía el jueves, lo que generó preocupaciones sobre sus posibles efectos nocivos y el riesgo para la reputación del líder mundial en inteligencia artificial generativa. Esta decisión, revelada por el Financial Times, llega en un momento en que el gigante de la inteligencia artificial de San Francisco se centra nuevamente en el desarrollo de herramientas profesionales, en busca de ingresos.
En octubre, el jefe de OpenAI, Sam Altman, desafió las críticas al anunciar la flexibilización de las restricciones de ChatGPT en diciembre, prometiendo “tratar a los usuarios adultos como adultos”.
Cinco meses después, OpenAI le dijo al Financial Times que quería realizar una investigación a largo plazo sobre los efectos de las conversaciones sexuales y los vínculos emocionales antes de tomar cualquier decisión, reconociendo la actual falta de “evidencia empírica”. Cuando se contactó con ella, OpenAI indicó que no tenía “nada que agregar”.
Problemas con el sistema de verificación de edad.
Algunos empleados han cuestionado la compatibilidad del producto, apodado “modo limón”, con la misión declarada de la empresa: que la tecnología beneficie a toda la humanidad.
Los inversores también destacaron el alto riesgo reputacional dados los beneficios comerciales esperados, añade el periódico británico.
Los obstáculos técnicos también influyeron: el sistema de verificación de edad desarrollado por OpenAI tendría un índice de error superior al 10%, según una fuente citada por el Financial Times, lo que reavivó los temores de que los menores queden expuestos a contenidos sexuales explícitos, un tema delicado dado que la empresa se enfrenta a varios procesos judiciales en Estados Unidos.
Esta salida se enmarca en el reenfoque anunciado por Sam Altman a sus equipos el martes, que provocó el cierre de Sora2, la red social de vídeos generados por inteligencia artificial. Esta reorganización tiene como objetivo centrar recursos limitados (potencia informática y capital) en el desarrollo de herramientas profesionales y agentes de IA más rentables.
A pesar de los crecientes ingresos (estimados en 20 mil millones de dólares al año), OpenAI quema mucho más dinero del que genera. Este descenso también se produce en medio de una fuerte presión legal sobre Silicon Valley por el impacto de las nuevas tecnologías en la salud mental.
OpenAI, entre otros, es objeto de numerosas quejas de padres que acusan a los chatbots de IA de desempeñar un papel en el suicidio o la enfermedad de los adolescentes. La agencia estadounidense de protección al consumidor, la FTC, ha abierto una investigación sobre este asunto contra varias empresas, entre ellas OpenAI. Un veredicto sin precedentes sacudió la industria el miércoles: Instagram (Meta) y YouTube (Google) fueron declarados responsables de la grave depresión de un adolescente.
En enero, la compañía xAI de Elon Musk provocó una controversia mundial por el “modo caliente” de su asistente Grok, utilizado para desnudar virtualmente a mujeres y niños basándose en fotografías reales.
About The Author
