No sólo en ZDF, sino también en las empresas somos demasiado laxos con la inteligencia artificial, advierte el experto en cambios Kishor Sridhar.
Kishor Sridhar es un respetado consultor, orador principal y autor especializado en gestión del cambio, liderazgo y digitalización. Apoya a los directivos en los procesos de transformación y enseña en el ISM de Múnich. Es parte de nuestro Club EXPERTOS. El contenido representa su opinión personal basada en su experiencia individual.
El escándalo de la IA en ZDF debería ser una llamada de atención para todos nosotros
Lo noto en el mundo empresarial, en empresas que ahora entienden que la inteligencia artificial está penetrando cada vez más profundamente en nuestra vida diaria y que muchas veces no tenemos control sobre ella. En las empresas, puede que no sean las imágenes generadas por la IA las que no se reconozcan como tales, sino los datos generados, modificados o malinterpretados por la IA. ¿De dónde provienen los datos? ¿Qué valor tienen realmente estos datos? ¿Son válidos? ¿Dónde empieza la inteligencia artificial a inventar contenidos?
Cualquiera que trabaje con IA ha experimentado que la IA nos da resultados incorrectos. Y para ello necesitamos una mente crítica.
También en mi caso, noté que ChatGPT una vez me atribuyó un libro que nunca publiqué y que nunca se publicó. Un error de este tipo sigue siendo fácil de detectar. Pero fundamentalmente necesitamos concienciar a los empleados sobre los riesgos de la IA, que la IA es poderosa, pero también riesgosa.
Cualquiera que utilice IA debería poder pensar críticamente
ZDF ha creado un plan de 5 puntos que recomiendo desde hace tiempo a empresas similares en lo que respecta a la IA:
- La experiencia en IA debe desarrollarse sistemáticamente a nivel de gestión
- Cualquiera que quiera utilizar la IA en una empresa debe entender primero cómo funcionan estos sistemas, cuáles son sus ventajas y cuáles sus limitaciones.
- Es importante fortalecer la capacidad de reconocer errores e inconsistencias.
- No basta con adoptar simplemente los resultados de la inteligencia artificial. Las empresas deben aprender a identificar rápidamente anomalías, errores y posibles alucinaciones.
- Las fuentes y recursos deben ser monitoreados constantemente
- Las empresas deberían preguntarse detenidamente qué fuentes utilizan, qué datos se utilizan y qué tan fiable es realmente esta información.
- Es necesario reforzar la competencia de los empleados en la gestión de la inteligencia artificial
- Los empleados también deben poder evaluar mejor qué podría generar la IA, qué es confiable y dónde se necesita especial precaución en el contexto empresarial.
- Se necesita una cultura de error positiva
- Cuando la IA detecta o causa errores, deben abordarse de manera abierta y constructiva. Ésta es la única manera en que las organizaciones pueden aprender a trabajar con más confianza e inteligencia con la IA.
La debilidad decisiva de la inteligencia artificial es también la fuerza de los humanos
La IA es poderosa, pero tiene un déficit significativo. No tiene la capacidad fundamental que nos distingue: el pensamiento crítico. Sólo los humanos pueden pensar críticamente. Pero nosotros también tenemos que hacerlo.
About The Author
