Google está actualizando su inteligencia artificial Gemini en materia de salud mental, incluso para los más jóvenes, tras un debate global que atrae la atención de muchos gobiernos, incluido el italiano. Los nuevos productos están disponibles hoy en todo el mundo, incluido nuestro país.
Llega a Gemini el módulo “Puedes pedir ayuda”, desarrollado en colaboración con expertos clínicos si una conversación indica que un usuario se encuentra en un momento de grave dificultad. Y se introducirá la interfaz de “un toque”, que proporcionará conexión inmediata a las líneas de ayuda de emergencia. Google.org también está anunciando 30 millones de dólares en financiación global durante los próximos tres años para apoyar las líneas de ayuda.
El gigante tecnológico también ha desarrollado herramientas de protección específicamente para menores, “diseñadas para brindar las respuestas más útiles y evitar temas dañinos al usar Gemini”, dice la compañía. Están las protecciones de “personalidad” de Géminis, con reglas que impiden que la IA se presente como un ser humano o un compañero de confianza o afirme poseer atributos humanos; protecciones para prevenir la dependencia emocional evitando el habla que simule intimidad o exprese necesidades personales; medidas de seguridad contra la incitación al acoso u otras formas de acoso.
“Si bien Gemini puede ser una herramienta útil para aprender y obtener información, no sustituye la atención clínica profesional, la terapia o la ayuda de emergencia para quienes la necesitan”, escribe Google en un mensaje oficial. “Por esta razón, entrenamos el modelo para reconocer cuándo una conversación podría señalar una situación crítica de salud mental, reaccionar adecuadamente y dirigir al usuario a ayuda real. Nuestros equipos clínicos, de ingeniería y de seguridad están enfocados en priorizar la seguridad y las relaciones humanas. Nuestro objetivo es evitar confirmar creencias erróneas, manteniendo siempre una perspectiva anclada a la realidad y los hechos”, concluye la empresa.
Reproducción reservada © Copyright ANSA
About The Author
