Expertos: Dr. Juan Carlos Caro Seguel – Melissa Muñoz Flández
Departamento de Nutrición y Dietética
Facultad de Farmacia
¿Hacia dónde avanzan los estudios de HCI?
La investigación en interacción persona-computadora (HCI, por su sigla en inglés) se ha volcado a comprender los fenómenos humanos causados por los recientes avances en inteligencia artificial generativa de forma interactiva (chatbots, por ejemplo). En particular, los focos principales de investigación son: (i) la definición y validación de estándares éticos confiables, tal que exista un reconocimiento explícito de la diversidad de personas existentes en el mundo; (ii) la evaluación de los efectos de salud y bienestar asociado a las interacciones individuales con tecnologías de IA generativa; y (iii) los impactos sociales agregados que se derivan de la masificación de las tecnologías mencionadas.
¿Cómo influyen estas tecnologías en la salud y bienestar?
Las tecnologías de IA generativa, en particular su interacción con las personas, ya sea por voz, texto, videos u otros medios, son una espada de doble filo. Representan una oportunidad para democratizar el acceso a información y entregar soporte a grupos minoritarios, especialmente para personas aisladas y/o empobrecidas. Sin embargo, su fluidez y naturalidad generan en muchas personas una ilusión de acompañamiento y sabiduría, que puede llevar al usuario a sustituir erróneamente la terapia profesional o el soporte de su red de apoyo directa. Aunque simulan empatía y tienen una gran cercanía a la realidad, carecen de juicio clínico, lo que puede distorsionar la percepción de la realidad del usuario y afectar negativamente el bienestar emocional, si la interacción refuerza conductas dañinas en lugar de sanas.
¿Cuáles son los riesgos que se observan?
Los riesgos son extremadamente altos, como se ha comprobado en casos reales recientes, en los cuales ha reforzado ideas suicidas, entregado orientaciones inseguras o detonado cuadros de paranoia. Los riesgos se han esparcido de forma rápida, debido a grandes vacíos regulatorios que permite que usuarios vulnerables interactúen con estos sistemas sin supervisión clínica. Además, los sesgos inherentes a los modelos de IA generativa pueden perpetuar prejuicios históricos y exclusiones, fallando en comunicarse de forma segura con personas neurodivergentes. La falta de rendición de cuentas en estos sistemas agrava el impacto negativo en familias, comunidades y el sistema de salud.
Last modified: 20 de mayo de 2026
