Cordillera de Palabras | La semana pasada mi vecina tenía a su hijo con fiebre y dolor de garganta, nada que pareciera emergencia, y en vez de ir a la farmacia de la esquina le preguntó a ChatGPT qué darle. La aplicación le sugirió un antiinflamatorio, la dosis aproximada y le advirtió que consultara a un médico si los síntomas empeoraban.
El uso de inteligencia artificial para consultas de salud se ha vuelto una práctica común que alcanza a más de 40 millones de personas diariamente según datos de OpenAI. No obstante, un estudio de la Universidad de Oxford advierte que estos sistemas no están preparados para sustituir el criterio de médicos o farmacéuticos profesionales. La falta de responsabilidad legal y supervisión humana en las recomendaciones algorítmicas representa un riesgo creciente, pues el 72% de incidentes graves vinculados a la inteligencia artificial este año se atribuyen a la falta de control experto. Aunque estas herramientas pueden servir de orientación inicial, su adopción como única fuente de consulta médica diluye la rendición de cuentas ante posibles errores diagnósticos.
- Más de 40 millones de personas recurren a ChatGPT diariamente para realizar preguntas sobre su salud según reconoce la empresa OpenAI.
- Un estudio publicado en Nature Medicine revela que los usuarios tienen dificultades reales para distinguir entre buenos y malos consejos médicos proporcionados por la IA.
- El 72% de los incidentes graves vinculados a la inteligencia artificial en lo que va del año se deben a la ausencia de mecanismos de supervisión humana.
- En Utah, Estados Unidos, el gobierno estatal autorizó que un sistema de inteligencia artificial renueve recetas de medicamentos psiquiátricos.
- A diferencia de los profesionales colegiados, los sistemas de IA carecen de identidad legal, colegiatura y responsabilidad civil ante reacciones adversas o errores.
Ella siguió la indicación al pie de la letra, como quien sigue la receta de un profesional, sin cuestionar de dónde venía esa recomendación ni quién respondería si algo salía mal.
Esa escena se repite todos los días en miles de hogares. Más de 40 millones de personas recurren a ChatGPT diariamente con preguntas de salud, según reconoce la propia OpenAI.
El farmacéutico de barrio, ese que antes te miraba a los ojos y te preguntaba si tenías alergias antes de venderte algo, está siendo reemplazado silenciosamente por una pantalla que responde en segundos, sin preguntar nada que no le preguntes tú primero, y sin cargar con ninguna consecuencia si se equivoca.
Un estudio de la Universidad de Oxford publicado en Nature Medicine encontró algo revelador: los usuarios a menudo no sabían qué información debían compartir con estos sistemas, recibían respuestas muy distintas ante preguntas apenas diferentes, y aunque los modelos ofrecían tanto buenos como malos consejos, la gente tenía dificultad real para distinguir entre unos y otros.
La doctora Rebecca Payne, autora principal del estudio, fue clara: pese a todo el entusiasmo, la inteligencia artificial simplemente no está lista para asumir el rol de médico. Ni de farmacéutico, habría que agregar.
Cordillera de Palabras. La inteligencia artificial y las decisiones de salud
El problema de fondo no es que la tecnología dé malos consejos alguna vez. Es que cuando los da, no hay nadie a quien reclamarle. La filósofa Shannon Vallor, que enseña ética tecnológica en la Universidad de Edimburgo, lo resume con precisión: la inteligencia artificial no elimina la responsabilidad humana, la redistribuye y la vuelve más difícil de rastrear.
El farmacéutico que te vendía mal un medicamento tenía nombre, apellido, colegiatura profesional y una responsabilidad legal concreta. El chatbot que le recomendó el antiinflamatorio a mi vecina no tiene ninguna de esas tres cosas.
Si el niño hubiera tenido una reacción adversa, ¿a quién reclama ella? ¿A la empresa que programó el modelo en otro continente? ¿Al modelo mismo?.
Esto ya no es hipotético en otras partes del mundo. En Utah, Estados Unidos, el gobierno estatal autorizó este año que un sistema de inteligencia artificial renueve recetas de medicamentos psiquiátricos sin que un médico intervenga directamente, con revisión humana solo si el sistema detecta señales de alerta.
Algunos especialistas en salud mental ya recomendaron evitarlo por ahora, precisamente porque las situaciones de mayor riesgo, las que requieren más criterio clínico, son las que un sistema automatizado tiene más probabilidades de pasar por alto.
Según un reporte reciente, el 72% de los incidentes graves vinculados a inteligencia artificial registrados en lo que va de este año (diagnósticos médicos erróneos, decisiones financieras automatizadas, fallos en sistemas judiciales) se atribuyen justamente a la ausencia de mecanismos claros de supervisión humana.
No es que la tecnología falle sola. Es que la dejamos decidir sin nadie mirando por encima del hombro, y luego nos sorprendemos cuando algo se rompe.
El problema de convertir al chatbot en la única voz
Nadie está pidiendo satanizar estas herramientas. Pueden ser útiles para entender un resultado de laboratorio, para tener una primera orientación antes de decidir si vale la pena hacer una cola de tres horas en el hospital, para alfabetizar en salud a quien nunca tuvo acceso a explicaciones claras de su propio cuerpo.
El problema aparece cuando la herramienta deja de ser un punto de partida y se convierte en la única voz que consultamos, la que reemplaza por completo el criterio de alguien formado, colegiado y responsable ante la ley.
Mi vecina tuvo suerte. El niño mejoró con el jarabe que le indicó la aplicación. Pero la suerte no es una política de salud pública, y la ausencia de consecuencias legales para quien programa estos sistemas tampoco es un detalle menor.
Cuando decidimos delegar en un algoritmo decisiones que antes requerían una firma, un carnet profesional y una responsabilidad civil, no estamos simplificando la vida. Estamos diluyendo la responsabilidad hasta que, en el momento en que algo salga realmente mal, no quede claro a quién buscar.
