La inteligencia artificial llegó para quedarse. Actualmente es una de las herramientas más utilizadas en el mundo laboral y en los momentos de ocioso. ¿Qué recomiendan los expertos sobre su uso en relación a consultas médicas?
Valeria Elías
RTS Medios
La salud es un tema inquietante para los seres humanos, genera preguntas, miedos y dudas. Ante la incertidumbre, muchas consultas son resueltas de forma impulsiva consultando con la IA antes que con el profesional correspondiente. Victoria O’Donnell es socióloga (UBA) y magíster en Métodos Cuantitativos en Ciencias Sociales (QMSS) por Columbia University (Nueva York, Estados Unidos). Consultora, docente e investigadora especializada en tecnología y salud mental, la especialista accedió a dar entrevista para RTS Medios y brindar explicación sobre esta dinámica.
—¿La IA puede comprender lo que se le pregunta y detectar cosas que la persona no menciona explícitamente?
— Las IA actuales pueden hacer inferencias complejas a partir de patrones. No se limitan a buscar palabras. Un modelo puede relacionar síntomas, detectar regularidades en una imagen, integrar texto con voz o con otros datos y producir hipótesis que no estaban explícitas en la consulta.
Eso no significa que sea seguro usarlo clínicamente.
El problema es que la misma capacidad que permite hacer inferencias útiles también puede producir inferencias incorrectas pero muy convincentes. Y en salud eso es especialmente delicado porque el usuario muchas veces no tiene herramientas para distinguir una buena inferencia de una mala.
Además, la calidad de una respuesta depende mucho de qué datos recibió el sistema, qué datos faltan, con qué población fue entrenado, para qué tarea fue validado y en qué contexto se está usando.
Un modelo puede detectar una asimetría en una imagen y aun así equivocarse sobre su significado clínico. Puede reconocer un patrón compatible con una enfermedad y pasar por alto otra explicación. Puede encontrar una asociación real y atribuirle una causalidad que no corresponde.
Por eso no me interesa tanto discutir si la IA «comprende» en sentido filosófico. Me interesa algo mucho más operativo. Puede hacer inferencias complejas, pero no tenemos que confundir capacidad de inferencia con confiabilidad clínica.
Y hay algo importante que suele perderse. «La IA» no es una sola tecnología. Un modelo generalista de conversación no es equivalente a un sistema médico diseñado, validado y evaluado para una tarea específica.
— ¿Es conveniente usar IA para consultas médicas?
— Yo sería bastante cauta. En salud, el uso de IA tiene un problema particular porque el costo del error puede ser alto y, además, el error puede ser difícil de detectar.
Una persona puede preguntarle a una IA por un síntoma y recibir una respuesta muy ordenada, muy razonable y completamente equivocada para su caso. Puede tranquilizarse cuando debería consultar o alarmarse cuando no corresponde.
También puede ocurrir algo más sutil. Que la respuesta no sea totalmente falsa, pero que jerarquice mal la información. Que tome un dato secundario como central, que omita algo importante o que construya una explicación coherente a partir de información insuficiente.
Por eso yo no recomendaría usar un modelo generalista para diagnosticar, indicar tratamientos, modificar medicación o decidir si una situación requiere o no atención médica.
Incluso interpretar estudios puede ser riesgoso. Un laboratorio no se interpreta solamente mirando si un valor está alto o bajo. Importan el contexto clínico, los antecedentes, la medicación, la evolución, las unidades, el método del laboratorio y la relación entre distintos valores.
Y con documentos clínicos pasa algo parecido. Resumir una epicrisis puede parecer una tarea puramente administrativa, pero una omisión o una alteración de la cronología puede cambiar completamente la lectura posterior.
La regla que usaría sería bastante simple. Cuanto más cerca está la IA de interpretar la situación clínica concreta de una persona, mayor es el riesgo.
— ¿Cuál sería entonces un uso racional e inteligente de la IA?
— En salud, un uso racional empieza por reconocer que no todas las tareas deberían delegarse.
No alcanza con decir que una tarea es «administrativa» o «informativa». Hay que analizar qué pasa si el sistema se equivoca.
Yo miraría algunas cosas básicas:
El impacto potencial del error.
La posibilidad de detectar ese error.
La cantidad de información clínica que el sistema no está viendo.
Y quién revisa el resultado antes de que produzca una consecuencia.
No subestimaria para nada tampoco lo «curativo» de otra presencia humana, un trato cordial, una escucha activa.
Pero en lo puramente técnico hay errores de IA que son evidentes. Otros son mucho más peligrosos porque parecen perfectamente plausibles.
En salud me preocupan especialmente los errores silenciosos. Una fecha que se modifica. Un antecedente que desaparece de un resumen. Una negación que se interpreta mal. Una dosis que se transcribe incorrectamente. Un hallazgo que se presenta con más certeza de la que realmente tiene.
Por eso, cuando se utiliza IA en sistemas sanitarios, debería haber trazabilidad, validación específica para la tarea, evaluación continua y supervisión profesional.
Y hay que distinguir muy claramente entre una herramienta utilizada por un profesional dentro de un sistema controlado y una persona utilizando por su cuenta un chatbot generalista para tomar decisiones sobre su salud.
No tienen el mismo nivel de riesgo.
También hay una cuestión de privacidad. Los datos sanitarios están entre los datos más sensibles que existen. Subir una historia clínica, un estudio o información identificable a cualquier plataforma sin conocer sus condiciones de tratamiento de datos es en sí mismo un riesgo.
Para mí la alfabetización en IA en salud no debería enseñar solamente a «hacer mejores preguntas». Debería enseñar cuándo no usarla.
— ¿La IA cambia la forma de relacionarse, informarse y realizar actividades?
— Sí, y creo que el cambio más importante no es solamente que automatiza tareas. Cambia dónde ponemos la confianza.
Con un buscador, nosotros recibíamos una lista de fuentes y teníamos que construir una respuesta. Con la IA generativa recibimos directamente una respuesta sintetizada.
Eso desplaza una parte del trabajo de selección, interpretación y jerarquización hacia el sistema.
En muchos ámbitos puede ser muy útil. Pero en salud el problema es que el usuario puede no ver qué fuentes se priorizaron, qué información quedó afuera o cuánto nivel de incertidumbre había detrás de la respuesta.
Eso produce un riesgo de sobreconfianza.
Los modelos además tienen una característica particular. Pueden expresarse con mucha claridad incluso cuando la evidencia es incompleta. La calidad lingüística de una respuesta puede hacer que parezca más confiable de lo que realmente es.
Y eso obliga a cambiar la alfabetización digital. Ya no alcanza con saber buscar información. Tenemos que aprender a evaluar sistemas que responden de manera persuasiva.
También cambia nuestra relación con los profesionales. Puede mejorar una consulta si una persona llega más informada. Pero también puede generar conflictos si el paciente llega con una hipótesis muy consolidada por una IA y le otorga más credibilidad que a una evaluación clínica contextualizada.
Por eso creo que en salud hay que resistir una idea bastante seductora, que es pensar que si una tecnología puede responder una pregunta, entonces debería responderla.
La capacidad técnica no equivale a una indicación de uso.
En salud, el problema de la IA no es solamente que pueda equivocarse. Es que puede equivocarse de una manera muy convincente, en situaciones donde quien la consulta muchas veces no tiene cómo detectar el error.
Fuente: RTS Noticias