Durante los últimos tiempos asistimos a una explosión de entusiasmo por la utilización de la inteligencia artificial (IA) en la actividad clínica. Es muy frecuente encontrar publicaciones que muestran unas elevadas expectativas sobre los beneficios que esta tecnología ofrece para mejorar la calidad, la efectividad y la eficiencia del sistema de salud. Parece que los muchos males de nuestro maltrecho sistema de salud fueran a solucionarse con la aplicación de la IA. Cualquiera diría que la IA es el bálsamo de Fierabrás que cura todas las enfermedades y que “con sola una gota se ahorraran tiempo y medicinas” como dice Don Quijote. Tanta exaltación recuerda a los tecno-entusiastas que predecían, algunos todavía defienden esta tesis, los enormes ahorros que se iban a producir como consecuencia de la introducción de las tecnologías de la información y de la comunicación (TIC) en la actividad clínica, y de manera específica por la historia clínica electrónica o digital. Esos supuestos ahorros no se han demostrado, o al menos no con claridad. Lo que sí se ha demostrado es que ha sido necesario introducir nuevas partidas en el presupuesto para la incorporación y el mantenimiento de los sistemas de información. Tampoco se pone en duda que las TIC, y específicamente la historia clínica electrónica, facilitan la mejora de la eficiencia y también de la calidad.
Un sistema de IA, tal y como lo explica el grupo de expertos en IA de la OCDE, es un «sistema basado en la máquina que puede hacer predicciones, recomendaciones o tomar decisiones, influyendo en entornos reales o virtuales, sobre ciertos objetivos definidos por los humanos».
El machine learning (ML) –aprendizaje de máquinas- es una disciplina del campo de la IA que, mediante algoritmos, dota a los ordenadores de la capacidad de identificar patrones en grandes fuentes de datos y elaborar predicciones (análisis predictivo). Este aprendizaje permite a los ordenadores llevar a cabo tareas específicas de forma autónoma, es decir, sin necesidad de ser programados. En el mundo empresarial es una técnica muy cotizada por los beneficios que puede reportar, por ejemplo, para identificar riesgos y oportunidades. Su aplicación se extiende desde el comercio electrónico a la energía, las finanzas o los seguros, entre otros. Ejemplos del empleo de ML en salud son la detección de determinadas enfermedades de manera precoz, como ciertos tipos de cáncer, o la probabilidad de reingreso de un paciente en el hospital. Los grandes modelos de lenguaje (LLM) son una categoría de modelos básicos entrenados sobre inmensas cantidades de datos, lo que los hace capaces de comprender y generar lenguaje natural y otros tipos de contenido para realizar una amplia variedad de tareas. Esta tecnología se emplea, por ejemplo, para la elaboración de informes clínicos.
Las aplicaciones de la IA en la sanidad pueden ayudar a detectar precozmente las enfermedades, prestar servicios preventivos, mejorar la toma de decisiones clínicas y descubrir nuevos tratamientos y medicamentos. Pueden facilitar la atención sanitaria personalizada y la medicina de precisión. La IA permite la identificación precoz de brotes y la vigilancia de la propagación de enfermedades. Además de para la vigilancia epidemiológica, los datos pueden utilizarse para identificar efectos secundarios imprevistos y contraindicaciones de nuevos medicamentos. Sin embargo, la IA también plantea problemas bioéticos, en particular sobre el acceso a los datos de salud y la intimidad de las personas.
‘La IA debe orientarse a mejorar la calidad y los resultados’
El sector sanitario puede ser una plataforma ideal para los sistemas de IA y un ejemplo perfecto de sus posibles repercusiones. Se trata de un sector intensivo en gestión del conocimiento que depende del tratamiento de los datos y de su análisis, tanto para la actividad clínica como para la mejora de la calidad, la innovación y la investigación. La introducción de las TIC a la actividad clínica ha ocasionado un enorme crecimiento de la información disponible, incluidos datos clínicos, genéticos, conductuales y medioambientales. Cada día, los profesionales sanitarios, los investigadores biomédicos y los pacientes generan enormes cantidades de datos que se registran en una gran variedad de dispositivos. Entre ellos figuran las historias clínicas electrónicas, las máquinas de secuenciación genómica, las imágenes médicas de alta resolución y las aplicaciones de teléfonos inteligentes, así como los dispositivos de Internet de las cosas que monitorizan la salud de los pacientes.
La IA, como todas las tecnologías que se emplean en la actividad clínica, debe orientarse a mejorar la calidad y los resultados. Para ello es imprescindible que esté centrada en el paciente y en apoyar el trabajo de los profesionales que le atienden. Todas las aplicaciones de las TIC a la actividad clínica, y también la IA, exigen una política de evaluación y gestión de riesgos.
Los repositorios de datos sanitarios que se utilizan para entrenar algoritmos de IA pueden introducir sesgos si los datos son homogéneos, pero no los procesos de atención sanitaria. Las consecuencias de estos sesgos pueden ser considerables, como los diagnósticos omitidos, la clasificación errónea de enfermedades, la predicción incorrecta de riesgos y las recomendaciones inadecuadas de tratamiento.
Los proveedores de sistemas de IA deben adoptar un enfoque que conceda prioridad a las necesidades de los pacientes y de los médicos. En España algunos servicios de salud se proponen la introducción de IA en atención primaria para aliviar la carga burocrática y la elaboración de documentos clínicos. En el caso de aplicaciones para atención primaria se debería tener en cuenta si las aplicaciones de IA tienen en cuenta las 5 funciones básicas que la Organización Mundial de la Salud define para este nivel de atención: 1) acceso a la atención primaria, 2) desarrollo de relaciones personales a largo plazo entre médico y paciente, 3) mejora de la atención integral desde la prevención hasta los cuidados paliativos, 4) mejor coordinación entre profesionales, sistemas y tiempo, y 5) apoyo a la educación y a la toma de decisiones del paciente.
La elaboración de documentos clínicos (informes, peticiones de pruebas, etc.) por IA puede mostrar una variabilidad que podría tener efectos importantes e impredecibles en la toma de decisiones de los médicos:
En primer lugar, los resúmenes generados por IA son variables, porque son probabilísticos y porque no existe una respuesta “correcta” sobre qué información incluir o cómo enfatizarla en la historia clínica.
Los LLM pueden mostrar un sesgo de “adulación”. La adulación se produce cuando los LLM adaptan las respuestas a las expectativas percibidas del usuario. En el contexto clínico, los resúmenes aduladores podrían acentuar o enfatizar los hechos que concuerdan con las sospechas preexistentes de los clínicos, arriesgándose a un sesgo de confirmación que podría aumentar el error de diagnóstico.
En tercer lugar, incluso los resúmenes que parecen precisos pueden incluir pequeños errores con una importante repercusión clínica.
La aplicación de las TIC a los servicios de salud no ha estado exenta de dificultades y además ha supuesto la aparición de nuevos riesgos para los pacientes. Sin embargo, no cabe duda de que nadie renunciaría hoy al empleo de sistemas de gestión clínico-administrativa, historia clínica electrónica y a las oportunidades que se presentan en materia de gestión del conocimiento, cuyo exponente más avanzado es la IA aplicada a la clínica.
La salud digital tiene un gran valor para la mejora de la calidad y de la eficiencia, y es de gran utilidad para la investigación y para la epidemiología. Pero siempre debe tenerse en cuenta que el empleo secundario de los datos debe cumplir rigurosamente los principios éticos y legales de protección de datos y otros derechos de los pacientes. Por otra parte, es imprescindible respetar los principios del dato único y también que la información para la gestión y resto de usos secundarios de la información debe fluir desde los sistemas operacionales.
En resumen, para el éxito de la aplicación de la salud digital es imprescindible que las aplicaciones estén centradas en el paciente, aporten valor al clínico y se sometan a una rigurosa evaluación de riesgos para los pacientes.
