La Reconquista, en el contexto de la figura de Don Pelayo, se refiere al inicio de la resistencia cristiana contra la ocupación musulmana de la península ibérica. El líder asturiano, visigodo y bárbaro, es tradicionalmente reconocido por liderar la batalla de Covadonga en 722, considerada el punto de partida de ese proceso de recuperación territorial.

Esa victoria, pequeña en escala, simbolizó el inicio de la Reconquista y la formación del Reino de Asturias, el primer núcleo cristiano independiente después de la invasión musulmana que, sin duda, había representado la época de mayores avances culturales y técnicos de la historia de España, aunque de difusión temporal lenta (no había medios de comunicación) y, finalmente, destrozada por el fanatismo religioso.

Avances reservados, casi siempre, para una minoría selecta que los utilizaba en su exclusivo beneficio, generalmente, gente poderosa. Por ello, apenas llegaban al pueblo llano, mucho más ocupado en su supervivencia que en saber matemáticas, por ejemplo, porque no les eran útiles para nada, o eso creían, y se dejaban arrastrar por esa clase privilegiada que les dominaba.

Bien, salvando las distancias, con todos los matices que queramos introducir, y teniendo en cuenta, como bien saben mis lectores habituales que, siempre, en septiembre, y aún reponiéndome de las heridas mentales y físicas de un veraneo nada espectacular, escribo sobre algún tema más fantasioso que real.

Hoy lo haré sobre los perjuicios (las evidentes ventajas las describimos continuamente en todas partes), que la nueva tecnología, encabezada por Internet, está causando en la creatividad, en el crecimiento del pensar, del ser humano actual.

Y como aliada en contra de esta, que es el verdadero único eslabón frente a la población que ya nos invade: tecno humanos, clones humanos de naturaleza tecno, reps de cálculo, flops, kéfalos, ciborrads, cyborgs, omaás, avatares……Gracias, admirada Rosa Montero por darnos los nombres y características de estos animales difíciles para que vayamos reconociéndoles entre nuestros habituales compañeros de trabajo, o de rutinas sanitarias diarias.

Porque, sinceramente, todavía…, ante una enfermedad grave, si tuvierais que elegir entre asistir en persona a una consulta con el Profesor Gregorio Marañón (actualizado en conocimientos, claro), con un profesional sanitario que solo escribe en un ordenador, o ante el más ilustre robot metalizado con luces y sonidos… ¿dónde preferirían? Sed sinceros, por favor.

Pues aquí estamos. Creando algo más inteligente que nosotros mismos, y esto, a todas luces, como decía Nick Bostrom (filósofo y uno de los creadores de la Inteligencia Artificial), es un error evolutivo básico. Creo que somos el único gran animal que se está destruyendo a sí mismo y, encima se autoproclama como muy inteligente entre toda la fauna existente sobre la Tierra.

‘Parar el desarrollo de la Inteligencia Artificial en sanidad no solo es inviable, sino contraproducente’

Rebelémonos y repliquemos lo que hizo Don Pelayo desde sus montañas asturianas hace ya tantos siglos. Una nueva Reconquista. Eso es lo que te pide el cuerpo.

Aún estamos a tiempo. Limitemos crecimientos, no hagamos prohibiciones, pero sobre todo legislemos y con rapidez. Echemos un poco el freno y reposemos lo que hemos conseguido, andemos más despacio.

Es verdad que la tecnología salva vidas…sí, pero no. Es su gestión, su manejo, sus procedimientos y ya ni los profesionales más jóvenes tienen tiempo para asimilar lo que saben, dada la velocidad de la vida tecnológica.

Y es lo que da pie frente a los que dicen que nunca seremos totalmente desbordados, porque la tecnología no tiene creatividad propia y los humanos sí. Me da risa.

La creatividad nos la están robando para el bando enemigo, los fanáticos tecnológicos. Dos ejemplos prácticos de la rutina diaria:

Cuando en una conversación alguien no recuerda algo que, si tiene en la memoria, en vez de entrenar al cerebro para recordarlo como se ha hecho siempre…, todos rápido a leerlo en Internet. No esforzarse, no entrenar la mente.

ChatGPT. Qué maravilla, escribe todo lo que tú debías estar trabajando en tu cerebro para hacer, y sin causarnos ningún esfuerzo mental. Que relax en el cerebro, tan pernicioso.

Nuestro archivo personal y mental se está oxidando. Una estrategia para que tampoco seamos creativos y nos igualemos a las máquinas. Nosotros bajamos nuestro cerebro y ellas lo aumentan.

Resistamos y contraataquemos, venzamos y aprovechémonos de ellas en nuestro interés. Porque hay que reducir, durante algún tiempo, la vertiginosa evolución actual.

Y eso que, cuando hablamos de frenar el desarrollo de la IA en general, sabemos que, para el mundo de la sanidad, es una propuesta problemática.

Porque el desarrollo de la Inteligencia Artificial (IA) ha transformado múltiples sectores, y la sanidad no ha sido una excepción. Desde sistemas de ayuda al diagnóstico hasta algoritmos de gestión hospitalaria, la IA promete una medicina más precisa, eficiente y personalizada, que conlleva riesgos éticos, sociales y jurídicos.

Combatir, o resistir, contra los robots y el Internet de las Cosas (IoT), no necesariamente implica una lucha física o violenta, eso queda para las películas de cine, sino que se refiere a cómo podemos protegernos de esos riesgos citados que estas tecnologías pueden traer, más concretamente, en términos de seguridad, privacidad, control social, automatización del trabajo y dependencia tecnológica, que pueden erosionar nuestro devenir habitual.

Riesgos (para los que hay soluciones, si reflexionamos y nos centramos más en ellas), tales como:

  • Los dispositivos conectados al IoT (cámaras, electrodomésticos inteligentes, sensores, etc.) recogen datos constantemente.
  • Los robots están reemplazando trabajos humanos, especialmente en sectores como la manufactura, logística y servicios.
  • Los dispositivos inteligentes pueden ser usados para vigilancia masiva o manipulación del comportamiento.
  • La dependencia de grandes plataformas y fabricantes limita el control sobre la tecnología.

Evidentemente, y como sucede en todas las guerras, ya hay muchos colectivos de tecnólogos claramente posicionados, los conservadores y los radicales. Entre estos, por su originalidad, os voy a decir que los que ya piensan que todo está perdido, son los tecnopesimistas.

El tecnopesimismo es una corriente crítica que sostiene que el desarrollo tecnológico, lejos de ser un camino inevitable hacia el progreso, puede acarrear consecuencias negativas profundas para la humanidad, la libertad y el planeta. Desde esta visión, “combatir a los robots y al Internet de las Cosas” implica resistir, porque amenazan valores humanos esenciales.

El tecnopesimismo no niega que la tecnología pueda tener beneficios, pero pone en duda el discurso dominante de que todo avance tecnológico es bueno o necesario.

La realidad es que, desde el tecnopesimismo, la verdadera lucha no es contra las máquinas, sino contra la ideología del progreso tecnológico como destino, y cultivan una serie de legítimas motivaciones para frenar la IA en sanidad, tales como:

a) Sesgos algorítmicos y discriminación

Numerosos estudios han demostrado que los algoritmos de IA pueden reproducir y amplificar desigualdades existentes. Por ejemplo, un estudio publicado en Science (Obermeyer et al., 2019) evidenció que un algoritmo usado en hospitales estadounidenses subestimaba, sistemáticamente, las necesidades médicas de pacientes afroamericanos.

b) Falta de transparencia y explicabilidad

Muchos sistemas de IA operan como «cajas negras», dificultando la comprensión de sus decisiones incluso para expertos. En medicina, donde las decisiones afectan directamente a la vida de las personas, esta opacidad plantea un problema ético y práctico.

c) Privacidad y uso de datos personales

La IA médica requiere grandes volúmenes de datos personales sensibles. Esto plantea preocupaciones sobre la protección de la privacidad, especialmente cuando los datos son procesados por empresas privadas, o en contextos con legislación débil.

d) Desplazamiento del juicio clínico

Existe el riesgo de que el personal médico se vuelva excesivamente dependiente de las recomendaciones algorítmicas, debilitando su capacidad crítica y reduciendo la interacción humana con el paciente.

Las preocupaciones anteriores son válidas, y estoy justificando que existan estos movimientos y hay que respetarlos.

No es mi opinión, porque detener el desarrollo de la IA en sanidad tendría efectos negativos significativos tales como:

  • Estancamiento del progreso médico. La IA ha demostrado una capacidad notable para mejorar la detección temprana de enfermedades, como en el caso de ciertos tipos de cáncer, mediante el análisis de imágenes médicas. Interrumpir esta línea de desarrollo supondría renunciar a mejoras en la prevención, diagnóstico y tratamiento.
  • Aumento de la desigualdad global. La paradoja de detener la IA por motivos éticos podría generar una brecha aún mayor entre países: mientras los países más desarrollados continúan investigando en secreto, o en ámbitos militares, otros quedarían rezagados en el acceso a tecnologías que salvan vidas.
  • Desaprovechamiento de los recursos existentes. Gran parte de la infraestructura tecnológica y de datos ya está en marcha. Abandonar su desarrollo implicaría una pérdida económica y científica, además de desaprovechar herramientas útiles para gestionar pandemias, enfermedades crónicas y sistemas de salud colapsados.

Como conclusión, yo creo que debemos calmar nuestros inicios beligerantes del comienzo de mi artículo. Parar el desarrollo de la inteligencia artificial en sanidad no solo es inviable, sino contraproducente.

Pero si es necesario, y muy urgente, enfrentar los desafíos éticos, técnicos y sociales que plantea. La respuesta no debe ser la renuncia, sino la construcción de un marco ético y normativo sólido que oriente su implementación y esto lleva tiempo y reflexión.

Y el desarrollo tecnológico no practica la virtud de la necesaria paciencia…

La IA tiene el potencial de mejorar significativamente la atención sanitaria, pero su legitimidad dependerá de que sea desarrollada al servicio de la equidad, la transparencia y la dignidad humana.