Redacción
«La medicina está cambiando completamente con la llegada de la IA y era necesario analizar qué riesgos plantea y cómo podemos afrontarlos». Es la reflexión de David Ríos, miembro de la Real Academia de Ciencias de España y uno de los expertos que han participado en la elaboración de un informe conjunto del Consejo Asesor Científico de las Academias Europeas (EASAC) y la Federación Europea de Academias de Medicina (FEAM) sobre el uso de la inteligencia artificial en la sanidad europea. El documento recoge recomendaciones para mitigar estos riesgos y, entre otras cuestiones, «evitar que los algoritmos puedan ser injustos con determinados grupos de población».
Los sistemas de inteligencia artificial ya se utilizan en distintos ámbitos de la asistencia sanitaria y pueden aportar beneficios en la atención clínica y la salud pública. Sin embargo, si no existen normas claras, también pueden generar problemas como filtraciones o usos indebidos de datos, sesgos en los algoritmos o una pérdida del control humano sobre determinadas decisiones. Otro riesgo clave es la pérdida de competencias de los profesionales.
Entre los riesgos de la IA señalan el «terrorismo científico»: ataques dirigidos contra sistemas que pueden tener consecuencias sobre la salud de las personas
Ríos advierte de que «estamos viendo aparecer problemas que antes no existían». Entre ellos se encuentran los relacionados con la ciberseguridad de los sistemas de IA aplicados al diagnóstico. Por ejemplo, los sistemas de diagnóstico mediante imagen «pueden verse alterados por un virus informático que los infecte». «Si un sistema ha sido manipulado, puede dejar de ser eficaz y generar diagnósticos erróneos», alerta. Esta posibilidad abre incluso la puerta, según el académico, a lo que denomina «terrorismo científico»: ataques dirigidos contra sistemas que pueden tener consecuencias sobre la salud de las personas.
El informe, elaborado por un grupo de 22 científicos europeos y liderado por el vicepresidente de la FEAM, Luis Martí-Bonmatí, reclama que la seguridad forme parte del desarrollo de los sistemas de IA desde sus primeras fases. «No hay que elegir necesariamente los modelos más sencillos o fáciles de implementar, sino aquellos que sean más robustos«, explica Ríos. En su opinión, «en un entorno hostil, un modelo necesita haber sido entrenado para enfrentarse a situaciones adversas y ser capaz de mantener su funcionamiento».
Los expertos proponen, entre otras medidas, la creación de «entornos controlados de experimentación regulatoria», conocidos como regulatory sandboxes. Se trataría de espacios seguros y limitados en el tiempo en los que los desarrolladores puedan probar nuevas herramientas de IA bajo supervisión de los reguladores y con garantías para los pacientes.
Los expertos proponen, entre otras medidas, la creación de «entornos controlados de experimentación regulatoria», conocidos como regulatory sandboxes
El objetivo es encontrar un equilibrio entre seguridad e innovación. Martí-Bonmatí señala que uno de los aspectos más controvertidos durante la elaboración del informe fue precisamente «encontrar el equilibrio en Europa entre regulación e innovación». Los autores consideran que las herramientas de IA sanitaria de alto riesgo deben contar con una «supervisión humana estricta», pero advierten de que una regulación excesivamente rígida podría dificultar el desarrollo y la implantación de tecnologías con utilidad clínica.
El riesgo de los sesgos en los algoritmos
Otro de los riesgos identificados es que los sistemas de IA reproduzcan o incluso amplifiquen desigualdades existentes. «En el informe hemos señalado que los modelos de IA entrenados con datos y contextos limitados pueden generar resultados sesgados relacionados con el sexo, la edad o el país donde vive el paciente, perpetuando desigualdades sanitarias, si no se validan en poblaciones diferentes de aquellas con las que fueron entrenados», apunta Martí-Bonmatí.
Los autores citan también un estudio en el que se analizó cómo los grandes modelos de lenguaje modificaban sus recomendaciones clínicas al introducir descriptores relacionados con el género o la etnia de un paciente. Para los expertos, esto muestra la importancia de auditar los modelos y de informar sobre su rendimiento en diferentes grupos de población.
Dr. Martí-Bonmatí: los modelos de IA entrenados con datos y contextos limitados pueden generar resultados sesgados, perpetuando desigualdades sanitarias»
En este sentido, el informe plantea la necesidad de utilizar herramientas de transparencia como las model cards, que permiten comunicar el rendimiento de los modelos de IA en distintos grupos y contextos. El objetivo es detectar posibles sesgos antes de que puedan traducirse en daños en la práctica clínica.
Más datos sanitarios, mayor exposición a ciberataques
La protección de los datos de salud constituye otro de los ejes del documento. Martí-Bonmatí recuerda que la Agencia de la Unión Europea para la Ciberseguridad (Enisa) identificó 487 incidentes de ciberseguridad en el sector sanitario europeo en su panorama de amenazas de 2024. De ellos, un 45% fueron ataques de ransomware y un 28% correspondieron a brechas de datos.
Los autores sitúan los entornos seguros y la privacidad de los datos personales entre los elementos centrales para una implantación responsable de la IA sanitaria
«Cuantos más datos de salud se integren en sistemas de IA, mayor es el volumen de exposición ante este tipo de incidentes», señala. Las consecuencias pueden ir desde la interrupción de servicios clínicos hasta la exposición de información sensible de pacientes sin su consentimiento. Por ello, los autores sitúan los entornos seguros y la privacidad de los datos personales entre los elementos centrales para una implantación responsable de la IA sanitaria.
Cuando la IA puede hacer que el profesional pierda competencias
El informe también advierte de un riesgo menos relacionado con la tecnología en sí y más con la interacción entre esta y los profesionales sanitarios: la pérdida progresiva de competencias cuando determinadas tareas quedan delegadas de forma habitual en sistemas de IA.
Martí-Bonmatí pone como ejemplo la disminución de la capacidad de los endoscopistas para detectar pólipos de forma independiente después de habituarse al uso de herramientas de IA, según los resultados de un estudio multicéntrico realizado en cuatro centros de endoscopia de Polonia dentro del ensayo Accept.
El Dr. Martí-Bonmatí advierte de la pérdida de competencias: «sucede cuando el profesional pierde práctica en la tarea que la IA hace por él; si el sistema falla o no está disponible, la seguridad del paciente puede verse comprometida»
«Es lo que en el informe llamamos pérdida de competencias o deskilling, que sucede cuando el profesional pierde práctica en la tarea que la IA hace por él; si el sistema falla o no está disponible, la seguridad del paciente puede verse comprometida», advierte. Por este motivo, el documento defiende que la IA debe utilizarse como una herramienta de apoyo al profesional sanitario y no como un sustituto. «La IA debe ser una herramienta que empodere al profesional sanitario, nunca que lo sustituya o desplace», afirma Martí-Bonmatí.
Formación de los profesionales sanitarios
Los expertos consideran que esta transformación también exige adaptar la formación de los profesionales. Ríos ha defendido la incorporación de contenidos específicos sobre inteligencia artificial en la formación médica para que los futuros facultativos conozcan tanto las posibilidades de estas herramientas como sus limitaciones y riesgos.
«No se trata de convertir a los médicos en expertos en inteligencia artificial, pero sí de que conozcan sus posibilidades, sus limitaciones y los riesgos que puede tener utilizarla en un entorno sanitario», explica.
Los expertos defienden la incorporación de contenidos específicos sobre inteligencia artificial en la formación médica para conocer sus posibilidades y sus riesgos
El informe reclama políticas europeas que garanticen un acceso equitativo a estas tecnologías, una mayor transparencia y la participación activa de la sociedad. Los autores incluyen también entre sus recomendaciones la consideración del impacto medioambiental de la IA, especialmente por el elevado consumo energético asociado a los centros de datos.
Ríos considera que uno de los principales retos en este ámbito es precisamente el consumo energético. «Los nuevos centros de datos están llegando incluso a construir sus propias centrales para abastecerse de energía», señala. A su juicio, una mayor conciencia sobre el coste energético de estos sistemas también contribuirá a valorar de forma más adecuada su utilización.
Para los autores, el objetivo no es establecer si la inteligencia artificial es positiva o negativa para la sanidad, sino crear las condiciones para que sus beneficios puedan aprovecharse reduciendo los riesgos. Ríos resume este planteamiento señalando que «las reglas del juego han cambiado» y que es necesario adaptar tanto los sistemas sanitarios como la formación de los profesionales a esta nueva realidad.
