Pablo Malo Segura
El sector sanitario se encuentra en un momento determinante ante la irrupción de la inteligencia artificial (IA) y las nuevas tecnologías. En este contexto, la Alianza de la Sanidad Privada Española (ASPE) y la Fundación Global Salud han organizado la Jornada Retos en Protección de Datos ante las TIC y la IA, con la colaboración y el patrocinio de Alaro Avant, donde se ha enfatizado en la necesidad de que la IA en salud cumpla con la normativa y respete los derechos fundamentales de los pacientes al mismo tiempo que se impulsa la innovación.
“Los avances tecnológicos y la protección y privacidad de los datos deben ir de la mano. Hay que garantizar que el uso de la IA en el diagnóstico y tratamiento respete el derecho a la privacidad y asegurarse de que las TIC no comprometan la seguridad de los datos”, ha resaltado Luján Sanjuan, gerente del Hospital San Vicente y vocal de la junta directiva de ASPE.
En este sentido, ha explicado que el Reglamento General de Protección de Datos (RGPD), establece principios fundamentales para que la información personal se recopile de manera responsable. “A medida que la IA se utiliza cada vez más en predicción de diagnósticos o en la recomendación de tratamientos crece la importancia de garantizar que se respeten los derechos de los pacientes sobre sus propios datos“, resalta.
Además, ha señalado la importancia de llevar a cabo estrategias preventivas para garantizar que la digitalización del sistema sanitario se haga de manera segura. “El cumplimiento del RGPD no solo es una obligación legal, sino también una cuestión ética. Implementar una cultura de protección de datos alineada con el RGPD requiere un esfuerzo colectivo de todos los agentes implicados”, ha expuesto.
Luján Sanjuán: “El cumplimiento del RGPD no solo es una obligación legal, sino también una cuestión ética”
Implicaciones de la IA en la normativa de protección de datos
Por su parte, Natalia Olivares Álvarez, DPO y directora del Departamento Legal y de Protección de Datos de Alaro Avant, ha abordado las implicaciones de la IA en la normativa de protección de datos. La reciente aprobación de la Ley de Inteligencia Artificial por la Eurocámara busca armonizar las normativas en materia de IA para “garantizar la seguridad y el respeto a los derechos fundamentales mientras impulsa la innovación”.
En este sentido, ha señalado que los sistemas de IA cada se introducen de forma más frecuente en los proyectos del campo de la salud. Esta herramienta tiene un gran potencial para el diagnóstico precoz de muchas enfermedades, pero plantea múltiples retos y debe adaptarse a la normativa. “Tenemos que innovar sin olvidarnos de proteger los derechos fundamentales de los pacientes. Muchos sistemas de IA en salud requieren una revisión en materia de protección de datos“, ha indicado.
Natalia Olivares: “Muchos sistemas de IA en salud requieren una revisión en materia de protección de datos”
El Reglamento IA entró en vigor el 1 de agosto de 2024, aunque será plenamente aplicable en el año 2027. Su objetivo es regular la introducción en el mercado de determinados servicios de IA. “La UE busca ser líder mundial en el desarrollo de una IA segura, digna de confianza y ética“, ha afirmado.
El reglamento establece tres categorías de IA (superinteligente, fuerte y débil) y regula el ciclo de vida de estos sistemas: concepción y análisis, desarrollo y validación, explotación y retirada. También prohíbe el uso de IA en diferentes casos, como cuando pueda trascender la conciencia humana, causar perjuicio a grupos vulnerables, evaluar personas, intentar deducir emociones o realizar una identificación biométrica en tiempo real sin causa policial.
Natalia Olivares ha abogado por implementar garantías de calidad y seguridad. “La disponibilidad de tecnología o su novedad no es razón suficiente para comercializar productos que no cumplan con un nivel adecuado de calidad de servicio”, ha recordado. Asimismo, ha subrayado que el cumplimiento de la normativa de protección de datos (RGPD y LOPD-GDD) es esencial. “Estrategias como la transparencia, la gestión del riesgo y la auditoría no solo permitirán el cumplimiento de lo establecido en el RGPD, sino que mejorarán la confianza de los usuarios en los productos y servicios basados en IA y abrirán nuevas oportunidades de mercado”, ha apuntado.
Por otro lado, ha destacado el potencial de las aplicaciones IA como apoyo para proteger la privacidad e implementar mecanismos que aseguren la protección de datos. “Uno de los principales problemas de las soluciones de IA es cómo van a usar las personas la tecnología IA y los nuevos sesgos psicológicos que se derivan de su uso“, ha concluido.
Adecuación al RGPD de tratamientos que incorporan IA
Tras su ponencia, Natalia Olivares ha moderado una mesa redonda centrada en la adecuación al RGPD de tratamientos que incorporan IA. “Si un sistema de IA trata datos personales tiene que cumplir con el RGDP“, ha asegurado. Por otro lado, Paula Ortiz López, cofundadora y coCEO de TheLegal.School, ha señalado que las tarjetas modelo son un buena práctica de las instituciones para garantizar la transparencia, algo fundamental en un sector como el de la salud que recopila datos tan sensibles. “Son como etiquetas nutricionales de la IA que recogen el itinerario y finalidad del tratamiento, con qué datos ha sido entrenado el sistema, si ha tenido en cuenta a colectivos vulnerables, etc.“.
Maite Sanz de Galdeano, profesional experta especializada en Identidad Digital e Inteligencia Artificial, ha destacado los avances que se están produciendo en neurotecnología. Entre ellos, ha recordado que recientemente un paciente con ELA pudo utilizar su mente para controlar al asistente virtual Alexa de Amazon y hacer compras. Esto fue posible gracias a un diminuto implante cerebral de la empresa Synchron. “Es un logro brutal, se están consiguiendo cosas increíbles“, ha celebrado.
Maite Sanz: “Los neurodatos son datos personales extremadamente sensibles y su tratamiento debe llevarse a cabo con las máximas garantías”
Las neurotecnologías recaban neurodatos (la información que se recoge del cerebro y del sistema nervioso y los datos inferidos de estos como las emociones o los gustos). “Son datos personales extremadamente sensibles y su tratamiento debe llevarse a cabo con las máximas garantías“, ha remarcado. En esta línea, ha comentado la incertidumbre que existe en el mercado de las neurotecnologías, resaltando que los malos usos suponen un riesgo elevado para la privacidad mental.
En concreto, ha puesto el ejemplo de la empresa Emotiv en Chile y la comercialización de su dispositivo Insight, una diadema con sensores que recaban información sobre la actividad cerebral. “Los neurodatos de los usuarios se almacenaban en la nube sin una protección adecuada y los pacientes no podían acceder a ellos sin pagar”, ha expuesto. La Corte Suprema de Chile paralizó la comercialización del dispositivo mientras no sea evaluado por las autoridades sanitarias. Finalmente, ha enfatizado en que la innovación en IA debe ir acompañada de un cumplimiento estricto de la normativa de protección de datos para asegurar que se respeten los derechos fundamentales de los pacientes.
