Redacción
Con el objetivo de hacer un buen uso de la inteligencia artificial (IA) en la generación y el seguimiento de evidencia en todas las fases de un medicamento, la Agencia Europea del Medicamento (EMA) y la Administración de Alimentos y Medicamentos de Estados Unidos (FDA) han publicado un documento con diez principios para una buena práctica de la IA. El texto destaca que el diseño y el uso de estas herramientas deben ajustarse a valores éticos y centrados en el ser humano.
Según recoge la ‘Guiding principles of good AI practice in drug development’ (Principios rectores de las buenas prácticas de IA en el desarrollo de fármacos), el uso de la IA a lo largo del ciclo de vida de los medicamentos ha aumentado significativamente en los últimos años. En este contexto, el documento describe un conjunto de principios comunes para “informar, mejorar y promover” el empleo de la IA en el ámbito de los medicamentos y pretende servir de orientación a reguladores, compañías farmacéuticas y desarrolladores de medicamentos para aprovechar el potencial de este tipo de herramientas y garantizar a su vez la seguridad de pacientes y animales.
El documento llama a garantizar que los modelos basados en IA cumplen las normas legales, éticas, técnicas, científicas, de ciberseguridad y reglamentarias
Además de garantizar un diseño de la IA centrado en el ser humano, el documento apunta que el desarrollo y uso de estas tecnologías debe seguir un enfoque basado en el riesgo con una validación proporcionada, mitigación de riesgos, y supervisión basada en el contexto de uso y el riesgo determinado del modelo. Por otro lado, llama a garantizar que cumplen las normas legales, éticas, técnicas, científicas, de ciberseguridad y reglamentarias pertinentes, incluidas las buenas prácticas; y que su función y alcance de uso está bien definido. Asimismo, recoge que la experiencia multidisciplinar que abarca tanto la tecnología de IA como su contexto de empleo tiene que integrarse a lo largo de todo el ciclo de vida de la tecnología.
La privacidad y la protección de datos sensibles también se incluyen en el documento, recalcando que se asegure una gobernanza adecuada de los datos que usa la IA a lo largo de todo el ciclo de vida de la tecnología. Además, se aboga por un desarrollo de las tecnologías de IA basado en las mejores prácticas en el diseño de modelos y sistemas y en la ingeniería de software, de forma que se promueva la transparencia, la fiabilidad, la generalización y la solidez de las tecnologías de IA, lo que contribuye a la seguridad de los pacientes.
Otra cuestión que se aborda es la realización de evaluaciones del rendimiento basadas en el riesgo, la implementación de sistemas de gestión de la calidad basados en el riesgo a lo largo de todo el ciclo de vida de las tecnologías de IA, la realización de un seguimiento programado y una reevaluación periódica para garantizar un rendimiento adecuado de este tipo de herramientas tecnológicas.
Garantizar una buena gobernanza de los datos, evaluar el rendimiento basada en riesgo y el uso de un lenguaje sencillo son otros principios que se incluyen el documento
El último principio señala que se utilice un lenguaje sencillo para presentar información clara, accesible y contextualmente relevante para el público destinatario, incluidos los usuarios y los pacientes, en relación con el contexto de uso, el rendimiento, las limitaciones, así como los datos subyacentes, las actualizaciones y la interpretabilidad o explicabilidad de la tecnología de IA.
En un futuro, estos principios se complementarán con directrices adicionales de la UE que tengan en cuenta los requisitos legales aplicables y la nueva legislación pertinente de la UE en el ámbito de los medicamentos. Los principios se alinean con la misión de la EMA de promover el uso seguro y responsable de la IA, como se describe en la estrategia de la red de agencias europeas de medicamentos (Emans) hasta 2028 y en el plan de trabajo plurianual conjunto de los jefes de las agencias de medicamentos y la EMA sobre datos e IA.
