Redacción
La conocida aplicación de inteligencia artificial (IA) ChatGPT puede ayudar a desmentir mitos y bulos sobre la seguridad de las vacunas del Covid-19 y puede ser una herramienta útil para aumentar el grado de aceptación de las vacunas. Es la conclusión de un estudio liderado por los profesores de la Universidad de Santiago de Compostela Antonio Salas y Federico Martínón y publicado en la revista Human Vaccines and Immunotherapeutics.
Basándose en la web sobre vacunación y vacunas Covid desarrollada durante la pandemia por el Centro Colaborador de la OMS en Seguridad vacunal de Santiago de Compostela, los investigadores formularon a la aplicación ChatGPT una batería de las 50 preguntas más frecuentes sobre la vacuna contra el Covid-19. Entre ellas, se incluían consultas basadas en mitos e historia falsas, como la que atribuye a la vacuna la causa del Covid persistente.
Los investigadores formularon a la aplicación ChatGPT una batería de las 50 preguntas más frecuentes sobre la vacuna contra el Covid-19
El análisis de la precisión de las repuestas otorga a ChatGPT una puntuación media de nueve sobre 10 y puntualiza que, en el resto de los casos, la herramienta ofreció también datos correctos, a pesar de dejar algunas lagunas en la información facilitada. Estos resultados han llevado a los investigadores a concluir que la herramienta de IA es una “fuente fiable de información no técnica para el público”, especialmente para aquellas personas sin conocimientos científicos especializados.
“En general, ChatGPT construye una narrativa en línea a partir de la evidencia científica disponible, desacreditando los mitos que circulan en las redes sociales”, explica el profesor y autor principal del estudio, Antonio Salas. El investigador, líder del grupo GenPoB, apunta que “por tanto, puede facilitar un aumento en la aceptación de la vacuna”.
El análisis de la precisión de las repuestas otorga a ChatGPT una puntuación media de nueve sobre 10 y ofreció datos correctos sobre las vacunas Covid-19
Sin embargo, la investigación pone también de relieve algunas cuestiones preocupantes en relación con el uso de la tecnología, como la posibilidad de que ChatGPT altere sus respuestas en ciertas situaciones. Pero los autores señalan que el ChatGPT es capaz de detectar preguntas falsificadas relacionadas con vacunas y vacunación. El lenguaje que utiliza esta IA no es demasiado técnico y, por tanto, fácilmente comprensible para el público, sin que esto suponga una pérdida de rigor científico. “Reconocemos que la versión actual de ChatGPT no puede sustituir una evidencia científica o de expertos, pero los resultados sugieren que podría ser una fuente fiable de información para el público”, afirman.
Esta aplicación permite a las personas tener conversaciones e interacciones similares a las humanas con un asistente virtual. La herramienta es muy fácil de usar, lo que la hace accesible a una amplia población, pero genera dudas entre muchos gobiernos, preocupados por la posibilidad de que se use de manera fraudulenta en entornos educativos como las universidades.
Dr. Salas: “En general, ChatGPT construye una narrativa en línea a partir de la evidencia científica disponible, desacreditando los mitos que circulan en las redes sociales”
El estudio se diseñó para desafiar al chatbot. En primer lugar, se trataron los conceptos erróneos en materia de seguridad. Seguidamente, se abordaron las falsas contraindicaciones médicas, como situaciones en las que el pinchazo se decía inseguro pese a no serlo, como en la lactancia materna. Finalmente, las preguntas recogían también contraindicaciones verídicas y casos en los que el personal sanitario debe tomar precauciones como, por ejemplo, en pacientes con inflamación del músculo cardíaco.
A continuación, los expertos analizaron las respuestas para después calificarlas según su veracidad y precisión frente a la evidencia científica actual y las recomendaciones de la OMS y otras agencias internacionales. Los autores inciden en la importancia de este contraste, ya que los algoritmos creados por las redes sociales y los motores de búsqueda de internet a menudo se basan en las preferencias habituales de un individuo, lo que puede dar lugar a “respuestas sesgadas o incorrectas”, añaden. Las respuestas proporcionadas por ChatGPT a las tres clases de preguntas fueron en un 85,5% precisas y en un 14,5% también correctas, pero con lagunas de información.
“la versión actual de ChatGPT no puede sustituir una evidencia científica o de expertos, pero los resultados sugieren que podría ser una fuente fiable de información para el público”
Desventajas y riesgos
Con todo, el equipo de investigación destaca algunas desventajas de ChatGPT al proporcionar información sobre vacunas. El profesor Martinón advierte de que “ChatGPT ofrece respuestas diferentes si la pregunta se repite con unos segundos de retraso. Muchas de las temáticas que se pueden tratar con ChatGPT, más allá de las vacunas, son muy sensibles y pueden tener consecuencias sociales importantes”. Añade que están viendo que la IA “es un vehículo para obtener respuestas rápidas y en general confiables”. Pero “aún estamos en el desarrollo primigenio de estas herramientas, por lo que tendremos que esperar a ver que nos depara el futuro; tengo la expectativa de que se crearán IA específicamente diseñada para contrastar bulos, pero en contrapartida, se podrían crear herramientas específicamente diseñada para alimentarlos”.
Salas, especialista en genética humana, añade que “otra preocupación que vemos es que esta herramienta de inteligencia artificial, en su versión actual, también podría ser entrenada para proporcionar respuestas no acordes con la evidencia científica”. El investigador apunta que “se puede torturar al sistema de tal manera que proporcione la respuesta deseada. Esto también es cierto para otros contextos diferentes a las vacunas. Por ejemplo, puede ser posible hacer que el chatbot se alinee con narrativas absurdas como la teoría de la tierra plana, niegue el cambio climático o se oponga a la teoría de la evolución, por poner algunos ejemplos”, explica.
Dr. Martinón: “Muchas de las temáticas que se pueden tratar con ChatGPT, más allá de las vacunas, son muy sensibles y pueden tener consecuencias sociales importantes”
No obstante, el investigador añade que “es importante tener en cuenta que estas respuestas no son el comportamiento predeterminado de ChatGPT. Así, los resultados que obtuvimos sobre la seguridad de la vacuna probablemente puedan extrapolarse a muchos otros mitos y pseudociencias, y desde luego son mucho más fiables y precisos que los obtenidos por otros motores de búsqueda y herramientas web”, concluye.
