Inteligencia artificial en la formación de estudiantes de medicina y médicos (II): desafíos para aprovechar su potencial

Doctutor

Resumen: La llegada de la IA a la educación médica ha supuesto un cambio de paradigma, ofreciendo oportunidades sin precedentes para mejorar la experiencia de aprendizaje de estudiantes de medicina, residentes y médicos. Esta transformación abarca diversas dimensiones de la formación médica, desde la práctica clínica hasta la investigación, redefiniendo los métodos pedagógicos tradicionales y fomentando un entorno de aprendizaje más eficiente, inmersivo e innovador. En este artículo se analizan los obstáculos que deben superarse para ofrecer una educación médica y una formación de los estudiantes de medicina y de los residentes con el uso de las tecnologías de IA más justa, ética y segura. En el otro artículo publicado en este número de Doctutor se ofrecía una descripción de las tecnologías relacionadas con la IA con aplicaciones e impacto en la educación médica, así como las vías por las que estas tecnologías pueden mejorar la formación de los médicos.

Artificial Intelligence in Medical Student and Physician Training (II): Challenges to Harnessing Its Potential

Abstract: The arrival of AI in medical education has brought about a paradigm shift, offering unprecedented opportunities to enhance the learning experience for medical students, residents, and physicians. This transformation encompasses various dimensions of medical training, from clinical practice to research, redefining traditional pedagogical methods and fostering a more efficient, immersive, and innovative learning environment. This article analyzes the obstacles that must be overcome to provide fairer, more ethical, and safer medical education and training for medical students and residents using AI technologies. The other article published in this issue of Doctutor offered a description of AI-related technologies with applications and impact on medical education, as well as the ways in which these technologies can improve physician training.

Principales problemas del uso actual de la IA en la educación médica y la formación de residentes

A pesar del potencial de la IA, su uso en la educación médica y la formación de médicos actualmente enfrenta desafíos en términos de investigación pedagógica sólida, estrategias de aplicación basadas en la evidencia y un suficiente número de instructores competentes (1). Además, las limitaciones de la IA actual afectan su fiabilidad en la educación y formación médica. Una preocupación importante y persistente es su precisión y credibilidad, ya que generan información plausible pero muchas veces incorrecta o fabricada. Si bien algunos modelos intentan proporcionar referencias, la fiabilidad de las citas que ofrece la IA sigue siendo un desafío, y los mecanismos de recuperación podrían no cubrir exhaustivamente la literatura relevante.

Otro problema crucial es el sesgo. Los modelos de aprendizaje de la literatura médica presentan sesgos relacionados con el sexo, la raza y otros factores como la afiliación política (2). Dichos sesgos, especialmente cuando son sutiles o están integrados en la literatura médica, corren el riesgo de perpetuar las disparidades sistémicas a lo largo del tiempo. Abordar estos riesgos requiere auditorías de sesgo continuas y mecanismos de verificación de contenido. Además, incluso sin un uso activo, la IA puede influir sutilmente en el juicio de los estudiantes mediante la revisión de creencias inducida por el modelo (3). 

También han surgido preocupaciones sobre la privacidad con la integración de la IA. Los modelos de IA, son vulnerables a los ataques maliciosos que podrían exponer información de los pacientes (4). Además, algunas plataformas de IA, como OpenAI, podrían compartir datos de usuarios con terceros bajo ciertos términos y condiciones sin previo aviso explícito (5). Estos riesgos subrayan la importancia de la supervisión institucional y las directrices claras cuando se incorporan herramientas de IA en cursos y programas de formación.

La accesibilidad a las herramientas de IA también suscita inquietudes respecto a la equidad en la educación médica (5). El uso eficaz de los sistemas de gestión del lenguaje suele requerir dominio del inglés y habilidades para formular consultas, lo que perjudica a los hablantes no nativos. El acceso a estos sistemas se ve aún más restringido por la necesidad de conexiones estables a internet, dispositivos compatibles y, en algunos casos, suscripciones de pago, lo que amplía las desigualdades en la educación médica y la formación de médicos entre países de altos ingresos y países de ingresos bajos y medianos.

La adopción generalizada de la IA en la educación médica es inevitable y debe considerarse no como un reemplazo para los educadores, sino como un co-tutor. El modo de interacción predeterminado podría no favorecer el aprendizaje del estudiante de manera óptima y, a menudo, requiere adaptaciones, como interfaces personalizadas, para guiar la participación y mejorar la eficacia (6). Si bien el material generado por IA y las herramientas interactivas pueden mejorar la participación, deben usarse con precaución bajo la supervisión del instructor. Los educadores son esenciales para guiar el uso apropiado de la IA, fomentar el pensamiento crítico y validar la información generada por la IA. Los educadores también deben estar preparados para intervenir cuando sea necesario, por ejemplo, corrigiendo imprecisiones o sesgos en los contenidos generados por la IA y abordando los riesgos de integridad (7). Es preciso disponer de marcos como un “Marco Ético para la IA en la Educación” que guíe su desarrollo, aplicación y seguimiento de sus riesgos, pero deben actualizarse periódicamente para garantizar su relevancia para las aplicaciones de GenAI en auge en la atención médica.

Barreras humanas, financieras y de recursos para la adopción de la IA en la educación médica y la formación de médicos.

Las limitaciones financieras, de personal y de recursos técnicos son barreras clave para la integración de los LLM (“modelos de lenguaje a gran escala”: Large Language Models, en inglés, ver artículo I de este número) en la educación médica y la formación de residentes. Sin embargo, las evaluaciones sistemáticas de los costes totales y los desafíos de implementación siguen siendo escasas, lo que dificulta la toma de decisiones informadas. Los costes relacionados con los LLM son varios. Si bien las tarifas de suscripción e interfaces de programación de aplicaciones pueden parecer manejables, el uso sostenido puede volverse costoso con volúmenes de consulta crecientes (8). Los LLM de código abierto como LLaMA y DeepSeek ofrecen opciones más asequibles que los modelos propietarios como ChatGPT para permitir una adopción más amplia (9).

Aunque los modelos de aprendizaje de lenguaje natural (LLM) son prometedores en la educación, las aplicaciones fiables suelen requerir personalización (como un ajuste de tipo fino) para abordar los riesgos éticos, mejorar la precisión y optimizar las interacciones estructuradas del alumno. Este proceso requiere disponer de recursos sustanciales, como computación de alto rendimiento, energía, datos de entrenamiento seleccionados y colaboración interdisciplinaria entre investigadores de IA, educadores y profesionales de la salud para garantizar una adaptación adecuada. Satisfacer estas demandas de recursos supone un reto para los países de ingresos bajos y medianos y otros entornos con infraestructura o capacidades técnicas insuficientes.

Más allá de los costos del software, la adopción de la IA en la educación médica y la formación de residentes tiene desafíos debido a las limitaciones de infraestructura, las disparidades digitales y la preparación del profesorado (10). Se requieren grandes inversiones para desarrollar una infraestructura de tecnología de la información a nivel empresarial que respalde la expansión de las herramientas de IA. Además, la escasez de experiencia docente en el uso efectivo de las herramientas de IA y la creación de planes de estudio de IA, la falta de tiempo en un plan de estudios de medicina ya sobrecargado para introducir conceptos de IA y la incertidumbre percibida sobre los beneficios de un plan de estudios integrado con IA son aspectos que merecen especial atención.

Estrategias futuras para incorporar adecuadamente la IA en la educación médica  

La transformación de la educación médica es un imperativo global, y la IA desempeña un papel fundamental en la creación de nuevos marcos educativos y de práctica clínica. Aprovechar el potencial de la IA requiere una estrategia integral, que incluya al menos los siguientes aspectos:

1. La formación en IA debe impartirse de forma equitativa, posiblemente mediante cursos online masivos y abiertos, para llegar a un público global diverso. Asimismo, el contenido complementario adaptado a las necesidades sanitarias locales puede beneficiar a los estudiantes de países de ingresos bajos y medianos.
2. La escasa representación de datos, especialmente de estos países y de comunidades no angloparlantes, limita el desarrollo de la IA y sus beneficios derivados. Son necesarios esfuerzos de carácter internacional para recopilar y gestionar conjuntos de datos de formación diversos que permitan ampliar la tecnología de la IA (por ejemplo, en programas de máster que no se imparten en inglés) para obtener mayores beneficios. La estandarización de definiciones, variables de datos y metodologías de recopilación es crucial para la innovación de la IA en la enseñanza.
3. La alineación de los intereses y compromisos de los diversos colaboradores, incluidos los de organismos gubernamentales, socios industriales, organismos reguladores, el sector privado y estudiantes y residentes de medicina, es esencial para la formulación de políticas educativas. Las alianzas público-privadas pueden establecer marcos económicos sostenibles para la integración de la IA en la educación y la formación. Por ello, es preciso hacer un llamamiento a la creación de iniciativas específicas para la formación en IA médica, similares a grandes colaboraciones como la Coalición para la IA en Salud, para promover la adopción responsable de la IA.

Los Costes

La integración de la IA en la educación médica y la formación de médicos tiene importantes exigencias financieras y de recursos por lo que se beneficiaría de un modelo de financiación sostenible e híbrido. Este modelo podría incluir el apoyo de empresas tecnológicas, instituciones sanitarias y educativas, además de subvenciones específicas del gobierno, la industria y otras fuentes relevantes. Este enfoque podría mejorar el acceso a las tecnologías de IA, reducir costes y facilitar la personalización de los modelos. La colaboración con desarrolladores de modelos de aprendizaje automático (también podría ayudar a abordar las preocupaciones relativas a las restricciones de acceso a la interfaz de programación de aplicaciones, especialmente porque cada vez son más los modelos de aprendizaje automático que se entrenan utilizando datos generados por modelos existentes. Además, dadas las preocupaciones éticas que rodean a la IA en la educación, estas colaboraciones podrían ampliarse para incluir a bioeticistas y organismos reguladores, a fin de garantizar el cumplimiento de las normas éticas y profesionales.

Conclusiones

La IA ofrece grandes posibilidades para mejorar la calidad y la accesibilidad de la educación médica y la formación de residentes, desde experiencias de aprendizaje personalizadas hasta la simulación de escenarios clínicos complejos. Sin embargo, la innovación debe equilibrarse con la responsabilidad ética y la inclusión. En el futuro, la colaboración entre las comunidades de educación médica y la formación de médicos será esencial para garantizar que la IA sirva como catalizador para mejorar la formación médica y, en última instancia, la atención al paciente en todo el mundo.

Referencias

1.  Ng FY, Thirunavukarasu AJ, Cheng H, et al. Artificial intelligence education: an evidence-based medicine approach for consumers, translators, and developers. Cell Rep Med 2023; 4: 101230
2. Schramowski P, Turan C, Andersen N, Rothkopf CA, Kersting K. Large pre-trained language models contain human-like biases of what is right and wrong to do. Nat Mach Intell 2022; 4: 258–68.
3. Kwong JC, Nguyen DD, Khondker A, et al. When the model trains you: induced belief revision and its implications on artificial intelligence research and patient care—a case study on predicting obstructive hydronephrosis in children. NEJM AI 2024; 1: AIcs2300004.
4. Harrer S. Attention is not all you need: the complicated case of ethically using large language models in healthcare and medicine. eBioMedicine 2023; 90: 104512.
5. Abd-Alrazaq A, AlSaad R, Alhuwail D, et al. Large language models in medical education: opportunities, challenges, and future directions. JMIR Med Educ 2023; 9: e48291.
6. Extance A. ChatGPT has entered the classroom: how LLMs could transform education. Nature 2023; 623: 474–77.
7. Kirchenbauer J, Geiping J, Wen Y, Katz J, Miers I, Goldstein T. A watermark for large language models. ArXiv 2023; published online Jan 24. https://doi.org/10.48550/arXiv.2301.10226 (preprint).
8. Klang E, Apakama D, Abbott EE, et al. A strategy for cost-effective large language model use at health system-scale. NPJ Digit Med 2024; 7: 320.
9. Zeng D, Qin Y, Sheng B, Wong TY. DeepSeek’s “low-cost” adoption across China’s hospital systems: too fast, too soon? JAMA 2025; 333: 1866–69.
10. The Lancet Digital Health. Large language models: a new chapter in digital health. Lancet Digit Health 2024; 6: e1

---

(*) Este artículo ofrece información obtenida principalmente del siguiente artículo original al que recomendamos al lector interesado:Yilin Ning*, Jasmine Chiat Ling Ong*, Haoran Cheng, et al. How can artificial intelligence transform the training of medical students and physicians? The Lancet Digital Health 2025, 7. https://www.thelancet.com/journals/landig/article/PIIS2589-7500(25)00082-2/fulltext