Residentes, profesores e inteligencia artificial: ¿un mundo feliz o una utopía?*

Publicada noviembre 1, 2023 · Actualizado noviembre 2, 2023

Gail Sullivan, Deborah Simpson, Lalena Yarris y Anthony Artino Jr

Resumen: Los autores revisan la utilidad, los posibles peligros, las precauciones que se deberían adoptar y los aspectos que necesitan más información e investigación sobre el uso de la IA para la educación médica de postgrado (residencia) y por extensión también de grado.

Residents, teachers and artificial intelligence: a brave new world or utopia?*

Summary: The authors review the usefulness, possible dangers, precautions that should be adopted, and aspects that need more information and research regarding the use of AI for postgraduate (residency) and, by extension, undergraduate medical education

Desde el lanzamiento a finales de 2022 de ChatGPT, una herramienta de procesamiento de lenguaje natural de código abierto que puede generar respuestas y contenidos intelectuales similares a los humanos, los editores de revistas, han intensificado los debates sobre la equidad, uso apropiado de esta tecnología para los manuscritos enviados. ^1 – 4 Recientemente se ha ampliado la política general de transparencia de muchas publicaciones médicas para incluir la inteligencia artificial (IA), así: “Los autores deben comunicar cualquier uso de tecnología de inteligencia artificial y herramientas similares, ya sea para asistencia en redacción, almacenamiento, interpretación de datos de investigación cualitativos, análisis estadístico de datos numéricos, creación de imágenes visuales u otros usos”. ⁵ Además, los autores incluidos en los artículos para la mayoría de estas revistas deben ser humanos. ¿Por qué? Sólo los humanos pueden ser responsables de todos los aspectos del trabajo, un criterio de autoría crítico. ⁶ Más allá de estas consideraciones de autoría y transparencia, es interesante también abordar los posibles usos de la IA en la educación médica de posgrado o especializada (EME), tanto para el proceso como para el contenido de la capacitación. ^7 – 9

En 2020, se preguntó a 40 líderes de opinión en educación médica de los EEUU, cuál creían que sería la transformación más significativa en EME durante la próxima década: la IA era un tema importante. ¹⁰ Tres años después, el uso de la IA en la vida diaria está en todas partes, desde teléfonos móviles y verificaciones de crédito hasta predicciones meteorológicas y climáticas. Los ejemplos de IA incluyen el procesamiento del lenguaje natural, el reconocimiento de voz y la creación de trabajos escritos (por ejemplo, intente si puede distinguir entre el texto generado por humanos y el generado por IA en el Cuadro 1). El volumen de información sanitaria ha aumentado muy por encima de la capacidad humana de analizarla y digerirla: en 1950, la información médica se duplicó en 50 años; en 2010, llevó 3,5 años y la estimación para 2020 es de 73 días. ¹¹ Sin embargo, solo unas pocas facultades de medicina han incorporado experiencias de IA, y tampoco se incluyen competencias de IA en los programas de formación postgraduada. ¹¹ Actualmente, la IA se está introduciendo en el aprendizaje y el apoyo al diagnóstico clínico, las evaluaciones automatizadas de habilidades clínicas, el establecimiento de objetivos educativos y el diseño de planes de estudio y evaluaciones de desempeño. ^12 , 13

Cuadro 1: Chatbot versus humano: ¿puedes identificar cuál? (Consulta el final de este artículo para la respuesta).

Describa brevemente las diferencias entre feedback formativo y sumativo en la educación de los residentes.

# 1

El feedback formativo y el feedback sumativo son dos tipos distintos de evaluación en la educación de residentes.

El feedback formativo está diseñado para ofrecer apoyo y orientación continuos a los estudiantes durante su viaje educativo. Se centra en identificar fortalezas y áreas de mejora, con el objetivo de ayudar a los residentes a desarrollarse y crecer. El feedback formativo generalmente se da durante todo el proceso de aprendizaje y es de naturaleza más subjetiva y descriptiva. Enfatiza las críticas constructivas, las sugerencias de mejora y las recomendaciones prácticas. El objetivo principal del feedback formativo es mejorar el aprendizaje y facilitar el desarrollo de habilidades.

Por otro lado, el feedback sumativo se da al final de un período o tarea específica, como un examen, una rotación o un programa de residencia. Su objetivo es evaluar el desempeño general y los logros de los alumnos frente a estándares u objetivos predeterminados. El feedback sumativo tiende a ser de naturaleza más objetiva y evaluativa, centrándose en medir la competencia o los niveles de competencia. A menudo implica sistemas de calificación o calificación y proporciona una evaluación integral de las habilidades y la preparación de un residente para el avance o la certificación.

En resumen, el feedback formativo es continua, desarrolla y sirve para guiar y apoyar a los alumnos, mientras que el feedback sumativo es final, evaluativo y proporciona un juicio general del desempeño. Ambos tipos de feedback son valiosos en la educación de residentes, ya que ayudan a fomentar el crecimiento, identificar áreas de mejora y medir la competencia y el progreso.

# 2

El feedback formativo en la educación médica de posgrado (EME) ocurre a lo largo de las rotaciones clínicas y de otro tipo, a menudo en forma de feedback inmediato sobre el desempeño. Por ejemplo, después de una entrevista o procedimiento difícil con un paciente, el médico adjunto puede preguntarle al residente cuáles cree que fueron los aspectos que salieron bien o mal. El médico adjunto puede corroborar, mejorar o corregir la autoevaluación del residente, al mismo tiempo que establece algunas metas para futuros encuentros. El feedback formativo también ocurre en momentos programados, como una reunión a mitad de rotación, con atención a competencias específicas asignadas a la experiencia o tareas actuales. Por lo tanto, el feedback formativo proporciona información continua al residente para mejorar su desempeño y reforzar desempeños sólidos.

El feedback sumativo se asocia con evaluaciones de final de rotación o evaluaciones semestrales, similares a las “calificaciones” en la escuela. La mayoría de los expertos en evaluación consideran ahora que todas las evaluaciones deberían alinearse principalmente con enfoques formativos, en lugar de feedback sumativo, para ser más efectivas y apoyar una mentalidad de crecimiento en los alumnos de EME.

Los académicos han elogiado los beneficios potenciales de la IA, como mejorar los manuscritos para los autores que escriben en un segundo idioma, ahorrar tiempo a los investigadores al crear documentos de investigación o realizar búsquedas bibliográficas y liberar a los alumnos de la memorización para centrarse en el razonamiento, el asesoramiento y la toma de decisiones compartida con los pacientes. ^11 , 14 A otros académicos les preocupa que las herramientas de IA en EME presenten importantes riesgos. Estos incluyen la pérdida del anonimato de los aprendices y pacientes en información confidencial, la falta de desarrollo de competencias clave ya que esas tareas se subrogan a herramientas de inteligencia artificial, evidencia y resúmenes de evaluación erróneos, o la fabricación de investigaciones falsas para rellenar currículums y solicitudes de subvenciones. ^15 – 18 Como la IA depende totalmente de la calidad y de los sesgos incluidos en los datos de capacitación disponibles, puede generar síntesis inexactas, que los alumnos sin experiencia y los profesores asediados podrían pasar por alto. Además, la IA podría afectar negativamente la capacidad de los alumnos para desarrollar modelos mentales o aprender habilidades fundamentales clave, como el razonamiento clínico en el tratamiento de pacientes complejos. Puede resultar difícil encajar a muchos pacientes, con sus valores únicos, apoyo social, economía e historial médico, en los diagnósticos y planes de manejo derivados de la IA. En 2023, se desconocen aún cuales pueden ser las interacciones óptimas entre los médicos y la IA, los pacientes y la IA, y los alumnos y la IA, pero los residentes y becarios graduados gestionarán cada vez más estas interacciones y tendrán que afrontar numerosos aspectos éticos.

La educación médica muchas veces incorpora innovaciones que, a menudo, tienen escasa evidencia. Esto puede compararse a la metáfora de cuando “abrimos la botella y el genio sale”. 3 Necesitamos investigaciones que examinen los mejores usos de la IA en EME. Esta investigación debería incluir la exploración tanto del uso de la IA durante la formación como de una mayor comprensión de los usos éticos y beneficiosos de la IA en la investigación en educación médica. ¿Qué tareas de investigación siguen siendo exclusivamente humanas? ¿Qué funciones educativas de la IA requieren una supervisión humana mínima? ¿La IA reemplazará algunas habilidades de los médicos, dejándolas obsoletas y ya no se enseñaran en EME? ¿La tecnología de IA transformará las habilidades cognitivas, de forma similar a la robótica en cirugía? Sería de gran interés que todos vayamos informando sobre cómo los alumnos, programas, profesores e instituciones de EME están aprendiendo y utilizando las herramientas de IA ( Cuadro 2 ).

Cuadro 2: Posibles temas de investigación para la IA en la educación médica de posgrado

Diseño, implementación y evaluación del curriculum o programa docente.
Análisis del desempeño docente clínico del profesorado para proporcionar feedback.
Feedback formativo sobre comunicación y habilidades interpersonales, basado en análisis de IA de videos de interacciones de los alumnos con pacientes o colegas.
Análisis de datos de HCE (historia clínica electrónica) para comprender el razonamiento de diagnóstico clínico de los alumnos
Representación resumida visual de las evaluaciones de los residentes (texto, audio, imagen, video) para un portafolio de evaluaciones, para decisiones del comité de competencias y objetivos de aprendizaje individuales.
Crear avatares de profesores para entrenar, asesorar o evaluar a los estudiantes vinculados a competencias específicas y estándares de desempeño.
Habilidades tecnológicas de IA para residentes que aumentan el tiempo con los pacientes sin reducir la satisfacción de los pacientes y residentes, la calidad de la atención al paciente y el aprendizaje de los residentes.
Habilidades de residentes y profesores para detectar y evitar chatbots u otras “alucinaciones” generadas por IA, como citaciones falsas, historial de residentes y exámenes físicos, y otros materiales.
IA interactiva para simulaciones
Habilidades de profesores y alumnos para verificar de manera eficiente la evidencia obtenida mediante tecnología de inteligencia artificial.
Efectos de la tecnología de inteligencia artificial sobre la confianza en las relaciones entre residentes y pacientes
Efectos de la IA en la formación de la identidad profesional en alumnos de EME

La ética y la evidencia deberían liderar el camino. Algunos sistemas de salud como el sistema de salud estadounidense es cada vez más una “industria médica en decadencia, moldeada más por las ganancias que por la ética”. ^19 , 20 Por lo tanto, necesitamos herramientas de inteligencia artificial que puedan mejorar la equidad en salud. La IA se debe promocionar como una forma de generar diagnósticos más rápidos y precisos; reducir el error médico; reducir o eliminar tareas médicas repetitivas y mundanas, como la historia clínica electrónica (HCE); y reducir el alto costo de la atención sanitaria. ¹¹ Sin embargo, algunos de nosotros desconfiamos de estas afirmaciones, pues recordamos cuando se introdujeron las HCE y la promoción que se hizo de ellas, y que ahora se ha demostrado que producen una mayor pérdida de tiempo de documentación médica y un mayor agotamiento, especialmente para las especies en peligro de extinción conocidas como son los médicos de atención primaria. ²¹

¿Qué quieren la mayoría de los educadores de EME de la IA? Creemos que desean más tiempo para la enseñanza y herramientas que ayuden a más estudiantes a alcanzar niveles de competencia de “dominio”. También quieren que sus alumnos estén bien preparados para usos futuros de la IA, en una utopía médica en lugar de en un mundo feliz distópico. ²²

Referencias

1. CommitteeonPublicationEthics.AuthorshipandAItools:COPEpositionstatement.AccessedJune26, 2023. https://publicationethics.org/cope-positionstatements/ai-author

2. DeVilbissMB.Artificialintelligencetoolsinscholarlypublishing:guidanceforAcademicMedicineauthors [publishedonlineaheadofprintApril28,2023].Acad Med.doi:10.1097/ACM.0000000000005261

3. EllawayRH,TolsgaardM.Artificialscholarship:LLMsinhealthprofessionseducationresearch[published onlineaheadofprintJune19,2023].AdvHealthSci EducTheoryPract.doi:10.1007/s10459-023-10257-4

4. FlanaganA,BibbinsDomingoK,BerkwitsM,etal.Nonhuman“authors”andimplicationsfortheintegrity ofscientificpublicationandmedicalknowledge.JAMA. 2023;329(8):637-639.doi:10.1001/jama.2023.1344

5. JournalofGraduateMedicalEducation.InstructionsforAuthors.AccessedJuly28,2023. https://meridian. allenpress.com/jgme/pages/Instructions-for-Authors

6. InternationalCommitteeofMedicalJournalEditors.Definingtheroleofauthorsandcontributors.Accessed July10,2023. https://www.icmje.org/recommendations/ browse/roles-and-responsibilities/defining-the-role-ofauthors-and-contributors.html

7. ShojaMM,VandeRidderJMM,RajputV.The emergingroleofgenerativeartificialintelligencein medicaleducation,research,andpractice.Cureus. 2023;15(6):e40883.doi:10.7759/cureus.40883

8. DwivediYK,KshetriN,HughesL,etal.“Sowhatif ChatGPTwroteit? ”Multidisciplinaryperspectiveson opportunities,challengesandimplicationsofgenerativeconversationalAIforresearch,practiceandpolicy.IntJ InfoManag.2023;71:102642.doi:10.1016/j.ijinfomgt. 2023.102642

9. LeeJ,WuAS,LiD,KulasegaramKM.Artificial intelligenceinundergraduatemedicaleducation:a scopingreview.AcadMed.2021;96(suppl11):62-70. doi:10.1097/ACM.0000000000004291

10. SimpsonD,SullivanGM,ArtinoJrAR,DeiorioNM, YarrisLM.Envisioninggraduatemedicaleducationin 2030.JGradMedEduc.2020;12(3):235-240.doi:10. 4300/JGME-D-20-00292.1

11. ParanjapeK,SchinkelM,PandayRN,CarJ, NanayakkaraP.Introducingartificialintelligence traininginmedicaleducation.JMIRMedEduc. 2019;5(2):e16048.doi:10.2196/16048

12. TolsgaardMG,PusicMV,Sebok-SyerSS,etal.The fundamentalsofartificialintelligenceinmedical educationresearch:AMEEguideno.156.MedTeach. 2023;45(6):565-573.doi:10.1080/0142159X.2023. 2180340

13. LatifE,MaiG,NyaabaM,etal.Artificialgeneral intelligence(AGI)foreducation.arXiv.PublishedMay

15, 2023.AccessedJune26,2023.https://arxiv.org/abs/ 2304.12479 14.LeeP,BubeckS,PetroJ.Benefit,limits,andrisksof CPT-4asanAIchatbotformedicine.NEnglJMed. 2023;388(13):1233-1239.doi:10.1056/ NEJMsr2214184

15. MastersK.Ethicaluseofartificialintelligenceinhealthprofessionseducation:AMEEguideno.158.Med Teach.2023;45(6):574-584.doi:10.1080/0142159X. 2023.2186203

16. SchinkelM,ParanjapeK,NanayakkaraP.Writtenbyhumansorartificialintelligence?Thatisthequestion. AnnInternMed.2023;176(4):572-573.doi:10.7326/ M23-0154

17. CommitteeonPublicationEthics.Papermills:researchreportfromCOPE&STM.PublishedJune2022. AccessedJune26,2023. https://publicationethics.org/ sites/default/files/paper-mills-cope-stm-research-report. pdf

18. MarksM,HauptCE.AIchatbots,healthprivacy,andchallengestoHIPAAcompliance[publishedonline aheadofprintJuly6,2023].JAMA.doi:10.1001/jama. 2023.9458

19. ReinhartE.ThepoliticaleducationofUSphysicians. JAMANetwOpen.2023;6(6):e2320447.doi:10.1001/ jamanetworkopen.2023.20447

20. BerwickDM.Salvelucrum:theexistentialthreatof greedinUShealthcare.JAMA.2023;329(8):629-630. doi:10.1001/jama.2023.0846

21. BuddJ.Burnoutrelatedtoelectronicrecordusein primarycare.JPrimCareCommunHealth. 2023;14:21501319231166921.doi:10.1177/ 21501319231166921

22. HuxleyA.BraveNewWorld.HarperPerennial,2006

Respuesta al Cuadro 1: #1:Chatbot; #2:Humano

(*) Referencia del articulo original en inglés:
Gail Sullivan, Deborah Simpson, Lalena Yarris y Anthony ArtinoJr. Residents, Faculty, and Artificial Intelligence: Brave New World or Utopia? J Grad Med Educ (2023) 15 (5): 517–519. https://doi.org/10.4300/JGME-D-23-00534.1