Una nueva investigación del Instituto de Tecnología Stevens descubre que la inteligencia artificial puede agudizar los diagnósticos de imágenes de cáncer de mama de los médicos, pero solo cuando sus explicaciones están diseñadas para apoyar, y no sobrecargar, a los médicos.
La inteligencia artificial ya ayuda a los médicos a detectar el cáncer de forma más temprana y precisa. Pero una nueva investigación del Instituto Tecnológico Stevens sugiere que la forma en que la IA explica sus decisiones puede marcar la diferencia entre un apoyo vital y una distracción peligrosa.
En dos estudios recientes centrados en la imagenología del cáncer de mama, los investigadores de Stevens descubrieron que las herramientas de IA pueden mejorar la precisión con la que oncólogos y radiólogos interpretan las imágenes médicas. Al mismo tiempo, descubrieron que añadir explicaciones adicionales sobre cómo la IA llegó a sus conclusiones puede ralentizar a los profesionales clínicos, aumentar su carga de trabajo mental y, en algunos casos, hacerlos más propensos a cometer errores.
El trabajo se centra en una tensión central de la medicina moderna: cómo aprovechar el poder de la IA manteniendo a los expertos humanos firmemente en control.
Los sistemas de IA ya se utilizan ampliamente para escanear radiografías, resonancias magnéticas y tomografías computarizadas en busca de patrones sutiles que pueden ser difíciles de detectar para los humanos. Con acceso a grandes conjuntos de datos médicos y una potente computación, estos sistemas pueden analizar datos a una velocidad inigualable.
“Los sistemas de IA pueden procesar miles de imágenes rápidamente y proporcionar predicciones mucho más rápido que los revisores humanos”, declaró en un comunicado de prensa el autor principal Onur Asan, profesor asociado de Stevens, cuya investigación se centra en cómo las personas interactúan con la tecnología en la atención médica. “A diferencia de los humanos, la IA no se cansa ni pierde la concentración con el tiempo”.
Sin embargo, muchos profesionales clínicos se muestran recelosos de confiar en la IA. Una razón importante es que muchos sistemas funcionan como una especie de "caja negra", ofreciendo una predicción o puntuación de riesgo sin una explicación clara de cómo se llegó a ella.
“Cuando los médicos desconocen cómo la IA genera sus predicciones, es menos probable que confíen en ella”, añadió Asan. “Por eso, queríamos averiguar si proporcionar explicaciones adicionales podría ayudar a los médicos y cómo los diferentes grados de explicabilidad de la IA influyen en la precisión diagnóstica, así como en la confianza en el sistema”.
Para explorar esta cuestión, Asan colaboró con la estudiante de doctorado Olya Rezaeian en Stevens y el profesor adjunto Alparslan Emrah Bayrak en la Universidad de Lehigh. El equipo estudió a 28 oncólogos y radiólogos mientras utilizaban un sistema de IA para analizar imágenes de cáncer de mama.
Todos los profesionales clínicos vieron evaluaciones de las imágenes generadas por IA. Algunos también recibieron explicaciones adicionales sobre cómo la IA llegó a sus conclusiones. Tras revisar las imágenes, los participantes respondieron preguntas sobre su nivel de confianza en la evaluación de la IA y la dificultad de la tarea.
Los investigadores informaron que los profesionales clínicos que usaron IA fueron, en general, más precisos que los del grupo de control sin apoyo de IA. Sin embargo, los beneficios se asociaron con condiciones importantes.
Un hallazgo clave: más explicaciones no siempre eran mejores.
“Descubrimos que una mayor explicabilidad no equivale a una mayor confianza”, añadió Asan.
El equipo observó que, cuando las explicaciones se volvían más detalladas o complejas, los profesionales clínicos debían dedicar más tiempo a procesar la información. Este esfuerzo extra desviaba la atención de las imágenes y ralentizaba la toma de decisiones, lo que a su vez perjudicaba el rendimiento general.
“Procesar más información supone una mayor carga de trabajo cognitivo para los profesionales clínicos. También los hace más propensos a cometer errores y, posiblemente, a perjudicar al paciente”, añadió Asan. “No se busca aumentar la carga cognitiva de los usuarios añadiendo más tareas”.
Los estudios también señalaron un tipo diferente de riesgo: el exceso de confianza en la IA. En algunos casos, los médicos confiaban tanto en los resultados del sistema que eran menos propensos a cuestionarlos, incluso cuando eran erróneos.
"Si un sistema de IA no está bien diseñado y comete algunos errores mientras los usuarios tienen mucha confianza en él, algunos médicos pueden desarrollar una confianza ciega creyendo que todo lo que sugiere la IA es cierto y no analizar los resultados lo suficiente", agregó Asan.
Los hallazgos del equipo se detallan en dos artículos: uno sobre el impacto de las explicaciones de IA en la confianza y la precisión del diagnóstico en el cáncer de mama, publicado en Ergonomía Aplicada, y un segundo sobre explicabilidad y confianza de la IA en los sistemas de apoyo a la toma de decisiones clínicas, publicado en la Revista Internacional de Interacción Persona-Computadora.
En conjunto, los estudios apuntan a un desafío de diseño para la próxima generación de IA médica: construir herramientas que sean lo suficientemente transparentes para ser confiables, pero lo suficientemente simples para ser utilizables en el entorno de alta presión de la atención clínica.
"Nuestros hallazgos sugieren que los diseñadores deben tener cuidado al incorporar explicaciones en los sistemas de IA", afirmó Asan.
Agregó que las explicaciones deben elaborarse de manera que respalden el pensamiento de los médicos en lugar de abrumarlos.
La capacitación también será crucial. Asan enfatizó que la IA debe considerarse un asistente, no un sustituto, de la experiencia humana.
“Los médicos que utilizan IA deberían recibir una formación que haga hincapié en la interpretación de sus resultados y no solo en confiar en ellos”, afirmó.
Más allá de la explicabilidad, Asan señaló un principio más amplio derivado de la investigación sobre la adopción de tecnología: es más probable que las personas utilicen una herramienta cuando creen que es útil y fácil de usar.
“Las investigaciones demuestran que existen dos parámetros principales para que una persona utilice cualquier tipo de tecnología: la utilidad percibida y la facilidad de uso percibida”, añadió. “Por lo tanto, si los médicos consideran que esta herramienta es útil para su trabajo y es fácil de usar, la usarán”.
Para los pacientes, hay mucho en juego. El cáncer de mama sigue siendo uno de los cánceres más comunes a nivel mundial, y la detección temprana y precisa puede mejorar drásticamente los resultados. La IA tiene el potencial de detectar tumores de forma precoz, reducir los diagnósticos erróneos y ayudar a estandarizar la atención en hospitales y clínicas.
Pero la investigación de Stevens subraya que simplemente incorporar IA a la sala de lectura no es suficiente. Para mejorar realmente la atención, los sistemas deben diseñarse teniendo en cuenta las limitaciones cognitivas y los flujos de trabajo de los profesionales sanitarios, y los sistemas de salud deben invertir en formación que ayude a los médicos a comprender cuándo recurrir a la IA y cuándo cuestionarla.
A medida que la IA continúa difundiéndose en la medicina, estudios como estos ofrecen una hoja de ruta: crear herramientas que amplifiquen el juicio humano, evitar sobrecargar a los médicos ya sobrecargados y mantener la seguridad del paciente en el centro de cada elección de diseño.