Consultar al Doctor Google

Diferenciar un accidente cerebrovascular de otros males en un escáner cerebral en un instante. Predecir el riesgo de suicidio con el análisis de conversaciones en una red social. Detectar precozmente la enfermedad de Parkinson a través de un cambio en la marcha o de los trazos de un manuscrito de una persona. La detección de cáncer de pulmón en una etapa ultra temprana…

Las promesas de la inteligencia artificial (IA) en el campo de la salud son muchas, y ya cumple con varias en todas las etapas de la atención, desde el diseño de medicamentos hasta el seguimiento, la detección y el diagnóstico posteriores al tratamiento. Pero en los albores de una revolución médica que propone poner nuestra salud en manos de máquinas y software, las preguntas planteadas son numerosas. Y en particular las cuestiones son éticas.

Alrededor del mundo, diversos colegios médicos, instituciones académicas y organismos de la sociedad y comités de ética han manifestado sus preocupaciones y hecho del conocimiento público opiniones sobre los temas relacionados con el uso de la inteligencia artificial en el campo del diagnóstico médico. Cuestiones “heterogéneas, incluso a veces contradictorias”, alertan a los expertos, “entre intereses económicos e industriales, promesas terapéuticas para los pacientes y médicos, modificación de la práctica profesional del personal sanitario afectado y objetivos normativos para las administraciones públicas”.

Si bien la atención médica es una de las más reguladas del mundo, los desarrolladores de IA médica no son responsables de sus productos ante los pacientes. En el mundo, esto es bien conocido, los productos sanitarios son evaluados por las diversas autoridades que valoran y autorizan la disponibilidad y puesta a la venta de estos cuando, por ejemplo, están destinados a ser cubiertos por los seguros de salud. “De hecho, casi todos los algoritmos utilizados por los profesionales de la salud están excluidos de la evaluación por parte de las autoridades reguladoras de la salud, ya que en su mayor parte no están destinados a ser vendidos a los pacientes”.

Pero ¿Y sobre qué criterios deberían evaluarse estos nuevos “sistemas muy singulares comparados con, por ejemplo, un abatelenguas o unas muletas”? Los riesgos de sesgo son numerosos, empezando por la elección de las bases de datos en las que se entrenan estos programas informáticos, que por lo tanto hacen que deban ser “evaluados ellos mismos”. En resumidas cuentas, estamos a su merced.

A propósito, una de las que seguramente se requerirá como regla de oro establecida por los integrantes de estos comités de ética en sobre el uso de la IA aplicada a la salud es la de la “explicabilidad”: un médico siempre debe ser capaz de explicar lo que la IA ha “diagnosticado” o sugerido. Y las “decisiones” de la IA sobre un enfermo también deben ser siempre cuestionables: no debemos “privarnos de los beneficios aportados por estas herramientas”, sino darnos “constantemente los medios para distanciarnos y apreciar el resultado proporcionado”.

Actualmente, en México, por ejemplo, no hay una ley que requiere que cualquier decisión médica basada en IA sea validada por un humano. Una noción que de primera intención parecería excelente e indispensable, pero que planteará un problema cuando usemos la IA para hacer cosas que los humanos no seamos capaces de hacer. Previsiblemente, también hay problemas de habilidades, tanto de profesionales de la salud como de pacientes, que podrían requerir la aparición de nuevas profesiones, en la frontera entre la medicina y la informática.

¿Existirá la máquina totalmente autónoma? A propósito, hay quien considera que será necesario redefinir el papel y la responsabilidad del médico, por ejemplo. Pero muchos expertos siguen apostando por una larga superioridad de la inteligencia humana. Y, en la opinión de esos mismos expertos, debemos tener cuidado de no cruzar una línea roja: los criterios de eficiencia económica y organizativa deben tenerse en cuenta en la evaluación de las IA, pero estos siempre deben “utilizarse como prioridad con vistas a mejorar la atención”.