La pregunta que la IA médica no puede responder
La inteligencia artificial (IA) se encuentra en un punto de inflexión en el cuidado de la salud. Un lapso de 50 años de desarrollo de algoritmos y software ha producido algunos enfoques poderosos para extraer patrones de big data. Por ejemplo, se ha demostrado que las redes neuronales de aprendizaje profundo son efectivas para el análisis de imágenes, lo que resultó en el primer diagnóstico asistido por IA aprobado por la FDA de una enfermedad ocular llamada retinopatía diabética, utilizando solo fotografías del ojo de un paciente.
Sin embargo, la aplicación de la IA en el ámbito de la atención de la salud también ha revelado muchas de sus debilidades, descritas en un documento de orientación reciente de la Organización Mundial de la Salud (OMS). El documento cubre una larga lista de temas, cada uno de los cuales es tan importante como el anterior: IA responsable, responsable, inclusiva, equitativa, ética, imparcial, receptiva, sostenible, transparente, confiable y explicable. Todos estos son vitales para brindar atención médica y son consistentes con la forma en que abordamos la medicina cuando el mejor interés del paciente es primordial.
No es difícil entender cómo un algoritmo puede ser sesgado, exclusivo, inequitativo o poco ético. Eso podría explicarse por la posibilidad de que sus desarrolladores no le den la capacidad de distinguir los datos buenos de los malos, o que no hayan sido conscientes de los problemas de datos porque estos a menudo surgen del comportamiento humano discriminatorio. Un ejemplo es clasificar inconscientemente a los pacientes de la sala de emergencias de manera diferente según el color de su piel. Los algoritmos son buenos para explotar este tipo de sesgos, y hacerlos conscientes de ellos puede ser un desafío. Como sugiere el documento de orientación de la OMS, debemos sopesar cuidadosamente los riesgos de la IA con los beneficios potenciales.
Pero lo que es más difícil de entender es por qué los algoritmos de IA pueden no ser transparentes, confiables y explicables. La transparencia significa que es fácil de entender el algoritmo de IA, cómo funciona y el código de computadora que hace el trabajo detrás de escena. Este tipo de transparencia, además de una validación rigurosa, genera confianza en el software, que es vital para la atención al paciente. Desafortunadamente, la mayoría del software de IA utilizado en la industria del cuidado de la salud proviene de entidades comerciales que necesitan proteger la propiedad intelectual y, por lo tanto, no están dispuestas a divulgar sus algoritmos y códigos. Esto probablemente resulte en una falta de confianza en la IA y su trabajo.
La confianza y la transparencia son, por supuesto, objetivos valiosos. Pero, ¿y la explicación? Una de las mejores maneras de entender la IA, o lo que la IA aspira a ser, es pensar en cómo los humanos resuelven los desafíos de la atención médica y toman decisiones. Cuando se enfrenta a pacientes desafiantes, es común consultar a otros médicos. Esto aprovecha su base de conocimiento y experiencia. Una de las ventajas de consultar a un humano es que podemos seguir una respuesta con la pregunta de por qué.
“Por qué ¿Crees que este tratamiento es el mejor curso de acción?”
“Por qué ¿Recomienda este procedimiento?”
Un buen consultor clínico debe ser capaz de explicar por qué llegaron a una recomendación particular. Desafortunadamente, los algoritmos de IA modernos rara vez pueden proporcionar una respuesta a la pregunta de por qué creen que una respuesta es buena. Esta es otra dimensión más de la confianza, puede ayudar a abordar los problemas de sesgo y ética, y también puede ayudar al médico a aprender de la IA, tal como lo haría con un consultor humano.
¿Cómo llegamos a la IA explicable? Curiosamente, uno de los primeros algoritmos de IA exitosos en el cuidado de la salud fue el programa MYCIN desarrollado por el médico e informático Edward Shortliffe a principios de la década de 1970 para recetar antibióticos a pacientes en la unidad de cuidados intensivos. MYCIN era un tipo de IA llamado sistema experto, que podía responder a la pregunta «¿Por qué?» pregunta retrocediendo a través de sus cálculos de probabilidad para decirle al usuario cómo llegó a una respuesta.
Este fue un avance importante en IA, que parecíamos haber perdido en la búsqueda de algoritmos de mejor rendimiento. La IA explicable debería ser posible si el desarrollador del algoritmo realmente entiende cómo funciona. Es simplemente una cuestión de dedicar tiempo y esfuerzo a realizar un seguimiento del algoritmo a medida que itera y presentar el camino que tomó para obtener una respuesta para el usuario en una forma comprensible para los humanos.
En otras palabras, esto debería ser solo una cuestión de prioridad para el desarrollador. Cualquier algoritmo de IA que sea tan complejo que el desarrollador no pueda entender cómo funciona probablemente no sea un buen candidato para el cuidado de la salud.
Hemos hecho grandes avances en el dominio de la IA. Todos estamos realmente entusiasmados con la forma en que la IA puede ayudar a los pacientes. También nos sentimos honrados por las fallas de la IA, como el estudio reciente que muestra que los resultados de la IA para diagnosticar COVID-19 no son confiables debido a los sesgos en los datos. Debemos tener en cuenta al médico cuando desarrollamos y evaluamos algoritmos de IA para su uso en la clínica. Debemos pensar constantemente en lo que es bueno para el paciente y cómo ganarnos la confianza del médico que usa el software. La capacidad de la IA para explicarse a sí misma será clave.
Este es un artículo de opinión y análisis; las opiniones expresadas por el autor o autores no son necesariamente los de Científico americano.
