Los problemas de los algoritmos soportados en IA en el sector salud

Ledys María Izquierdo MD. MSc. 

Uno de los principales factores que contribuyen al desarrollo y la validación exitosa de la inteligencia Artificial (IA) es el uso de datos almacenados. Esto hace que un primer esfuerzo sea el análisis de la calidad de los datos. La transparencia de los algoritmos computacionales es muy importante, ya que buenos datos de entrada determinaran los resultados obtenidos (Hashimoto et al., 2018). Por ejemplo, el etiquetado de los datos de entrada, es primordial para que se puedan realizar revisiones críticas de los métodos de entrenamiento para los algoritmos.

Actualmente la construcción de algoritmos como ayuda en las decisiones médicas, se realiza con bases de datos anonimizadas, que han servido para la elaboración de estudios retrospectivos, este tipo de datos acortan el proceso de obtención y consolidación de la información, ya que para su uso, tan solo se necesita de la aprobación del comité de ética del ente que administra la información. Los datos en este caso, están operativamente disponibles y permiten la validación relativamente rápida de un algoritmo. Mientras que la realización de estudios prospectivos con pacientes nuevos, pueden implicar no solo la preparación completa de la información, sino trámites administrativos adicionales, que retrasan la validación rápida de los algoritmos. (Dzobo K et al., 2020). 

Parece claro que la creación de algoritmos basados en IA presenta dificultades desde la captura y organización de los datos, la combinación de los mismos y hasta en la capacidad predictiva e interpretable de los datos procesados. Así, el diseño de tales algoritmos debe ajustarse a un mínimo de condiciones, para que puedan probarse, entrenarse y también evaluar su confiabilidad y aplicación objetiva. Algunos elementos importantes que contribuyen a la solidez teórica y práctica de los algoritmos basados en IA, son los siguientes:

  • Los datos capturados en volumen adecuado, veraces, de gran variedad, valor, y, además, aptos para su procesamiento, son fundamentales para la arquitectura funcional de los algoritmos. La solidez de los datos debe despojarse de variables éticas que favorecen el sesgo en los datos de entrada y entrenamiento de los algoritmos, se debe evitar control previo de los resultados, para construir predicciones más acertadas.
  • La mayoría de los algoritmos se desarrollan para combinar diferentes tipos de datos y lograr la observación y procesamiento eficiente de los mismos. El análisis de datos médicos no puede quedarse únicamente en el campo computacional, los datos deben obtenerse, probarse y analizarse en el espacio de la atención médica, entendiendo que dicho espacio solo puede validarse si es vinculante y concebido como una comunidad completa, extendida e integrada, en todos sus agentes e individuos. De esta forma se determinará si los algoritmos son utilizables y aplicables a todo el mundo.
  • Como quiera que la información tiende a ser compartida por instituciones sanitarias y a veces, entre países, se deben alcanzar estándares en aspectos legales, técnicos, de infraestructura, y de seguridad.  La recolección de datos en biobancos y bases de datos internacionales amerita la estandarización para que sean utilizables como entradas para un algoritmo.

En función de las condiciones y características anteriormente mencionadas, se puede citar  la adopción de la Historia Clínica Electrónica (HCE), como un esfuerzo por estructurar grandes volúmenes de información, con datos que una vez estandarizados y procesados, tengan carácter predictivo mediante el uso de algoritmos con métodos supervisados, no supervisados y semi supervisados, cuya intención es mejorar la calidad de la atención, reducir errores, mejorar la toma de decisiones y limitar la retórica clínica. Varios informes han demostrado que los algoritmos y la tecnología aplicada en este campo es susceptible de mejora, debido a que la información obtenida de los sistemas de HCE, en muchos casos, no es muy confiable, y genera diagnósticos erróneos, prescripciones incorrectas y eventos de sobre medicación (Ben-Assuli, 2015; Evans, 2016; Shenoy y Appel, 2017).

Otros aspectos que limitan la utilización y mejora de los algoritmos existentes son:

  • La mayoría de los artículos de IA publicados todavía son preprints y no se han validado en entornos clínicos reales, (Dzobo K et al., 2020, Guinney et al., 2017). Es urgente la validación de la IA en estos entornos, junto con la publicación de algoritmos en revistas revisadas por pares.  
  • Las corporaciones o desarrolladores de algoritmos computacionales no revelan el núcleo de sus algoritmos por razones patentadas. Es decir, que no siempre se conoce la funcionalidad operativa del algoritmo, sus objetivos, la calidad de su información y la eficiencia de su capacidad predictiva.
  • La vigilancia de los proveedores de algoritmos se hace fundamental, para evitar sesgos y abusos del sistema.  Existe la necesidad de un equilibrio entre lo que se necesita y está permitido y la natural búsqueda de ganancias por parte del proveedor. Los administradores de la salud deberán tomar una decisión en donde lo primordial sea el interés por los pacientes, permitiendo al proveedor obtener ganancias que no pongan en riesgo la seguridad de los pacientes y la eficacia de los tratamientos, reduciendo los problemas de equidad y ética de la salud pública.

La medicina del futuro, con tecnologías basadas en IA, debe estructurarse con nomenclaturas y parámetros que conduzcan a la estandarización internacional, tal y como se establece a través de la red Recursos Rápidos de Interoperabilidad en Salud FHIR (Fast Healthcare Interoperability Resources). Además de la evolución en legislación y seguridad, se requieren grandes inversiones de capital en todo el espectro tecnológico médico relacionado con la IA, en particular en el entrenamiento de algoritmos predictivos.  Existe un llamado a la » deconstrucción » de los silos disciplinarios y la necesidad de integrar conocimientos de diferentes fuentes para lograr la realización de algoritmos cada vez más confiables.

Los algoritmos avanzados se deben entender como una herramienta de transformación de sectores científicos, económicos, culturales y de sociedades. Sin embargo, su validez y explicabilidad deben ser una competencia del ejercicio médico, al fin y al cabo, seguiremos siendo nosotros quienes tomaremos las decisiones finales, al menos por el momento.

REFERENCIAS

  • Dzobo K, Adotey S, Thomford NE, Dzobo W. Integrating Artificial and Human Intelligence: A Partnership for Responsible Innovation in Biomedical Engineering and Medicine. OMICS. 2020 May;24(5):247-263. doi: 10.1089/omi.2019.0038. Epub 2019 Jul 16. PMID: 31313972.
  • Li Y, Zhang T, Yang Y, Gao Y. Artificial intelligence-aided decision support in paediatrics clinical diagnosis: development and future prospects. J Int Med Res. 2020 Sep;48(9):300060520945141. doi: 10.1177/0300060520945141. PMID: 32924683; PMCID: PMC7493240.
  • Howard, J. Artificial intelligence: Implications for the future of work. Am J Ind Med. 2019; 62: 917– 926
  • Shortliffe EH, Sepúlveda MJ. Clinical Decision Support in the Era of Artificial Intelligence. JAMA. 2018 Dec 4;320(21):2199-2200. doi: 10.1001/jama.2018.17163. PMID: 30398550.

3 comentarios sobre “Los problemas de los algoritmos soportados en IA en el sector salud

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: