Suspenden a IBM Watson por recomendar “tratamiento mortal” para pacientes de cáncer

El Hospital Nacional de Dinamarca ha suspendido un proyecto encargado a IBM Watson Oncology, luego que esta tecnología de inteligencia artificial propusiera utilizar un medicamento que habría tenido consecuencias fatales para los pacientes.

Medios daneses escriben que el hospital nacional de ese país congeló un proyecto piloto con Watson luego de detectar un gran número de errores en la plataforma. La conclusión de los médicos responsables sería el que Watson Oncology es una tecnología demasiado rudimentaria para el fin que quiere dársele.

¿Radioterapia o quimioterapia?
El proyecto Watson de IBM ha sido invitado a participar en los departamentos de oncología de numerosos hospitales del mundo entero, con el fin de que proponga tratamientos clínicos para los pacientes. Leif Panduro Jensen, director del Departamento de Oncología del Hospital Nacional de Dinamarca, comentó que, en algunos casos, Watson propuso utilizar medicamentos que podrían haber causado el fallecimiento del paciente. “Por ejemplo, hemos visto que Watson ha propuesto un tratamiento con sustancias que el paciente nunca más en su vida debía tomar, debido al riesgo vital que implican”.

Panduro explicó que para los ensayos se pidió a Watson proponer tratamientos para tres tipos de cáncer: tórax, pulmones y colon. Los médicos contrastaron las respuestas con la situación de 31 pacientes que ya habían recibido tratamiento. En dos terceras partes, los médicos concordaron con el tratamiento recomendado por Watson. Sin embargo, en la tercera parte de los casos el tratamiento propuesto por Watson “era descabellado”, en palabras de Panduro.

El hospital nacional precisó que ha suspendido la cooperación con IBM Watson únicamente en el área de oncología, pero que se continúa trabajando en otros tratamientos. Leif Panduro Jensen acotó: “en realidad, estoy totalmente convencido de que Watson u otros sistemas de inteligencia artificial representan el futuro del sector. Sin embargo, aún no hemos llegado a una situación en que nos pueda ayudar a elegir tratamiento a un nivel que requiera gran especialización.

En un informe elaborado por la propia IBM en cooperación con el hospital nacional, titulado “inteligencia artificial e innovación en el sector de salud pública”, se llega a conclusiones como: “Watson for Oncology aún no está totalmente desarrollado, y pueden producirse errores”, o “Watson for Oncology no está capacitado para resolver tratamiento complejo por un período prolongado”.

Recientemente, el sitio Stat, utilizado por profesionales de la salud de todo el mundo, publicó un artículo basado en entrevistas con médicos de 50 hospitales, en 13 países, que actualmente utilizan el programa Watson Oncology. El común denominador de los comentarios es que la tecnología aún no es confiable.

“Watson Oncology está en su infancia, por lo que es necesario esperar y participar activamente para ayudarla a crecer”, declaró el oncólogo surcoreano Taewoo Kang a Stat. Entre las críticas destaca que Watson Oncology no aporta nuevo conocimiento científico, a la vez que tiene dificultades para leer y entender expedientes médicos. Aparte de ello, no está sujeta a supervisión de las autoridades, ni a control de calidad, a la vez que sus resultados no son transparentes.

“Watson es estadounidense”
Otro elemento puesto de relieve por médicos no estadounidenses es que Watson se caracteriza en grado sumo por el enfoque y percepciones estadounidenses sobre el tratamiento del cáncer, lo que también queda reflejado en los tratamientos que propone.

Al respecto, cabe señalar que las experiencias de Watson con pacientes de cáncer tienen su origen en el centro de tratamiento oncológico Memorial Sloan Kettering, situado en Nueva York. En este lugar, Watson es entrenado por personal médico y expertos de IBM. Watson vincula entonces las experiencias con su capacidad de leer y analizar grandes volúmenes de textos.

El médico danés Leif Panduro Jensen concluyó señalando que “creemos que la preponderancia estadounidense en Watson contribuye a los grandes márgenes de error que hemos observado”.

Ripley lanza «Eva», asistente virtual para retail habilitada por IBM Watson

IBM Watson, disponible en versión beta para combatir el cibercrimen


Únase a la conversación

Contacto | Diario TI es una publicación de MPA Publishing International Ltd., Reino Unido. © Copyright 1997-2022