El potencial de aplicar la inteligencia artificial al ámbito de la salud es muy elevado, pero esta sinergia no está exenta de riesgos. Este martes, la Organización Mundial de la Salud (OMS) ha hecho un llamamiento para usar la tecnología con cautela, ya que existe la posibilidad de que cause ‘daño a los pacientes’.
En concreto, la OMS se refiere a los modelos de lenguaje como ChatGPT o Bard de Google, entre otros, como una fuente de riesgo.
No obstante, reconoció la importancia de contar con estos avances tecnológicos y los beneficios que su correcto empleo pueden traer a la sociedad.
‘Aunque la OMS está entusiasmada con el uso adecuado de las tecnologías para apoyar a los profesionales sanitarios, los pacientes, los investigadores y los científicos, preocupa que la cautela que normalmente se ejercería con cualquier tecnología nueva no se esté ejerciendo de forma coherente con estas IA’, señala en un comunicado.
La organización en el documento explica que una adopción precipitada de sistemas poco probados puede llevar a errores por parte de los profesionales sanitarios, causar daño a los pacientes si se usan de forma directa a modo de sustitución de una atención reglada y terminar por echar a perder los beneficios de usar estas tecnologías para la salud de las personas.
Tras la advertencia, la OMS procede a identificar los riesgos que, en su opinión, pueden llevar al desastre. ‘Los datos que se emplean para entrenar a la inteligencia artificial pueden estar viciados, dando lugar a informaciones engañosas o inexactas que representen un riesgo para la salud, la igualdad y la inclusividad de los pacientes’.
Aunque la IA es capaz de generar respuestas que tienen apariencia plausible y legítima a ojos de un usuario final, pueden ser completamente incorrectas o contener errores serios, ‘especialmente, en el ámbito de la salud’. También los modelos de lenguaje avanzados pueden usarse para generar información falsa ‘altamente convincente’ que posteriormente puede distribuirse de forma masiva, ya sea en formato escrito o audiovisual, ‘haciendo que sea difícilmente distinguible para el público de información fiable’.
Por todos estos motivos, la OMS insta a los Gobiernos a ‘asegurar la seguridad de los pacientes y su protección a medida que las empresas incrementen sus esfuerzos para comercializar más modelos de lenguaje basados en inteligencia artificial’.
En ese sentido, la organización alertó que estos sistemas pueden ‘estar sesgados’ y contener datos falsos que, usados indebidamente, acaben por ‘generar y difundir desinformación muy convincente’, ya sea en forma de texto, audio o video.
‘Es imperativo que se examinen cuidadosamente los riesgos que tiene el uso de estas herramientas como método de apoyo para la toma de decisiones médicas’, continúa el comunicado e insiste en que su uso precipitado podría llevar a los profesionales sanitarios a cometer errores, causar daños en los pacientes y erosionar la confianza general en la inteligencia artificial y sus posibles beneficios en el largo plazo.
Con información de Agencias
Foto: Pixabay
