La OMS insta a los gobiernos a establecer normas en el desarrollo de la IA con fines médicos

La Organización Mundial de la Salud (OMS) ha publicado nuevas orientaciones sobre la ética y la gobernanza de los grandes modelos multimodales, un tipo de tecnología de inteligencia artificial generativa (IA) de rápido crecimiento con aplicaciones en la atención sanitaria, en la que insta a los gobiernos a establecer normas para el desarrollo de la IA con fines médicos.

El objetivo es arrojar luz sobre los beneficios potenciales, pero también examinar los riesgos que conlleva la adopción sin precedentes de estos grandes modelos multimodales. Reconocer y apreciar estos riesgos brinda la oportunidad, a nivel de los Estados miembros y a escala mundial, de prepararse para afrontarlos y mitigarlos, según la OMS.

En las orientaciones se formulan más de 40 recomendaciones que los gobiernos, las empresas tecnológicas y los proveedores de atención sanitaria deben tener en cuenta para garantizar el uso adecuado de los grandes modelos multimodales (MLM), a fin de promover y proteger la salud de las poblaciones.

Los MLM pueden aceptar uno o varios tipos de datos, como texto, vídeos e imágenes, y generar diversos resultados que no se limitan al tipo de datos introducidos. Los MLM son únicos por su imitación de la comunicación humana y su capacidad para llevar a cabo tareas para las que no han sido explícitamente programados.

Los MLM se han adoptado más rápidamente que cualquier otra aplicación de consumo en la historia, con varias plataformas –como ChatGPT, Bard y Bert– entrando en la conciencia pública en 2023.

«Las tecnologías de IA generativa tienen el potencial de mejorar la atención médica, pero solo si quienes las desarrollan, regulan y utilizan identifican y tienen plenamente en cuenta los riesgos asociados», ha dicho el doctor Jeremy Farrar, científico jefe de la OMS. «Necesitamos información y políticas transparentes para gestionar el diseño, el desarrollo y el uso de lls MLM para lograr mejores resultados sanitarios y superar las desigualdades sanitarias persistentes», ha expresado.

BENEFICIOS Y RIESGOS POTENCIALES

Las nuevas orientaciones de la OMS describen cinco amplias aplicaciones de los MLM para la salud: diagnóstico y atención clínica, como responder a las consultas escritas de los pacientes; uso guiado por el paciente, por ejemplo, para investigar síntomas y tratamientos; tareas administrativas y de oficina, como documentar y resumir las visitas de los pacientes en las historias clínicas electrónicas; formación médica y de enfermería, por ejemplo, proporcionando a los alumnos encuentros simulados con pacientes, e investigación científica y desarrollo de fármacos, incluida la identificación de nuevos compuestos.

Aunque los MLM están empezando a utilizarse para fines sanitarios específicos, también existen riesgos documentados de que produzcan «declaraciones falsas, inexactas, sesgadas o incompletas, lo que podría perjudicar a las personas que utilicen dicha información para tomar decisiones sanitarias», avisan desde la OMS.

Además, los MLM pueden formarse con datos de mala calidad o sesgados, ya sea por raza, etnia, ascendencia, sexo, identidad de género o edad.

RIESGOS PARA EL SISTEMA SANITARIO

La guía también detalla riesgos más amplios para los sistemas sanitarios, como la accesibilidad y asequibilidad de los MLM de mejor rendimiento.

Los MLM también pueden fomentar el «sesgo de automatización» por parte de los profesionales sanitarios y los pacientes, por el que se pasan por alto errores que de otro modo se habrían identificado o se delegan indebidamente decisiones difíciles en un LMM.

Los MLM, como otras formas de IA, también son vulnerables a riesgos de ciberseguridad que podrían poner en peligro la información de los pacientes o la fiabilidad de estos algoritmos y la prestación de asistencia sanitaria en general.

Para crear MLM seguras y eficaces, la OMS subraya la necesidad de la participación de diversas partes interesadas: gobiernos, empresas tecnológicas, proveedores de atención sanitaria, pacientes y sociedad civil, en todas las etapas de desarrollo y despliegue de tales tecnologías, incluida su supervisión y regulación.

«Los gobiernos de todos los países deben liderar cooperativamente los esfuerzos para regular eficazmente el desarrollo y uso de las tecnologías de IA, como los MLM», ha dicho el doctor Alain Labrique, director de Salud Digital e Innovación de la División de Ciencias de la OMS.

RECOMENDACIONES CLAVE

Las nuevas orientaciones de la OMS incluyen recomendaciones para los gobiernos, que tienen la responsabilidad principal de establecer normas para el desarrollo y despliegue de los MLM, y su integración y uso con fines médicos y de salud pública.

Por ejemplo, los gobiernos deberían invertir o proporcionar infraestructuras públicas o sin ánimo de lucro, incluida la potencia informática y los conjuntos de datos públicos, accesibles a los desarrolladores de los sectores público, privado y sin ánimo de lucro, que exijan a los usuarios adherirse a principios y valores éticos a cambio del acceso.

Asimismo, la OMS también insta a utilizar leyes, políticas y reglamentos para garantizar que los MLM y las aplicaciones utilizadas en la atención sanitaria y la medicina, independientemente del riesgo o beneficio asociado a la tecnología de IA, cumplan las obligaciones éticas y las normas de derechos humanos que afectan, por ejemplo, a la dignidad, la autonomía o la privacidad de una persona.

También piden a los gobiernos la asignación a una agencia reguladora existente o nueva la tarea de «evaluar» y «aprobar» los MLM y las aplicaciones destinadas a la atención sanitaria o la medicina, según lo permitan los recursos.

Al hilo, la OMS recomienda introducir auditorías y evaluaciones de impacto obligatorias, también en materia de protección de datos y derechos humanos, a cargo de terceros independientes, cuando se despliegue un MLM a gran escala.

Las auditorías y evaluaciones de impacto deben publicarse e incluir resultados e impactos desglosados por tipo de usuario, por ejemplo por edad, raza o discapacidad.

Las orientaciones también incluyen algunas recomendaciones clave para los desarrolladores de MLM, como que deben asegurarse de que el diseño de los MLM no solo corre a cargo de científicos e ingenieros.

También aconsejan que los usuarios potenciales y todas las partes interesadas directas e indirectas, incluidos los proveedores de servicios médicos, los investigadores científicos, los profesionales de la salud y los pacientes, participen desde las primeras etapas del desarrollo de la IA en un diseño estructurado, inclusivo y transparente, y deben tener la oportunidad de plantear cuestiones éticas, expresar sus preocupaciones y hacer aportaciones a la aplicación de la IA que se esté estudiando.

Los MLM están diseñados para realizar tareas bien definidas con la precisión y fiabilidad necesarias para mejorar la capacidad de los sistemas sanitarios y promover los intereses de los pacientes. Los desarrolladores también deben ser capaces de predecir y comprender los posibles resultados secundarios.