Según las nuevas orientaciones de la OMS,  la inteligencia artificial (IA) ofrece grandes expectativas para mejorar la prestación de atención de salud y la medicina en todo el mundo, siempre y cuando la ética y los derechos humanos ocupen un lugar central en su concepción, despliegue y utilización.

El informe, titulado Ethics and governance of artificial intelligence for health (ética y gobernanza de la inteligencia artificial en el ámbito de la salud), es el resultado de dos años de consultas celebradas por un grupo de expertos internacionales nombrados por la OMS.

La inteligencia artificial puede utilizarse, lo que ya se está haciendo en algunos países ricos, para mejorar la velocidad y la precisión del diagnóstico y la detección de enfermedades; facilitar la atención clínica; reforzar la investigación en el ámbito de la salud y el desarrollo de medicamentos, y apoyar diversas intervenciones de salud pública, como la vigilancia de la morbilidad, la respuesta a los brotes y la gestión de los sistemas de salud.

La IA también podría permitir que los pacientes tuvieran un mayor control de su propia atención de salud y comprendieran mejor la evolución de sus necesidades. Además, podría facilitar el acceso a los servicios de salud en los países con escasos recursos y las comunidades rurales, donde los pacientes a menudo tienen dificultades para acceder a los agentes de salud o al personal médico.

Sin embargo, en el nuevo informe de la OMS se advierte del peligro de sobreestimar las ventajas de la IA en el ámbito de la salud, sobre todo cuando esto se hace en detrimento de inversiones y estrategias básicas que son necesarias para lograr la cobertura sanitaria universal.

Además, en él también se señala que las oportunidades conllevan desafíos y riesgos, como la recopilación y utilización poco éticas de los datos sobre salud; los sesgos codificados en los algoritmos, y los riesgos que presenta la IA para la seguridad del paciente, la ciberseguridad y el medio ambiente.

Así, por ejemplo, si bien la inversión de los sectores público y privado en el desarrollo y despliegue de la IA es fundamental, el uso no regulado de la IA podría subordinar los derechos e intereses de los pacientes y las comunidades a los poderosos intereses comerciales de las empresas tecnológicas o a los intereses de los gobiernos en materia de vigilancia y control social.

El informe también pone de relieve que los sistemas entrenados principalmente a partir de datos recopilados de personas que viven en países de alto ingreso pueden no funcionar bien en el caso de las poblaciones de entornos de ingreso bajo o mediano.

Por lo tanto, los sistemas de IA deberían diseñarse cuidadosamente a fin de reflejar la diversidad de los entornos socioeconómicos y de atención de salud. Estos deberían acompañarse de formación en aptitudes digitales, de implicación comunitaria y de sensibilización, en particular para los millones de agentes de salud cuya alfabetización digital o readaptación profesional serán necesarias en caso de que se automaticen sus cometidos y funciones, y que deberán lidiar con máquinas que podrían poner en entredicho las facultades decisorias y la autonomía de los prestadores y los pacientes.

En última instancia y, guiándose por las leyes existentes y las obligaciones en materia de derechos humanos, así como por las nuevas leyes y políticas que incorporan principios éticos, los gobiernos, los proveedores y los diseñadores deben trabajar conjuntamente para abordar las preocupaciones éticas y de derechos humanos en cada etapa de la concepción, desarrollo y despliegue de una tecnología basada en la IA.

Seis principios para garantizar que la IA se utilice en aras del interés público en todos los países

A fin de limitar los riesgos y aumentar al máximo las oportunidades que conlleva la utilización de la IA en el ámbito de la salud, la OMS propone que la reglamentación y gobernanza de la IA se basen en los principios siguientes:

• Preservar la autonomía del ser humano: En el contexto de la atención de salud, ello significa que los seres humanos deberían seguir siendo dueños de los sistemas de atención de salud y las decisiones médicas; se debería preservar la privacidad y la confidencialidad, y los pacientes deben dar su consentimiento informado y válido por medio de marcos jurídicos adecuados para la protección de datos.
• Promover el bienestar y la seguridad de las personas y el interés público. Los diseñadores de tecnologías de IA deberían cumplir los requisitos normativos en materia de seguridad, precisión y eficacia para indicaciones o usos bien definidos. Se deben instaurar medidas de control de la calidad en la práctica y de mejora de la calidad en la utilización de la IA.
• Garantizar la transparencia, la claridad y la inteligibilidad. La transparencia exige que se publique o documente información suficiente antes de la concepción o el despliegue de una tecnología de IA. Esa información debe ser fácilmente accesible y facilitar consultas y debates provechosos sobre la concepción de la tecnología y sobre el uso que se debería hacer o no de esta.
• Promover la responsabilidad y la rendición de cuentas. Las tecnologías de IA permiten realizar tareas específicas; ahora bien, incumbe a las partes interesadas velar por que estas sean utilizadas en condiciones apropiadas y por personas debidamente formadas. Se deberían instaurar mecanismos eficaces para que las personas y los grupos que se vean perjudicados por decisiones basadas en algoritmos puedan cuestionarlas y obtener reparación.
• Garantizar la inclusividad y la equidad. La inclusividad requiere que la IA aplicada a la salud sea concebida de manera que aliente la utilización y el acceso equitativos en la mayor medida de lo posible, con independencia de la edad, el  sexo, el género, el ingreso, la raza, el origen étnico, la orientación sexual, la capacidad  u otras características amparadas por los códigos de derechos humanos.
• Promover una IA con capacidad de respuesta y sostenible. Los diseñadores, desarrolladores y usuarios deberían evaluar de forma continua y transparente las aplicaciones de la IA en situación real a fin de determinar si esta responde de manera adecuada y apropiada a las expectativas y las necesidades. Los sistemas de IA también se deberían concebir de modo que se reduzcan al mínimo sus efectos medioambientales y se aumente la eficiencia energética. Los gobiernos y las empresas deberían anticipar las perturbaciones ocasionadas en el lugar de trabajo, en particular la formación que se deberá impartir a los agentes de salud para que se familiaricen con el uso de los sistemas de IA, y las posibles pérdidas de empleos debidas a la utilización de sistemas automatizados.

Estos principios orientarán la labor futura de la OMS para respaldar los esfuerzos encaminados a garantizar que todas las posibilidades que ofrece la IA para la atención de salud y la salud pública se utilicen en beneficio de todos.