Intelligence artificielle et santé : l’OMS publie un premier rapport et des préconisations clés

C’est en juin 2021 que l’Organisation mondiale de la santé (OMS) a publié le premier rapport mondial sur l’intelligence artificielle (IA) appliquée à la santé.  Sa parution est le résultat de deux années de consultations menées par un groupe d’experts internationaux qui souligne la place prépondérante de l’IA dans notre société. Une évolution technologique qui suscite de nombreux espoirs, mais qui doit aussi être encadrée.

Selon l’agence spécialisée de l’ONU, l’IA constitue un grand espoir pour améliorer la prestation des soins et la médecine dans le monde entier, mais à condition de placer l’éthique et les droits humains au cœur de sa conception, de son déploiement et de son utilisation. Ce sujet est critique pour les professionnels de l’intelligence artificielle, car le sujet n’est pas que technique, mais inclut de nombreux paramètres éthiques, philosophiques et sociétaux.

Le déploiement de l’IA dans le monde médical reste soumis à une inégalité de fait. Dans les pays riches les plus en pointe, elle sert à améliorer la rapidité et la précision du diagnostic et du dépistage des maladies, à faciliter les soins cliniques, et à renforcer la recherche dans le domaine de la santé et la mise au point de médicaments. Elle soutient également diverses interventions de santé publique, comme la surveillance des maladies, la riposte aux flambées épidémiques et la gestion des systèmes de santé. L’IA pourrait également permettre aux patients de mieux maîtriser les soins de santé dont ils bénéficient et de mieux comprendre l’évolution de leurs besoins.

Dans les pays en développement, elle pourrait faciliter l’accès aux services de santé, notamment dans les régions disposant de peu de ressources ou dans les communautés rurales. Or, le manque d’infrastructures parfois basiques risque d’entraver son développement et d’en limiter les effets positifs. L’OMS souligne d’ailleurs qu’il ne faut pas surestimer ses avantages dans le domaine de la santé, en particulier lorsque cette technologie vient supplanter des investissements et des stratégies de base nécessaires pour parvenir à la couverture sanitaire universelle.

En matière d’intelligence artificielle, l’universalité des données n’est pas toujours la bonne solution. En effet, pour qu’il y ait IA, il faut qu’il y ait données. Or, le principal défi – et le principal risque – est lié à une collecte et une utilisation contraires à l’éthique de données relatives à la santé, mais aussi à des biais introduits dans les algorithmes susceptibles de créer des risques pour la sécurité des patients.

Ainsi, un système entraîné principalement à partir de données recueillies auprès d’individus vivant dans des pays à revenu élevé risque de ne pas bien fonctionner pour les populations des pays à revenu faible ou intermédiaire. L’OMS prévient donc les professionnels de la santé et de l’intelligence artificielle : « Les systèmes d’IA doivent donc être soigneusement conçus afin qu’ils tiennent compte de la diversité des contextes socio-économiques et de soins de santé.​ » Chaque pays, zone ou région pourrait ainsi disposer d’une IA différente selon les données collectables, les grands principes juridiques et éthiques et les contraintes de sécurité qui s’y appliquent.

1. Protéger l’autonomie de l’être humain : les individus doivent rester maîtres des systèmes de soins de santé et des décisions médicales, la vie privée et la confidentialité doivent être protégées et les patients doivent donner un consentement éclairé valide au moyen de cadres juridiques appropriés en matière de protection des données.
2. Promouvoir le bien-être et la sécurité des personnes ainsi que l’intérêt public : les concepteurs de technologies d’IA doivent respecter les obligations réglementaires relatives à la sécurité, à la précision et à l’efficacité pour des utilisations ou des indications bien définies, incluant des mesures de contrôle de la qualité.
3. Garantir la transparence, la clarté et l’intelligibilité : les informations suffisantes doivent être publiées ou documentées avant la conception ou le déploiement d’une technologie d’IA. Elles doivent être facilement accessibles et permettre une consultation et un débat publics constructifs.
4. Encourager la responsabilité et l’obligation de rendre des comptes : il incombe aux parties prenantes de veiller à ce que l’IA soit utilisée dans des conditions appropriées et par des personnes dûment formées. Des mécanismes efficaces doivent être mis en place pour permettre aux individus et aux groupes lésés par des décisions fondées sur des algorithmes de contester ces décisions et d’obtenir réparation.
5. Garantir l’inclusion et l’équité : l’IA appliquée à la santé doit être conçue de manière à encourager l’utilisation et l’accès équitables les plus larges possibles, indépendamment de l’âge, du sexe, du genre, des revenus, de l’origine ethnique, de l’orientation sexuelle, des capacités ou d’autres caractéristiques protégées par les codes relatifs aux droits humains.

Promouvoir une IA réactive et durable : les systèmes doivent être conçus de sorte à réduire au minimum leurs conséquences environnementales et à accroître leur efficacité énergétique. Les gouvernements et les entreprises devraient anticiper les bouleversements qui seront occasionnés au niveau du travail, notamment la formation des agents de santé qui devront se familiariser avec l’utilisation des systèmes d’IA, et les pertes d’emploi que le recours à des systèmes automatisés est susceptible d’engendrer.

Plus que jamais, notre monde a besoin de professionnels de la donnée et de l’intelligence artificielle. À l’heure où le digital transforme les entreprises et les institutions, l’IA est en passe de révolutionner leurs modes de fonctionnement. Un enjeu stratégique et important pour le monde de la santé et les futurs managers de la transformation digitale et de l’IA.