Sujet d’actualité, prometteur, mais aussi source d’inquiétudes et d’interrogations, l’utilisation de l’intelligence artificielle dans le milieu de la santé connaît un essor important. En quoi permet-elle un meilleur diagnostic ?
Nous le savons bien, l’intelligence artificielle fait amplement partie de notre quotidien. Pas toujours facile de s’en détourner pour effectuer des actes de la vie courante. Alors dans le domaine de la santé et de façon très concrète, avons-nous des exemples d’application ?
Pascal Derudas, Directeur qualité au Centre Hospitalier d’Ajaccio témoignait de l’expérience ajaccienne. L’intelligence artificielle est utilisée en imagerie conventionnelle comme aide au diagnostic aux urgences. Deux solutions permettent, pour la première, l’analyse des radiographies et la détection des fractures, pour la seconde l’analyse des radiographies pulmonaires. Une seconde lecture est effectuée par un médecin.
Cette procédure assure la sécurité des soins et augmente la performance globale alors même que les établissements connaissent des pénuries importantes de professionnels, renforcées en période estivale, avec un moindre coût.
C’est ainsi que l’établissement, visant une application optimale, s’est engagé depuis 2023 à former les professionnels, consulter le comité éthique, communiquer auprès des instances internes et aboutir à la création d’un collège de garantie humaine.
Evolution de la réglementation :
- 2018 : Avis 129 du comité consultatif national d’éthique.
- Juin 2021 : Publication du rapport de l’OMS sur l’I.A appliquée à la santé avec mention de l’obligation de rendre des comptes.
- Août 2021 : Adoption de la loi bioéthique (article 17 relatif à la garantie humaine).
- 11 mai 2023 : Adoption du règlement européen sur l’I.A (art. 14 et 29 relatifs à la garantie humaine).
Article 14 pour les concepteurs – les solutions d’IA doivent être conçues et développées de façon à pouvoir être supervisées par des humains.
-
- Proportionnées au risque associé.
- Personnes en charge avec niveau suffisant de maîtrise de l’I.A.
Article 26 pour les déployeurs – utilisateurs
-
- D’appréhender les capacités pertinentes et les limites du système.
- Être conscient de la possibilité de biais d’automatisation.
- Interpréter correctement les résultats.
- Décider, dans certaines situations, de ne pas utiliser le système, ou d’annuler les résultats.
- Pouvoir interrompre le système de manière sécurisée (sauf si l’intervention humaine peut avoir une incidence négative).
- 2025 : Entrée en application du règlement européen sur l’I.A.
Et pour les patients (art 26) :
Droit à l’explication des décisions individuelles lors de résultats ayant des effets juridiques ou significatifs : rôle du système d’I.A dans la procédure décisionnelle, principaux paramètres de décision, données d’entrée concernées (sauf exceptions prévues par le droit de l’Union) doivent être claires et pertinentes.
Droit à l’information lors d’utilisation de solutions d’I.A à haut risque.
Obligations de transparence (art 50) : Information sur ces contenus au plus tard au moment de la première interaction ou exposition
Le collège de garantie humaine comme détaillé ci-dessus fait notamment référence à l’éthique en santé, parce que le soin est par définition éthique comme le rappelle le Dr Daniel Nicolas, intervenant en tant que membre du comité éthique PACA Corse. Avoir accès aux soins est parfois très difficile, des services ferment, nous faisons face à une pénurie de radiologues, urgentistes, alors même si l’utilisation de l’I.A n’est plus contestée aujourd’hui, elle doit impérativement rester un outil et être supervisée par la présence humaine.
Face à ce constat, l’IA sera-t-elle réservée exclusivement aux grands centres ? Et qu’en sera-t-il de son accès aux personnes les plus défavorisées ?
Cela suscite encore de nombreuses questions :
L’I.A a un niveau d’intelligence bien supérieur et a tendance à prendre des décisions. On peut s’interroger alors sur l’alimentation de l’I.A et les biais qu’elle comporte, ainsi que son niveau de fiabilité. Jusqu’à quel point doit-on faire confiance ?
La supervision humaine est capitale, essentielle et elle mérite par ailleurs d’être accompagnée par des actions de formation ; formation des professionnels de santé à l’utilisation de l’I.A. Et ce d’autant que la question de la responsabilité interroge.
Bien sûr, l’information des usagers est primordiale et elle doit être transmise dans la plus grande transparence. Ce point précis mérite toute notre attention et notre vigilance, car il est le garant de la sécurité des soins.
Laisser un commentaire