Interprétation de résultats médicaux par l'IA : une «garantie humaine» prévue par la loi bioéthique

La PMA pour toutes n’était pas le seul objet du débat. Mardi 15 octobre, l’Assemblée nationale a adopté en première lecture, par 359 voix pour et 114 voix contre, le projet de loi sur la bioéthique porté sur le gouvernement. Après 15 séances consacrées à l’examen des quatre articles les plus controversés, notamment la mesure d’ouverture de l’assistance médicale à la procréation à toutes les femmes, les parlementaires ont étudié la question de l’Intelligence artificielle (IA), dont le cadre législatif est encore très flou.

Alors qu’en septembre 2018, le Comité consultatif national d’éthique (CCNE), un organe citoyen consultatif chargée de rendre des avis sur l'utilisation des progrès techniques en biologie et médecine, s’inquiétait  du “risque de priver le patient, face aux propositions de décisions fournies par des algorithmes, d’une large partie de sa capacité de participation à la construction de son processus de prise en charge” et de la menace d’une “minoration de la prise en compte des situations individuelle”, par la machine, le gouvernement a voulu rassurer. L'article 11 inscrit donc dans la loi le principe d'une “garantie humaine” dans l’interprétation de résultats médicaux en cas de recours à l’IA. 

“Certaines études ont montré que l’efficacité des dispositifs d’intelligence artificielle pouvait égaler voire dépasser celle des meilleurs opérateurs humains pour certaines tâches spécifiques, notamment pour la reconnaissance d’images ou de signaux (interprétation des dispositifs “d’imagerie” ou d’électrocardiogrammes par exemple), ou pour le développement et la mise en œuvre de règles de décision multicritères”, explique le gouvernement, reconnaissant toutefois que la validité des conclusions de ces dispositifs peut être “limitée par des défauts ou biais (volontaires ou non) liés à leur développement et/ou aux bases sur lesquelles s’est réalisé l’apprentissage, mais aussi par les limites des informations effectivement prises en compte au regard des particularités spécifiques propres à chaque situation clinique”.

Toujours remettre en perspective les résultats proposés par la machine

C’est pourquoi, le ministère de la Santé profite aujourd’hui du projet de loi bioéthique pour renforcer l’information des patients et garantir une interprétation humaine de leurs résultats. Dès lors qu’un “traitement algorithmique de données massives” sera utilisé pour des “actes à visée préventive, diagnostique ou thérapeutique”, le médecin devra informer le patient “de cette utilisation et des modalités d’action de ce traitement.”

Par ailleurs, un professionnel de santé devra paramétrer les algorithmes, modifiables si besoin. En outre, une “traçabilité” des actions réalisées est imposées. Enfin, les informations qui en résulteront devront être rendues “accessibles aux professionnels de santé concernés.”

Ainsi, les médecins devront toujours remettre en perspective les résultats proposés par l’IA par rapport aux autres informations dont ils disposent. “Cela permet de garantir que la décision finale, qui s’appuie sur ces dispositifs (algorithmiques) est prise par le médecin/professionnel de santé et le patient lui-même, notamment aux fins de respect du principe législatif de consentement éclairé aux soins”, note le projet de loi. 

Préserver le lien qui unit le médecin au patient   

Cette mesure “ne remet pas en cause les possibilités de recourir à des dispositifs d’aide au diagnostic ou d’orientation préventive ou thérapeutique performants” ou les dispositifs médicaux intégrant des éléments d’IA, assure le ministère de la Santé. Il s’agit simplement que l’utilisation de la machine demeure sous “contrôle de décision médicale”. "Le colloque singulier entre le patient et son médecin doit être préservé et il semble indispensable que les dispositifs d’intelligence artificielle restent un appui à une décision humaine sans s’y substituer", insiste le gouvernement. Enfin, concernant la gouvernance, la loi bioéthique veut étendre le périmètre des compétences du Comité consultatif national d’éthique des sciences de la vie et de la santé.

Des dispositions “particulièrement bienvenues” selon le Conseil d’Etat qui, dans un rapport consacré à la à bioéthique en 2018 déclarait qu’il “serait insuffisant d’exiger, dans un objectif de transparence, la publication d’un code source qui ne contribuerait que marginalement à la compréhension par les médecins, et par les patients, des logiques à l’œuvre dans les dispositifs d’intelligence artificielle.”

Désormais, après l’Hémicycle, le projet de loi sera débattu au Sénat à partir de janvier. Il peut donc encore y avoir des modifications sur le texte. Ce dernier repassera ensuite en deuxième lecture à l’Assemblée. Si tout se déroule bien, la loi devrait être promulguée aux alentours du printemps 2020.