Les exemples inverses sont nombreux, comme celui de logiciels d’aide au recrutement qui, faute de transparence, conduisaient au renforcement des discriminations à l’égard des femmes en se basant sur les données historiques d’entreprises qui y avaient recours.
L’IA, cette innovation, pleine de promesses est bien plus qu’un sujet d’affrontement économique entre grandes puissances. Elle va bouleverser nos économies, mais peut aussi bousculer nos modes de vie, notre modèle social et notre façon de faire société. Sauf à lui donner un sens. C’est l’un des enjeux du projet de révision de la loi bioéthique qui compte fixer un cadre éthique au développement de l’intelligence artificielle (IA).
Le monde de la santé est également concerné par cette révolution technologique et cette attente de sens.
Les bénéfices de l’IA sont immenses pour les patients et pour tous les acteurs du monde de la santé, comme en témoigne par exemple, la création récente d’un vaccin antigrippal dont l’efficacité a été dopée grâce à un adjuvant découvert par un algorithme.
Pourtant, la révolution de l’IA pourrait se faire au détriment de l’humain et de la solidarité. En fondant une médecine prédictive, préventive et personnalisée qui laisse présager des thérapies mieux ciblées, plus efficaces et moins onéreuses, l’IA introduit en même temps le risque d’un médecin dessaisi de la décision thérapeutique, d’un patient sélectionné en fonction du risque qu’il représente, et isolé dans un système de santé et de protection social individualisé voire individualiste.
Le risque ultime étant de créer un climat de défiance entravant une évolution technologique positive. Positive dès lors qu’elle répond aux principes que la Mutualité Française a proposés à l’occasion des États généraux de la bioéthique menés par le Conseil consultatif national d’éthique (CCNE) dont il faut saluer l’action.
Or il n’est de confiance sans transparence. Quels investisseurs, quels objectifs sous-jacents ? L’origine et des algorithmes et des données utilisées doivent être connues pour prévenir les conflits d’intérêt et les conflits de « culture ».
Il n’est de confiance sans loyauté. Un patient doit savoir si l’IA interviendra dans son parcours de soin. A l’inverse, afin d’éviter toute perte de chance, un patient doit pouvoir bénéficier d’un deuxième avis si le premier n’avait pas recours à l’IA.
Il n’est de confiance sans liberté. Un patient doit avoir accès à ses données de santé et décider de les concéder de façon délibérée et éclairée. D’un droit formel, le règlement européen sur la protection des données doit devenir un droit réel. C’est à cette condition que le patient pourra développer son autonomie, être partie prenante dans son parcours de soin. L’éducation des plus jeunes et la formation à tous âges sont sans doute la clef pour en comprendre les enjeux. Et les régulateurs que sont l’État et les institutions européennes doivent être garants de la sécurité de la transmission, du stockage et de l’exploitation des données. La Ministre des Solidarités et de la Santé a récemment présenté un texte en ce sens[1] dans la perspective d’un futur « Health Data Hub ».
Si la confiance est établie, elle doit conduire à développer l’IA et ses algorithmes au service de l’humain et du plus grand nombre.
On le perçoit déjà, l ’IA va « bousculer » les professions de la santé. De nouveaux métiers (data protection officer, chief data officer, etc.) vont se développer, mais des métiers plus classiques mettant en œuvre des compétences techniques et relationnelles -nombreux dans le secteur médical et médico-social- pourraient être transformés. Dans cette perspective, il est essentiel que soit consacrée la « garantie humaine », c’est-à-dire que le patient conserve un lien direct avec son médecin. Et si le médecin peut bénéficier de l’aide de l’IA dans le diagnostic, il doit rester l’unique responsable de la prise en charge de son patient.
Enfin, l’IA sera définitivement un progrès dès lors qu’elle « apprendra » la conception solidaire de notre système de santé et notre principe d’égalité.
La médecine prédictive et personnalisée que propose l’IA ne doit pas être un levier pour distinguer, ou exclure les plus fragiles et les plus précaires, qui ont souvent une espérance de vie amoindrie. Elle doit être inclusive et accessible à tous, sur tout le territoire. La prise en charge du déploiement de l’IA dans le parcours de santé, voire dans l’usage d’objets connectés sera cruciale à cet égard.
Ces propositions de la Mutualité Française pour un cadre éthique sont conçues pour permettre le développement de l’IA dans le domaine de la santé sur des bases solides. Cette innovation remarquable ouvre un nouvel âge. Il ne faudrait pas qu’elle se déploie dans l’ère du soupçon. Ce serait une perte de chance considérable pour notre pays.
Thierry Beaudet, président de la Mutualité Française
[1] La feuille de route « accélérer le virage numérique » a été présenté par Agnès Buzyn le 25 avril 2019
A lire aussi
Intelligence artificielle : la décision aux mains des professionnels de santé