Site d’information destiné aux acteurs sanitaires et médico sociaux

[Tribune] Santé | 16/04/2019

e-santé : une révolution juridique – Jacques Hardy, professeur des universités, avocat associé (Barthelemy-Avocats)

par Auteur Associé
jacques hardy Professeur des Université Avocat associé (Barthelemy-Avocats) DR

Si l’on veut bien se rappeler que chaque être vivant est un système de traitement de l’information, force est de constater que les humains que nous sommes sont aujourd’hui largement concurrencés et dépassés par des machines utilisant des algorithmes pour prendre ou nous aider à prendre des "décisions" dans tous les domaines de la vie quotidienne et professionnelle incluant, dès lors, les préoccupations de santé.

Email Email

L’usage généralisé de ces systèmes automatisés est propice à la construction de fantasmes alimentés notamment par le cinéma et la littérature de science-fiction imaginant la prise du pouvoir par des machines devenues « intelligentes » et la réduction corrélative de l’humanité à une forme d’esclavage qui a peut-être d’ailleurs déjà commencé si l’on évoque, par exemple, les risques de la « dépendance » associés à l’usage des réseaux sociaux affectant notre libre arbitre (1).

Intelligence artificielle

Cependant, si l’on en croit les professionnels du numérique, les développements actuels et spécialement ceux de l’intelligence artificielle (IA) qui serait, à les écouter, bien mal nommée, ne conduisent pas directement à ce scénario puisqu’ils ne débouchent sur rien d’autres que des algorithmes dont la capacité d’imagination ou d’émotion est nulle et qui se contentent de reproduire ce que l’homme qui les a créés leur a appris à faire. Dès lors certains experts « considèrent que le danger des robots autonomes, comme les drones, résulte moins de leur intelligence que de leur stupidité » (2).

Pour autant, même s’ils sont conçus comme des prothèses, ces algorithmes dont la vocation première est de nous aider à être plus efficaces dans le traitement de l’information pour prendre plus rapidement des décisions et/ou réduire les marges d’erreur en matière de diagnostic médical par exemple évoluent de plus en plus de l’aide vers le remplacement de l’intervention humaine.

Traitement des données

Il en va ainsi notamment pour le traitement des données où la capacité de calcul et la rapidité d’intervention de la machine sont infiniment supérieures à celles de n’importe quel cerveau humain (3) ce qui, sous réserve de la fiabilité des outils mis en œuvre, ouvre la possibilité de décisions prises sans intervention humaine comme la formulation d’un diagnostic, l’aide à la prescription et, le cas échéant, la délivrance d’une ordonnance.

Cette robotisation croissante des actes de prévention de diagnostic et de soins n’est, à vrai dire pas complètement nouvelle. Il y a bien longtemps en effet que les laboratoires de biologie médicale, les plateaux d’imagerie ou encore les blocs opératoires sont investis par les machines et les algorithmes qui analysent les échantillons de sang, d’urine, de salive et produisent des résultats (automates de laboratoire), fournissent des images (scanner, IRM) et, dans certains cas, les lisent ou encore, surveillent les constantes du patient au cours et au décours d’une intervention elle-même pratiquée par un chirurgien faisant fonctionner des outils robotisés (4).

Pour autant, il est probable qu’il ne s’agit que du début d’un processus qui se développe à grande vitesse et dont personne n’est aujourd’hui capable de prédire le contenu et les contours à moyenne échéance.

Gouvernance du système de santé

Et, si ces évolutions technologiques concernent manifestement les pratiques des professionnels de santé (5), elles ont évidemment des incidences sur la situation de l’usager comme sur l’organisation et la gouvernance du système de santé dans un contexte mondialisé qui induit non seulement une concurrence industrielle et commerciale mais également une problématique de comparaison entre les appareillages éthiques et juridiques susceptibles de les encadrer d’un pays à l’autre (6).

Il est en effet certain que le développement des technologies numériques modifie la relation soignant/soigné dans laquelle ce dernier, sans en être toujours très clairement informé, voit s’interposer un ou plusieurs robots (7). Il est, par exemple, de plus en plus rare qu’une simple visite chez un praticien généraliste ne se traduise pas par une prescription d’analyses de biologie et/ou d’imagerie médicale. Faut-il y voir un progrès parce que la machine exempt d’émotions et strictement apte à faire mécaniquement ce qui lui a été appris minore les risques d’erreurs ou, au contraire, craindre que l’absence ou, au moins, le caractère second de l’intervention humaine soit une source d’appauvrissement de la relation soignant soigné en forme de standardisation des prises en charge ?

Standardiser les protocoles thérapeutiques

La réponse s’impose d’autant moins avec évidence que dans tous les systèmes de santé modernes existe une tendance lourde au développement des « recommandations » et autres « bonnes pratiques » qui traduit une volonté de « standardiser » les protocoles thérapeutiques dans l’espoir d’augmenter significativement la qualité et la sécurité des actes de prévention, de diagnostic et de soins (8). Dès lors, considérer comme potentiellement dangereuse la standardisation maximale proposée par le numérique revient à désigner la machine comme source de danger et, par un curieux renversement du raisonnement à faire de l’intervention humaine un facteur de qualité et de sécurité (9) et à ruiner, au passage, le caractère « automatisé » des systèmes (10).

Ceci dit, il est difficile de nier que, par exemple, la perspective (encore lointaine) de voir un algorithme décider seul de la nécessité de délivrer ou non un arrêt de travail à un salarié peut-être, pour l’intéressé, assez inquiétante tandis que ceux qui estiment que ces arrêts sont délivrés avec trop de facilité verront dans la suppression de toute subjectivité un progrès.

Éthique et droits

Plus généralement, comme le relève le CCNE dans son avis précité de septembre 2018 sur la révision des lois de bioéthique, l’intervention des algorithmes ouvre, par construction, la voie à une « minoration des situations individuelles » (11) au profit de « standards ». Or, notre droit de la santé place depuis 2002, « la personne » en situation de souveraineté (tout comme d’ailleurs la loi Informatique et libertés (12)) et prévoit notamment que « toute personne prend, avec le professionnel de santé et compte tenu des informations et des préconisations qu’il lui fournit, les décisions concernant sa santé […] » (13). Que reste-t-il de la possibilité de dialogue et de cette capacité de la personne à décider lorsqu’un algorithme impose un « résultat » fondé sur l’analyse des paramètres qui lui ont été soumis ?

Est-ce à dire, pour autant, que la révolution numérique pose des problèmes foncièrement nouveaux en matière d’éthique et de droit ?

Sur le premier point, il appartient aux philosophes des sciences de se prononcer (14) car nonobstant leur propension à lier les deux problématiques dans leurs contributions, les juristes n’ont aucun titre particulier à faire valoir en matière d’éthique (15).

Reste donc, pour le juriste, à se demander si le droit positif peut accueillir sans remise en cause majeure le défi numérique appliqué à la santé.

Là encore, la réponse ne s’impose pas avec la force de l’évidence.

Il convient tout d’abord de préciser ce qui est en jeu car la question ne recouvre pas les mêmes problématiques selon qu’elle concerne la transformation des métiers ou la situation de l’usager du système de santé même si, bien entendu, ces deux aspects entretiennent, par hypothèse, entre eux, une relation interactive.

Dans le premier cas, il s’agit prioritairement d’apprécier et, le cas échéant, d’encadrer par des principes éthiques et des règles juridiques les usages du numérique par les professionnels de santé. Dans la seconde occurrence, il s’agit plutôt de réfléchir au cadre éthique et juridique utile pour protéger la personne humaine, sa dignité, ses libertés dans un contexte de numérisation croissante des actes de prévention, de diagnostic et de soin.

En ces matières, la tentation est grande de partir du postulat de la nouveauté qui commanderait de réinventer le droit pour le mettre à la hauteur des innovations technologiques dont il est ici question. Peut-être faut-il cependant raison garder et commencer par examiner les outils juridiques déjà disponibles afin de tester leur capacité à répondre aux interrogations que fait naître le numérique avant de céder à la tentation de la révolution.

Degré d’autonomie

Dans cette perspective, l’enthousiasme que manifestent certains juristes en faveur de la construction d’une responsabilité des robots fournit un bon exemple des risques que comporte une réflexion ignorante des vertus de l’existant. Car, comme le souligne le CCNE, les régimes de responsabilité du fait des choses et du fait des produits défectueux paraissent aujourd’hui largement suffisants pour nous dispenser « d’inventer » une responsabilité propre aux robots (16) qui, contrairement à ce que soutiennent les juristes défendant cette option, et comme le confirment les professionnels du numérique, n’ont pas acquis le « degré d’autonomie » qu’ils leur prêtent et qui fonde, pour l’essentiel, leur proposition (17). Il est en effet certain qu’aujourd’hui, le robot n’a pas de libre arbitre. Lorsqu’une voiture se gare seule, lorsque d’un drone évite un obstacle, lorsqu’un automate de laboratoire analyse un échantillon humain, il s’agit d’un bien (18) qui, loin de manifester une volonté propre, est mu par un ou plusieurs autres biens (des logiciels contenant des algorithmes) qui appliquent un programme et ne peuvent s’en écarter par un quelconque acte volontaire. Il en ressort que le robot et les logiciels qui l’animent sont des « choses » dénuées de volonté propre et ne sauraient donc, à moins de ruiner les catégories juridiques les mieux établies, accéder au rang de « personnes ».

Dès lors, si rien n’interdit de réfléchir à cette hypothèse d’autonomisation de la machine en se gardant de toute projection anthropomorphique consistant à lui prêter des intentions voire, des émotions, cette problématique de science-fiction ne doit pas détourner la contribution des juristes de l’objectif le plus immédiat qui devrait moins consister à disserter sur la « responsabilité » des machines, qu’à s’interroger sur les voies et moyens permettant de protéger l’être humain des risques que les capacités de captation, de stockage et de traitement des données personnelles notamment dans le domaine de la santé font peser sur sa dignité (19) et ses libertés.

En cette matière, le champ de la réflexion juridique peut être décrit comme borné par l’impératif de protection des données individuelles de santé, d’une part, et l’intérêt, pour ne pas dire la nécessité, de leur partage à des fins de recherche et de santé publique, d’autre part.

C’est dans cet espace que se déploie le titre 3 du projet de loi relatif à l’organisation et à la transformation du système de santé consacré à la transformation numérique du système de santé et des pratiques des soignants.

Dossier médical partagé

En même temps qu’il prévoit la mise en place d’une plateforme des données de santé (« data hub » de santé) tendant à apporter une réponse sécurisante en garantissant à chacun le respect de ses données et leur mise à disposition (anonymisée) des organismes publics et des chercheurs, le projet de loi vise à offrir à chacun la possibilité d’ouvrir un espace numérique de santé dont le dossier médical partagé (DMP) (20)) sera la première « brique ».

Au plan juridique, ces dispositifs posent directement la question de la protection des données personnelles de santé et, là encore, les outils disponibles qu’il s’agisse du RGPD ou de sa déclinaison nationale au travers notamment de la loi n° 2018-493 du 20 juin 2018 relative à la protection des données personnelles actualisant la loi Informatique et libertés de 2018 apte à garantir le respect de la dignité et de la liberté de la personne en tant qu’usager du système de santé pourraient être utilement perfectionnés.

De ce point de vue, la question de la liberté de créer ou non cet espace (comme le DMP) versus un dispositif de création systématique sauf opposition de la personne concernée (ou des titulaires de l’autorité parentale lorsqu’il s’agit d’un mineur) mérite d’être considérée avec soin au regard des droits de la personne comme des exigences de la santé publique. La recherche préalable du consentement est en effet centrale en droit de la santé lorsqu’il s’agit d’une décision relative à un acte de prévention, de diagnostic ou de soin (21)). Aucun acte ne pouvant, sauf dans de rares exceptions, être envisagé sans le consentement préalable de la personne. Or, cette exigence ne se retrouve pas de manière aussi absolue en matière de traitement des données personnelles de santé où une base légale peut exonérer le responsable du traitement des données de la recherche du consentement de la personne concernée (22). Ce décalage est peut-être justifié mais il doit être réinterrogé et s’il est confirmé il conviendra de l’expliquer pour ne pas ajouter au déficit de confiance qui semble caractériser l’e.santé (23) vue par l’usager.

Ceci dit, le fait que le droit positif permette, en l’état des connaissances et des développements technologiques de traiter moyennant quelques adaptations les questions que pose le développement du numérique en santé ne doit pas conduire la communauté juridique à une béate satisfaction du devoir accompli car il reste bien des problèmes à résoudre.

Dignité et libertés de la personne

Même si ces constats sont indubitablement moins « romantiques » que l’éventualité du robot devenue une « quasi personne », il n’est, par exemple, pas inutile de se rappeler que les objets connectés font de plus en plus partie de notre vie quotidienne et que « […] dans l’assistance à la personne, des dispositifs destinés à être utilisés à domicile et en permanence, tels qu’un déambulateur instrumenté permettant de faire l’analyse de la marche de personnes âgées et de détecter des chutes, donc de lancer des alertes, produisent un très grand nombre de données sensorielles, dont seront extraits des indicateurs médicaux et comportementaux. Qui est propriétaire de ces données ? Qui y a accès ? Comment les protéger ? » (24). Il faut également être attentif au fait que les traces que chacun d’entre nous laisse sur internet ou lorsqu’il utilise son smartphone ou encore sa carte de crédit sont aussi riches d’enseignement sur notre santé pour ceux qui les stockent et les traitent que nos données de santé stricto sensu. Sont-elles moins bien, aussi bien ou mieux protégées que ces dernières ?

Dès lors, si la révolution juridique n’est pas à l’ordre du jour, la vigilance (consubstantielle à l’art du juriste) s’impose pour faire en sorte que la dignité et les libertés de la personne demeurent des remparts infranchissables.

Il est par exemple nécessaire de se demander si le statut juridique du logiciel dans notre droit de la santé est adapté au développement et aux usages de cette catégorie d’outils. Le considérer parfois comme un « dispositif médical » et, à d’autres moments, en fonction essentiellement de sa finalité comme une simple chose même s’il est utilisé dans un environnement médicalisé (cabinet, officine, établissement de santé) est peut-être un peu court de telle sorte qu’une réflexion à ce sujet mérite sans doute d’être ouverte (25). La question de la procédure d’homologation de ces dispositifs (aujourd’hui un simple marquage CE) doit notamment être débattue et comparée, dans le cadre d’une balance coût/bénéfice à une procédure d’autorisation de mise sur le marché.

Il est également tentant de faire remarquer que les mots « algorithme » et « robot » ne figurent pas dans le code de la santé publique ce qui à l’heure de leur présence de plus en plus massive dans les laboratoires, les officines, les cabinets, les établissements de santé est pour le moins étonnant. Sur ce point, l’organisation des vigilances qui se confond aujourd’hui avec la matério ou la réacto vigilance pourrait être utilement réinterrogée.

Enfin, sans que cette liste prétende à la moindre exhaustivité, la nécessité de définir juridiquement ce qu’est un algorithme mérite d’être pesée tant il est vrai que ni la loi, ni le règlement en l’état de notre droit ne font cet effort alors même que cette catégorie d’outils est au cœur de la révolution numérique et, par conséquent, du développement de l’e.santé. La définition étant le préalable nécessaire à la définition d’un régime juridique, la question mérite sans doute d’être posée et débattue.

Note (01)

Cf. l’étude des chercheurs de la Michigan State University « Risky décisions : excessive social média use is comparative to drug addiction » Science Daily, 10 janvier 2019. - Retourner au texte

Note (02)

PY Oudeyer in « Les robots et la loi », rapport de l’Office parlementaire d’évaluation des choix scientifiques et technologiques, mars 2016 - Retourner au texte

Note (03)

À titre d’exemple, le logiciel Watson Santé développé par IBM qui peut être interrogé en langage naturel et comprend huit langues, lit un dossier médical de 300 pages en une demi-seconde et fournit une aide au diagnostic. - Retourner au texte

Note (04)

La robotique chirurgicale existe depuis le début des années 1980 en urologie et, il y aurait aujourd’hui plus de 7000 robots chirurgicaux implantés et fonctionnels en Europe. - Retourner au texte

Note (05)

Voir le rapport du Conseil national de l’Ordre des médecins « Médecins et patients dans le monde des dates, des algorithmes et de l’intelligence artificielle », janvier 2018 et le rapport de C. Villani « Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne » faisant de la santé un domaine privilégié de développement de l’IA, mars 2018. - Retourner au texte

Note (06)

Avis 129 du Comité consultatif national d’éthique p. 94 à 107, 25 septembre 2018 - Retourner au texte

Note (07)

En contradiction avec l’exigence du Conseil constitutionnel énoncée dans sa décision du 12 juin 2018, n° 2018-765 DC sur la loi relative à la protection des données à caractère personnel - Retourner au texte

Note (08)

Ch. Rolland, F. Sicot : « Les recommandations de bonne pratique en santé : Du savoir médical au pouvoir néo-managérial » in Gouvernement et action publique, 2012/3 p. 53. - Retourner au texte

Note (09)

Telle est le sens de la recommandation précitée du CCNE en faveur d’une « garantie humaine » dans les prises en charge thérapeutiques (avis 129, p. 102-103). - Retourner au texte

Note (10)

Si l’on veut bien se rappeler qu’un système automatisé se définit comme exempt d’intervention humaine. - Retourner au texte

Note (11)

Op. cit.p. 100 et 101 - Retourner au texte

Note (12)

Dans sa rédaction issue de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique, l’article 1er de la loi Informatique et libertés dispose que « Toute personne dispose du droit de décider et de contrôler les usages qui sont faits des données à caractère personnel la concernant, dans les conditions fixées par la présente loi ». - Retourner au texte

Note (14)

Voir par exemple « « Problèmes éthiques posés par le remplacement de l’humain par des robots. Le cas des systèmes d’armes autonomes » M. Ruffo de Calabre, Thèse de doctorat, Paris-Sorbonne, 2017 - Retourner au texte

Note (15)

« La régulation des algorithmes, entre éthique et droit », D. Forest, Lamy, Droit de l’immatériel, 31 mai 2017 - Retourner au texte

Note (16)

Op. cit. p. 104. Un robot étant ici défini comme un mécanisme automatique complexe équipé de moteurs et de capteurs reliés à un ordinateur pouvant se substituer à l'homme pour effectuer certaines opérations. Lorsque les robots ne sont pas physiquement incarnées (cas des moteurs de recherche par exemple) il est convenu de parler de « bots ». - Retourner au texte

Note (17)

Pour un exemple de cette pensée quelque peu « magique » voir D. Gazagne « Application de l’intelligence artificielle à la robotique : un cadre juridique et éthique nécessaire », Revue de la gendarmerie nationale 2017, n° 257, p. 75 et suivantes. A. Bensoussan « La personne robot » Rec. Dalloz, 2017, p. 2044 - Retourner au texte

Note (18)

Aux termes des articles 516 et 528 du code civil « tous les biens sont meubles ou immeubles » et « sont meubles par leur nature les biens qui peuvent se transporter d’un lieu à un autre » - Retourner au texte

Note (20)

En l’état du droit, le DMP ne peut être créé sans le consentement exprès de la personne (code de santé publique, art. L.1111-14. - Retourner au texte

Note (21)

« Aucun acte médical ni aucun traitement ne peut être pratiqué sans le consentement libre et éclairé de la personne et ce consentement peut être retiré à tout moment » (code de la santé publique, art. L.1111-4. - Retourner au texte

Note (23)

« Les services du numérique au service du bien-être de la personne » selon l’OMS. - Retourner au texte

Note (24)

JP. Merlet in « Les robots et la loi », rapport de l’Office parlementaire d’évaluation des choix scientifiques et technologiques, mars 2016 - Retourner au texte

Note (25)

code de santé publique, art. L.5211-1 et L.5232-4. - Retourner au texte

Thème abordé

Laisser un commentaire

Vous pouvez utiliser ces balises et attributs HTML : <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>