Intelligence artificielle et robotisation

La robotisation et l’Intelligence Artificielle transforment la médecine actuelle, facilitant ou réalisant de plus en plus des tâches jusque-là dévolues aux seuls médecins et aux autres personnels soignants. Le développement des technologies va accentuer ce phénomène, ce qui n’est pas sans conséquences pour les patients, pour le personnel médical et l'organisation des systèmes de santé.


Définitions

 

Créé en 1956 par l’Américain John McCarthy, le terme “intelligence artificielle” est depuis  passé dans le langage courant. Marvin Minsky, un autre pionnier de l’intelligence artificielle, définit l’IA comme “la construction de programmes informatiques qui s’adonnent à des tâches qui sont, pour l’instant, accomplies de façon plus satisfaisante par des êtres humains car elles demandent des processus mentaux de haut niveau tels que : l’apprentissage perceptuel, l’organisation de la mémoire et le raisonnement critique.” En clair, il s’agit d’un système d’apprentissage destiné aux machines, plus ou moins avancé en fonction des techniques (réseau neuronal, machine learning, deep learning…), qui va lui permettre d’effectuer des tâches de plus en plus complexes habituellement réalisées par des humains.

Le robot a une dimension mécanique et électronique qui lui permet d’agir directement sur la réalité physique et sensible, donc d’interagir avec l’humain et son environnement. Ses capacités sont décuplées par l’IA, qu’il pourra désormais embarquer. 

 

Etat des lieux

 

Dans le domaine de la santé, on constate déjà les apports de l’intelligence artificielle et des robots. Ceux-ci participent ainsi de plus en plus aux opérations chirurgicales, permettant d’atteindre des degrés de précision sans précédent, en particulier dans le domaine de la neurochirurgie et de l'urologie. Dans le domaine de l’imagerie médicale, des programmes permettent de détecter des anomalies sur des radiographies. 

 

Répartition des interventions chirurgicales réalisées par le robot Da Vinci entre 2011 et 2014

 

Le recours à l’intelligence artificielle est particulièrement bénéfique au niveau du diagnostic : bénéficiant des données de santé et de capacités de calcul démultipliées, pouvant travailler sans relâche, la machine est capable d’opérations de calcul extrêmement plus complexes que l’être humain et sa mémoire est quasiment infinie. Ses capacités lui permettent d’accumuler un nombre de schémas d’interprétation médicale incomparable à ce dont est capable un médecin ou un chercheur. Résultat : le diagnostic est plus rapide, plus précis, permettant une prise en charge plus adaptée.

Et les champs d’application sont vastes. Une équipe américaine a ainsi  rendu un algorithme aussi performant qu’un dermatologue expérimenté pour reconnaître des maladies de peau, et distinguer tumeurs bénignes et cancers (1). Certaines sociétés françaises ou américaines proposent également des IA capables de déceler une rétinopathie diabétique ou encore des tumeurs de la prostate; d’autres espèrent prédire l’efficacité d’un traitement anticancer en fonction des données du patient, ouvrant un peu plus la voie à des traitements ciblés.

Ces progrès techniques concernent aussi directement médecins et personnel médical, qui pourraient voir leur rôle et leur formation profondément modifiés. Car si une machine est capable de poser un diagnostic précis ou de choisir le traitement le plus adapté plus rapidement et plus efficacement que des médecins, quel sera le rôle de ces derniers dans les années à venir ? On pourrait observer à l’avenir une nouvelle tendance : le développement de la robotisation entraînerait certes une diminution des tâches humaines dans la chaîne des soins, mais au profit du développement par le personnel soignant de compétences humaines et relationnelles. D’autant que l’expertise humaine reste indispensable, notamment pour tout ce qui concerne la prise de décision et la gestion des traitements.

 

Médecin ou machine, qui est responsable ?

Les effets de la diffusion de l’intelligence artificielle et des robots au sein du système sanitaire et médico-social sont aujourd’hui peu traités sur le plan juridique. La Haute Autorité de Santé prévoit toutefois un encadrement juridique des logiciels utilisés pour l’aide à la prescription, voire à la décision médicale.

Une des questions juridiques au cœur du développement de l’intelligence artificielle est celle de la responsabilité, notamment en cas de dysfonctionnements : est-ce le médecin qui l’utilise qui est responsable, le concepteur de l’IA ou… personne ? En effet, avec la capacité d’auto-apprentissage des machines, le principe de défectuosité des produits n’est plus pleinement applicable juridiquement, la machine modifiant d’elle-même sa programmation initiale. La question de l’évaluation et de la fiabilité de ces logiciels est donc cruciale.

Dans cette perspective, un certain nombre de questions de sécurité, de respect de la vie privée (en lien avec les notions de données de santé) et de protection de la dignité humaine sont en jeu.

Un enjeu de société

Au niveau politique, se pose la question de la démocratisation et de l’acceptabilité de ces technologies par les population, alors que cette médecine partiellement automatisée, couplée à des systèmes de communication à distance, pourrait répondre en partie au manque de médecins dans les déserts médicaux.

Les rapports de l’homme à la machine, leur complémentarité professionnelle (avec les soignants) et leurs interactions relationnelles (avec les patients), sont également à interroger. Substituer l’Homme par la machine – à l’instar des « robots sociaux » utilisés dans les maisons de retraite au Japon – bouleverse ainsi les relations entre humains.

Enfin, la dimension économique : si le développement de l’intelligence artificielle est susceptible de générer des gains considérables pour l’économie mondiale (jusqu’à 15.700 milliards de dollars en 2030 d’après le cabinet PwC (2)), d’autres problématiques émergent, notamment en termes d’emplois : des professionnels seront-ils demain remplacés par des machines ?

 
 

Exemples de questions à débattre
 

- Face au développement de l’aide à la décision apportée par l’intelligence artificielle, faut-il et, si oui comment, rendre indispensable et responsable l’expertise humaine ?

- Pour développer l'intelligence artificielle, faut-il davantage intégrer l'expertise du monde des startups privées ?

- Face à la modification du rôle du médecin et du personnel soignant, et leur contact croissant avec les machines et les IA, faut-il revoir la formation des professionnels de santé ?

- Quelles en sont les implications en termes de sûreté et de sécurité ?
L’apparition d’intelligences artificielles apprenantes peut conduire à analyser différemment les responsabilités des professionnels humains. Par exemple, entre deux interprétations d’une même image médicale, la “présomption de perfection” ne portera plus sur le professionnel de santé, mais sur le robot ou la machine, le médecin se trouvant dans l’approximation du diagnostic. 

- Dans le cas d’un examen invasif ou d’une intervention chirurgicale, à qui devrait-on donner son consentement éclairé : le robot qui réalise l’acte ou à l’humain qui le supervise ? Qui dès lors est juridiquement responsable ? 

Jusqu’où les robots doivent-ils modifier, voire remplacer le travail humain, la présence humaine ? Voulons-nous que les robots (sociaux) fournissent des soins pour les personnes âgées ou dans la prise en charge de certaines pathologies ? Quelles complémentarités entre l’homme et la machine dans un système de santé ? 


Notes 

(1) Revue Nature du 2 février 2017

(2) https://www.pwc.fr/fr/espace-presse/communiques-de-presse/2017/juillet/intelligence-artificielle-un-potentiel-de-15700-milliards-de-dollars.html

 


Pour aller plus loin
Quelques exemples de documents à consulter

Cette documentation sera complétée et mise à jour tout au long des Etats généraux de la bioéthique

 
Nom du document Auteur Date de Publication Nature Accès
Éthique de la recherche en robotique CERNA (Commission de réflexion sur l'Éthique de la Recherche en sciences et technologies du Numérique d'Allistene) 2014 Rapport Accès libre
Rapport de la COMEST sur l'éthique de la robotique Commission mondiale d'éthique des connaissances scientifique et des technologies (COMEST) 2014 Rapport Accès libre
Intelligence Artificielle. Les défis actuels et l'action d'Inria Inria 2016 Livre blanc Accès libre
Autonomie des robots : enjeux techniques et perspectives Catherine Tessier (ONERA-DCSD) Juin 2015 Article de revue Accès libre
Intelligence artificielle et robotique. "Confluences de l'Homme et des STIC".  Agence Nationale de la Recherche (ANR) Mars 2012 Cahiers Accès libre
Comment permettre à l'homme de garder la main ? Les enjeux éthiques des algorithmes et de l'intelligence artificielle Commission Nationale Informatique et Libertés (CNIL) Décembre 2017 Rapport Accès libre
Concertation citoyenne sur les enjeux éthiques liés à la place des algorithmes dans notre vie quotidienne (synthèse de la journée) Commission Nationale Informatique et Libertés (CNIL) Octobre 2014 Compte rendu Accès libre
Pour une intelligence artificielle maîtrisée, utile et démystifiée Office Parlementaire d'Evaluation des Choix Scientifiques et Technologiques Mars 2017 Synthèse Accès libre
Pour une intelligence artificielle maîtrisée, utile et démystifiée, tome 1 Office Parlementaire d'Evaluation des Choix Scientifiques et Technologiques Mars 2017 Rapport  Accès libre
Pour une intelligence artificielle maîtrisée, utile et démystifiée, tome 2  Office Parlementaire d'Evaluation des Choix Scientifiques et Technologiques Mars 2017 Rapport Accès libre
Anticiper les impacts économiques et sociaux de l'intelligence artificielle Conseil National du Numérique, France Stratégie Mars 2017 Rapport Accès libre
La santé à l'heure de l'intelligence artificielle Terra Nova Décembre 2017 Synthèse Accès libre

 


 

Accéder à la consultation ›