Des règles d’éthique pour les ordinateurs

S’agissant de reconnaître un cancer de la peau sur des photos, l’intelligence artificielle (IA) fait aussi bien, voire mieux, qu’un dermatologue. Elle vérifie les données relatives à la pression sanguine et à l’ECG et en signale les anomalies. Elle enregistre les indices de stress émotionnel apparaissant dans le cadre d’entretiens avec des personnes dépressives et aide ainsi à maîtriser les épisodes aigus.

Bien que l’IA soit déjà largement utilisée en médecine, beaucoup de gens s’en méfient, craignant par exemple qu’il appartienne à un ordinateur de faire la différence entre la vie et la mort. Une perspective certes effrayante, mais totalement dénuée de fondement.

N’ayant ni intelligence humaine, ni intuitions, ni conscience, les algorithmes auto-apprenants – car c’est d’eux qu’il s’agit en général lorque l’on parle de l’IA – ne sauraient remplacer un médecin. Ils excellent en revanche à repérer des modèles parmi des montagnes de données. Ce qu’ils font inlassablement, en augmentant sans trève leurs connaissances.

La médecine aime à recueillir des données. Ne pas les exploiter reviendrait à bouder un trésor gisant au fond de la mer. Charger de ce travail de routine une machine laisse aux médecins plus de temps pour s’occuper de leurs patients. Ce qui nécessite de leur part sollicitude, empathie et humanité, autant de propriétés que ne possède pas l’IA.

Des règles d’éthique pour les humains et les machines

L’usage des systèmes d’IA que fait la médecine s’attire toutefois des critiques fondées. Tout comme les règles d’éthique s’imposant aux médecins doivent être définies et respectées pour l’IA des règles concernant notamment la protection des données, la transparence et la responsabilité.

Premièrement, la protection des données des patients. Tout utilisateur de l’IA doit exclure la possibilité que les données qui ont été recueuillies donnent lieu à discrimination. Les tierces personnes ne doivent pas avoir accès aux données des patients.

Deuxièmement, la structure des systèmes d’IA doit être transparente. Les experts indépendants doivent être à tout moment en mesure d’établir quels sont les critères utilisés par un algorithme.

Troisièmement, les médecins répondent de la décision médicale alors même qu’une IA aurait participé à son élaboration. Pourrait également avoir à se justifier, tout fabricant dont le système présenterait de graves défauts.

L’OMS met en garde contre les abus

L’utilisation de l’IA préoccupe également l’Organisation mondiale de la santé OMS, qui énumérait dans un rapport récent les défis éthiques liés aux utilisations dont l’IA fait l’objet dans le domaine de la santé. L’OMS fait également des recommendations visant à prévenir les abus de cette technologie, qu’elle crédite d’un énorme potentiel pour ce qui est d’améliorer la santé de millions de personnes, mais dont l’abus risquerait d’être cause de ravages.

Non à un monde de science-fiction

Les spécialistes divergent quant aux changements que l’IA va apporter à la médecine. S’il est peu probable que la technologie parvienne à vaincre des maladies jusqu’ici incurables, il est certain, par contre, qu’elle va déboucher sur de grandes nouveautés, dont on a l’exemple avec la médecine personnalisée et les applications télémédicales. Si l’IA devait permettre un jour d’accomplir des tâches complexes, la société aurait à trouver réponse à des questions embarrassantes, telles que celle de l’autonomie et de la responsabilité que nous souhaitons lui donner ou celle de savoir si nous devons rendre possible tout ce qui est techniquement réalisable ? Les médecins ont conscience de cette responsabilité. On en a un exemple avec les recherches que conduit à Berne le Center for Artificial Intelligence in Medicine CAIM. Le Prof. Dr ès phil. Rouven Porz, qui dirige l’éthique médicale est formel : « Personne ne veut d’un monde de science-fiction dans lequel l’IA en viendrait un jour ou l’autre à dominer l’homme. » Les décisions médicales seront toujours prises par des être humains, à savoir, conjointement, par des médecins et leurs patientes et patients.