Prise de décision avec l'IA dans les domaines de la médecine et de la justice¶

Lorsqu'il s'agit d'aide à la prise de décision, deux domaines ont déjà une histoire avec l'utilisation de l'IA : la médecine et le droit.
Compte tenu de l'importance des décisions prises dans ces domaines, ce sont des exemples intéressants à étudier.

IA et médecine¶

"L’IA est en effet au cœur de la médecine du futur avec les opérations assistées, le suivi des patients à distance, les prothèses intelligentes, ou encore les traitements personnalisés grâce au recoupement de données (big data)."¹

Il y a une cinquantaine d'années, c'est dans le domaine du diagnostic qu'a été développé l'un des systèmes experts les plus connus : MYCIN.
"C'était un des premiers systèmes experts qui utilisait l'intelligence artificielle pour identifier les bactéries responsables d'infections graves, telles que la bactériémie et la méningite, et pour recommander des antibiotiques, dont la dose était ajustée en fonction du poids corporel du patient" ².

Développé à partir de 1972, MYCIN a été capable, 6 ans plus tard, de surpasser les médecins dans l'établissement de diagnostics précis. Dans un test grandeur nature, il est demandé à MYCIN et à 9 médecins, internes et universitaires, de réaliser des diagnostics et d'exécuter des prescriptions sur 80 patients atteints de méningite. Les diagnostics et les prescriptions ont ensuite été évalués en aveugle par 8 spécialistes de la méningite et .... MYCIN a obtenu un meilleur score que les experts humains.

Aujourd'hui, un domaine important de l'utilisation de l'apprentissage automatique à des fins médicales est l'analyse d'images pour les diagnostics médicaux ³. En quelques mots, voyons comment cela fonctionne, comme l'explique Gaël Varoquaux, chercheur Inria en IA :

"Le machine learning est l'une des branches de l'intelligence artificielle (IA). On le traduit en français par apprentissage automatique. En résumant à l'extrême, la technique consiste à nourrir le logiciel de milliers d'exemples pour qu'il apprenne à effectuer des tâches de classement. Par exemple, dans des images, savoir trouver des chiens ou des chats. Des grains de beauté ou des mélanomes malins. En théorie, cela ouvre un boulevard d'applications pour la médecine. On collecte par exemple les radiographies de milliers de patients souffrant de la même maladie dans ce qu'on appelle une cohorte. Puis, grâce à ces données d'apprentissage, l'ordinateur va ensuite détecter les mêmes caractéristiques visuelles dans de nouvelles images prises lors de dépistage chez d'autres personnes. Ce sont alors les données cibles."⁴

IA et justice¶

Dans le domaine de la justice, deux utilisations principales des systèmes d'IA sont identifiées.

Il s'agit tout d'abord des outils d'aide à la décision. Un système d'IA peut aider un juge dans l'instruction d'une affaire, par exemple en l'informant de tous les jugements rendus par les tribunaux compétents dans des affaires similaires. Dans ce cas, l'IA améliore la recherche d'informations mais la décision est prise par le juge seul⁵.

Il existe ensuite des outils capables de prédire les décisions. Dans ce cas, l'IA propose directement au juge une décision de justice⁶. Le logiciel analyse un grand nombre d'exemples de décisions de justice et en déduit "automatiquement" des règles de décision. L'émergence de la justice prédictive suscite de nombreuses inquiétudes.

Si "l'application de l'IA dans le domaine de la justice peut contribuer à en améliorer l'efficacité et la qualité" [elle] "doit être mise en œuvre d'une manière responsable et conforme aux droits fondamentaux"⁷. Au niveau européen, une Charte éthique sur l'utilisation de l'intelligence artificielle dans les systèmes judiciaires et leur environnement a été adoptée en 2018.

Organisée autour de 5 principes, elle reconnaît l'importance de la non-discrimination, du respect des droits fondamentaux, de la qualité, de la sécurité, de la transparence, de l'impartialité et de l'équité.

Elle souligne enfin le principe "sous le contrôle de l'utilisateur" : "en excluant une approche prescriptive et en veillant à ce que les utilisateurs soient des acteurs informés et maîtres de leurs choix" ⁷.

En droit comme en éducation ou en médecine, l'aide à la décision fournie par le système d'IA peut améliorer la décision prise. Au regard des conséquences potentielles de ces mêmes décisions, le maintien d'un contrôle humain est un enjeu important pour le développement des systèmes d'IA dans les années à venir.

Tout utilisateur de ceux-ci doit être capable de garder un usage critique de la proposition de décision faite par les systèmes d'IA. Par exemple, dans la détection de certains cancers, les systèmes sont si bien entraînés sur certaines caractéristiques visuelles qu'ils font d'excellents diagnostics sur ces manifestations mais ne sont plus capables de reconnaître les autres. Il faut toujours l'œil d'un médecin pour voir ce qui a échappé à l'IA bien entraînée.

Extrait de l'article français [Intelligence artificielle et santé : Des algorithmes au service de la médecine] (https://www.inserm.fr/dossier/intelligence-artificielle-et-sante/) - Site de l'Institut national de la santé et de la recherche médicale (consulté le 23/08/2022). ↩
Mycin, article anglais de Wikipédia (consulté le 23/08/2022) ↩
Varoquaux, G., Cheplygina, V. - Article en anglais "Machine learning for medical imaging: methodological failures and recommendations for the future". npj Digit. Med. 5, 48 (2022). ↩
Varoquaux, G. - Imagerie médicale : l'intelligence artificielle peut-elle tenir ses promesses ? - Interview sur le site d'Inria (consulté le 23/08/2022). ↩
Dans ce cas, il s'agit de "l'augmentation de la décision" ou de "l'aide à la décision" comme mentionné dans la section précédente sur "la prise de décision avec l'IA". ↩
Dans ce cas, il s'agit de l'"automatisation de la décision", comme mentionné dans la section précédente sur la "prise de décision avec l'IA". ↩
Extrait de la Charte éthique européenne d’utilisation de l’intelligence artificielle dans les systèmes judiciaires- Site de la Commission européenne pour l'efficacité de la justice (consulté le 29/08/2022). ↩↩