Skip to content
Metadata
  • Id: EU.AI4T.O1.M4.1.7t
  • Title: 4.1.7 Processo decisionale con l'IA in medicina e legge
  • Type: text
  • Description: Scoprite le aree al di là dell'istruzione in cui i sistemi di IA hanno già cambiato profondamente il modo in cui vengono prese le decisioni.
  • Subject: Artificial Intelligence for and by Teachers
  • Authors:
    • AI4T
  • Licence: CC BY 4.0
  • Date: 2022-11-15

processo decisionale con l'IA in medicina e giustizia

Quando si tratta di assistenza al processo decisionale, due settori hanno già una storia di utilizzo dell'IA in campo legale e medico.
Considerando l'importanza delle decisioni prese in questi campi, si tratta di esempi interessanti a cui guardare.

IA e Medicina

"L'IA è infatti al centro della medicina del futuro con operazioni assistite, monitoraggio remoto dei pazienti, protesi intelligenti o addirittura trattamenti personalizzati grazie all'incrocio dei dati (bigdata)." [deepl translation] 1

Circa 50 anni fa, è nel campo della diagnosi che è stato sviluppato uno dei più noti sistemi esperti: MYCIN.
"Si trattava di un primo sistema esperto che utilizzava l'intelligenza artificiale per identificare i batteri che causano infezioni gravi, come batteriemie e meningiti, e per raccomandare antibiotici, con un dosaggio adattato al peso corporeo del paziente" [deepl translation] 2.

Sviluppato nel 1972, MYCIN è stato in grado, 6 anni dopo, di superare i medici nello stabilire diagnosi accurate. In un test su scala reale, a MYCIN e a 9 medici, specializzandi e accademici, è stato chiesto di effettuare diagnosi e prescrizioni su 80 pazienti con meningite. Le diagnosi e le prescrizioni sono state poi valutate in cieco da 8 specialisti di meningite e ... MYCIN ha ottenuto un punteggio superiore a quello degli esperti umani.

Oggi, un importante campo di utilizzo dell'apprendimento automatico per scopi medici è l'analisi delle immagini per le diagnosi mediche3. Vediamo in poche parole come funziona, come spiega Gaël Varoquaux, ricercatore di AI Inria:

"L'apprendimento automatico è una branca dell'intelligenza artificiale (AI). In poche parole, consiste nel fornire al software migliaia di esempi in modo che impari a svolgere compiti di identificazione, ad esempio guardando le immagini per identificare cani o gatti. Macchie di bellezza o melanomi maligni. In teoria, questo dovrebbe aprire una vasta gamma di applicazioni in medicina. Ad esempio, si raccolgono le radiografie di migliaia di pazienti affetti dalla stessa patologia - la cosiddetta coorte. Quindi, utilizzando questi dati di apprendimento automatico, il computer rileverà le stesse caratteristiche visive in tutte le nuove immagini scattate durante lo screening di altri individui. Questi diventano i dati target" [deepl translation] 4.

IA e Giustizia

Nel campo della giustizia, sono stati identificati due usi principali dei sistemi di IA.

Il primo è rappresentato dagli strumenti che possono aiutare nel processo decisionale. Un sistema di IA può assistere un giudice nell'indagine di un caso, ad esempio informandolo di tutte le sentenze emesse dai tribunali competenti in casi simili. In questo caso, l'IA migliora la ricerca di informazioni, ma la decisione viene presa dal giudice da solo5.

Esistono poi strumenti in grado di prevedere le decisioni. In questo caso, l'IA propone direttamente al giudice una decisione giudiziaria6. Il software analizza un gran numero di esempi di decisioni giudiziarie e ricava "automaticamente" le regole decisionali. L'emergere della giustizia predittiva sta sollevando molte preoccupazioni.

Se "l'applicazione dell'IA nel campo della giustizia può contribuire a migliorarne l'efficienza e la qualità" [essa] "deve essere attuata in modo responsabile e nel rispetto dei diritti fondamentali" [deepl translation] 7. A livello europeo, nel 2018 è stata adottata una Carta etica sull'uso dell'intelligenza artificiale nei sistemi giudiziari e nel loro ambiente.

Organizzata attorno a 5 principi, riconosce l'importanza della non discriminazione, del rispetto dei diritti fondamentali, della non discriminazione, della qualità, della sicurezza, della trasparenza, dell'imparzialità e dell'equità.

Sottolinea infine il principio "sotto il controllo dell'utente": "prevenire un approccio prescrittivo e garantire che gli utenti siano attori informati e in controllo delle loro scelte." [deepl translation] 7

Nel diritto come nell'istruzione o nella medicina, il supporto decisionale del sistema di IA può migliorare la decisione presa. Per quanto riguarda le potenziali conseguenze di queste stesse decisioni, il mantenimento della supervisione umana è una questione importante per lo sviluppo dei sistemi di IA nei prossimi anni.

Chiunque li utilizzi deve essere in grado di mantenere un uso critico della proposizione delle decisioni prese dai sistemi di IA. Ad esempio, nell'individuazione di alcuni tipi di cancro, i sistemi sono così ben addestrati su alcune caratteristiche visive che fanno diagnosi eccellenti su queste manifestazioni, ma non sono più in grado di riconoscere le altre. C'è ancora bisogno dell'occhio di un medico per vedere ciò che è sfuggito all'IA ben addestrata.

  1. Translated from the French article Intelligence artificielle et santé: Des algorithmes au service de la médecine / Artificial intelligence and health: Algorithms in the service of medicine - Website of "Institut national de la santé et de la recherche médicale" / French National Institute of Health and Medical Research (consulted 08/23/2022). ↩

  2. Mycin, Wikipedia article (consulted 08/23/2022) ↩

  3. Varoquaux, G., Cheplygina, V. - Machine learning for medical imaging: methodological failures and recommendations for the future. npj Digit. Med. 5, 48 (2022). ↩

  4. Varoquaux, G. - Medical imaging: can artificial intelligence deliver? - Interview on Inria Website (consulted 08/23/2022) ↩

  5. In this case it refers to "Decision augmentation" or "Decision support" as mentioned in the previous section on "Decision Making with AI". ↩

  6. Here it refers to "Decision automation" as mentioned in the previous section on "Decision Making with AI". ↩

  7. From Ethical Charter on the Use of Artificial Intelligence in Judicial Systems- European Commission for the efficiency of justice Web site (consulted 08/29/2022). ↩↩