Skip to content
Metadata
  • Id: EU.AI4T.O1.M4.1.7t
  • Title: 4.1.7 Entscheidungsfindung mit KI in Medizin und Recht
  • Type: text
  • Description: Entdecken Sie Bereiche jenseits der Bildung, in denen KI-Systeme die Art und Weise, wie Entscheidungen getroffen werden, bereits tiefgreifend verändert haben.
  • Subject: Artificial Intelligence for and by Teachers
  • Authors:
    • AI4T
  • Licence: CC BY 4.0
  • Date: 2022-11-15

Entscheidungsfindung mit KI in Medizin und Justiz

Wenn es um die Unterstützung bei der Entscheidungsfindung geht, gibt es zwei Bereiche, in denen KI bereits seit langem eingesetzt wird: Recht und Medizin.
In Anbetracht der Bedeutung der in diesen Bereichen getroffenen Entscheidungen sind sie interessante Beispiele, die man sich ansehen sollte.

KI und Medizin

"KI steht in der Tat im Mittelpunkt der Medizin der Zukunft mit assistierten Operationen, Fernüberwachung von Patienten, intelligenten Prothesen oder sogar personalisierten Behandlungen dank der Vernetzung von Daten (Bigdata)." [deepl translation] 1

Vor etwa 50 Jahren wurde im Bereich der Diagnose eines der bekanntesten Expertensysteme entwickelt: MYCIN.
"Es war ein frühes Expertensystem, das künstliche Intelligenz nutzte, um Bakterien zu identifizieren, die schwere Infektionen wie Bakteriämie und Meningitis verursachten, und um Antibiotika zu empfehlen, wobei die Dosierung an das Körpergewicht des Patienten angepasst wurde" [deepl translation] 2.

MYCIN wurde 1972 entwickelt und war 6 Jahre später in der Lage, die Ärzte bei der Erstellung genauer Diagnosen zu übertreffen. In einem groß angelegten Test wurden MYCIN und 9 Ärzte, Praktikanten und Akademiker, gebeten, bei 80 Patienten mit Meningitis Diagnosen zu stellen und Rezepte auszustellen. Die Diagnosen und Verordnungen wurden dann von 8 Meningitis-Spezialisten und ... MYCIN schnitt besser ab als die menschlichen Experten.

Ein wichtiger Bereich des maschinellen Lernens für medizinische Zwecke ist heute die Bildanalyse für medizinische Diagnosen3. Lassen Sie uns in wenigen Worten sehen, wie es funktioniert, wie Gaël Varoquaux, AI Inria-Forscher, erklärt:

"Maschinelles Lernen ist ein Teilgebiet der Künstlichen Intelligenz (KI). Kurz gesagt geht es darum, eine Software mit Tausenden von Beispielen zu füttern, damit sie lernt, Erkennungsaufgaben auszuführen, z. B. Bilder durchzusehen, um Hunde oder Katzen zu identifizieren. Schönheitsflecken oder bösartige Melanome. Theoretisch sollte dies eine breite Palette von Anwendungen in der Medizin eröffnen. So werden beispielsweise Röntgenbilder von Tausenden von Patienten gesammelt, die an der gleichen Krankheit leiden - eine so genannte Kohorte. Anhand dieser Daten aus dem maschinellen Lernen kann der Computer dann dieselben visuellen Merkmale in allen neuen Bildern erkennen, die während des Screenings für andere Personen aufgenommen werden. Dies werden die Zieldaten." [deepl translation] 4

KI und Justiz

Im Bereich der Justiz gibt es zwei Hauptanwendungsbereiche für KI-Systeme.

Zum einen sind es Werkzeuge, die bei der Entscheidungsfindung helfen können. Ein KI-System kann einen Richter bei der Untersuchung eines Falles unterstützen, indem es ihn beispielsweise über alle Urteile informiert, die von einschlägigen Gerichten in ähnlichen Fällen gefällt wurden. In diesem Fall verbessert die KI die Informationssuche, aber die Entscheidung trifft der Richter selbst5.

Dann gibt es Werkzeuge, die Entscheidungen vorhersagen können. In diesem Fall schlägt die KI dem Richter direkt eine Gerichtsentscheidung vor6. Die Software analysiert eine große Anzahl von Beispielen für Gerichtsentscheidungen und leitet daraus "automatisch" Entscheidungsregeln ab. Das Aufkommen der prädiktiven Justiz wirft viele Fragen auf.

Wenn "die Anwendung von KI im Bereich der Justiz zur Verbesserung der Effizienz und Qualität" beitragen kann, [muss sie] "auf eine verantwortungsvolle Weise umgesetzt werden, die mit den Grundrechten übereinstimmt" [deepl translation] 7. Auf europäischer Ebene wurde 2018 eine Ethik-Charta für den Einsatz künstlicher Intelligenz in Justizsystemen und deren Umfeld verabschiedet.

Sie basiert auf fünf Grundsätzen und erkennt die Bedeutung von Nichtdiskriminierung, Achtung der Grundrechte, Nichtdiskriminierung, Qualität, Sicherheit, Transparenz, Unparteilichkeit und Fairness an.

Schließlich wird der Grundsatz "unter der Kontrolle der Nutzer" hervorgehoben: "Ausschluss eines präskriptiven Ansatzes und Gewährleistung, dass die Nutzer informierte Akteure sind und die Kontrolle über ihre Entscheidungen haben." [deepl translation] 7

Im Recht wie in der Bildung oder der Medizin kann die Entscheidungsunterstützung durch das KI-System die getroffene Entscheidung verbessern. Im Hinblick auf die möglichen Folgen dieser Entscheidungen ist die Beibehaltung der menschlichen Kontrolle ein wichtiges Thema für die Entwicklung von KI-Systemen in den kommenden Jahren.

Jeder Nutzer dieser Systeme muss in der Lage sein, die von den KI-Systemen getroffenen Entscheidungen kritisch zu beurteilen. Bei der Erkennung bestimmter Krebsarten zum Beispiel sind die Systeme so gut auf bestimmte visuelle Merkmale trainiert, dass sie bei diesen Erscheinungsformen eine hervorragende Diagnose stellen, aber nicht mehr in der Lage sind, die anderen zu erkennen. Es braucht immer noch das Auge des Arztes, um zu sehen, was die gut trainierte KI übersehen hat.

  1. Übersetzt aus dem französischen Artikel Intelligence artificielle et santé: Des algorithmes au service de la médecine / Künstliche Intelligenz und Gesundheit: Algorithmen im Dienste der Medizin - Website des "Institut national de la santé et de la recherche médicale" / Französisches Nationales Institut für Gesundheit und medizinische Forschung (abgerufen am 23.08.2022). ↩

  2. Mycin, Wikipedia-Artikel (abgerufen am 23.08.2022) ↩

  3. Varoquaux, G., Cheplygina, V. - Machine learning for medical imaging: methodological failures and recommendations for the future. npj Digit. Med. 5, 48 (2022). ↩

  4. Varoquaux, G. - Medical imaging: can artificial intelligence deliver? - Interview auf der Inria Website (eingesehen am 23.08.2022) ↩

  5. In diesem Fall handelt es sich um "Entscheidungserweiterung" oder "Entscheidungsunterstützung", wie im vorherigen Abschnitt über "Entscheidungsfindung mit KI" erwähnt. ↩

  6. Hier geht es um "Entscheidungsautomatisierung", wie im vorangegangenen Abschnitt über "Entscheidungsfindung mit KI" erwähnt. ↩

  7. Aus [Ethical Charter on the Use of Artificial Intelligence in Judicial Systems] (https://www.coe.int/en/web/cepej/cepej-european-ethical-charter-on-the-use-of-artificial-intelligence-ai-in-judicial-systems-and-their-environment)- Website der Europäischen Kommission für die Wirksamkeit der Justiz (abgerufen am 29.08.2022). ↩↩