Vertrauenswürdige KI in der Medizin - von effizienter Datenannotation bis intuitiver Modellerklärung

  • Die zunehmende Digitalisierung in der Medizin eröffnet durch die seit Jahren stark steigende Menge an verfügbaren Daten neue Möglichkeiten für medizinische KI-Anwendungen. So können beispielsweise Ärzt:innen bei der Diagnostik mit Clinical Decision Support Systemen unterstützt oder die Nachbeobachtung von Medizinprodukten zur Qualitätssicherung im Feld effizienter gestaltet werden. Um die Vorteile von medizinischen KI-Anwendungen optimal zu nutzen, stellen sich jedoch grundlegende Herausforderungen: So ist beispielsweise für eine sinnvolle Nutzung meist eine ausreichend große Menge annotierter, d.h. befundeter Daten notwendig, deren Annotation selbst sich insbesondere im medizinischen Bereich als sehr zeit- und kostenintensiv manifestiert. Weiter hängt die Akzeptanz und somit die Anwendung in der Breite stark von einer intuitiven Modellerklärung ab, da im medizinischen Umfeld Stakeholder:innen mit sehr unterschiedlicher Expertise aufeinandertreffen. Im Rahmen desDie zunehmende Digitalisierung in der Medizin eröffnet durch die seit Jahren stark steigende Menge an verfügbaren Daten neue Möglichkeiten für medizinische KI-Anwendungen. So können beispielsweise Ärzt:innen bei der Diagnostik mit Clinical Decision Support Systemen unterstützt oder die Nachbeobachtung von Medizinprodukten zur Qualitätssicherung im Feld effizienter gestaltet werden. Um die Vorteile von medizinischen KI-Anwendungen optimal zu nutzen, stellen sich jedoch grundlegende Herausforderungen: So ist beispielsweise für eine sinnvolle Nutzung meist eine ausreichend große Menge annotierter, d.h. befundeter Daten notwendig, deren Annotation selbst sich insbesondere im medizinischen Bereich als sehr zeit- und kostenintensiv manifestiert. Weiter hängt die Akzeptanz und somit die Anwendung in der Breite stark von einer intuitiven Modellerklärung ab, da im medizinischen Umfeld Stakeholder:innen mit sehr unterschiedlicher Expertise aufeinandertreffen. Im Rahmen des Forschungsprojekts LIFEDATA werden diese zwei Problemstellungen für den Anwendungsfall von EKG-Daten betrachtet. Ein neuartiges Open-Source-Framework soll durch Aktives Lernen den Annotationsprozess effizient gestalten. Das wissenschaftliche Konzept kombiniert dazu mehrere Ansätze, um selbstständig Datenpunkte auszuwählen, die bei der anschließenden Annotation durch medizinische Expert:innen den größten Informationsgewinn mit sich bringen. Weiter werden unterschiedliche EKG-Interpretationsalgorithmen erforscht, um eine intuitive Modellerklärung zu erreichen und somit die Akzeptanz und das Vertrauen in KI-Vorhersagemodelle zu verbessern. Welchen Beitrag kann das Framework zur Entwicklung einer vertrauenswürdiger KI leisten? Die ganzheitliche Integration von Domänenexpert:innen ermöglicht neue Ansätze bei der Entwicklung von KI-gestützten Systemen in der Medizin. Im Rahmen des Workshops wollen wir mit Ihnen verschiedene Perspektiven entlang des Entwicklungsprozesses erörtern.show moreshow less

Export metadata

Statistics

Number of document requests

Additional Services

Share in Twitter Search Google Scholar
Metadaten
Author:Fabian StielerGND, Marius NannGND, Bernhard BauerORCiDGND
Frontdoor URLhttps://opus.bibliothek.uni-augsburg.de/opus4/98508
Parent Title (German):KI-Fabrigk @WIKOIN22, Ingolstadt, 30. Juni 2022
Type:Conference Proceeding
Language:German
Year of first Publication:2022
Release Date:2022/10/07
Institutes:Fakultät für Angewandte Informatik
Fakultät für Angewandte Informatik / Institut für Informatik
Fakultät für Angewandte Informatik / Institut für Software & Systems Engineering
Fakultät für Angewandte Informatik / Institut für Informatik / Lehrstuhl für Softwaretechnik
Fakultät für Angewandte Informatik / Institut für Informatik / Lehrstuhl für Softwaretechnik / Professur Softwaremethodik für verteilte Systeme
Dewey Decimal Classification:0 Informatik, Informationswissenschaft, allgemeine Werke / 00 Informatik, Wissen, Systeme / 004 Datenverarbeitung; Informatik