Open Access

Fabian Stieler, Marius Nann, Bernhard Bauer

• Die zunehmende Digitalisierung in der Medizin eröffnet durch die seit Jahren stark steigende Menge an verfügbaren Daten neue Möglichkeiten für medizinische KI-Anwendungen. So können beispielsweise Ärzt:innen bei der Diagnostik mit Clinical Decision Support Systemen unterstützt oder die Nachbeobachtung von Medizinprodukten zur Qualitätssicherung im Feld effizienter gestaltet werden. Um die Vorteile von medizinischen KI-Anwendungen optimal zu nutzen, stellen sich jedoch grundlegende Herausforderungen: So ist beispielsweise für eine sinnvolle Nutzung meist eine ausreichend große Menge annotierter, d.h. befundeter Daten notwendig, deren Annotation selbst sich insbesondere im medizinischen Bereich als sehr zeit- und kostenintensiv manifestiert. Weiter hängt die Akzeptanz und somit die Anwendung in der Breite stark von einer intuitiven Modellerklärung ab, da im medizinischen Umfeld Stakeholder:innen mit sehr unterschiedlicher Expertise aufeinandertreffen. Im Rahmen desDie zunehmende Digitalisierung in der Medizin eröffnet durch die seit Jahren stark steigende Menge an verfügbaren Daten neue Möglichkeiten für medizinische KI-Anwendungen. So können beispielsweise Ärzt:innen bei der Diagnostik mit Clinical Decision Support Systemen unterstützt oder die Nachbeobachtung von Medizinprodukten zur Qualitätssicherung im Feld effizienter gestaltet werden. Um die Vorteile von medizinischen KI-Anwendungen optimal zu nutzen, stellen sich jedoch grundlegende Herausforderungen: So ist beispielsweise für eine sinnvolle Nutzung meist eine ausreichend große Menge annotierter, d.h. befundeter Daten notwendig, deren Annotation selbst sich insbesondere im medizinischen Bereich als sehr zeit- und kostenintensiv manifestiert. Weiter hängt die Akzeptanz und somit die Anwendung in der Breite stark von einer intuitiven Modellerklärung ab, da im medizinischen Umfeld Stakeholder:innen mit sehr unterschiedlicher Expertise aufeinandertreffen. Im Rahmen des Forschungsprojekts LIFEDATA werden diese zwei Problemstellungen für den Anwendungsfall von EKG-Daten betrachtet. Ein neuartiges Open-Source-Framework soll durch Aktives Lernen den Annotationsprozess effizient gestalten. Das wissenschaftliche Konzept kombiniert dazu mehrere Ansätze, um selbstständig Datenpunkte auszuwählen, die bei der anschließenden Annotation durch medizinische Expert:innen den größten Informationsgewinn mit sich bringen. Weiter werden unterschiedliche EKG-Interpretationsalgorithmen erforscht, um eine intuitive Modellerklärung zu erreichen und somit die Akzeptanz und das Vertrauen in KI-Vorhersagemodelle zu verbessern. Welchen Beitrag kann das Framework zur Entwicklung einer vertrauenswürdiger KI leisten? Die ganzheitliche Integration von Domänenexpert:innen ermöglicht neue Ansätze bei der Entwicklung von KI-gestützten Systemen in der Medizin. Im Rahmen des Workshops wollen wir mit Ihnen verschiedene Perspektiven entlang des Entwicklungsprozesses erörtern.…