gms | German Medical Science

22. Deutscher Kongress für Versorgungsforschung

Deutsches Netzwerk Versorgungsforschung e. V.

04.10. - 06.10.2023, Berlin

Die Bedeutung von Vertrauen für die Implementierung von KI-gestützten Modellen als Entscheidungsunterstützung für die Wundklassifikation

Meeting Abstract

  • Niels Hannemann - Universität Osnabrück, Institut für Gesundheitsforschung und Bildung, Abteilung New Public Health, Osnabrück, Deutschland
  • Jan-Oliver Kutza - Universität Osnabrück, Institut für Gesundheitsforschung und Bildung, Abteilung New Public Health, Osnabrück, Deutschland
  • Jens Hüserns - Hochschule Osnabrück, Forschungsgruppe Informatik im Gesundheitswesen, Osnabrück, Deutschland
  • Ursula Hübner - Hochschule Osnabrück, Forschungsgruppe Informatik im Gesundheitswesen, Osnabrück, Deutschland
  • Birgit Babitsch - Universität Osnabrück, Institut für Gesundheitsforschung und Bildung, Abteilung New Public Health, Osnabrück, Deutschland

22. Deutscher Kongress für Versorgungsforschung (DKVF). Berlin, 04.-06.10.2023. Düsseldorf: German Medical Science GMS Publishing House; 2023. Doc23dkvf564

doi: 10.3205/23dkvf564, urn:nbn:de:0183-23dkvf5642

Veröffentlicht: 2. Oktober 2023

© 2023 Hannemann et al.
Dieser Artikel ist ein Open-Access-Artikel und steht unter den Lizenzbedingungen der Creative Commons Attribution 4.0 License (Namensnennung). Lizenz-Angaben siehe http://creativecommons.org/licenses/by/4.0/.


Gliederung

Text

Hintergrund und Stand der Forschung: Modelle Künstlicher Intelligenz (KI) übernehmen in medizinischen Disziplinen Aufgaben, die bisher medizinischen Expert:innen vorbehalten waren, wie z.B. die Dokumentation von Wundmerkmalen, die KI-Modelle über Fotos automatisiert erkennen können. Ein Faktor, der die Nutzung beeinflusst, ist das Vertrauen in die KI-Entscheidungsprozesse. Zugleich wird jedoch – auch als Risiko für die Vertrauenswürdigkeit, deren Nachvollziehbarkeit für Nutzer:innen bemängelt, da im Gegensatz zu einfachen Prognosemodellen bei KI-Modellen nicht ersichtlich wird, wie sie ihre Entscheidungen generieren, die sog. Black Box.

Fragestellung und Zielsetzung, Hypothese: In dieser Teilauswertung des medizinsoziologischen Teilvorhabens des ZIEL-Verbundprojekts (FKZ: 16SV8616), wird der Frage nachgegangen, inwieweit medizinische Expert:innen ein KI-Modell als eine vertrauenswürdige Entscheidungsunterstützung zur Wundklassifizierung wahrnehmen und unter welchen Bedingungen sie bereit wären, dieses zu nutzen.

Methode: 12 leitfadengestützte Expert:inneninterviews (Erhebung: 11/22–2/23) wurden inhaltsanalytisch ausgewertet. Die Mehrheit der stationär tätigen Expert:innen verfügten über eine hinreichende Qualifikation (Fachärzt:innenstandard /ICW-Zertifizierung) in der Wundbehandlung. Um dem Black Box-Problem entgegenzuwirken, wurde die Arbeitsweise der KI-Wundklassifizierung für die Expert:innen mittels eines Videos dargestellt, das am Ende der Interviews gezeigt wurde.

Ergebnisse: Die Nutzung eines KI-Modells zur Wundklassifikation wurde von den Expert:innen befürwortet. Gründe sind:

1.
der KI-Wundklassifikation zugrundeliegende Lernprozess, der dem kognitiven Lernprozess menschlicher Wundklassifikation ähnelt und
2.
dass das KI-Modell in kurzer Zeit und auf Grundlage einer hohen Anzahl von Bilddaten die Wundklassifizierung vornehmen kann.

Voraussetzung hierfür ist eine hohe Datenmenge und das effektive Training des KI-Modells. Außerdem erschien die Nutzung eines KI-Modells für Leistungserbringer:innen nützlich, die über eine geringe Expertise in der Wundbehandlung verfügen. Die von den Expert:innen wahrgenommene Ähnlichkeit zwischen dem KI- und menschlichen Lernprozess sowie die auf objektiven Faktoren beruhende Wundklassifizierung, trugen dazu bei, dass das KI-Modell als vertrauenswürdig eingestuft wurde. Jedoch reduzierte die Komplexität des KI-Modells und die begrenzte Nachvollziehbarkeit des KI-Entscheidungsprozesses die Vertrauenswürdigkeit.

Diskussion: Eine anwendungsorientierte Visualisierung eines KI-Modells scheint dabei zu helfen, ein Verständnis für die Funktionsweise eines KI-Modells zu gewinnen. Daher werden in weiteren Teilprojekten mittels anwender:innengesteuerter Ergebnis- und Modellsimulationen Mechanismen der Vertrauensbildung eruiert und Maße der Vertrauenswürdigkeit erprobt.

Implikation für die Versorgung: Es ist zu erwarten, dass sich der Einsatz von KI-Modellen ausweiten wird. Daher ist es notwendig, dass Expert:innen und Patient:innen das Potenzial und die Grenzen von KI-Modellen einschätzen können. Dies gelingt, wenn durch interdisziplinäre Kooperationen die Black Box reduziert wird.

Förderung: BMBF-Strukturförderung Versorgungsforschung/Nachwuchs; 16SV8616