gms | German Medical Science

Hintergrund und Stand der Forschung: Modelle Künstlicher Intelligenz (KI) übernehmen in medizinischen Disziplinen Aufgaben, die bisher medizinischen Expert:innen vorbehalten waren, wie z.B. die Dokumentation von Wundmerkmalen, die KI-Modelle über Fotos automatisiert erkennen können. Ein Faktor, der die Nutzung beeinflusst, ist das Vertrauen in die KI-Entscheidungsprozesse. Zugleich wird jedoch – auch als Risiko für die Vertrauenswürdigkeit, deren Nachvollziehbarkeit für Nutzer:innen bemängelt, da im Gegensatz zu einfachen Prognosemodellen bei KI-Modellen nicht ersichtlich wird, wie sie ihre Entscheidungen generieren, die sog. Black Box.

Fragestellung und Zielsetzung, Hypothese: In dieser Teilauswertung des medizinsoziologischen Teilvorhabens des ZIEL-Verbundprojekts (FKZ: 16SV8616), wird der Frage nachgegangen, inwieweit medizinische Expert:innen ein KI-Modell als eine vertrauenswürdige Entscheidungsunterstützung zur Wundklassifizierung wahrnehmen und unter welchen Bedingungen sie bereit wären, dieses zu nutzen.

Methode: 12 leitfadengestützte Expert:inneninterviews (Erhebung: 11/22–2/23) wurden inhaltsanalytisch ausgewertet. Die Mehrheit der stationär tätigen Expert:innen verfügten über eine hinreichende Qualifikation (Fachärzt:innenstandard /ICW-Zertifizierung) in der Wundbehandlung. Um dem Black Box-Problem entgegenzuwirken, wurde die Arbeitsweise der KI-Wundklassifizierung für die Expert:innen mittels eines Videos dargestellt, das am Ende der Interviews gezeigt wurde.

Ergebnisse: Die Nutzung eines KI-Modells zur Wundklassifikation wurde von den Expert:innen befürwortet. Gründe sind:

1.

der KI-Wundklassifikation zugrundeliegende Lernprozess, der dem kognitiven Lernprozess menschlicher Wundklassifikation ähnelt und

2.

dass das KI-Modell in kurzer Zeit und auf Grundlage einer hohen Anzahl von Bilddaten die Wundklassifizierung vornehmen kann.

Voraussetzung hierfür ist eine hohe Datenmenge und das effektive Training des KI-Modells. Außerdem erschien die Nutzung eines KI-Modells für Leistungserbringer:innen nützlich, die über eine geringe Expertise in der Wundbehandlung verfügen. Die von den Expert:innen wahrgenommene Ähnlichkeit zwischen dem KI- und menschlichen Lernprozess sowie die auf objektiven Faktoren beruhende Wundklassifizierung, trugen dazu bei, dass das KI-Modell als vertrauenswürdig eingestuft wurde. Jedoch reduzierte die Komplexität des KI-Modells und die begrenzte Nachvollziehbarkeit des KI-Entscheidungsprozesses die Vertrauenswürdigkeit.

Diskussion: Eine anwendungsorientierte Visualisierung eines KI-Modells scheint dabei zu helfen, ein Verständnis für die Funktionsweise eines KI-Modells zu gewinnen. Daher werden in weiteren Teilprojekten mittels anwender:innengesteuerter Ergebnis- und Modellsimulationen Mechanismen der Vertrauensbildung eruiert und Maße der Vertrauenswürdigkeit erprobt.

Implikation für die Versorgung: Es ist zu erwarten, dass sich der Einsatz von KI-Modellen ausweiten wird. Daher ist es notwendig, dass Expert:innen und Patient:innen das Potenzial und die Grenzen von KI-Modellen einschätzen können. Dies gelingt, wenn durch interdisziplinäre Kooperationen die Black Box reduziert wird.

Förderung: BMBF-Strukturförderung Versorgungsforschung/Nachwuchs; 16SV8616