gms | German Medical Science

Einleitung: Der Einsatz von Künstlicher Intelligenz (KI) wird weitreichende Veränderungen in der zukünftigen Gesundheitsversorgung sowohl für Anwender:innen als auch für Patient:innen mit sich bringen (siehe z. B. [1]). Trotz des erwarteten Potentials von KI-Anwendungen zur Entlastung und Unterstützung von Gesundheitsfachpersonal ist das Wissen über die Grundlagen und Anwendungsmöglichkeiten bisher bei Anwender:innen und Patient:innen im Gesundheitsbereich noch nicht stark verbreitet (siehe z. B. [2]). Zugleich sind die Erkenntnisse zum Vertrauen in KI-basierte Verfahren und den damit verbundenen Prozessen der Vertrauensbildung rudimentär. Ziel des ZIEL-Projektes (gefördert vom BMBF) ist es deshalb, Kontextfaktoren zu identifizieren, die einen förderlichen resp. hemmenden Einfluss auf das Vertrauen und die Akzeptanz in KI-basierte Anwendungen in der Gesundheitsversorgung haben. Die Fragestellung dieses Beitrages ist: Welche Merkmale kennzeichnen und erhöhen das Vertrauen in KI-basierte Anwendungen?

Methodik: Eine systematische Literaturrecherche wurde zunächst in der Datenbank PubMed durchgeführt (Stand: 15.04.2021); weitere Datenbanken werden ergänzt. Suchbegriffe waren „acceptance“ oder „trust“ und „artificial intelligence“ festgelegt auf die Titel- und Abstractebene. Weitere Einschlusskriterien waren: Englische oder deutsche Sprache und Veröffentlichung in den letzten fünf Jahren. Die Auswahl der Studien erfolgte entsprechend des PRISMA-Statements [3] durch zwei Reviewer:innen zunächst auf Titel- und Abstract- und dann auf Volltextebene (siehe Abbildung 1 [Abb. 1]).

Unstimmigkeiten über Ein- oder Ausschluss wurden im Konsens gelöst. Von den insgesamt 211 Publikationen wurden 69 Publikationen eingeschlossen, deren Ergebnisse in einer Datenextraktionstabelle aufbereitet und in Anlehnung an die zusammenfassende Inhaltsanalyse von Mayring vertiefend für die Konstrukte Vertrauen und Akzeptanz ausgewertet wurden.

Ergebnisse: Die Ergebnisse zeigen, dass in den Studien zahlreiche Faktoren benannt wurden, die Vertrauen fördern und auch hemmen können. Insgesamt ließen sich 13 Hauptkategorien identifizieren. Im Vordergrund stand dabei, die Nachvollziehbarkeit von KI-Anwendungen zu erhöhen, z. B. durch die Reduzierung der „Black Box“. Auch die Berücksichtigung von ethischen und sicherheitsrelevanten Aspekten sowie die Kompetenzentwicklung der Fachkräfte im Umgang mit KI-Anwendungen tragen zu einer Stärkung des Vertrauens bei. Kritisch wirken sich auf das Vertrauen demzufolge u. a. eine unzureichende Transparenz, Unsicherheiten im Umgang mit den Daten sowie mögliche Fehlschlüsse der KI-Verfahren (z. B. Bias) aus.

Diskussion: Insbesondere die Durchdringung der „Black Box“ bei KI-basierten Verfahren sowie Themen zur Erklärbarkeit und Interpretierbarkeit von KI-Verfahren scheinen eine große Relevanz zur Förderung des Vertrauens bei Anwender:innen im Gesundheitswesen zu haben. Des Weiteren wurden Kontextfaktoren identifiziert, die sich z. B. auf die Interaktion zwischen Behandler:innen und Patient:innen und auf organisationale Merkmale beziehen.

Somit ist eine interdisziplinär ausgerichtete Forschung zum Einsatz von KI-Anwendungen dringend geboten, um den Einsatz im Gesundheitswesen umfassend einschätzen zu können. Diese Erkenntnisse können zum Aufbau eines umfassenden theoretischen Verständnisses sowohl übergreifend als auch bezogen auf spezifische Anwendungsfelder führen und damit wesentliche Grundpfeiler für die Implementierung von KI-Anwendungen darstellen.

Schlussfolgerung: Bei der Entwicklung und Konzeption von KI-basierten Anwendungen in der Gesundheitsversorgung sollte eine medizinsoziologische Auseinandersetzung zur Vertrauens- und Akzeptanzbildung aus der Perspektive unterschiedlicher Nutzer:innen systematisch Berücksichtigung finden.

Förderung: Das Projekt wird gefördert durch das Bundesministerium für Bildung und Forschung (BMBF) (Förderkennzeichen: 16SV8616).

Die Autoren geben an, dass kein Interessenkonflikt besteht.

Die Autoren geben an, dass kein Ethikvotum erforderlich ist.