gms | German Medical Science

64. Jahrestagung der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie e. V. (GMDS)

Deutsche Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie

08. - 11.09.2019, Dortmund

Rückverfolgbarkeit für künstliche Intelligenz: Umsetzung einer Traceability-Strategie bei der modellgetriebenen Entwicklung klinischer Entscheidungsunterstützungssysteme

Meeting Abstract

  • Lo An Phan-Vogtmann - Institut für Medizinische Statistik, Informatik und Datenwissenschaften, Universitätsklinikum Jena, Jena, Germany
  • Henner M. Kruse - Datenintegrationszentrum, Geschäftsbereich IT, Universitätsklinikum Jena, Jena, Germany
  • Alexander Helhorn - Datenintegrationszentrum, Geschäftsbereich IT, Universitätsklinikum Jena, Jena, Germany
  • Andrew J. Heidel - Datenintegrationszentrum, Geschäftsbereich IT, Universitätsklinikum Jena, Jena, Germany
  • Eric Thomas - Datenintegrationszentrum, Geschäftsbereich IT, Universitätsklinikum Jena, Jena, Germany
  • Kutaiba Saleh - Datenintegrationszentrum, Geschäftsbereich IT, Universitätsklinikum Jena, Jena, Germany
  • André Scherag - Institut für Medizinische Statistik, Informatik und Datenwissenschaften, Universitätsklinikum Jena, Jena, Germany
  • Danny Ammon - Datenintegrationszentrum, Geschäftsbereich IT, Universitätsklinikum Jena, Jena, Germany

Deutsche Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie. 64. Jahrestagung der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie e.V. (GMDS). Dortmund, 08.-11.09.2019. Düsseldorf: German Medical Science GMS Publishing House; . DocAbstr. 261

doi: 10.3205/19gmds183, urn:nbn:de:0183-19gmds1834

Published:

©  Phan-Vogtmann et al.
This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License. See license information at http://creativecommons.org/licenses/by/4.0/.


Outline

Text

Einleitung: Systeme auf Basis von Algorithmen mit „künstlicher Intelligenz“ werden im Gesundheitswesen zunehmend praktisch eingesetzt. Durch die Medizininformatik-Initiative sollen zukünftig Daten aus Krankenversorgung und Forschung besser zugänglich werden. In diesem Rahmen wird das SMITH-Konsortium in den zu etablierenden Datenintegrationszentren Patientendaten aus den Primärdokumentationssystemen in einem Health Data Storage (HDS) persistieren, um diese unter anderem für klinische Entscheidungsunterstützungssysteme zur Verfügung zu stellen [1]. Der HDS speichert sowohl HL7-FHIR-Ressourcen als auch Dokumente in einem IHE-XDS-Repository. Er bietet so die zentrale Basis für alle benutzerspezifischen Abfragen, Datenaustausche, Berichte etc. Klinische Prozesse und Entscheidungsflüsse auf Basis solcher Datenbasen lassen sich mittels eines Prozess-Ablauf-Modells beschreiben. In den letzten Jahren hat sich dabei die Business Process Model and Notation (BPMN) etabliert.

Um wissensbasierte Systeme im Gesundheitswesen zu implementieren, bedarf es einer Traceability-Strategie, damit alle Entwicklungsschritte nachvollziehbar bleiben und eine schnellere Fehlerkorrektur ermöglicht wird [2]. Sowohl die Erprobung solcher Systeme in multizentrischen Studien als auch die spätere Inbetriebnahme und Wartung sollen dabei simplifiziert werden.

Methoden: Aufgrund der wachsenden Komplexität, die bei der Transformation vom plattformunabhängigen in ein plattformspezifisches Modell entsteht, ist eine adaptive Vorgehensweise, welche Veränderungen dynamisch fortschreibt, empfehlenswert. Eine solche Traceability muss zwischen einem Prozessmodell als Repräsentation von Entscheidungsabläufen, einem Informationsmodell mit notwendigen Daten, sowie den konkreten Datenelementen im HDS etabliert werden. Weiterhin ist Traceability zwischen dem Prozessmodell und der Dokumentation bis hin zum Programmcode nötig.

Die Verknüpfung der Modelle erfolgt z.B., indem zum einem aus den Teilprozessen ein interaktives PDF erstellt wird, zum anderen referenziert die textuelle Beschreibung alle Arbeitsprozesse. Durch seinen strukturierten Aufbau schließt der Pseudocode eine Lücke zwischen Prozessmodell und systemspezifischem Workflow-Programmcode.

In Folge muss bei regelbasierten Systemen eine Workflow-Engine mit einem im Krankenhausinformationssystem ausführbaren Workflow-Code gespeist werden. Als Methode wird die modellgetriebene Architektur vorgeschlagen, um die grafisch notierten medizinischen Abläufe ohne technischen Kontext schrittweise zu einer formalen Codebasis zu konvertieren [3].

Ergebnisse: Die Traceability-Strategie wird im Use Case HELP angewendet, der im SMITH-Konsortium am Standort Jena konzipiert wurde, um den Nutzen der Datenintegrationszentren mittels eines entscheidungsunterstützenden Verfahrens zu demonstrieren [1].

Hierbei wurden zwischen einem BPMN-Modell klinischer Entscheidungsregeln in Form eines interaktiven PDF, den Repräsentationen in Pseudocode, der Dokumentation, den Informationsmodell-Strukturen und den hierzu verwendeten FHIR-Ressourcen durch Links Relationen hergestellt. Die Traceability unterstützt dabei die Nachweismöglichkeiten, dass z.B. von Domänenexperten vorgegebene Entscheidungsflüsse korrekt in spezifischen Code-Segmenten repräsentiert sind. Bei der direkten Kommunikation mit dem Arzt werden Behandlungsvorschläge mit entsprechender Begründung übermittelt, die auf den festgelegten Verarbeitungsregeln und den darauf basierend implementierten algorithmischen Entscheidungen beruhen.

Diskussion: Eine Traceability-Lösung sollte nicht nur im Entwicklungsprozess von entscheidungsunterstützenden Systemen implementiert werden, sondern auch in der Prozessbeschreibung von Provenienz bei der Datenintegration. Die Überführung der Patientendaten aus Primärdokumentationssystemen für HELP befindet sich im Aufbau [4]. Für weitere KI-Formen wie etwa Machine-Learning-Algorithmen sind andere Arten von Traceability-Strategien relevant, die automatisierte Rückverfolgbarkeit parallel zur Berechnung von Lösungswegen implementieren. Bspw. ist der Ansatz einer „erklärenden KI“ zur Nachvollziehbarkeit von Entscheidungsprozessen denkbar, die über identifizierbare Datenpunkte dem Arzt Grundlagen für Vorschläge übermittelt, so dass eine Plausibilitätsprüfung ermöglicht wird [5].

Traceability sollte zum festen Bestandteil einer Erklärungskomponente wissensbasierter Systeme werden und die benötigte Nachvollziehbarkeit von Entscheidungsvorschlägen sicherstellen [6].

The authors declare that they have no competing interests.

The authors declare that an ethics committee vote is not required.


Literatur

1.
Winter A, Stäubert S, Ammon D, Aiche S, Beyan O, Bischoff V, Daumke P, Decker S, Funkat G, Gewehr JE, de Greiff A. Smart medical information technology for healthcare (SMITH). Methods of information in medicine. 2018;57(S 01):e92-105.
2.
Lepri B, Oliver N, Letouzé E, Pentland A, Vinck P. Fair, transparent, and accountable algorithmic decision-making processes. Philosophy & Technology. 2018;31(4):611-627.
3.
Röhr S, Ammon D, Detschew V. Medical workflow assistance with clinical pathways. Bridging the GAP. In: Crossing Borders within the ABC: Automation, Biomedical Engineering and Computer Science; 13.-17. September 2010; Ilmenau. Ilmenau: Universitätsbibliothek Ilmenau; 2010. p. 43-46.
4.
Phan-Vogtmann LA, Helhorn A, Kruse HM, Thomas E, Heidel AJ, Saleh K, Rissner F, Specht M, Henkel A, Scherag A, Ammon D. Approaching Clinical Data Transformation from Disparate Healthcare IT Systems through a Modular Framework. In: ICT for Health Science Research: Proceedings of the EFMI 2019 Special Topic Conference 2019; 7.-10. April 2019; Hanover. Amsterdam: IOS Press; 2019. p. 85-89.
5.
Klauschen F. Künstliche Intelligenz – Lebensgefahr für den Pathologen? E-Health-Com. 2019;2(3):20-24.
6.
Rauber A, Trasarti R, Giannotti F. Transparency in Algorithmic Decision Making. ERCIM NEWS. 2019;1(116):10-11.