gms | German Medical Science

Fragestellung/Zielsetzung: Seit 30.11.2022 ist OpenAIs „ChatGPT“ öffentlich verfügbar. Dabei handelt es sich um eine künstliche Intelligenz (KI), die auf dem Konzept des maschinellen Lernens beruht und trainiert wurde, menschenähnlich formulierte Texte zu generieren. Eine mögliche Verwendung für das aktuell frei verfügbare KI-System könnte die Konzipierung, Weiterentwicklung und Qualitätssicherung von Prüfungsaufgaben sein. ChatGPT scheint einerseits dazu in der Lage zu sein, komplexe Prüfungsaufgaben aus den unterschiedlichen Fachgebieten zutreffend beantworten zu können. Sie könnte perspektivisch aber auch dazu verwendet werden, neue Prüfungsaufgaben zu erstellen und weiterzuentwickeln. In diesem Kontext drängen sich rechtliche Fragestellungen auf, die es beim Einsatz von KI-Anwendungen zu beachten gilt.

Methoden: In diesem Vortrag werden rechtliche Aspekte bei der Verwendung von KI-Systemen im Umgang mit Prüfungsaufgaben im Kontext bundesweiter Staatsexamina analysiert. Dabei wird insbesondere auf urheberrechtliche und allgemeine grundrechtliche Fragestellungen eingegangen. Auch europarechtliche Regulierungsansätze für künstliche Intelligenz sollen dargestellt werden.

Ergebnisse: Eine Verwendung von KI-Systemen hat das Potential bei dem Prozess der Erstellung, Weiterentwicklung und Qualitätssicherung von Prüfungsaufgaben zahlreiche Vorteile zu bieten. Der Einsatz von künstlicher Intelligenz kann dabei helfen, Prüfungsaufgaben effizienter und noch besser zu machen. Naturgemäß birgt ein solcher Einsatz aber auch rechtliche, insbesondere urheberrechtliche Risiken. Über allem schwebt der Entwurf der Europäischen Kommission für eine KI-Verordnung, der Rechtsunsicherheit anstatt Offenheit für Innovationen mit sich bringt [1]. In jedem Fall müssen die technischen Gegebenheiten des jeweiligen Systems berücksichtigt werden, da sie Einfluss auf die rechtliche Bewertung haben.

Diskussion: Die Verwendung von KI-Systemen berührt unterschiedliche Rechtsgebiete und ist mit einer Vielzahl von rechtlichen und praktischen Problemen verbunden. Einerseits scheinen offene Systeme wie ChatGPT aufgrund urheberrechtlicher Bestimmungen nur eingeschränkt für die Entwicklung von Prüfungsaufgaben in Frage zu kommen. Auch die erforderliche Geheimhaltung der Prüfungsaufgaben bis zur Durchführung der Prüfung kann nicht zwangsläufig gewährleistet werden. Diese ist aber insbesondere für das Gelingen bundeseinheitlicher Staatsprüfungen zwingende Voraussetzung. Der europarechtliche Regulierungsansatz erweitert den Kreis der rechtlichen Fallstricke, die eine Nutzung innovativer Techniken wie KI-Systeme erschweren. Andererseits darf jedoch nicht übersehen werden, dass künstliche Intelligenz die Möglichkeit bietet, den Fragenerstellungsprozess erheblich zu vereinfachen und zu objektivieren.

Take Home Messages: Durch die Nutzung von KI könnte die Qualität der bundesweiten Staatsprüfungen weiter verbessert werden. Durch ein adaptiertes Nutzungsverhalten können rechtliche Fallstricke vermieden werden.