gms | German Medical Science

Gemeinsame Jahrestagung der Gesellschaft für Medizinische Ausbildung (GMA) und des Arbeitskreises zur Weiterentwicklung der Lehre in der Zahnmedizin (AKWLZ)

05.08. - 09.08.2024, Freiburg, Schweiz

Revision von Initialantworten auf MC-Aufgaben ist ein vorwiegend kognitiver Akt! Eine neue Perspektive in der Debatte um „Ändern oder Nicht-Ändern einer Multiple-Choice-Antwortwahl“

Meeting Abstract

  • presenting/speaker Hossein Shahla - Institut für medizinische und pharmazeutische Prüfungsfragen, Deutschland
  • Jan Carl Becker - Institut für medizinische und pharmazeutische Prüfungsfragen, Deutschland
  • Volker Schillings - Institut für medizinische und pharmazeutische Prüfungsfragen, Deutschland
  • Andreas Braun - Institut für medizinische und pharmazeutische Prüfungsfragen, Deutschland

Gemeinsame Jahrestagung der Gesellschaft für Medizinische Ausbildung (GMA) und des Arbeitskreises zur Weiterentwicklung der Lehre in der Zahnmedizin (AKWLZ). Freiburg, Schweiz, 05.-09.08.2024. Düsseldorf: German Medical Science GMS Publishing House; 2024. DocZA-01-04

doi: 10.3205/24gma216, urn:nbn:de:0183-24gma2166

Published: July 30, 2024

© 2024 Shahla et al.
This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License. See license information at http://creativecommons.org/licenses/by/4.0/.


Outline

Text

Fragestellung/Zielsetzung: Die Erforschung des „Antwort-Revisionsverhaltens“ bei MC-Prüfungen hat eine über 100-jährige Tradition. Zwar widerlegen alle einschlägigen Studien den „Mythos“ der Richtigkeit von Initialantworten und liefern empirische Evidenz für die überwiegende Vorteilhaftigkeit von Revision einer initial getroffenen, jedoch nicht ganz sicheren Erstentscheidung. Doch die schiere Faszination des „Glaubens“ an der Zuverlässigkeit der „Initialantwort“ scheint sich der Entzauberungskraft der bisherigen gegenteiligen empirischen Befunde zu entziehen, wie einige Beiträge aktuelleren Datums in renommierten Fachzeitschriften zeigen. Unsere Studie fügt dieser Debatte eine neue Perspektive hinzu: Zum einen betrachten wir den Antwortwechsel bei MC-Aufgaben – anders als dies gelegentlich der Fall ist – nicht als einen Akt des Rätselratens, sondern als einen kognitiven Vorgang. Zum anderen explorieren wir die Muster der Antwortrevisionen unter Berücksichtigung unterschiedlicher MC-Aufgabenformate (Einzelfragen vs. Fragen von Fallstudien).

Methoden: Unsere Daten basieren auf den Aufzeichnungen von Antwortbelegen der Prüfungsteilnehmer*innen (N=4037) des bundesweiten Zweiten Abschnitts der Ärztlichen Prüfung, bestehend aus 320 MC-Aufgaben, darunter 142 Einzelfragen und 31 Fallstudien in Key-Feature-Format (178 Fragen). Die Aufzeichnung der Antwortbögen im IMPP erfolgt mit einem speziellen Dokumentenscan-Verfahren, das ein hohes Maß an Genauigkeit aufweist und eine zuverlässige Erkennung von Antwortrevisionen ermöglicht.

Ergebnisse: Anderes als fast alle bisher berichteten Untersuchungsergebnisse stellen wir fest, dass ein beträchtlicher Anteil von M2-Prüflingen (22,6%) ihre ursprünglichen Antworten mindestens einmal ändert. Auch die Anzahl der von Revisionen betroffenen Prüfungsaufgaben ist beträchtlich (315 von 320 Aufgaben). Die meisten Revisionen führten zur Änderung einer falschen Antwort zu einer richtigen (FR: 54,3%) und weit weniger von einer richtigen zu einer falschen (RF: 22,6%) bzw. innerhalb zweier falscher Antworten (FF: 23,1%). Das Stimulusformat der Aufgaben spielt hierbei eine entscheidende Rolle: Die durchschnittliche Anzahl der FR-, RF- und FF-Änderungen pro Prüfling unterscheidet sich stark von Einzelitems (FR: 3,8; RF: 1,8; FF: 1,9) zu Fallstudien (FR: 6,6; RF: 2,3; FF: 2,4). Darüber hinaus zeigt sich ein positiver Effekt der Prüfungsleistung auf die Wahrscheinlichkeit von FR-Änderungen, insbesondere im Fall von Fallstudien.

Diskussion: Basierend auf einer umfangreichen Datenbasis bestätigen unsere Ergebnisse den bisher bekannten Befund der Vorteilhaftigkeit von Antwortrevisionen. Dass Fragen von Fallstudien – sicherlich aufgrund ihres Bezugs zu einem gemeinsamen Fallkontext – viel häufiger als Einzelfragen im FR-Muster geändert werden ist zwar nicht überraschend. Sie unterstreicht jedoch somit den postulierten kognitiven Charakter des Antwort-Revisionsverhaltens.


Literatur

1.
Van der Linden WJ, Jeon M, Ferrara S. A paradox in the study of the benefits of test-item review. J Educ Measurement. 2011;48(4):380-398. DOI: 10.1111/j.1745-3984.2011.00151.x External link
2.
Pagni SE, Bak AG, Eisen SE, Murphy JL, Finkelman MD, Kugel G. The Benefit of a Switch: Answer-Changing on Multiple-Choice Exams by First-Year Dental Students. J Dent Educ. 2017;81(1):110-115.
3.
Lehman HC. Does it pay to change initial decisions in a true-false test? School Soc. 1928;28:456-458.