gms | German Medical Science

53. Jahrestagung der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie e. V. (GMDS)

Deutsche Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie

15. bis 18.09.2008, Stuttgart

Shrinkage estimators – ein analytisches Verfahren zur Schätzung von Regressionskoeffizienten im multiplen linearen Modell oder warum Erwartungstreue zum Problem wird

Meeting Abstract

Suche in Medline nach

  • Horst Eckhard Wichert - Universität Hohenheim, Stuttgart, Deutschland

Deutsche Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie. 53. Jahrestagung der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie (gmds). Stuttgart, 15.-19.09.2008. Düsseldorf: German Medical Science GMS Publishing House; 2008. DocMBIO5-2

Die elektronische Version dieses Artikels ist vollständig und ist verfügbar unter: http://www.egms.de/de/meetings/gmds2008/08gmds070.shtml

Veröffentlicht: 10. September 2008

© 2008 Wichert.
Dieser Artikel ist ein Open Access-Artikel und steht unter den Creative Commons Lizenzbedingungen (http://creativecommons.org/licenses/by-nc-nd/3.0/deed.de). Er darf vervielfältigt, verbreitet und öffentlich zugänglich gemacht werden, vorausgesetzt dass Autor und Quelle genannt werden.


Gliederung

Text

Einleitung und Fragestellung

Die vorliegende Arbeit stellt verzerrte Schätzer vom Ridge-Typ und unverzerrte Schätzer vom Typ least squares im multiplen linearen Regressions-Modell gegenüber, unter der Voraussetzung, dass die Regressor-Matrix X nicht-stochastisch bzw. stochastisch ist. Es wird gezeigt, dass das hier entwickelte Schätzverfahren „IMSE bzw. TOMSE“ sowie das leasr squares Verfahren bezüglich der Voraussetzungen (stochastisch/nicht-stochastisch) in den primären Eigenschaften (asymptotische Erwartungstreue/Konsistenz) vollständig symmetrisch sind. Wenn man sich auf diese entscheidenden Eigenschaften konzentriert, können Schätzer beschrieben werden die den least squares Schätzern deutlich überlegen sind.

Material und Methoden

In den hier vorgestellten Verfahren I bis III erfolgt die Reduktion des erwarteten mittleren quadratischen Fehlers (MSE) für jeden Schätzer der Modell-Parameter individuell (IMSE), in den Verfahren IV und V wird die Reduktion des MSE bezogen auf die Summe der quadratischen Abweichungen (TOMSE).

Die Vorgehensweise wird durch das angestrebte Ziel bestimmt, d.h.:

  • es wird eine analytische Lösung des Schätzproblems vorgestellt,
  • es werden nicht-stochastische Schrumpfungs-Parameter definiert,
  • aus den genannten Vorgaben wird eine Strategie entwickelt, sodass Bedingungen benannt werden können, unter denen die Schätzer die gewünschten Eigenschaften annehmen,
  • damit entsteht – aus den theoretischen Vorgaben – der bedingte Schätzer IMSE, der den MSE für jeden Modell-Parameter einzeln reduziert bzw. der bedingte Schätzer TOMSE, der den MSE für alle Modell-Parameter gemeinsam reduziert.

Ergebnisse

Die hier vorgestellten Schätz-Verfahren haben die Eigenschaften:

  • das ihre Schätzer asymptotisch Erwartungstreu sind,
  • das ihre Schätzer konsistent sind,
  • das gilt:
    MSE(IMSE) ≤ MSE(LS)
    VAR(IMSE) ≤ VAR(LS),
    bzw.
    MSE(TOMSE) ≤ MSE(LS)
    VAR(TOMSE) ≤ VAR(LS),
  • das die asymptotischen Eigenschaften der verzerrten (IMSE/TOMSE) und unverzerrten (LS) Schätzer an die gleichen Voraussetzungen gebunden sind.

Diskussion

Die hier vorgestellten Ergebnisse sind insofern von Bedeutung, als dass sie das Resultat einer Arbeit darstellen, die – soweit bis heute bekannt – die einzige Arbeit dieser Thematik ist, die Schätzer benennt, deren Eigenschaften sich auf den klassischen math.-statistischen Beweis gründen. Dabei werden die Zusammenhänge der hier behandelten verzerrten und unverzerrten Schätzer aufgezeigt, wobei unter der gemeinsamen, übergeordneten Schätzfunktion sich eine vollständige Symmetrie der primären Verfahrens-Eigenschaften einstellt.


Literatur

1.
Gruber MHJ. Improving Efficiency by Shrinkage. Marcel Dekker, New York, 1998.
2.
Hoerl AE, Kennard RW. Ridge regression: biased estimation for nonorthogonal problems. Technometrics. 1970;12:55-67.
3.
Liski EP. A Test of the mean square error criterion for shrinkage estimators. Commun. Statist.-Simula. Computa. 1982;11(5):543-62.