BazEkon - The Main Library of the Cracow University of Economics

BazEkon home page

Main menu

Author
Trzęsiok Michał (Uniwersytet Ekonomiczny w Katowicach)
Title
Przegląd metod regularyzacji w zagadnieniach regresji nieparametrycznej
Various Regularization Issues In Nonparametric Regression
Source
Prace Naukowe Uniwersytetu Ekonomicznego we Wrocławiu. Taksonomia (18), 2011, nr 176, s. 330-339, bibliogr. 7 poz.
Research of Wrocław University of Economics
Issue title
Klasyfikacja i analiza danych - teoria i zastosowania
Keyword
Regresja nieparametryczna
Nonparametric regression
Note
streszcz., sum.
Abstract
Wiele nieparametrycznych funkcji regresji w trakcie wykonywania algorytmu jest systematycznie poprawianych, tak by końcowy model charakteryzował się jak najlepszym dopasowaniem do danych ze zbioru uczącego. W efekcie otrzymujemy modele o niskich wartościach błędów resubstytucji i wysokiej złożoności, które jednak charakteryzują się niewielką zdolnością uogólniania, rozumianą jako zdolność poprawnej predykcji na nowych obiektach. Zachodzi potrzeba przeciwdziałania temu zjawisku. Proces uproszczenia postaci modelu przy jednoczesnym kontrolowaniu jego dopasowania nazywamy regularyzacją. W artykule przedstawione i porównane zostały techniki regularyzacji wykorzystywane w nieparametrycznych metodach regresji.(abstrakt oryginalny)

It is well known in statistics that fitting the training data too well can increase prediction risk on future predictions. In other words too large flexibility of the regression function would cause a learner to overfit the data, i.e. the learner would be able to model the noise in the data as well as the generating process and it leads to poor generalization. The process of finding the trade-off between minimizing the training error and controlling capacity is called regularization. The paper presents the issue and gives examples of regularization technique in case of nonparametric methods of regression.(original abstract)
Accessibility
The Main Library of the Cracow University of Economics
The Library of Warsaw School of Economics
The Library of University of Economics in Katowice
The Main Library of Poznań University of Economics and Business
The Main Library of the Wroclaw University of Economics
Bibliography
Show
  1. Breiman L., Friedman J., Stone C., Olshen R., Classification and Regression Trees, CRC Press, London 1984.
  2. Gatnar E., Podejście wielomodelowe w zagadnieniach dyskryminacji i regresji, PWN, Warszawa 2008.
  3. Harrison D., Rubinfeld D.L., Hedonic prices and the demand for clean air, "Journal of Environmental Economics and Management" 1978, no. 8.
  4. Hastie T., Tibshirani R., Friedman J., The Elements of Statistical Learning, Springer -Verlag, New York, 2001.
  5. Friedman J., SMART user's Guide, Technical Report 1, Department of Statistics, Stanford University, 1984.
  6. Friedman J., Stuetzle W., Projection pursuit regression, "Journal of the American Statistical Association" 1981, no. 76, s. 817-823.
  7. Kooperberg C., Bose S., Stone C., Polychotomous regression, "Journal of the American Statistical Association" 1997, no. 92, s. 117-127.
Cited by
Show
ISSN
1899-3192
1505-9332
Language
pol
Share on Facebook Share on Twitter Share on Google+ Share on Pinterest Share on LinkedIn Wyślij znajomemu