V krizi smisla tiči misel






         

11.10.2013

O optimalnih cenilkah v linearnih regresijah malo drugače

Zapisano pod: Ekonometrija — andee - 11.10.2013

Povezava še na dva zanimiva prispevka Davea Gilesa, tokrat na temo linearne regresije. Pri slednji ponavadi uporabljamo cenilke, ki se jim reče OLS cenilke, torej cenilke najmanjših kvadratov. Pri slednjih velikokrat govorimo, da so BLUE, torej najbolj učinkovite (B-est) linearne (L) nepristranske (U-nbiased) cenilke (E-stimators). Učinkovitost cenilke ponavadi ocenjujemo s tem, da ima slednja karseda majhno povprečno vsoto kvadratov napak (MSE oz. Mean Squared Error). Slednjo lahko izrazimo tudi kot vsoto variance in kvadrata pristranskosti (angl. bias). V primeru nepristranskih cenilk je MSE seveda kar enak varianci.

Vendar obstaja vrsta cenilk, ki imajo manjši MSE kot OLS cenilka. Giles torej postavlja vprašanje, zakaj ne minimiziramo kar MSE, tudi če zanemarimo dejstvo, da je takšna cenilka lahko pristranska. In najde prepričljiv in zanimiv odgovor, več najdete v prispevku tukaj. Giles zadevo tudi razširi in poišče način, kako lahko na osnovi MSE vseeno zgradimo optimalne cenilke, le da ne minimiziramo MSE (varianca plus kvadrat pristranskosti) direktno, pač pa uteženo vsoto variance in kvadrata pristranskosti.

Verjetno bosta prispevka zanimiva predvsem za tiste, ki ste se že srečali z algebro najmanjših kvadratov, ker jo prikažeta v nekoliko drugačni luči. Obenem sta lahko tudi uvod v nekaj, čemur sodobna ekonometrija pravi skrčene (angl. shrinkage) cenilke, primer tega je zelo aktualna cenilka LASSO, ki jo je v tem prispevku razvil Rob Tibshirani.

  • Share/Bookmark


Brez komentarjev »

Še brez komentarjev.

RSS vir za komentarje na objavo. Trackback URI

Komentiraj

Komentiranje iz tujine je omogočeno zgolj prijavljenim uporabnikom !

Blog V krizi smisla tiči misel | Zagotavlja SiOL | O Sistemu |