Fråga:
Är opartisk maximal sannolikhetsuppskattare alltid den bästa opartiska uppskattaren?
Gary Cheng
2016-05-01 01:13:21 UTC
view on stackexchange narkive permalink

Jag vet att för vanliga problem, om vi har en bästa vanliga opartiska uppskattare, måste det vara den maximala sannolikhetsuppskattaren (MLE). Men i allmänhet, om vi har en opartisk MLE, skulle det också vara den bästa opartiska uppskattaren (eller kanske jag skulle vilja kalla den UMVUE, så länge den har minsta avvikelse)?

Intressant fråga.MLE är en funktion av tillräcklig statistik och UMVUE kan erhållas genom att konditionera på fullständig och tillräcklig statistik.Så om MLE är opartisk (och en funktion av tillräcklig statistik), är det enda sättet som är möjligt för den att inte ha minsta varians om den tillräckliga statistiken inte är fullständig.Jag försökte hitta ett exempel men lyckades inte.
Och [här] (http://www.math.uah.edu/stat/point/Sufficient.html) är lite kort information om tillräcklig och fullständig statistik.
Den verkliga frågan är mer att MLE sällan är opartisk: om $ \ theta $ är den opartiska uppskattaren av $ \ theta $ och MLE av $ \ theta $, $ f (\ hat \ theta) $ är MLE av $ f(\ theta) $ men är partisk för de flesta bijektiva omvandlingar $ f $.
Är detta relevant? "En nästan opartisk uppskattning av befolkningen betyder" Vyas Dubey Ravishankar Shukla University, Raipur, Indien
Antar du att det finns en UMVE?
+1 för Xi'ans kommentar.Bästa uppskattaren betyder minimal avvikelse, opartisk betyder något annat.Så jag är inte säker på att du kan börja försöka bevisa det, eftersom det ena har lite att göra med det andra.Men innan jag ens började med min egen härledning, skulle jag vilja se några allvarliga ansträngningar i (försök med ett) bevis.Jag skulle säga att även beviset på det första uttalandet (MLE är optimalt för vissa fall) inte är trivialt.
Fyra svar:
Benoit Sanchez
2018-01-10 23:07:32 UTC
view on stackexchange narkive permalink

Men i allmänhet, om vi har en opartisk MLE, skulle det också vara det bästa opartisk uppskattare?

Om det finns en fullständig tillräcklig statistik, yes.

Bevis:

  • Lehmann – Scheffé-teorem: Alla opartiska uppskattare som är en funktion av en fullständig tillräcklig statistik är bäst (UMVUE).
  • MLE är en funktion av tillräcklig statistik. Se 4.2.3 här;

Således är en opartisk MLE nödvändigtvis den bästa så länge det finns en fullständig statistik.

Men faktiskt har detta resultat nästan inget fall av tillämpning eftersom en fullständig statistik nästan aldrig existerar. Det beror på att fullständig tillräcklig statistik existerar (i huvudsak) endast för exponentiella familjer där MLE oftast är partisk (förutom Gaussians platsparameter).

Så det riktiga svaret är faktiskt no.

Ett allmänt räkneexempel kan ges: vilken platsfamilj som helst med sannolikheten $ p_ \ theta (x) = p (x- \ theta $) med $ p $ symmetrisk runt 0 ($ \ forall t \ in \ mathbb {R } \ quad p (-t) = p (t) $). Med provstorlek $ n $ gäller följande:

  • MLE är opartisk
  • det domineras av en annan opartisk uppskattare som kallas Pitmans likvärdiga uppskattare

Oftast är dominansen strikt så MLE är inte ens tillåtet. Det bevisades när $ p $ är Cauchy men jag antar att det är ett allmänt faktum. Således kan MLE inte vara UMVU. För dessa familjer är det faktiskt känt att det under milda förhållanden aldrig finns något UMVUE. Exemplet studerades i denna fråga med referenser och några bevis.

Varför har detta inte de högsta rösterna?Jag kände att det här svaret var bättre än Xians.
Xi'an
2018-01-08 20:20:27 UTC
view on stackexchange narkive permalink

Enligt min mening är frågan inte riktigt sammanhängande genom att maximering av en sannolikhet och opartiskhet inte överensstämmer, inte bara för att maximala sannolikhetsuppskattare är ekvivalenta , dvs transformationen av uppskattaren är uppskattaren av omvandlingen av parametern, medan opartiskhet inte står under icke-linjära omvandlingar. Därför är uppskattningar av maximal sannolikhet nästan aldrig opartiska, om "nästan" anses vara inom ramen för alla möjliga parametriseringar.

Det finns dock ett mer direkt svar på frågan: när man överväger uppskattningen av Normalvariansen, $ \ sigma ^ 2 $, är UMVUE för $ \ sigma ^ 2 $ $$ \ hat {\ sigma} ^ 2_n = \ frac {1} {n-1} \ sum_ {i = 1} ^ n \ {x_i- \ bar {x} _n \} ^ 2 $$ medan MLE på $ \ sigma ^ 2 $ är $$ \ check {\ sigma} ^ 2_n = \ frac {1} {n} \ sum_ {i = 1} ^ n \ {x_i- \ bar {x} _n \} ^ 2 $$ Ergo, de skiljer sig åt. Detta innebär att

om vi har en bästa vanliga opartiska uppskattare, måste den vara maximalt sannolikhetsuppskattning (MLE).

gäller inte i allmänhet.

Observera vidare att även om det finns opartiska uppskattare av en parameter $ \ theta $, finns det inte nödvändigtvis en bästa opartiska minsta variansberäkare (UNMVUE).

Så kan vi säga att en opartisk MLE är en (U) MVUE, men inte alla (U) MVUE är MLE?
Nej, vi har ingen anledning att tro att detta är sant i allmänhet.
serhat simsek
2017-08-07 06:39:10 UTC
view on stackexchange narkive permalink

MLE: s asymptotiska avvikelse är UMVUE, dvs uppnår cramer rao nedre gräns, men ändlig avvikelse kanske inte är UMVUE för att se till att uppskattaren är UMVUE. Det bör vara tillräckligt och fullständig statistik eller vilken funktion som helst av den statistiken.

creutzml
2017-12-07 21:41:09 UTC
view on stackexchange narkive permalink

Kort sagt, en estimator är UMVUE, om den är opartisk och funktionen av en fullständig och tillräcklig statistik.(Se Rao-Blackwell och Scheffe)

Vilket innebär att detta är begränsat till exponentiella familjer.


Denna fråga och svar översattes automatiskt från det engelska språket.Det ursprungliga innehållet finns tillgängligt på stackexchange, vilket vi tackar för cc by-sa 3.0-licensen som det distribueras under.
Loading...