Inegalitatea Cramer-Rao

Inegalitatea Cramer-Pao este o inegalitate care, în anumite condiții pe modelul statistic, dă o limită inferioară pentru varianța estimării unui parametru necunoscut, exprimându-l în termenii informațiilor Fisher .

Numiți după matematicianul suedez Harald Cramer și matematicianul indian Kalyampudi Rao , dar independent de aceștia, s-au înființat și Frechet , Darmois ( fr. Georges Darmois ), Aitken ( în engleză Alexander Aitken ) și Silverstone ( Harold Silverstone ). Este cunoscută o generalizare în teoria cuantică a estimării - inegalitatea cuantică Cramer-Rao .

Formulare

Pentru un model statistic , este un eșantion de mărime , se determină funcția de probabilitate și sunt îndeplinite următoarele condiții (condiții de regularitate): $(X,\,B,\,P_{\theta })$ $x=(x_{1},\dots ,\,x_{n})$ $n$ $L(\theta,\,x)=L(\theta,\;x_{1},\,x_{2},\dots \,x_{n})$

$L_{}^{}>0$ și peste tot diferențiabil în ceea ce privește ; $\theta _{}^{}$
funcția ( funcția de contribuție la eșantionare ) are varianță finită (sau echivalent , informațiile Fisher sunt finite ); $U(\theta,\,x)={\frac {\partial \ln L(\theta,\,x)}{\partial \theta ))$
pentru orice statistică cu un moment al doilea finit, este valabilă următoarea egalitate: ${\widehat {\theta ))(x)$ ${\frac {\partial }{\partial \theta }}\int \limits _{X}{\widehat {\theta }}(x)\,L(\theta,\,x)\,dx =\int \limits _{X}{\widehat {\theta }}(x)\,{\frac {\partial }{\partial \theta }}L(\theta ,\,x)\,dx$ .

Dacă, în aceste condiții, este dată o statistică care estimează în mod imparțial o funcție diferențiabilă , atunci următoarea inegalitate este adevărată: ${\widehat {\theta ))(x)$ $\tau (\theta )$

\mathrm {D} _{\theta }{\big (}{\widehat {\theta }}(x){\big )}\geqslant {\frac {(\tau '(\theta ))^ {2}}{nI(\theta )}}}

, unde ;

I(\theta)=M\left({\frac {d\ln L(\theta,x)}{d\theta}}\right)^{2}

iar egalitatea este atinsă dacă și numai dacă:

{\frac {d\ln L(\theta,x)}{d\theta}}=a(\theta )({\widehat {\theta}}(x)-\tau (\theta ))

Iată cantitatea de informații conform lui Fisher într-o observație și este densitatea de distribuție a populației generale în cazul unui model statistic continuu și probabilitatea unui eveniment în cazul unui model statistic discret. $I^{}(\theta )$ $L(\theta,t)$ $X$ $(X=t)$

Caz special

Următorul caz special, numit și inegalitatea Cramer-Rao, este adesea folosit: dacă condițiile de regularitate sunt îndeplinite și este o estimare imparțială a parametrului , atunci: ${\widehat {\theta ))(x)$ $\theta$

\mathrm {D} _{\theta }\,{\widehat {\theta }}(x)\geqslant {\frac {1}{I_{n}(\theta ))}

Egalitatea în această inegalitate se realizează dacă și numai dacă . ${\hat {\theta }}(x)-\theta =a(\theta)U(\theta,x)$

Aplicație

O estimare a unui parametru se numește efectivă dacă pentru aceasta inegalitatea Cramer-Rao se transformă într-o egalitate. Astfel, inegalitatea poate fi folosită pentru a demonstra că varianța unei estimări date este cea mai mică posibilă, adică că această estimare este într-un anumit sens mai bună decât toate celelalte.

Literatură

Statistică matematică, ed. V. S. Zarubina, seria „Matematica la Universitatea Tehnică”, vol. XVII, M., MSTU, 2002