Suficiente statistici

Versiunea actuală a paginii nu a fost încă examinată de colaboratori experimentați și poate diferi semnificativ de versiunea revizuită la 6 decembrie 2021; verificarea necesită 1 editare .

O statistică suficientă pentru un parametru care definește o anumită familie de distribuții de probabilitate este o statistică astfel încât probabilitatea condiționată a eșantionului pentru o valoare dată nu depinde de parametru. Adică, egalitatea este adevărată: $\theta \in \Theta ,\;$ $F_{\theta}$ $T=\mathrm {T} (X)\;$ $X=X_{1},X_{2},\ldots,X_{n}\;$ ${\mathrm {T}}(X)\;$ $\theta\;.$

\mathbb {P} (X\in {\bar {X}}|\mathrm {T} (X)=t,\theta )=\mathbb {P} (X\in {\bar {X} }|\mathrm {T} (X)=t),

O statistică suficientă conține astfel toate informațiile despre parametrul care pot fi obținute din eșantionul X . Prin urmare, conceptul de statistică suficientă este utilizat pe scară largă în teoria estimării parametrilor . ${\mathrm {T}}(X),\;$ $\theta \;$

Cea mai simplă statistică suficientă este eșantionul în sine , dar ceea ce este cu adevărat important sunt cazurile în care dimensiunea statisticii suficiente este mult mai mică decât dimensiunea eșantionului, în special atunci când statistica suficientă este exprimată doar prin câteva numere. $\mathrm {T} (X)=X\;$

Se spune că o statistică suficientă este minim suficientă dacă pentru fiecare statistică suficientă T există o funcție măsurabilă non-aleatorie g , care este aproape peste tot . $S={\mathrm {S}}(X)\;$ $S(X)=g(T(X))$

Teorema de factorizare

Teorema de factorizare oferă o modalitate practică de a găsi suficiente statistici pentru o distribuție de probabilitate. Oferă condiții suficiente și necesare pentru suficiența statisticii, iar afirmarea teoremelor este uneori folosită ca definiție.

Fie niște statistici și o funcție de densitate condiționată sau o funcție de probabilitate (în funcție de tipul de distribuție) pentru vectorul de observație X . Atunci este o statistică suficientă pentru parametru dacă și numai dacă există astfel de funcții măsurabile și pe care le putem scrie: ${\mathrm {T}}(X)\;$ $f_{\theta }(x)$ ${\mathrm {T}}(X)\;$ $\theta \in \Theta \;$ $h$ $g$

f_{\theta}(x)=h(x)\,g(\theta,\mathrm {T} (x))

Dovada

Mai jos este demonstrația pentru cazul special în care distribuția de probabilitate este discretă . Apoi — Funcția de probabilitate . $f_{\theta }(x)={\mathbb {P}}(X=x|\theta )$

Fie ca funcția dată să aibă o factorizare, ca în enunțul teoremei, și ${\mathrm {T}}(x)=t.$

Atunci noi avem:

{\begin{aliniat}{\mathbb {P}}(X=x|{\mathrm {T}}(X)=t,\theta )&={\frac {{\mathbb {P}}(X= x|\theta )}{{\mathbb {P}}({\mathrm {T}}(X)=t|\theta )))&={\frac {h(x)\,g(\theta , {\mathrm {T}}(x))}{\sum _{{x:{\mathrm {T}}(x)=t}}h(x)\,g(\theta ,{\mathrm {T }}(x)))}\\&={\frac {h(x)\,g(\theta ,t)}{\sum _{{x:{\mathrm {T}}(x)=t }}h(x)\,g(\theta ,t)}}&={\frac {h(x)\,}{\sum _{{x:{\mathrm {T}}(x)=t }}h(x)\,}}.\end{aliniat}}

Din aceasta vedem că probabilitatea condiționată a vectorului X pentru o valoare dată a statisticii nu depinde de parametru și, în consecință , este o statistică suficientă. ${\mathrm {T}}(X)\;$ ${\mathrm {T}}(X)\;$

Invers, putem scrie:

\mathbb {P} (X=x|\theta )=\mathbb {P} (X=x|\mathrm {T} (X)=t,\theta )\cdot \mathbb {P} (\ mathrm {T} (X)=t|\theta ).

Din cele de mai sus, avem că primul factor din partea dreaptă nu depinde de parametru și poate fi luat ca o funcție din formularea teoremei. Celălalt factor este o funcție a și și poate fi luat ca o funcție .Astfel, se obține descompunerea necesară, care completează demonstrația teoremei. $\theta$ $h(x)$ $\theta \;$ ${\mathrm {T}}(X),\;$ $g(\theta ,{\mathrm {T}}(x)).$

Exemple

Distribuția Bernoulli

Fie o succesiune de variabile aleatoare care sunt egale cu 1 cu probabilitate și egale cu 0 cu probabilitate (adică au o distribuție Bernoulli ). Apoi $X_{1},X_{2},\ldots ,X_{n}\;$ $p$ $1-p$

\mathbb {P} (x_{1},\ldots x_{n}|p)=p^{\sum x_{i)}(1-p)^{n-\sum x_{i)} =p^{\mathrm {T} (x)}(1-p)^{n-\mathrm {T} (x)},

dacă iei $\mathrm {T} (X)=X_{1}+\ldots +X_{n}.$

Atunci această statistică este suficientă conform teoremei de factorizare, dacă notăm

g(p,\mathrm {T} (x_{1},\ldots x_{n}))=p^{\mathrm {T} (x_{1},\ldots x_{n})}( 1-p)^{n-\mathrm {T} (x_{1},\ldots x_{n})},

h(x_{1},\ldots x_{n})=1.

Distribuția Poisson

Fie o succesiune de variabile aleatoare cu distribuția Poisson . Apoi $X_{1},X_{2},\ldots ,X_{n}\;$

{\mathbb {P}}(x_{1},\ldots x_{n}|\lambda )={e^{{-\lambda }}\lambda ^{{x_{1}}} \over x_{1 }!}\cdot {e^{{-\lambda }}\lambda ^{{x_{2}}} \over x_{2}!}\cdots {e^{{-\lambda }}\lambda ^{ {x_{n}}} \over x_{n}!}=e^{{-n\lambda }}\lambda ^{{(x_{1}+x_{2}+\cdots +x_{n}) }}\cdot {1 \over x_{1}!x_{2}!\cdots x_{n}!}=e^{{-n\lambda }}\lambda ^{{{\mathrm {T}}( x)}}\cdot {1 \over x_{1}!x_{2}!\cdots x_{n}!}

Unde $\mathrm {T} (X)=X_{1}+\ldots +X_{n}.$

Această statistică este suficientă conform teoremei de factorizare dacă notăm

g(\lambda,\mathrm {T} (x_{1},\ldots x_{n}))=e^{-n\lambda}\lambda ^{\mathrm {T} (x))

h(x_{1},\ldots x_{n})={1 \over x_{1}!x_{2}!\cdots x_{n}!}

Distribuție uniformă

Fie o succesiune de variabile aleatoare distribuite uniform . Ad-hoc $X_{1},X_{2},\ldots ,X_{n}\;$ $X_{1},X_{2},\ldots ,X_{n}\;~U(a,b)$

\mathbb {P} (x_{1},\ldots x_{n}|a,b)=\left(ba\right)^{-n}\mathbf {1} _{\{a\, \leq \,\min _{1\leq i\leq n}X_{i}\}}\mathbf {1} _{\{\max _{1\leq i\leq n}X_{i}\, \leq\,b\}}.

Rezultă că statisticile sunt suficiente. $T(X)=\left(\min _{1\leq i\leq n}X_{i},\max _{1\leq i\leq n}X_{i}\right)$

Distribuție normală

Pentru variabile aleatoare cu o distribuție normală , o statistică suficientă ar fi $X_{1},X_{2},\ldots ,X_{n}\;$ ${\mathcal {N}}(\mu ,\,\sigma ^{2})$ ${\mathrm {T}}(X)=\left(\sum _{{i=1}}^{n}X_{i},\sum _{{i=1}}^{n}X_{i }^{2}\dreapta)\,.$

Proprietăți

Pentru o statistică T suficientă și o mapare bijectivă , statistica este de asemenea suficientă. $\phi$ $\phi (T)$
Dacă — estimarea statistică a unui parametru — este o statistică suficientă și atunci este cea mai bună estimare a parametrului în sensul abaterii standard, adică inegalitatea $\delta (X)$ $\theta ,$ ${\mathrm {T}}(X),\;$ $\delta _{{1}}(X)={\textrm {E}}[\delta (X)|T(X)]$ $\delta _{{1}}(X)$

{\textrm {E}}[(\delta _{1}(X)-\theta )^{2}]\leq {\textrm {E}}[(\delta (X)-\theta ) ^{2}]

în plus, egalitatea se realizează numai atunci când este o funcție măsurabilă a lui T . ( Teorema Rao-Blackwell-Kolmogorov )

\delta

Din cele de mai sus rezultă că o estimare poate fi optimă din punct de vedere al abaterii standard numai atunci când este o funcție măsurabilă a statisticii minime suficiente.
Dacă statistica este suficientă și completă (adică din ceea ce urmează ), atunci o funcție măsurabilă arbitrară a acesteia este o estimare optimă a așteptărilor sale matematice . $T={\mathrm {T}}(X),\;$ $E_{{\theta }}[g(T(X))]=0,\,\forall \theta \in \Theta$ $P_{\theta}(g(T(X))=0)=1\,\forall \theta \in \Theta$

Vezi și

Literatură

Kholevo, AS (2001), „Statistică suficientă”, în Hazewinkel, Michiel, Encyclopaedia of Mathematics, Springer, ISBN 978-1-55608-010-4
Lehmann, E.L.; Casella, G. (1998). Teoria estimării punctuale (ed. a 2-a). Springer . Capitolul 4. ISBN 0-387-98502-6 .
Leman E. Teoria estimării punctuale. — M .: Nauka, 1991. — 448 p. — ISBN 5-02-013941-6 .

Dicționare și enciclopedii	mare chinezesc mare chinezesc Rusă mare