Funcția de probabilitate

Versiunea actuală a paginii nu a fost încă examinată de colaboratori experimentați și poate diferi semnificativ de versiunea revizuită pe 17 martie 2020; verificările necesită 5 modificări .

Funcția de probabilitate în statistica matematică este distribuția comună a unui eșantion dintr-o distribuție parametrică, considerată ca o funcție a unui parametru. Aceasta folosește funcția de densitate comună (în cazul unui eșantion dintr-o distribuție continuă) sau probabilitatea comună (în cazul unui eșantion dintr-o distribuție discretă) calculată pentru aceste valori ale eșantionului.

Conceptele de probabilitate și probabilitate sunt strâns legate. Comparați două propoziții:

„Care este probabilitatea de a obține 12 în fiecare din 100 de aruncări de două zaruri?”
„Cât de plauzibil este ca zarurile să nu fie încărcate, dacă dintr-o sută de aruncări fiecare a aruncat 12 puncte?”

Dacă distribuția probabilității depinde de parametru , atunci, pe de o parte, putem lua în considerare probabilitatea condiționată a evenimentelor pentru un parametru dat și, pe de altă parte, probabilitatea unui eveniment dat pentru diferite valori ale parametrului . Primul caz corespunde unei funcții care depinde de evenimentul : , iar al doilea caz corespunde unei funcții care depinde de un parametru cu un eveniment fix : . Ultima expresie este funcția de probabilitate și arată cât de probabilă este valoarea parametrului selectat pentru un eveniment cunoscut . $\theta$ $X$ $\theta$ $X$ $\theta$ $X$ $P(x)=P(x\mid \theta )$ $\theta$ $X$ $L(\theta)=L(\theta \mid x=X)$ $\theta$ $X$

Informal : dacă probabilitatea ne permite să anticipăm rezultate necunoscute pe baza unor parametri cunoscuți, atunci probabilitatea ne permite să estimăm parametrii necunoscuți pe baza rezultatelor cunoscute.

L(\theta \mid x)=p_{\theta}(x)=P_{\theta}(X=x)

Este important de înțeles că nu se pot face judecăți probabilistice din valoarea absolută a probabilității. Probabilitatea vă permite să comparați mai multe distribuții de probabilitate cu parametri diferiți și să evaluați în contextul cărora dintre aceștia sunt cele mai probabile evenimentele observate.

Definiție

Să fie dată o familie parametrică de distribuții de probabilitate și un eșantion pentru unele . Să presupunem că distribuția comună a acestui eșantion este dată de o funcție , unde este fie o densitate de probabilitate , fie o funcție de probabilitate a unui vector aleator . $\{\mathbb {P} _{\theta }\}_{\theta \in \Theta }$ $X_{1},\ldots ,X_{n}\sim \mathbb {P} _{\theta }$ $\theta \în \Theta$ $f_{\mathbf {X} }(\mathbf {x} \mid \theta ),\;\mathbf {x} \in \mathbb {R} ^{n}$ $f_{\mathbf {X} }$ $\mathbf {X} =(X_{1},\ldots ,X_{n})^{\top }$

Pentru o implementare de eșantionare fixă , funcția se numește funcție de probabilitate [1] . $\mathbf {X} =\mathbf {x}$ $f_{\mathbf {X} }(\theta \mid \mathbf {x})\colon \Theta \to \mathbb {R}$

Funcția de log-probabilitate

În multe aplicații, este necesar să se găsească maximul funcției de probabilitate, care este asociată cu calculul derivatei. Logaritmul este o funcție crescătoare monoton, astfel încât logaritmul funcției își va atinge maximul în același punct cu funcția însăși. Pe de altă parte, logaritmul produsului este o sumă, care simplifică diferențierea. Prin urmare, pentru calcule practice, este de preferat să se folosească logaritmul funcției de probabilitate.

Funcția , se numește funcție de probabilitate logaritmică [1] . $L(\theta \mid \mathbf {x} )=\ln f_{\mathbf {X} }(\theta \mid \mathbf {x} )$
Dacă eșantionul este independent , atunci

f_{\mathbf {X} }(\mathbf {x} \mid \theta )=\prod \limits _{i=1}^{n}f_{X_{i))(x_{i}\ mijlocul\theta)

unde este funcția de distribuție a densității sau a probabilității . Funcția de log-probabilitate în acest caz are forma $f_{X_{i}}(\cdot \mid \theta )$ $\mathbb {P} _{\theta }$

L(\theta \mid \mathbf {x} )=\sum \limits _{i=1}^{n}\ln f_{X_{i}}(\theta \mid x_{i})

Exemplu

Fie probabilitatea de a obține capete la aruncarea unei monede. Această valoare poate fi considerată ca un parametru care ia valori de la 0 la 1. Fie ca evenimentul să fie pierderea a doi vulturi în două aruncări consecutive de monede. Presupunând că rezultatele ambelor aruncări sunt variabile aleatoare independente distribuite identic , probabilitatea evenimentului va fi egală cu . În consecință, la $p_{O}$ $OO$ $OO$ $p_{O}^{2)$ $p_{O}=0{,}5$

P(OO\mid p_{O}=0{,}5)=0{,}25.

Astfel, funcția de probabilitate la valoarea parametrului și în condiția apariției evenimentului este 0,25, care poate fi scrisă matematic ca $p_{O}=0{,}5$ $OO$

L(p_{O}=0{,}5\mid OO)=0{,}25.

Acest fapt nu este identic cu afirmația „probabilitatea ca, având în vedere apariția unui eveniment, să fie 0,25” datorită teoremei lui Bayes . $p_{O}=0{,}5$ $OO$

Funcția de probabilitate dată în acest exemplu este pătratică , astfel încât integrala acestei funcții pe întregul interval de valori ale parametrilor va fi egală cu 1/3. Acest fapt ilustrează o altă diferență între funcția de probabilitate și densitatea obișnuită de probabilitate, a cărei integrală trebuie să fie egală cu unu. $p_{O}$

Istorie

Plauzibilitatea a fost menționată pentru prima dată într-o carte a lui Thorvald Thiele , publicată în 1889 [2] .

O descriere completă a ideii de probabilitate a fost dată pentru prima dată de Ronald Fisher în 1922 în lucrarea sa „The Mathematical Foundations of Theoretical Statistics” [3] . În această lucrare, Fisher folosește, de asemenea, termenul de metodă de maximă probabilitate . Fisher se opune utilizării probabilității inverse ca bază pentru inferența statistică și sugerează utilizarea funcției de probabilitate.

Vezi și

Metoda maximă de probabilitate

Note

↑ 1 2 Borovkov, 2010 , p. 105.
↑ Steffen L. Lauritzen, Aspects of TN Thiele's Contributions to Statistics Arhivat la 1 octombrie 2007 la Wayback Machine (1999). (Engleză)
↑ Ronald A. Fisher. „Despre bazele matematice ale statisticii teoretice”. Philosophical Transactions of the Royal Society , A, 222:309-368 (1922). („plauzibilitatea” menționată în secțiunea 6.) (ing.)

Literatură

Borovkov, A. A. Statistică matematică: manual. - Ed. a IV-a, șters .. -Sankt Petersburg. : Lan, 2010. - 704 p. - (Manuale pentru universităţi. Literatură specială). -ISBN 978-5-8114-1013-2.