Independență (teoria probabilității)

În teoria probabilității, două evenimente aleatoare sunt numite independente dacă apariția unuia dintre ele nu modifică probabilitatea de apariție a celuilalt. În mod similar, două variabile aleatoare sunt numite independente dacă valoarea cunoscută a uneia dintre ele nu oferă informații despre cealaltă.

Evenimente independente

Vom presupune că ni se dă un spațiu de probabilitate fix . $(\Omega ,\;{\mathcal {F}),\;\mathbb {P} )$

Definiție 1. Două evenimente sunt independente dacă $A,B\în {\mathcal {F}}$

apariţia unui eveniment nu modifică probabilitatea de apariţie a evenimentului .

A

B

Observație 1. În cazul în care probabilitatea unui eveniment, de exemplu , este diferită de zero, adică , definiția independenței este echivalentă cu: $B$ $\mathbb {P} (B)>0$

\mathbb {P} (A\mid B)=\mathbb {P} (A),

adică probabilitatea condiționată a evenimentului în condițiile este egală cu probabilitatea necondiționată a evenimentului . $A$ $B$ $A$

Definiția 2. Fie o familie (finită sau infinită) de evenimente aleatoare , unde este un set de indici arbitrar . Atunci aceste evenimente sunt independente perechi dacă oricare două evenimente din această familie sunt independente, adică $\{A_{i}\}_{i\in I}\subset {\mathcal {F}}$ $eu$

\mathbb {P} (A_{i}\cap A_{j})=\mathbb {P} (A_{i})\cdot \mathbb {P} (A_{j}),\;\forall i\neq j.

Definiție 3. Să existe o familie (finită sau infinită) de evenimente aleatoare . Atunci aceste evenimente sunt împreună independente dacă, pentru orice set finit al acestor evenimente, este adevărat: $\{A_{i}\}_{i\in I}\subset {\mathcal {F}}$ $\{A_{i_{k}}\}_{k=1}^{N}$

\mathbb {P} (A_{i_{1}}\cap \ldots \cap A_{i_{N}})=\mathbb {P} (A_{i_{1}})\cdot \ldots \cdot \mathbb {P} (A_{i_{N}}).

Observația 2. Independența comună implică în mod evident independența în perechi. În general, invers nu este adevărat.

Exemplul 1. Aruncă trei monede echilibrate. Să definim evenimentele după cum urmează:

$A_{1}$ : monedele 1 și 2 au căzut pe aceeași parte;
$A_{2}$ : monedele 2 și 3 au căzut pe aceeași parte;
$A_{3}$ : monedele 1 și 3 au căzut pe aceeași parte;

Este ușor să verificați dacă oricare două evenimente din acest set sunt independente. Cu toate acestea, cei trei sunt dependenți colectiv, pentru că știind, de exemplu, că evenimentele s-au întâmplat , știm exact ce s- a întâmplat. Mai formal: . Pe de altă parte, . $A_{1}$ $A_{2}$ $A_{3}$ $\mathbb {P} (A_{i}\cap A_{j})={\frac {1}{4}}={\frac {1}{2}}\cdot {\frac {1}{2} }=\mathbb {P} (A_{i})\cdot \mathbb {P} (A_{j})\quad \forall i\neq j$ $\mathbb {P} (A_{1}\cap A_{2}\cap A_{3})={\frac {1}{4}}\neq {\frac {1}{2}}\cdot {\ frac {1}{2}}\cdot {\frac {1}{2}}=\mathbb {P} (A_{1})\cdot \mathbb {P} (A_{2})\cdot \mathbb { P} (A_{3})$

Sigma-algebre independente

Definiție 4. Fie două sigma-algebre pe același spațiu de probabilitate. Ei sunt numiți independenți dacă oricare dintre reprezentanții lor sunt independenți unul de celălalt, adică: ${\mathcal {A}}_{1},\;{\mathcal {A}}_{2}\subset {\mathcal {F}}$

\mathbb {P} (A_{1}\cap A_{2})=\mathbb {P} (A_{1})\cdot \mathbb {P} (A_{2}),\;\forall A_{1 }\în {\mathcal {A}}_{1},\;A_{2}\în {\mathcal {A}}_{2}

Dacă în loc de două există o întreagă familie (posibil infinită) de sigma-algebre, atunci independența perechilor și comună este definită pentru aceasta într-un mod evident.

Variabile aleatoare independente

Definiții

Definiție 5. Fie dată o familie de variabile aleatoare , astfel încât . Atunci aceste variabile aleatoare sunt independente pe perechi dacă algebrele sigma generate de ele sunt independente pe perechi . Variabilele aleatoare sunt independente reciproc dacă algebrele sigma generate de acestea sunt. $(X_{i})_{i\în I}$ $X_{i}\colon \Omega \to \mathbb {R} ,\;\forall i\in I$ $\{\sigma (X_{i})\}_{i\in I}$

Trebuie menționat că, în practică, cu excepția cazului în care se deduce din context, independența este considerată ca fiind independența în ansamblu .

Definiția dată mai sus este echivalentă cu oricare dintre următoarele. Două variabile aleatoare sunt independente dacă și numai dacă : $X Y$

Pentru orice : $A,\;B\în {\mathcal {B}}(\mathbb {R} )$

\mathbb {P} (X\in A,\;Y\in B)=\mathbb {P} (X\in A)\cdot \mathbb {P} (Y\in B)=\mathbb { P} (\left\{\omega :X(\omega )\in A,~\omega \in \Omega \right\})\cdot \mathbb {P} (\left\{\omega :Y(\omega )\în B,~\omega \în \Omega \right\}).

Pentru orice funcție Borel, variabilele aleatoare sunt independente. $f,\;g\colon \mathbb {R} \to \mathbb {R}$ $f(X),\;g(Y)$
Pentru orice funcții Borel restricționate : $f,\;g\colon \mathbb {R} \to \mathbb {R}$

\mathbb {E} \left[f(X)g(Y)\right]=\mathbb {E} \left[f(X)\right]\cdot \mathbb {E} \left[g(Y)\ dreapta].

Proprietăți ale variabilelor aleatoare independente

Fie distribuția unui vector aleatoriu , fie distribuția și distribuția lui . Atunci ele sunt independente dacă și numai dacă $\mathbb {P} ^{X,\;Y}$ $(X Y)$ $\mathbb {P} ^{X}$ $X$ $\mathbb {P} ^{Y}$ $Y$ $X Y$

\mathbb {P} ^{X,\;Y}=\mathbb {P} ^{X}\otimes \mathbb {P} ^{Y},

unde denotă produsul (direct) al măsurilor . $uneori$

Fie funcțiile de distribuție cumulative, respectiv. Atunci ele sunt independente dacă și numai dacă $F_{X,\;Y},\;F_{X},\;F_{Y}$ $(X,\;Y),\;X,\;Y$ $X Y$

F_{X,\;Y}(x,\;y)=F_{X}(x)\cdot F_{Y}(y).

Fie variabilele aleatoare discrete . Atunci ele sunt independente dacă și numai dacă $X Y$

\mathbb {P} (X=i,\;Y=j)=\mathbb {P} (X=i)\cdot \mathbb {P} (Y=j).

Fie variabilele aleatoare în comun absolut continue, adică distribuția lor comună are o densitate . Atunci ele sunt independente dacă și numai dacă $X Y$ $f_{{X,\;Y}}(x,\;y)$

f_{X,\;Y}(x,\;y)=f_{X}(x)\cdot f_{Y}(y),\;\forall (x,\;y)\in \mathbb {R } ^{2}

unde sunt densitățile variabilelor aleatoare și, respectiv. $f_{X}(x),\;f_{Y}(y)$ $X$ $Y$

Fie variabilele aleatoare independente și au o varianță finită . Atunci nu sunt corelate . $X Y$
Orice colecție de variabile aleatoare care sunt independente în populație este independentă pe perechi, dar nu toate colecțiile independente pe perechi sunt independente în populație. Acesta din urmă este demonstrat de exemplul de aruncare a monedelor dat de S. N. Bernstein.

independență n-ary

În cazul general, pentru oricine se poate vorbi de independenţă -ariană. Ideea este similară: o familie de variabile aleatoare este -arno independentă dacă orice submulțime a cardinalității sale este independentă colectiv. Independența -ary a fost folosită în informatica teoretică pentru a demonstra teorema problemei MAXEkSAT . $n\geqslant 2$ $n$ $n$ $n$ $n$

Vezi și

Link -uri

Russell, Stuart. Inteligența artificială: o abordare modernă / Stuart Russell, Peter Norvig. - Prentice Hall , 2002. - P. 478 . — ISBN 0-13-790395-2 .

Dicționare și enciclopedii	Britannica (online)