Analiza variatiei

Analiza varianței este o metodă în statistica matematică care vizează găsirea dependențelor în datele experimentale prin examinarea semnificației diferențelor în valorile medii [1] [2] . Spre deosebire de testul t , vă permite să comparați mediile a trei sau mai multe grupuri. Dezvoltat de R. Fisher pentru a analiza rezultatele studiilor experimentale. Denumirea ANOVA (din engleză. ANalysis Of VAriance ) [3] se găsește și în literatură .

Tipuri de ANOVA

Esența analizei varianței este de a studia influența uneia sau mai multor variabile independente , denumite de obicei factori, asupra variabilei dependente . Variabilele dependente sunt reprezentate de valorile scalelor absolute (scala raportului). Variabilele independente sunt nominative (scara de nume), adică reflectă apartenența la grup și pot avea două sau mai multe valori (tip, gradație sau nivel). Exemple de variabilă independentă cu două valori ar fi sexul (feminin: , bărbat: ) sau tipul de grup de tratament (control: , experimental: ). Gradările corespunzătoare eșantioanelor independente de obiecte se numesc intergrup, iar gradațiile corespunzătoare eșantioanelor dependente se numesc intragrup. $X_{i}$ $X_{1}$ $X_{2}$ $X_{1}$ $X_{2}$

În funcție de tipul și numărul de variabile, există:

analiza univariată și multivariată a varianței (una sau mai multe variabile independente);
analiza univariată și multivariată a varianței (una sau mai multe variabile dependente);
analiza varianței cu măsurători repetate (pentru probe dependente);
analiza varianței cu factori constanți, factori aleatori și modele mixte cu factori de ambele tipuri;

Model matematic de analiză a varianței

Modelul matematic de analiză a dispersiei este un caz special al modelului liniar de bază . Lăsați metodele să fie folosite pentru a măsura mai mulți parametri ale căror valori exacte sunt . În acest caz, rezultatele măsurătorilor diferitelor cantități prin diferite metode pot fi reprezentate ca: $A_{j}\ (1\leq j\leq m)$ $x_{i}\ (1\leq i\leq n)$ $\mu _{i}\ (1\leq i\leq n)$

$x_{{i,j}}=\mu _{{i}}+a_{{i,j}}+e_{{i,j}}$ ,

Unde:

$x_{{i,j}}$ este rezultatul măsurării celui de-al treilea parametru prin metoda ; $i$ $A_{{j}}$
$\mu _{{i}}$ este valoarea exactă a parametrului --lea; $i$
$a_{i,j}$ este eroarea sistematică în măsurarea celui de-al treilea parametru din grup conform metodei ; $i$ $A_{{j}}$
$e_{{i,j}}$ este o eroare de măsurare aleatorie a parametrului --lea prin metoda . $i$ $A_{{j}}$

Apoi varianțele următoarelor variabile aleatoare: (unde:
$x_{{i,j}}$
$x_{{i,j}}-x_{{i,*}}-x_{{*,j}}+x_{{*,*}}$
$x_{{i,*}}$
$x_{{*,j}}$

$x_{{*,j}}={\frac {1}{n}}\sum _{{i}}x_{{i,j}},$

$x_{{i,*}}={\frac {1}{m}}\sum _{{j}}x_{{i,j}},$

$x_{{*,*}}={\frac {1}{nm}}\sum _{{i,j}}x_{{i,j}}$ )

sunt exprimate ca:

$s^{{2}}={\frac {1}{nm}}\sum _{{i}}\sum _{{j}}(x_{{i,j}}-x_{{*,* }})^{{2}}$

$s_{{0}}^{2}={\frac {1}{nm}}\sum _{{i}}\sum _{{j}}(x_{{i,j}}-x_{{ i,*}}-x_{{*,j}}+x_{{*,*}})^{{2}}$

$s_{{1}}^{2}={\frac {1}{n}}\sum _{{i}}(x_{{i,*}}-x_{{*,*}})^{ {2}}$

$s_{{2}}^{2}={\frac {1}{m}}\sum _{{j}}(x_{{*,j}}-x_{{*,*}})^{ {2}}$

și să satisfacă identitatea:

$s^{2}=s_{{0}}^{2}+s_{{1}}^{2}+s_{{2}}^{2}$

Procedura de analiză a varianței constă în determinarea raportului dintre variația sistematică (între grupuri) și variația aleatorie (în cadrul grupului) în datele măsurate. Ca indicator al variabilității, se utilizează suma pătratelor abaterii valorilor parametrilor de la medie: (din engleză. Sum of Squares ). Se poate demonstra că suma totală a pătratelor se descompune într-o sumă intergrup de pătrate și o sumă intragrup de pătrate : $SS$ $SS_{\textrm {total)}$ $SS_{\textrm {bg)}$ $SS_{\textrm {wg)}$

$SS_{\textrm {total}}=SS_{\textrm {bg}}+SS_{\textrm {wg}}$

Fie valoarea exactă a fiecărui parametru să fie așteptarea sa matematică egală cu media populației . În absenţa erorilor sistematice, media grupului şi media populaţiei sunt identice: . Atunci eroarea de măsurare aleatorie este diferența dintre rezultatul măsurării și media grupului: . Dacă metoda are un efect sistematic, atunci eroarea sistematică sub influența acestui factor este diferența dintre media grupului și media populației: . $E(X)=M$ $M_{{j}}=M$ $x_{{i,j}}$ $x_{{i,j}}-M_{j}$ $A_{j}$ $M_{j}$ $M_{j}-M$

Atunci ecuația poate fi reprezentată după cum urmează: $x_{{i,j}}=\mu _{{i}}+a_{{i,j}}+e_{{i,j}}$

$x_{{i,j}}=M+(M_{j}-M)+(x_{{i,j}}-M_{j})$ , sau

$x_{{i,j}}-M=(M_{j}-M)+(x_{{i,j}}-M_{j})$ .

Apoi

${\begin{aliniat}\sum _{{i=1}}^{{n_{j}}}(x_{{i,j}}-M)^{2}&=\sum _{{i= 1}}^{{n_{j}}}(M_{j}-M)^{2}+\sum _{{i=1}}^{{n_{j}}}(x_{{i, j}}-M_{j})^{2},\\\end{aliniat}}$

Unde

$SS_{\textrm {total}}=\sum _{i=1}^{n_{j}}(x_{i,j}-M)^{2}$

$SS_{\textrm {bg}}=\sum _{i=1}^{n_{j}}(M_{j}-M)^{2}$

$SS_{\textrm {wg}}=\sum _{i=1}^{n_{j}}(x_{i,j}-M_{j})^{2}$

prin urmare

$SS_{\textrm {total}}=SS_{\textrm {bg}}+SS_{\textrm {wg}}.$

Gradele de libertate sunt descompuse într-un mod similar:

$df_{\textrm {total}}=df_{\textrm {bg}}+df_{\textrm {wg}},$ Unde

$df_{\textrm {total}}=N-1,$

$df_{\textrm {bg}}=J-1,$

$df_{\textrm {wg}}=NJ,$

și este dimensiunea eșantionului complet și este numărul de grupuri. $N$ $J$

Apoi, varianța fiecărei părți, denumită în modelul de analiză a varianței „pătrat mediu”, sau (din engleză Mean Square ), este raportul dintre suma pătratelor și numărul gradelor lor de libertate: $DOMNIȘOARĂ$

$MS_{\textrm {total}}={\frac {SS_{\textrm {total}}}{N-1}}$

$MS_{\textrm {bg}}={\frac {SS_{\textrm {bg}}}{J-1}}$

$MS_{\textrm {wg}}={\frac {SS_{\textrm {wg}}}{NJ}}),$

Raportul dintre variațiile intergrup și intragrup are o distribuție F ( distribuția Fischer ) și este determinat folosind ( criteriul F Fisher ):

$F_{df_{\textrm {bg}}, df_{\textrm {wg}}}={\frac {MS_{\textrm {bg}}}{MS_{\textrm {wg}}}}.$

Principii și aplicații

Punctele de plecare ale analizei varianței sunt

distribuția normală a valorilor trăsăturii studiate în populația generală;
egalitatea varianțelor în populațiile comparate;
natura aleatorie și independentă a eșantionului.

Ipoteza nulă în analiza varianței este afirmația despre egalitatea valorilor medii:

$H_{0}{:}\quad \mu _{1}=\mu _{2}=\dots =\mu _{j}.$

Când ipoteza nulă este respinsă, se acceptă ipoteza alternativă că nu toate mediile sunt egale, adică există cel puțin două grupuri care diferă ca medie:

$H_{1}{:}\există i,j\in \{1,...,j\},i\neq j:\mu _{i}\neq \mu _{j}.$

Dacă există trei sau mai multe grupuri, se folosesc teste t post-hoc sau metoda contrastelor pentru a determina diferențele dintre medii .

Analiza unidirecțională a varianței

Cel mai simplu caz de analiză a varianței este o analiză unidimensională unidirecțională pentru două sau mai multe grupuri independente, când toate grupurile sunt combinate conform unui singur atribut. Pe parcursul analizei se testează ipoteza nulă despre egalitatea mijloacelor. Când se analizează două grupuri, analiza varianței este identică cu testul t Student cu două eșantioane pentru eșantioane independente, iar valoarea statisticii F este egală cu pătratul statisticii t corespunzătoare .

Pentru a confirma afirmația despre egalitatea dispersiilor, se folosește de obicei testul Levene . Dacă ipoteza egalității varianțelor este respinsă, analiza principală nu este aplicabilă. Dacă variațiile sunt egale, atunci criteriul F al lui Fisher este utilizat pentru a evalua raportul dintre variabilitatea intergrup și intragrup :

$F_{df_{\textrm {bg}}, df_{\textrm {wg}}}={\frac {MS_{\textrm {bg}}}{MS_{\textrm {wg}}}}.$

Dacă statistica F depășește valoarea critică, atunci ipoteza nulă nu poate fi acceptată (respinsă) și se face o concluzie despre inegalitatea mediilor. Când se analizează mediile celor două grupuri, rezultatele pot fi interpretate imediat după aplicarea testului Fisher .

Dacă există trei sau mai multe grupuri, este necesară compararea în perechi a mediilor pentru a identifica diferențele semnificative statistic între ele. Analiza a priori include metoda contrastelor, în care suma de pătrate intergrup este împărțită în sumele de pătrate ale contrastelor individuale:

$SS_{\textrm {bg}}=SS_{\psi _{1}}+SS_{\psi _{2}}+...+SS_{\psi _{n)),$

unde există un contrast între mediile celor două grupuri și apoi folosind testul Fisher , se verifică raportul dintre pătratul mediu pentru fiecare contrast și pătratul mediu din cadrul grupului: $\psi$

$F_{1,df_{\textrm {wg}}}={\frac {MS_{\psi _{i}}}{MS_{\textrm {wg}}}}.$

Analiza a posteriori include teste post-hoc t folosind metodele Bonferroni sau Scheffe, precum și o comparație a diferențelor medii folosind metoda Tukey. O caracteristică a testelor post-hoc este utilizarea unui pătrat mediu intragrup pentru a evalua orice pereche de medii. Testele Bonferroni și Scheffe sunt cele mai conservatoare, deoarece folosesc cea mai mică regiune critică la un anumit nivel de semnificație . $MS_{\textrm {wg)}$ $\alfa$

Pe lângă estimarea mediilor, analiza varianței include determinarea coeficientului de determinare , arătând ce proporție din variabilitatea totală explică acest factor: $R^2$

$R^{2}={\frac {SS_{\textrm {bg}}}{SS_{\textrm {total}}}}.$

Analiza multivariată a varianței

Analiza multivariată vă permite să testați influența mai multor factori asupra variabilei dependente. Modelul liniar al modelului multifactorial are forma:

$x_{{i,j,k}}=\mu _{{i}}+a_{{i,j}}+b_{{i,k}}+...+(ab)_{{i, j,k}}+e_{{i,j,k}}$ , Unde:

- $x_{{i,j,k}}$ este rezultatul măsurării celui de-al-lea parametru; $i$
- $\mu _{{i}}$ este media pentru --lea parametru; $i$
- $a_{i,j}$ este eroarea sistematică în măsurarea celui de-al treilea parametru din grup conform metodei ; $i$ $j$ $A$
- $b_{{i,k}}$ este eroarea sistematică în măsurarea celui de-al treilea parametru din grup conform metodei ; $i$ $k$ $B$
- $(ab)_{{i,j,k}}$ este eroarea sistematică în măsurarea celui de-al-lea parametru din grup datorită combinației de metode și ; $i$ $j,k$ $A$ $B$
- $e_{{i,j,k}}$ este o eroare de măsurare aleatorie a celui de-al- lea parametru. $i$

Spre deosebire de modelul univariat, unde există o sumă intergrup de pătrate, modelul de analiză multivariată include sumele pătratelor pentru fiecare factor separat și sumele pătratelor tuturor interacțiunilor dintre ele. Astfel, în modelul cu doi factori, suma pătratelor intergrupurilor este descompusă în suma pătratelor factorului , suma pătratelor factorului și suma pătratelor interacțiunii factorilor și : $A$ $B$ $A$ $B$

$SS_{\textrm {total}}=SS_{A}+SS_{B}+SS_{AB}+SS_{\textrm {wg}}.$

În consecință, modelul cu trei factori include suma pătratelor factorului , suma pătratelor factorului , suma pătratelor factorului și suma pătratelor interacțiunilor factorilor și , și , și , precum și interacțiunile tuturor celor trei factori : $A$ $B$ $C$ $A$ $B$ $B$ $C$ $A$ $C$ $A,B,C$

$SS_{\textrm {total}}=SS_{A}+SS_{B}+SS_{C}+SS_{AB}+SS_{BC}+SS_{AC}+SS_{ABC}+SS_{\ textrm{wg}}.$

Gradele de libertate sunt extinse într-un mod similar:

$df_{\textrm {total}}=df_{A}+df_{B}+df_{AB}+df_{\textrm {wg)),$ Unde

$df_{\textrm {total}}=N-1,$

$df_{A}=J-1,$

$df_{B}=K-1,$

$df_{{AB}}=(J-1)(K-1),$

$df_{\textrm {wg}}=N-JK,$

și este volumul eșantionului complet, este numărul de niveluri (grupuri) ale factorului și este numărul de niveluri (grupuri) ale factorului . $N$ $J$ $A$ $K$ $B$

Analiza testează mai multe ipoteze nule :

ipoteza despre egalitatea mediilor sub influenta factorului : ; $A$ $H_{0}{:}\\mu _{1,*}=\mu _{2,*}=\dots =\mu _{j,*}$
ipoteza despre egalitatea mediilor sub influenta factorului : ; $B$ ${\displaystyle H_{0}{:}\\mu _{*,1}=\mu _{*,2}=\dots =\mu _{*,k))$
ipoteza despre absenţa interacţiunii factorilor şi : pentru toţi şi $A$ $B$ $H_{0}{:}\ (ab)_{j,k}=0$ $j$ $k.$

Fiecare ipoteză este testată folosind criteriul Fisher:

$F_{df_{A},df_{\textrm {wg}}}={\frac {MS_{A}}{MS_{\textrm {wg}}}};$

$F_{df_{B},df_{\textrm {wg}}}={\frac {MS_{B}}{MS_{\textrm {wg}}}};$

$F_{df_{AB},df_{\textrm {wg}}}={\frac {MS_{AB}}{MS_{\textrm {wg}}}}.$

La respingerea ipotezei nule despre influența unui singur factor, se acceptă afirmația că există un efect principal al factorului ( etc.). Când se respinge ipoteza nulă despre interacțiunea factorilor, se acceptă afirmația că influența factorului se manifestă diferit la diferite niveluri ale factorului . De obicei, în acest caz, rezultatele analizei generale sunt recunoscute ca nevalide, iar influența factorului este verificată separat la fiecare nivel al factorului folosind o analiză unidirecțională a varianței sau t - test . $A$ $b,$ $A$ $B$ $A$ $B$

Note

↑ Analiza varianței . Preluat la 15 martie 2011. Arhivat din original la 23 mai 2012. (nedefinit)
↑ Analiza dispersiei - articol din Marea Enciclopedie Sovietică . Bolşev, L. N..
↑ A. D. Nasledov. Metode matematice de cercetare psihologică. Sankt Petersburg, 2008. ISBN 5-9268-0275-X

Literatură

Scheffe G. Analiza dispersiei, trad. din engleza. - M., 1963.
Smirnov NV, Dunin-Barkovsky IV Curs de teoria probabilităților și statistică matematică pentru aplicații tehnice. - Ed. a II-a - M. , 1965.

Dicționare și enciclopedii	Rusă mare
În cataloagele bibliografice	NKC : ph118416

Cele mai mici pătrate și analiza de regresie

Statistica de calcul

Metoda celor mai mici pătrate
MNC liniar
Cele mai mici pătrate neliniare
LSM cu recalcularea iterativă a greutăților

Corelație
și dependență

Coeficientul de corelație Pearson
Corelația rangului ( Spearman
Kendall )
Corelație parțială
Factorul de distorsionare

Analiza regresiei

MNC obișnuit
Metoda celor mai mici pătrate parțiale
Cele mai mici pătrate pline
Regresia crestei

Regresia ca model
statistic

Regresie liniara	Regresia liniară simplă MNC obișnuit Cele mai mici pătrate generalizate Cele mai mici pătrate ponderate Model liniar de bază
cadru predictiv	Regresia polinomială curba de crestere Regresia segmentată Regresia locală
Regresie personalizată	neliniară Neparametric semiparametrică durabil cuantilă izotonic
Erori non-standard	Model liniar generalizat Regresie binomială Regresia Poisson Regresie logistică

Descompunerea varianței

Analiza variatiei
Analiza covarianței
Analiza multivariată a varianței

Studiu model

C p Nalbi
Regresie în trepte
Alegerea unui model statistic
Validarea modelului de regresie

Cerințe preliminare

Răspuns mediu și așteptat
Teorema Gauss-Markov
Erori și abateri
Test statistic
Echilibrul studentizat
Eroare pătratică medie minimă

Planificarea
experimentului

Metodologia suprafeței de răspuns
Design optim al experimentului
Proiectare Bayesian Experiment

Aproximație numerică

Aplicații

Aproximare folosind curbe
Curba de calibrare
Filtrul Savitsky-Golay
Identificarea sistemului
Metoda deplasării celor mai mici pătrate