Lanțul Markov

Versiunea actuală a paginii nu a fost încă revizuită de colaboratori experimentați și poate diferi semnificativ de versiunea revizuită pe 28 decembrie 2019; verificările necesită 9 modificări .

Un lanț Markov este o succesiune de evenimente aleatoare cu un număr finit sau numărabil de rezultate , unde probabilitatea ca fiecare eveniment să se producă depinde doar de starea atinsă în evenimentul anterior [1] . Se caracterizează prin proprietatea că, vorbind vag, cu un prezent fix, viitorul este independent de trecut. Numit în onoarea lui A. A. Markov (senior) , care a introdus pentru prima dată acest concept în lucrarea din 1906. [2]

Lanț Markov în timp discret

Definiție

O secvență de variabile aleatoare discrete se numește un lanț Markov simplu (cu timp discret) dacă $\{X_{n}\}_{{n\geqslant 0}}$

{\mathbb {P}}(X_{{n+1}}=i_{{n+1}}\mid X_{n}=i_{n},X_{{n-1}}=i_{{n -1}},\ldots ,X_{0}=i_{0})={\mathbb {P}}(X_{{n+1}}=i_{{n+1}}\mid X_{n} =i_{n})

Astfel, în cel mai simplu caz, distribuția condiționată a stării următoare a lanțului Markov depinde doar de starea curentă și nu depinde de toate stările anterioare (spre deosebire de lanțurile Markov de ordin superior).

Gama de variabile aleatoare se numește spațiul de stare al lanțului, iar numărul este numărul pasului. $\{X_{n}\}$ $n$

Matrice de tranziție și lanțuri omogene

Matrix , unde $P{(n)}$

P_{{ij}}{(n)}\equiv {\mathbb {P}}(X_{{n+1}}=j\mid X_{n}=i)

se numește matricea probabilităților de tranziție la pasul -a, iar vectorul , unde $n$ ${\mathbf {p}}=(p_{1},p_{2},\ldots )^{{\top }}$

p_{i}\equiv {\mathbb {P}}(X_{0}=i)

— distribuția inițială a lanțului Markov.

Evident, matricea probabilității de tranziție este chiar stocastică , adică.

\sum \limits _{{j}}P_{{ij}}(n)=1,\quad \forall n\in {\mathbb {N}}

Un lanț Markov se numește omogen dacă matricea probabilității de tranziție nu depinde de numărul pasului, adică

P_{{ij}}{(n)}=P_{{ij}},\quad \forall n\in {\mathbb {N}}

În caz contrar, lanțul Markov este numit neomogen. În cele ce urmează, vom presupune că avem de-a face cu lanțuri Markov omogene.

Distribuțiile finite-dimensionale și matricea de tranziție în n trepte

Din proprietățile probabilității condiționate și definiția unui lanț Markov omogen, obținem:

{\mathbb {P}}(X_{{n}}=i_{{n}},\ldots ,X_{0}=i_{0})=P_{{i_{{n-1}},i_{ n}}}\cdots P_{{i_{0},i_{1}}}P_{{i_{0}}}

de unde urmează cazul special al ecuației Kolmogorov-Chapman :

{\mathbb {P}}(X_{n}=i_{n}\mid X_{0}=i_{0})=(P^{n})_{{i_{0},i_{n}} }

adică matricea probabilităților de tranziție pe trepte ale unui lanț Markov omogen este gradul --lea al matricei probabilităților de tranziție pe 1 pas. In cele din urma, $n$ $n$

{\mathbb {P}}(X_{n}=i_{n})=\left((P^{T})^{n}{\mathbf {p}}\right)_{{i_{n} }}

Tipuri de stat

stare de revenire .
Lanțul Markov recurent .
Stare accesibilă .
Lanț Markov ireductibil .
Stare periodică .
Lanțul Markov periodic .
stare absorbanta . Starea se numește absorbantă dacă . $i$ $P_{i,i}=1$
Stare ergonomică .

Exemple

Lanț Markov cu timp continuu

Definiție

O familie de variabile aleatoare discrete se numește lanț Markov (cu timp continuu) dacă $\{X_{t}\}_{{t\geqslant 0}}$

{\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{s}=x_{s},\;0<s\leqslant t)={\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{t}=x_{t})

Se spune că un lanț Markov cu timp continuu este omogen dacă

{\mathbb {P}}(X_{{t+h}}=x_{{t+h}}\mid X_{t}=x_{t})={\mathbb {P}}(X_{{h }}=x_{{h}}\mid X_{0}=x_{0})

Matricea funcțiilor de tranziție și ecuația Kolmogorov-Chapman

Ca și în cazul timpului discret, distribuțiile finite-dimensionale ale unui lanț Markov omogen în timp continuu sunt complet determinate de distribuția inițială

{\mathbf {p}}=(p_{1},p_{2},\ldots )^{{\top }},\;p_{i}={\mathbb {P}}(X_{0}= i),\quad i=1,2,\ldots

și matricea funcțiilor de tranziție ( probabilități de tranziție )

{\mathbf {P}}(h)=(P_{{ij}}(h))={\mathbb {P}}(X_{h}=j\mid X_{0}=i)

Matricea probabilităților de tranziție satisface ecuația Kolmogorov-Chapman : or ${\mathbf {P}}(t+s)={\mathbf {P}}(t){\mathbf {P}}(e)$

P_{{ij}}(t+s)=\sum _{k}P_{{ik}}(t)P_{{kj}}(s).

Matricea intensității și ecuațiile diferențiale ale lui Kolmogorov

Prin definiție, matricea de intensitate este sau, echivalent, ${\mathbf {Q}}=\lim _{{h\la 0}}{\frac {{\mathbf {P}}(h)-{\mathbf {I}}}{h}}$

{\mathbf {Q}}=(q_{{ij}})=\left({\frac {dP_{{ij}}(h)}{dh}}\right)_{{h=0}}

Din ecuația Kolmogorov-Chapman decurg două ecuații:

Ecuația directă a lui Kolmogorov ${\frac {d{\mathbf {P}}(t)}{dt}}={\mathbf {P}}(t){\mathbf {Q}},$
Ecuația inversă a lui Kolmogorov ${\frac {d{\mathbf {P}}(t)}{dt}}={\mathbf {Q}}{\mathbf {P}}(t).$

Pentru ambele ecuații, se alege condiția inițială . Soluție adecvată ${\mathbf {P}}(0)={\mathbf {I}}$ ${\mathbf {P}}(t)=\exp({\mathbf {Q}}t).$

Proprietăţile matricelor P şi Q

Pentru orice matrice are următoarele proprietăți: $t>0$ ${\mathbf {P}}(t)$

Elementele matricei sunt nenegative: (non-negativitatea probabilităților). ${\mathbf {P}}(t)$ $P_{{ij}}(t)\geqslant 0$
Suma elementelor din fiecare rând este 1: (probabilitate completă), adică matricea este stochastică la dreapta (sau pe rând). ${\mathbf {P}}(t)$ $\sum _{j}P_{{ij}}(t)=1$ ${\mathbf {P}}(t)$
Toate valorile proprii ale matricei nu depășesc 1 în valoare absolută: . Dacă , atunci . $\lambda$ ${\mathbf {P}}(t)$ $|\lambda |\leqslant 1$ $|\lambda |=1$ $\lambda=1$
Valoarea proprie a matricei corespunde cel puțin unui vector propriu stânga nenegativ - rând (echilibru): . $\lambda=1$ ${\mathbf {P}}(t)$ $(p_{1}^{*},\,p_{2}^{*},...);$ $p_{i}^{*}\geqslant 0;$ $\sum _{i}p_{i}^{*}=1;$ $\sum _{i}p_{i}^{*}P_{{ij}}(t)=p_{j}^{*}$
Pentru o valoare proprie a unei matrice , toți vectorii rădăcină sunt vectori proprii, adică celulele Jordan corespunzătoare sunt triviale. $\lambda=1$ ${\mathbf {P}}(t)$

Matricea are următoarele proprietăți: ${\mathbf {Q}}$

Elementele matricei în afara diagonalei sunt nenegative: . ${\mathbf {Q}}$ $q_{{ij}}\geqslant 0\;i\neq j$
Elementele matricei diagonale sunt nepozitive: . ${\mathbf {Q}}$ $q_{{ii}}\leqslant 0$
Suma elementelor din fiecare rând este 0: ${\mathbf {Q}}$ $\sum _{j}q_{{ij}}=0.$
Partea reală a tuturor valorilor proprii ale matricei este nepozitivă: . Dacă , atunci $\mu$ ${\mathbf {Q}}$ $Re(\mu )\leqslant 0$ $Re(\mu )=0$ $\mu=0.$
Valoarea proprie a matricei corespunde cel puțin unui vector propriu nenegativ pe rândul din stânga (echilibru): $\mu=0$ ${\mathbf {Q}}$ $(p_{1}^{*},\,p_{2}^{*},...);$ $p_{i}^{*}\geqslant 0;$ $\sum _{i}p_{i}^{*}=1;$ $\sum _{i}p_{i}^{*}q_{{ij}}=0.$
Pentru o valoare proprie a unei matrice , toți vectorii rădăcină sunt vectori proprii, adică celulele Jordan corespunzătoare sunt triviale. $\mu=0$ ${\mathbf {Q}}$

Graficul de tranziție, conectivitate și lanțuri Markov ergodice

Pentru un lanț Markov cu timp continuu, un grafic de tranziție direcționat (pe scurt, un grafic de tranziție) este construit conform următoarelor reguli:

Mulțimea vârfurilor graficului coincide cu setul de stări în lanț.
Vârfurile sunt conectate printr-o muchie orientată dacă (adică intensitatea fluxului din starea -a la -a este pozitivă). $i,j\,(i\neq j)$ $i\la j$ $q_{{ij}}>0$ $i$ $j$

Proprietățile topologice ale graficului de tranziție sunt legate de proprietățile spectrale ale matricei . În special, următoarele teoreme sunt adevărate pentru lanțurile finite de Markov: ${\mathbf {Q}}$

Următoarele trei proprietăți A, B, C ale unui lanț Markov finit sunt echivalente (lanțurile care le posedă sunt uneori numite slab ergodice ):

A. Pentru oricare două vârfuri diferite ale graficului de tranziție, există un astfel de vârf al graficului („drenaj comun”) încât există căi orientate de la vârf la vârf și de la vârf la vârf . Notă : caz posibil sau ; în acest caz, o cale trivială (vid) de la la sau de la la este considerată și o cale direcționată.

i,j\,(i\neq j)

k

i

k

j

k

k=i

k=j

i

i

j

j

B. O valoare proprie zero a unei matrice este nedegenerată.

{\mathbf {Q}}

C. La , matricea tinde spre o matrice în care toate rândurile coincid (și coincid, evident, cu distribuția de echilibru).

t\to\infty

{\mathbf {P}}(t)

Următoarele cinci proprietăți A, B, C, D, D ale unui lanț Markov finit sunt echivalente (lanțurile care le posedă se numesc ergodice ):

A. Graficul de tranziție al unui lanț este conectat direcțional. B. Valoarea proprie zero a unei matrice este nedegenerată și corespunde unui vector propriu stânga strict pozitiv (distribuție de echilibru).

{\mathbf {Q}}

B. Pentru unii, matricea este strict pozitivă (adică pentru toți ).

t>0

{\mathbf {P}}(t)

P_{{ij}}(t)>0

i,j

D. Pentru toți, matricea este strict pozitivă.

t>0

{\mathbf {P}}(t)

E. Pentru , matricea tinde spre o matrice strict pozitivă, în care toate rândurile coincid (și, evident, coincid cu distribuția de echilibru).

t\to\infty

{\mathbf {P}}(t)

Exemple

Luați în considerare lanțuri Markov cu trei stări cu timp continuu, corespunzătoare graficelor de tranziție prezentate în Fig. În cazul (a), numai următoarele elemente în afara diagonalei matricei de intensitate sunt nenule , în cazul (b) numai sunt nenule , iar în cazul (c) sunt . Elementele rămase sunt determinate de proprietățile matricei (suma elementelor din fiecare rând este 0). Ca rezultat, pentru graficele (a), (b), (c) matricele de intensitate arată astfel: $q_{{12}},\,q_{{13}}$ $q_{{12}},\,q_{{31}}\,q_{{32}}$ $q_{{12}},\,q_{{31}}\,q_{{23}}$ ${\mathbf {Q}}$ ${\mathbf {Q}}_{a}={\begin{pmatrix}-(q_{{12}}+q_{{{13}})&q_{{12}}&q_{{13}}\\0&0&0\ \0&0&0\end{pmatrix}},$ ${\mathbf {Q}}_{b}={\begin{pmatrix}-q_{{12}}&q_{{{12}}&0\\0&0&0\\q_{{31}}&q_{{32}}& -(q_{{31}}+q_{{32}})\end{pmatrix}},$ ${\mathbf {Q}}_{c}={\begin{pmatrix}-q_{{12}}&q_{{12}}&0\\0&-q_{{{23}}&q_{{23}}\\ q_{{31}}&0&-q_{{31}}\end{pmatrix}},$

Ecuația cinetică de bază

Ecuația cinetică de bază descrie evoluția distribuției de probabilitate într-un lanț Markov cu timp continuu. „Ecuația de bază” aici nu este un epitet, ci o traducere a termenului englezesc. ecuația principală . Pentru vectorul rând al distribuției de probabilitate, ecuația cinetică de bază are forma: $\pi$

{\frac {d\pi }{dt}}=\pi {\mathbf {Q}}

și coincide, în esență, cu ecuația directă a lui Kolmogorov . În literatura fizică, vectorii coloană ai probabilităților sunt mai des folosiți, iar ecuația cinetică de bază este scrisă într-o formă care utilizează în mod explicit legea conservării probabilității totale:

{\frac {dp_{i}}{dt}}=\sum _{{j,\,j\neq i}}(T_{{ij}}p_{j}-T_{{ji}}p_{i }),

Unde $T_{{ij}}=q_{{ji}}.$

Dacă există un echilibru pozitiv pentru ecuația cinetică de bază , atunci acesta poate fi scris sub forma $p_{i}^{*}>0$

{\frac {dp_{i}}{dt}}=\sum _{{j,\,j\neq i}}T_{{ij}}p_{j}^{*}\left({\frac { p_{j}}{p_{j}^{*}}}-{\frac {p_{i}}{p_{i}^{*}}}\dreapta).

Funcții Lyapunov pentru ecuația cinetică de bază

Pentru ecuația cinetică principală, există o familie bogată de funcții Lyapunov convexe - funcții de distribuție a probabilității care se modifică monoton în timp. Fie o funcție convexă a unei variabile. Pentru orice distribuție de probabilitate pozitivă ( ) definim funcția Morimoto : $h(x)\,(x>0)$ $p_{i}>0$ $H_{h}(p)$

H_{h}(p)=\sum _{i}p_{i}^{*}h\left({\frac {p_{i}}{p_{i}^{*}}}\right)

Derivata în timp, dacă satisface ecuația cinetică de bază, este $H_{h}(p)$ $p(t)$

{\frac {dH_{h}(p(t))}{dt}}=\sum _{{i,j\,i\neq j}}T_{{ij}}p_{j}^{*} \left[h\left({\frac {p_{i}}{p_{i}^{*}}}\right)-h\left({\frac {p_{j}}{p_{j}^ {*}}}\dreapta)+h'\stânga({\frac {p_{i}}{p_{i}^{*}}}\dreapta)\stânga({\frac {p_{j}}{ p_{j}^{*}}}-{\frac {p_{i}}{p_{i}^{*}}\right)\right]\leqslant 0

Ultima inegalitate este valabilă datorită convexității . $h(x)$

Exemple de funcții ale lui Morimoto

H_{h}(p)

$h(x)=|x-1|$ , ; $H_{h}(p)=\sum _{i}|p_{i}-p_{i}^{*}|$

aceasta functie este distanta de la distributia curenta de probabilitate la cea de echilibru in - norma . Deplasarea în timp este o contracție a spațiului distribuțiilor de probabilitate din această normă. (Pentru proprietățile contracțiilor, vezi lucrarea Teorema punctului fix al lui Banach .)

l_{1}

$h(x)=x\ln x$ , ; $H_{h}(p)=\sum _{i}p_{i}\ln \left({\frac {p_{i}}{p_{i}^{*}}}\right)$

această funcție este (minus) entropia Kullback (vezi distanța Kullback-Leibler ). În fizică, corespunde energiei libere împărțite la (unde este constanta Boltzmann , este temperatura absolută ):

kT

k

T

dacă ( distribuția Boltzmann ) atunci

p_{i}^{*}=\exp(\mu _{0}-U_{i}/kT)

H_{h}(p)=\sum _{i}p_{i}\ln p_{i}+\sum _{i}p_{i}U_{i}/kT-\mu _{0}=( \langle U\rangle -TS)/kT

$h(x)=-\ln x$ , ; $H_{h}(p)=-\sum _{i}p_{i}^{*}\ln \left({\frac {p_{i}}{p_{i}^{*}}}\right )$

această funcție este analogul de energie liberă al entropiei Burg, care este utilizat pe scară largă în procesarea semnalului:

S_{{{\rm {Burg}}}}=\sum _{i}\ln p_{i}

$h(x)={\frac {(x-1)^{2}}{2}}$ , ; $H_{h}(p)=\sum _{i}{\frac {(p_{i}-p_{i}^{*})^{2}}{2p_{i}^{*}}}$

aceasta este o aproximare pătratică pentru (minus) entropia Kullback lângă punctul de echilibru. Până la un termen constant de timp, această funcție este aceeași cu entropia (minus) Fisher dată de următoarea alegere,

$h(x)={\frac {x^{2}}{2}}$ , ; $H_{h}(p)=\sum _{i}{\frac {p_{i}^{2}}{2p_{i}^{*}}}$

aceasta este (minus) entropia Fisher .

$h(x)={\frac {x^{q}-1}{q-1)),\,q>0,\,q\neq 1$ , ; $H_{h}(p)={\frac {1}{q-1}}\left[\sum _{i}p_{i}^{*}\left({\frac {p_{i}}{ p_{i}^{*}}}\dreapta)^{q}-1\dreapta]$

acesta este unul dintre analogii energiei libere pentru entropia Tsallis .

S_{{q{{\rm {Tsallis}}}}}(p)={1 \over q-1}\left(1-\sum _{i}p_{i}^{q}\right).

servește drept bază pentru fizica statistică a cantităților neextensive. La , tinde spre entropia clasică Boltzmann-Gibbs-Shannon, iar funcția Morimoto corespunzătoare tinde către (minus) entropia Kullback.

q\la 1

Aplicație practică

Una dintre primele discipline științifice în care lanțurile Markov și-au găsit aplicații practice a fost lingvistica (în special critica textuală ). Markov însuși, pentru a-și ilustra rezultatele, a studiat dependența în alternanța vocalelor și consoanelor în primele capitole din „ Eugene Onegin ” și „ Anii copilăriei nepotului lui Bagrov ” [3] .

Note

↑ „Lanțul Markov | Definiția lanțului Markov în engleza SUA de către Oxford Dictionaries” . Dicționare Oxford | Engleză. . Dicționare Lexico | engleză (14 decembrie 2017). Preluat: 1 aprilie 2020.
↑ Gagniuc, Paul A. Markov Chains: From Theory to Implementation and Experimentation . - SUA, NJ: John Wiley & Sons , 2017. - P. 2-8. — ISBN 978-1-119-38755-8 .
↑ Maistrov, L.E. Dezvoltarea conceptului de probabilitate . - Nauka, 1980. - S. 188. - 269 p.

Literatură

Kelbert M. Ya., Sukhov Yu. M. Probabilitate și statistică în exemple și probleme. Vol. II: Lanțurile Markov ca punct de plecare pentru teoria proceselor aleatorii și aplicațiile acestora. - M. : MTSNMO, 2010. - 295 p. — ISBN 978-5-94057-252-7 .
Markov A. A. , Extinderea legii numerelor mari la cantități care depind unele de altele. - Știri ale Societății de Fizică și Matematică de la Universitatea Kazan. - seria a 2-a. - Volumul 15. (1906) - S. 135-156.
Lanțul Markov / A. V. Prohorov // Marea Enciclopedie Rusă : [în 35 de volume] / cap. ed. Yu. S. Osipov . - M . : Marea Enciclopedie Rusă, 2004-2017.
Kemeny JG, Snell JL , lanțuri Finite Markov. — Seria universitară în matematică de licență. Princeton: Van Nostrand, 1960
- Traducere: Kemeny J.J. , Snell J.L. Lanțuri Finite Markov. — M.: Nauka. 1970. - 272 p.
Zhong Kai-lai Lanțuri Markov omogene. Transl. din engleza. — M.: Mir, 1964. — 425 p.
E. Nummelin , Lanțuri Markov generale ireductibile și operatori nenegativi. — M.: Mir, 1989. — 207 p.
Morimoto T. , procesele Markov și teorema H. — J. Phys. soc. Jap. 12 (1963), 328-331.
Yaglom A.M. , Yaglom I.M. , Probabilitate și informație . - M., Nauka, 1973. - 512 p.
Kullback S. , Teoria și statistica informației. Wiley, New York, 1959.
Burg JP , The Relationship Between Maximum Entropy Spectra and Maximum Likelihood Spectra, Geophysics 37(2) (1972), 375-376.
Tsallis C. , Posibila generalizare a statisticii Boltzmann-Gibbs. J. Stat. Fiz. 52 (1988), 479-487.
Rudoy Yu. G. , Entropia generalizată a informațiilor și distribuția non-canonică în mecanica statistică de echilibru , TMF, 135:1 (2003), 3-54.
Gorban, Alexander N.; Gorban, Pavel A.; Judecător, George. Entropie: Abordarea de ordonare a lui Markov . Entropia 12, nr. 5 (2010), 1145-1193.

Link -uri

minus solid. Dezvoltarea unei clase pentru lucrul cu lanțuri Markov . Habrahabr (1 iunie 2016). Preluat: 18 august 2016. (Rusă)

Dicționare și enciclopedii	mare chinezesc Mare norvegian Rusă mare Britannica (online) Ucraina modernă Ucraina modernă
În cataloagele bibliografice	GND : 4037612-6 J9U : 987007553386405171 LCCN : sh85081369

Clasificarea stărilor și lanțurile Markov
Stat	aperiodic returnabil realizabil irevocabil nesemnificativ zero periodic pozitiv comunicând semnificativ
Lanţ	aperiodic returnabil irevocabil necompusa zero periodic pozitiv descompunebil ergodic

Tipuri de rețele neuronale artificiale

Rețea feed-forward ( Rețeaua de funcții de bază radială )
Perceptron cu un singur strat
Perceptron multistrat ( Rosenblatt • Rumelhart )
Rețeaua Hopfield
lanțul Markov
Masina Boltzmann
Mașină Boltzmann limitată
Autoencoder ( Denoise autoencoder • Sparse autoencoder • Variational autoencoder )
Rețea profundă de încredere
Rețeaua neuronală convoluțională
Rețeaua neuronală convoluțională profundă
Implementarea rețelei neuronale
Deep Convolutional Inverse Graphic Network
Rețeaua adversară generativă
Rețea neuronală recurentă
Rețele neuronale recursive
memorie pe termen lung și scurt
Bloc recurent controlat
Neural Turing Machines
Rețea bidirecțională ( Rețea neuronală recurentă bidirecțională • Rețea bidirecțională cu memorie lungă pe termen scurt • Neuroni recurenți controlați bidirecționali )
Rețea reziduală adâncă
Rețea de ecou neuronal
Metoda de învățare extremă
Metoda stărilor instabile
Suport mașină vectorială
Rețeaua Kohonen
Harta auto-organizată a lui Kohonen
Rețea neuronală capsule
Memoria asociativă pe rețelele neuronale

Învățare automată și extragerea datelor
Sarcini	Problema de clasificare Învățați fără profesor Învățare asistată de profesor Analiza regresiei AutoML Regulile de asociere Extragerea caracteristicilor Antrenamentul trăsăturilor Antrenament de clasare Derivarea gramaticală Învățare online
Învățarea cu un profesor	metoda k-cel mai apropiat vecin Clasificator naiv Bayes arborele de decizie Suport mașină vectorială Regresie liniara Regresie logistică perceptron Ansambluri de modele Bagare stimularea pădure la întâmplare Metoda vectorială relevantă
analiza grupului	metoda k-means Metoda de grupare fuzzy Gruparea ierarhică algoritmul EM MESTEACĂN VINDECA DBSCAN OPTICA Schimbare medie
Reducerea dimensionalității	Analiza factorilor Metoda componentei principale CCA ICA LDA Expansiunea nenegativă a matricei t-SNE
Prognoza structurală	Modelul probabilistic grafic Rețeaua bayesiană Modelul Markov ascuns CRF
Detectarea anomaliilor	metoda k-cel mai apropiat vecin Nivelul de emisie local
Modele grafice probabilistice	Rețeaua bayesiană Rețeaua Markov Modelul Markov ascuns
Rețele neuronale	Mașină Boltzmann limitată hartă de auto-organizare Funcția de activare Sigmoid softmax Funcția de bază radială Metoda de propagare înapoi Invatare profunda Perceptron multistrat Rețea neuronală recurentă memorie pe termen lung și scurt Bloc recurent controlat Rețeaua neuronală convoluțională U-Net Autoencoder
Consolidarea învățării	procesul Markov Ecuația Bellman Algoritmul lacom Q-learning SARSA Diferența temporală (TD)
Teorie	Teoria Vapnik-Chervonenkis Dilema părtinire-dispersie Teoria învățării computaționale Minimizarea riscului empiric Occam învață Învățarea PAC Teoria învăţării statistice
Reviste și conferințe	NeurIPS ICML ML JMLR ArXiv:cs.LG