Modelul probabilistic grafic

Un model probabilistic grafic este un model probabilistic în care dependențele dintre variabile aleatoare sunt reprezentate sub formă de grafic . Vârfurile graficului corespund unor variabile aleatoare, iar muchiile corespund unor relații probabilistice directe între variabile aleatoare. Modelele grafice sunt utilizate pe scară largă în teoria probabilității , statistică (în special statistica bayesiană ), precum și în învățarea automată .

Tipuri de modele grafice

Rețea bayesiană

O rețea bayesiană este un caz de model grafic de graf aciclic direcționat , în care marginile direcționate codifică relații de dependență probabilistice între variabile.

Conform rețelei bayesiene, distribuția comună a variabilelor este ușor de scris: dacă evenimentele (variabile aleatoare) sunt notate ca

$X_{1},\ldots ,X_{n}$

atunci distribuția comună satisface ecuația

$P[X_{1},\ldots ,X_{n}]=\prod _{i=1}^{n}P[X_{i}|pa_{i}]$

unde este mulțimea de strămoși-vertex ai vârfului . Cu alte cuvinte, distribuția comună este reprezentată ca un produs al distribuțiilor atomice condiționate, care sunt de obicei cunoscute. Orice două vârfuri care nu sunt conectate printr-o muchie sunt condițional independente dacă valoarea strămoșilor lor este cunoscută. În general, oricare două seturi de vârfuri sunt independente condiționat, având în vedere valorile celei de-a treia mulțimi de vârfuri, dacă graficul satisface condiția d - separabilitate . Independența locală și globală sunt echivalente în rețeaua bayesiană $pa_{i)$ $X_{i}$

Un caz special important al rețelei bayesiene este Modelul Markov Ascuns

Câmpuri aleatorii Markov

Câmpurile aleatoare Markov sunt date de un grafic nedirecționat. Spre deosebire de rețelele bayesiene, acestea pot conține cicluri.

Cu ajutorul câmpurilor aleatoare Markov, este posibil să se reprezinte în mod convenabil imagini folosind o structură de grilă, care permite rezolvarea, de exemplu, a problemei de filtrare a zgomotului într-o imagine.

Alte tipuri de modele grafice

Graficul factorilor este un grafic bipartit nedirecționat în care factorii și variabilele aleatoare sunt conectate prin muchii. Fiecare factor reprezintă o distribuție de probabilitate pentru toate variabilele pe care le leagă. Graficele sunt traduse în formă de grafic factori, de exemplu, pentru a putea folosi algoritmul de propagare a încrederii .
un graf în lanț este un graf care poate conține atât muchii direcționate, cât și nedirecționate, dar fără cicluri direcționate (adică dacă începem să ne mișcăm la un vârf și ne deplasăm de-a lungul graficului doar de-a lungul muchiilor direcționate, atunci nu ne vom putea întoarce la acel punct vârf de la care am plecat). Atât graficele direcționate, cât și cele nedirecționate sunt un caz special de grafice în lanț, care pot servi ca o generalizare a rețelelor Bayesiene și Markov.
câmp aleator condiționat — model discriminativ definit pe un grafic nedirecționat

Aplicații

Modelele grafice sunt utilizate în extragerea informațiilor , recunoașterea vorbirii , viziunea computerizată , decodificarea codului de verificare a parității cu densitate scăzută , descoperirea genelor și diagnosticarea bolii.

Link -uri

Jensen, Finn. O introducere în rețelele bayesiene (neopr.) . - Berlin: Springer, 1996. - ISBN 0-387-91502-8 .
Cowell, Robert G.; Dawid, A. Philip; Lauritzen, Steffen L.; Spiegelhalter, David J. Rețele probabilistice și sisteme expert . - Berlin: Springer, 1999. - ISBN 0-387-98767-3 . O carte mai avansată și mai orientată statistic
Pearl, Iudeea . Raționamentul probabilistic însistemele inteligente . - a 2-a revizuire. - San Mateo, CA: Morgan Kaufmann , 1988. - ISBN 1558604790 . O abordare a raționamentului computațional, în care relațiile dintre grafice și probabilități au fost introduse în mod formal.
Episcop, Christopher M. Capitolul 8. Modele grafice // Pattern Recognition și Machine Learning (neopr.) . - Springer, 2006. - S. 359-422. — ISBN 0-387-31073-8 .
O scurtă introducere în modelele grafice și rețelele bayesiene Arhivat 12 noiembrie 2020 la Wayback Machine
Tutorial de învățare Bayes Net al lui Heckerman (link indisponibil)
Edoardo M. Airoldi. Introducere în modelele grafice probabilistice // PLoS Computational Biology : jurnal . - 2007. - Vol. 3 , nr. 12 . —P.e252 . _ - doi : 10.1371/journal.pcbi.0030252 .

Modele grafice probabilistice
Rețeaua bayesiană Rețeaua Bayesiană cauzală Rețeaua Markov Modelul Markov ascuns

Învățare automată și extragerea datelor
Sarcini	Problema de clasificare Învățați fără profesor Învățare asistată de profesor Analiza regresiei AutoML Regulile de asociere Extragerea caracteristicilor Antrenamentul trăsăturilor Antrenament de clasare Derivarea gramaticală Învățare online
Învățarea cu un profesor	metoda k-cel mai apropiat vecin Clasificator naiv Bayes arborele de decizie Suport mașină vectorială Regresie liniara Regresie logistică perceptron Ansambluri de modele Bagare stimularea pădure la întâmplare Metoda vectorială relevantă
analiza grupului	metoda k-means Metoda de grupare fuzzy Gruparea ierarhică algoritmul EM MESTEACĂN VINDECA DBSCAN OPTICA Schimbare medie
Reducerea dimensionalității	Analiza factorilor Metoda componentei principale CCA ICA LDA Expansiunea nenegativă a matricei t-SNE
Prognoza structurală	Modelul probabilistic grafic Rețeaua bayesiană Modelul Markov ascuns CRF
Detectarea anomaliilor	metoda k-cel mai apropiat vecin Nivelul de emisie local
Modele grafice probabilistice	Rețeaua bayesiană Rețeaua Markov Modelul Markov ascuns
Rețele neuronale	Mașină Boltzmann limitată hartă de auto-organizare Funcția de activare Sigmoid softmax Funcția de bază radială Metoda de propagare înapoi Invatare profunda Perceptron multistrat Rețea neuronală recurentă memorie pe termen lung și scurt Bloc recurent controlat Rețeaua neuronală convoluțională U-Net Autoencoder
Consolidarea învățării	procesul Markov Ecuația Bellman Algoritmul lacom Q-learning SARSA Diferența temporală (TD)
Teorie	Teoria Vapnik-Chervonenkis Dilema părtinire-dispersie Teoria învățării computaționale Minimizarea riscului empiric Occam învață Învățarea PAC Teoria învăţării statistice
Reviste și conferințe	NeurIPS ICML ML JMLR ArXiv:cs.LG