C-Means Fuzzy Clustering Method

Metoda de grupare C-means fuzzy ( în engleză fuzzy clustering, soft k-means, c-means ) vă permite să împărțiți setul disponibil de elemente cu o putere într-un anumit număr de seturi fuzzy . Metoda C -means fuzzy clustering poate fi considerată o metodă k -means îmbunătățită , în care pentru fiecare element din mulțimea luată în considerare, se calculează gradul de apartenență al acestuia ( responsabilitate engleză ) la fiecare dintre clustere. $N$ $k$

Algoritmul a fost dezvoltat de JC Dunn în 1973 [1] și îmbunătățit de JC Bezdek în 1981 [2] .

Algoritm:

Setați aleatoriu centrele clusterelor ; $k$ $c_{j}\ ,\j=1..k$
Calculați matricea de apartenență a elementelor la clustere . În cazul unei distribuții normale : , unde este --lea element al mulțimii, este centrul clusterului , este distanța dintre puncte și , este densitatea de probabilitate a distribuției normale în punctul . $r$ $r_{ij}={\frac {{\mathcal {N}}(d(x_{i},c_{j})|\mu =0,\sigma)}{\displaystyle \sum _{j }^{k}{\mathcal {N}}(d(x_{i},c_{j})|\mu =0,\sigma )))$ $x_{i}$ $i$ $c_{j)$ $j$ $d(x_{i},c_{j})$ $x_{i}$ $c_{j)$ $\mathcal{N}$ $d(x_{i},c_{j})$
Mutați centrele clusterului ; $c_{j}\leftarrow {\frac {\displaystyle \sum _{i}r_{ij}x_{i)} {\displaystyle \sum _{i}r_{ij)}}$
Calculați funcția de pierdere (de exemplu, pe baza principiului probabilității maxime ). În cazul unei distribuţii normale, funcţia de pierdere va fi egală cu: ; $J=\displaystyle \sum _{j}^{k}\sum _{i}^{N}d(x_{i},c_{j})^{2}r_{ij)$
Dacă valoarea funcției de pierdere scade, atunci repetați ciclul de la pasul 2.

Metoda de grupare fuzzy a mijloacelor C este de o utilizare limitată datorită unui dezavantaj semnificativ - imposibilitatea de a împărți corect în clustere în cazul în care clusterele au o dispersie diferită în diferite dimensiuni (axe) ale elementelor (de exemplu, un cluster are forma unei elipse). Acest neajuns este eliminat în modelele Mixture și în algoritmii GMM ( Gaussian Mixture Models ).

Link -uri

↑ Dunn JC A Fuzzy Relative of the ISODATA Process and Its Use in Detecting Compact Well-Separated Clusters // Journal of Cybernetics. - 1973. - 17 septembrie ( vol. 3 , nr. 3 ). — S. 32–57 . — ISSN 0022-0280 . - doi : 10.1080/01969727308546046 .
↑ Bezdek, James C. Pattern Recognition with Fuzzy Objective Function Algorithms . - 1981. - ISBN 0-306-40671-3 .

Învățare automată și extragerea datelor
Sarcini	Problema de clasificare Învățați fără profesor Învățare asistată de profesor Analiza regresiei AutoML Regulile de asociere Extragerea caracteristicilor Antrenamentul trăsăturilor Antrenament de clasare Derivarea gramaticală Învățare online
Învățarea cu un profesor	metoda k-cel mai apropiat vecin Clasificator naiv Bayes arborele de decizie Suport mașină vectorială Regresie liniara Regresie logistică perceptron Ansambluri de modele Bagare stimularea pădure la întâmplare Metoda vectorială relevantă
analiza grupului	metoda k-means Metoda de grupare fuzzy Gruparea ierarhică algoritmul EM MESTEACĂN VINDECA DBSCAN OPTICA Schimbare medie
Reducerea dimensionalității	Analiza factorilor Metoda componentei principale CCA ICA LDA Expansiunea nenegativă a matricei t-SNE
Prognoza structurală	Modelul probabilistic grafic Rețeaua bayesiană Modelul Markov ascuns CRF
Detectarea anomaliilor	metoda k-cel mai apropiat vecin Nivelul de emisie local
Modele grafice probabilistice	Rețeaua bayesiană Rețeaua Markov Modelul Markov ascuns
Rețele neuronale	Mașină Boltzmann limitată hartă de auto-organizare Funcția de activare Sigmoid softmax Funcția de bază radială Metoda de propagare înapoi Invatare profunda Perceptron multistrat Rețea neuronală recurentă memorie pe termen lung și scurt Bloc recurent controlat Rețeaua neuronală convoluțională U-Net Autoencoder
Consolidarea învățării	procesul Markov Ecuația Bellman Algoritmul lacom Q-learning SARSA Diferența temporală (TD)
Teorie	Teoria Vapnik-Chervonenkis Dilema părtinire-dispersie Teoria învățării computaționale Minimizarea riscului empiric Occam învață Învățarea PAC Teoria învăţării statistice
Reviste și conferințe	NeurIPS ICML ML JMLR ArXiv:cs.LG