Problema de clasificare

Versiunea actuală a paginii nu a fost încă examinată de colaboratori experimentați și poate diferi semnificativ de versiunea revizuită pe 14 august 2019; verificările necesită 6 modificări .

Sarcina de clasificare este o sarcină în care există multe obiecte ( situații ) împărțite, într-un fel, în clase . Este dat un set finit de obiecte pentru care se știe căreia îi aparțin clasele. Acest set se numește eșantion . Afilierea de clasă a restului obiectelor este necunoscută. Este necesar să se construiască un algoritm capabil să clasifice (vezi mai jos) un obiect arbitrar din mulțimea inițială .

A clasifica un obiect înseamnă a indica numărul (sau numele) clasei căreia îi aparține obiectul dat.

Clasificarea obiectului - numărul sau numele clasei, emis de algoritmul de clasificare ca urmare a aplicării sale la acest obiect particular.

În statistica matematică , problemele de clasificare sunt numite și probleme de analiză discriminantă . În învățarea automată , problema clasificării este rezolvată, în special, folosind metodele rețelelor neuronale artificiale atunci când se realizează un experiment sub formă de instruire cu un profesor .

Există, de asemenea, alte moduri de a stabili un experiment - învățare nesupravegheată , dar ele sunt folosite pentru a rezolva o altă problemă - grupare sau taxonomie . În aceste probleme, împărțirea obiectelor eșantion de antrenament în clase nu este specificată și este necesară clasificarea obiectelor numai pe baza asemănării lor între ele. În unele domenii aplicate, și chiar în statistica matematică în sine, din cauza apropierii problemelor, problemele de grupare nu se disting adesea de problemele de clasificare.

Unii algoritmi pentru rezolvarea problemelor de clasificare combină învățarea supravegheată cu învățarea nesupravegheată , de exemplu, o versiune a rețelelor neuronale Kohonen este rețelele de cuantizare vectorială supravegheată.

Enunțul matematic al problemei

Fie un set de descrieri ale obiectelor, fie un set de numere (sau nume) de clase. Există o dependență necunoscută a țintei - mapare , ale cărei valori sunt cunoscute numai pe obiectele eșantionului final de antrenament . Este necesar să se construiască un algoritm capabil să clasifice un obiect arbitrar . $X$ $Y$ $y^{{*}}\colon X\la Y$ $X^{m}=\{(x_{1},y_{1}),\dots ,(x_{m},y_{m})\}$ $a\coloană X\la Y$ $x\în X$

Enunț probabilistic al problemei

Enunțul probabilistic al problemei este considerat mai general. Se presupune că mulțimea de perechi „obiect, clasă” este un spațiu de probabilitate cu o măsură de probabilitate necunoscută . Există un set finit de antrenament de observații generate în funcție de măsura probabilității . Este necesar să se construiască un algoritm capabil să clasifice un obiect arbitrar . $X \time Y$ ${\mathsf P}$ $X^{m}=\{(x_{1},y_{1}),\dots ,(x_{m},y_{m})\}$ ${\mathsf P}$ $a\coloană X\la Y$ $x\în X$

Spațiu de caracteristici

Un semn este o mapare , unde este setul de valori admisibile ale unui semn. Dacă sunt date caracteristici , atunci vectorul este numit o descriere a caracteristicilor obiectului . Descrierile indicative pot fi identificate cu obiectele în sine. În acest caz, setul se numește spațiu caracteristic . $f\colon X\to D_{f)$ $D_f$ $f_{1},\dots,f_{n)$ ${{\mathbf x}}=(f_{1}(x),\dots ,f_{n}(x))$ $x\în X$ $X=D_{{f_{1}}}\times \dots \times D_{{f_{n}}}$

În funcție de set, semnele sunt împărțite în următoarele tipuri: $D_f$

semn binar : ; $D_{f}=\{0,1\}$
atribut nominal : - mulţime finită; $D_f$
atribut ordinal : - mulţime finită ordonată; $D_f$
semn cantitativ : - mulţime de numere reale . $D_f$

Adesea există probleme aplicate cu diferite tipuri de caracteristici, nu toate metodele sunt potrivite pentru rezolvarea lor.

Tipologia problemelor de clasificare

Tipuri de date de intrare

O descriere orientativă este cel mai frecvent caz. Fiecare obiect este descris de un set de caracteristici, numite caracteristici . Caracteristicile pot fi numerice sau nenumerice.
Matricea distanțelor dintre obiecte. Fiecare obiect este descris prin distanțe față de toate celelalte obiecte din eșantionul de antrenament. Puține metode funcționează cu acest tip de intrare, în special metoda vecinului cel mai apropiat , metoda ferestrei Parzen , metoda funcțiilor potențiale .
O serie temporală sau un semnal este o succesiune de măsurători în timp. Fiecare dimensiune poate fi reprezentată printr-un număr, un vector și, în cazul general, o descriere orientativă a obiectului studiat la un moment dat.
Secvență de imagini sau videoclipuri .
Există, de asemenea, cazuri mai complexe când datele de intrare sunt prezentate sub formă de grafice , texte, rezultate interogări baze de date etc. De regulă, acestea sunt reduse la primul sau al doilea caz prin preprocesarea datelor și extragerea caracteristicilor .

Clasificarea semnalelor și imaginilor se mai numește și recunoaștere a modelelor .

Tipuri de clasă

Clasificare în două clase . Cel mai simplu caz din punct de vedere tehnic, care servește drept bază pentru rezolvarea unor probleme mai complexe.
Clasificare multiclasă. Când numărul de clase ajunge la multe mii (de exemplu, la recunoașterea hieroglifelor sau a vorbirii continue), sarcina de clasificare devine mult mai dificilă.
clase care nu se suprapun.
clase suprapuse. Un obiect poate aparține mai multor clase în același timp.
Clase neclare . Este necesar să se determine gradul de apartenență al unui obiect la fiecare dintre clase, de obicei este un număr real de la 0 la 1.

Vezi și

Link -uri

www.MachineLearning.ru este o resursă wiki profesională dedicată învățării automate și extragerii datelor
Konstantin Vorontsov . Curs de prelegeri Metode matematice de predare după precedente , Institutul de Fizică și Tehnologie din Moscova , 2004-2008
Yuri Lifshits . Clasificare automată a textului (diapozitive) - Cursul #6 de la cursul „Algoritmi pentru Internet”
kNN și Energie potențială ( applet ), E.M. Mirkes și Universitatea din Leicester.

Literatură

Ayvazyan S. A., Buchstaber V. M., Enyukov I. S., Meshalkin L. D. Statistica aplicată : clasificarea și reducerea dimensionalității . - M .: Finanțe și statistică, 1989.
Vapnik VN Reconstrucția dependențelor pe baza datelor empirice. — M.: Nauka, 1979.
Zhuravlev Yu. I. , Ryazanov V. V., Senko O. V. „Recunoaștere”. Metode matematice. Sistem software. Aplicații practice. — M.: Fazis, 2006. ISBN 5-7036-0108-8 .
Zagoruiko NG Metode aplicate de analiză a datelor și a cunoștințelor. - Novosibirsk : IM SO RAN, 1999. ISBN 5-86134-060-9 .
Shlesinger M., Glavach V. Zece prelegeri despre recunoașterea statistică și structurală. - Kiev : Naukova Dumka , 2004. ISBN 966-00-0341-2 .
Hastie, T., Tibshirani R., Friedman J. The Elements of Statistical Learning: Data Mining, Inference, and Prediction . — Ed. a II-a. - Springer-Verlag, 2009. - 746 p. - ISBN 978-0-387-84857-0 . .
Mitchell T. Machine Learning. — McGraw-Hill Science/Engineering/Math, 1997. ISBN 0-07-042807-7 .

Inteligenţă artificială
Poveste	Istoria inteligenței artificiale Iarna inteligenței artificiale Seminarul Dartmouth
Filozofie	Testul Turing Cameră chinezească Inteligență artificială puternică și slabă Inteligență artificială prietenoasă Etica inteligenței artificiale Problema de control
Directii	Abordarea agentului Control adaptiv Ingineria cunoașterii Model de sistem viabil Învățare automată Retea neurala logica fuzzy procesarea limbajului natural Recunoasterea formelor Inteligența roiului AI simbolic Algoritmi evolutivi Sistem expert
Aplicație	Control vocal Problema de clasificare Clasificarea documentelor Gruparea documentelor analiza grupului Căutare locală Traducere automată Recunoaștere optică a caracterelor Recunoaștere a vorbirii Scris de mana recunoscut Joc AI
Cercetători	Charles Babbage Vladimir Vapnik Joseph Weizenbaum Norbert Wiener Victor Glushkov Vladimir Gorodețki Jan LeCun Alexei Lyapunov John McCarthy Marvin Minsky Allen Newell Seymour Papert Judah Pearl Germogen Pospelov Dmitri Pospelov Frank Rosenblatt Herbert Alexander Simon Alan Turing Patrick Winston Victor Finn Serghei Fomin Demis Hassabis Geoffrey Hinton Noam Chomsky Claude Shannon Andrew Eun Eliezer Iudkovski

Învățare automată și extragerea datelor
Sarcini	Problema de clasificare Învățați fără profesor Învățare asistată de profesor Analiza regresiei AutoML Regulile de asociere Extragerea caracteristicilor Antrenamentul trăsăturilor Antrenament de clasare Derivarea gramaticală Învățare online
Învățarea cu un profesor	metoda k-cel mai apropiat vecin Clasificator naiv Bayes arborele de decizie Suport mașină vectorială Regresie liniara Regresie logistică perceptron Ansambluri de modele Bagare stimularea pădure la întâmplare Metoda vectorială relevantă
analiza grupului	metoda k-means Metoda de grupare fuzzy Gruparea ierarhică algoritmul EM MESTEACĂN VINDECA DBSCAN OPTICA Schimbare medie
Reducerea dimensionalității	Analiza factorilor Metoda componentei principale CCA ICA LDA Expansiunea nenegativă a matricei t-SNE
Prognoza structurală	Modelul probabilistic grafic Rețeaua bayesiană Modelul Markov ascuns CRF
Detectarea anomaliilor	metoda k-cel mai apropiat vecin Nivelul de emisie local
Modele grafice probabilistice	Rețeaua bayesiană Rețeaua Markov Modelul Markov ascuns
Rețele neuronale	Mașină Boltzmann limitată hartă de auto-organizare Funcția de activare Sigmoid softmax Funcția de bază radială Metoda de propagare înapoi Invatare profunda Perceptron multistrat Rețea neuronală recurentă memorie pe termen lung și scurt Bloc recurent controlat Rețeaua neuronală convoluțională U-Net Autoencoder
Consolidarea învățării	procesul Markov Ecuația Bellman Algoritmul lacom Q-learning SARSA Diferența temporală (TD)
Teorie	Teoria Vapnik-Chervonenkis Dilema părtinire-dispersie Teoria învățării computaționale Minimizarea riscului empiric Occam învață Învățarea PAC Teoria învăţării statistice
Reviste și conferințe	NeurIPS ICML ML JMLR ArXiv:cs.LG