Schiță de referință

Schița de numărare este o tehnică de reducere a dimensionalității utilizată în statistici, învățare automată și algoritmi de date mari [1] [2] . Poate fi folosit pentru a accelera metoda nucleului și poolingul biliniar în rețelele neuronale , precum și în algoritmi numerici de algebră liniară [3] .

Caracteristici

Spre deosebire de schița tensorală, schița de referință operează pe așa-numitul produs exterior al vectorilor:

\mathbf {a} \otimes \mathbf {b^{T}} \rightarrow {\begin{bmatrix}a_{1}\\a_{2}\\a_{3}\\a_{4}\ end{bmatrix}}{\begin{bmatrix}b_{1}&b_{2}&b_{3}\end{bmatrix}}={\begin{bmatrix}a_{1}b_{1}&a_{1}b_{ 2}&a_{1}b_{3}\\a_{2}b_{1}&a_{2}b_{2}&a_{2}b_{3}\\a_{3}b_{1}&a_{3} b_{2}&a_{3}b_{3}\\a_{4}b_{1}&a_{4}b_{2}&a_{4}b_{3}\end{bmatrix}}

unde este produsul Kronecker . $\otimes$

Este semnificativ că schița de referință dintr-un astfel de produs a doi vectori

C(x\otimes x^{T})

[patru]

echivalent cu convoluția vectorială

C^{(1)}x\ast C^{(2)}x^{T)

unde și sunt matrici independente. $C^{(1)}$ $C^{(2)}$

Pentru a reduce costul de calcul al implementării convoluției mai multor schițe de referință, poate fi utilizată transformata Fourier rapidă .

Note

↑ Faisal M. Algashaam; Kien Nguyen; Mohammed Alkanhal; Vinod Chandran; Wageeh Boles.Clasificare perioculară multispectrală cu pooling multi-liniar compact multimodal [1]. - Acces IEEE, Vol. 5. 2017.
↑ Ahle, Thomas; Knudsen, Jakob Schiță tensorului aproape optimă . Researchgate (3 septembrie 2019). Preluat la 11 iulie 2020. Arhivat din original la 14 iulie 2020. (nedefinit)
↑ Woodruff, David P. „Sketching as a Tool for Numerical Linear Algebra”. Informatică teoretică 10.1-2 (2014): 1–157.
↑ Ninh, Pham; Rasmus, Pagh (2013). Nuclee polinomiale rapide și scalabile prin hărți de caracteristici explicite . Conferința internațională SIGKDD privind descoperirea cunoștințelor și extragerea datelor. Asociația pentru Mașini de Calcul. DOI : 10.1145/2487575.2487591 .

Inteligenţă artificială
Poveste	Istoria inteligenței artificiale Iarna inteligenței artificiale Seminarul Dartmouth
Filozofie	Testul Turing Cameră chinezească Inteligență artificială puternică și slabă Inteligență artificială prietenoasă Etica inteligenței artificiale Problema de control
Directii	Abordarea agentului Control adaptiv Ingineria cunoașterii Model de sistem viabil Învățare automată Retea neurala logica fuzzy procesarea limbajului natural Recunoasterea formelor Inteligența roiului AI simbolic Algoritmi evolutivi Sistem expert
Aplicație	Control vocal Problema de clasificare Clasificarea documentelor Gruparea documentelor analiza grupului Căutare locală Traducere automată Recunoaștere optică a caracterelor Recunoaștere a vorbirii Scris de mana recunoscut Joc AI
Cercetători	Charles Babbage Vladimir Vapnik Joseph Weizenbaum Norbert Wiener Viktor Glushkov Vladimir Gorodețki Jan LeCun Alexei Lyapunov John McCarthy Marvin Minsky Allen Newell Seymour Papert Judah Pearl Germogen Pospelov Dmitri Pospelov Frank Rosenblatt Herbert Alexander Simon Alan Turing Patrick Winston Victor Finn Serghei Fomin Demis Hassabis Geoffrey Hinton Noam Chomsky Claude Shannon Andrew Eun Eliezer Iudkovski

Învățare automată și extragerea datelor
Sarcini	Problema de clasificare Învățați fără profesor Învățare asistată de profesor Analiza regresiei AutoML Regulile de asociere Extragerea caracteristicilor Antrenamentul trăsăturilor Antrenament de clasare Derivarea gramaticală Învățare online
Învățarea cu un profesor	metoda k-cel mai apropiat vecin Clasificator naiv Bayes arborele de decizie Suport mașină vectorială Regresie liniara Regresie logistică perceptron Ansambluri de modele Bagare stimularea pădure la întâmplare Metoda vectorială relevantă
analiza grupului	metoda k-means Metoda de grupare fuzzy Gruparea ierarhică algoritmul EM MESTEACĂN VINDECA DBSCAN OPTICA Schimbarea medie
Reducerea dimensionalității	Analiza factorilor Metoda componentei principale CCA ICA LDA Expansiunea nenegativă a matricei t-SNE
Prognoza structurală	Modelul probabilistic grafic Rețeaua bayesiană Modelul Markov ascuns CRF
Detectarea anomaliilor	metoda k-cel mai apropiat vecin Nivelul de emisie local
Modele grafice probabilistice	Rețeaua bayesiană Rețeaua Markov Modelul Markov ascuns
Rețele neuronale	Mașină Boltzmann limitată hartă de auto-organizare Funcția de activare Sigmoid softmax Funcția de bază radială Metoda de propagare înapoi Invatare profunda Perceptron multistrat Rețea neuronală recurentă memorie pe termen lung și scurt Bloc recurent controlat Rețeaua neuronală convoluțională U-Net Autoencoder
Consolidarea învățării	procesul Markov Ecuația Bellman Algoritmul lacom Q-learning SARSA Diferența temporală (TD)
Teorie	Teoria Vapnik-Chervonenkis Dilema părtinire-dispersie Teoria învățării computaționale Minimizarea riscului empiric Occam învață Învățarea PAC Teoria învăţării statistice
Reviste și conferințe	NeurIPS ICML ML JMLR ArXiv:cs.LG