Teorema lui Tsybenko

Versiunea actuală a paginii nu a fost încă examinată de colaboratori experimentați și poate diferi semnificativ de versiunea revizuită pe 13 iunie 2020; verificarea necesită 1 editare .

Teorema lui Tsybenko, Teorema de aproximare universală este o teoremă demonstrată de George Tsybenko în 1989 , care afirmă că o rețea neuronală artificială cu un strat ascuns poate aproxima orice funcție continuă a mai multor variabile cu orice precizie. Condițiile sunt: un număr suficient de neuroni în stratul ascuns, selecție bună și , unde $\mathbf {w} _{1},\mathbf {w} _{2},\dots,\mathbf {w} _{N},\mathbf {\alpha } ,$ $\mathbf {\theta }$

\mathbf {w} _{i)

— ponderi între neuronii de intrare și neuronii stratului ascuns;

\mathbf {\alpha }

- greutăți între conexiunile de la neuronii stratului ascuns și neuronul de ieșire,

\mathbf {\theta }

— decalaje pentru neuronii stratului de intrare.

Prezentare formală

Fie orice funcție sigmoidă continuă , de exemplu, . Atunci, dacă este dată orice funcție continuă a variabilelor reale pe (sau orice altă submulțime compactă a lui ) și , atunci există vectori și și o funcție parametrizată astfel încât pentru toate $\varphi$ $\varphi (\xi)=1/(1+e^{-\xi })$ $f$ ${\displaystyle [0,1]^{n))$ $\mathbb {R} ^{n}$ $\varepsilon >0$ $\mathbf {w_{1}} ,\mathbf {w_{2}} ,\dots ,\mathbf {w_{N}} ,\mathbf {\alpha }$ $\mathbf {\theta }$ $G(\mathbf {\cdot} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } ):[0,1]^{n}\la R$ $\mathbf {x} \in [0,1]^{n)$

{\big |}G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta} )-f(\mathbf {x} ){\big |} <\varepsilon ,

Unde

G(\mathbf {x} ,\mathbf {w} ,\mathbf {\alpha } ,\mathbf {\theta } )=\sum _{i=1}^{N}\alpha _{i} \varphi (\mathbf {w} _{i}^{T}\mathbf {x} +\theta _{i}),

și și $\mathbf {w} _{i}\in \mathbb {R} ^{n},$ $\alpha _{i},\theta _{i}\in \mathbb {R} ,$ $\mathbf {w} =(\mathbf {w} _{1},\mathbf {w} _{2},\dots,\mathbf {w} _{N}),$ $\mathbf {\alpha } =(\alpha _{1},\alpha _{2},\dots,\alpha _{N}),$ $\mathbf {\theta } =(\theta _{1},\theta _{2},\dots,\theta _{N}).$

Link

Cybenko, G. V. Aproximarea prin suprapunere a unei funcții sigmoidale // Matematica semnalelor și sistemelor de control. - 1989. - V. 2 , nr 4 . - S. 303-314 .
Hassoun, M. Fundamentele rețelelor neuronale artificiale. - MIT Press, 1995. - S. 20, 48.

Teorema lui Tsybenko

Prezentare formală

Link

Vezi și