Comprimarea datelor rețelei neuronale

Comprimarea datelor este una dintre sarcinile rezolvate de rețelele neuronale . Ca orice compresie , soluția acestei probleme se bazează pe eliminarea redundanței informaționale în semnalul de intrare (imagine).

Soluție

Spre deosebire de metodele tradiționale de compresie - calculul matematic și eliminarea redundanței - o rețea neuronală, atunci când rezolvă o problemă de compresie, pornește din considerente ale lipsei de resurse. Topologia rețelei și algoritmul său de învățare sunt astfel încât datele cu dimensiuni înalte trebuie transmise de la intrarea rețelei neuronale la ieșirile acesteia printr-un canal relativ mic. Pentru a implementa compresia de acest fel, se poate folosi un perceptron multistrat cu următoarea arhitectură: numărul de neuroni din straturile de intrare și de ieșire este același și egal cu dimensiunea datelor comprimate; între aceste straturi se află unul sau mai multe straturi intermediare de dimensiuni mai mici. Numărul de straturi intermediare determină gradul de complexitate al transformării datelor. De exemplu, o rețea cu trei straturi intermediare poate realiza cea mai bună compresie a datelor de antrenament, dar poate da rezultate mai proaste în situații reale. Acest lucru se datorează faptului că în datele inițiale se poate forma accidental un fel de dependență, care nu are nimic de-a face cu realitatea.

Datele inițiale pentru rețea sunt compilate în așa fel încât ieșirile să aibă întotdeauna același set de semnale ca și intrarea. În timpul funcționării , algoritmul de retropropagare a erorii minimizează eroarea. Aceasta înseamnă că greutățile conexiunilor de la stratul de intrare al neuronilor și, aproximativ, la stratul de mijloc vor funcționa la compresia semnalului, iar restul - la decompresia acestuia. În utilizare practică, rețeaua rezultată este împărțită în două. Ieșirea primei rețele este transmisă printr-un canal de comunicație și alimentată la intrarea celei de-a doua, care efectuează decompresia.

O altă modalitate de a rezolva problema de compresie este utilizarea memoriei auto-asociative , cum ar fi rețeaua Hopfield , deoarece are capacitatea de a restabili un semnal din imaginea deteriorată.

Link -uri

Literatură