Kosko's Neural Network , Bidirectional Associative Memory ( BDA ) este o rețea neuronală dezvoltată de Bart Kosko . Aceasta este o rețea neuronală de feedback bazată pe două idei: teoria rezonanței adaptive a lui Stefan Grosberg și memoria autoasociativă a lui .
DAP este heteroasociativ : un vector de intrare este alimentat la un set de neuroni și un vector de ieșire corespunzător este produs pe un alt set de neuroni. Ca și rețeaua Hopfield, DAP este capabil de generalizare, producând răspunsuri corecte în ciuda intrărilor distorsionate. În plus, pot fi implementate versiuni adaptive ale DAP care extrag imaginea de referință din instanțe zgomotoase. Aceste capacități seamănă foarte mult cu procesul gândirii umane și permit rețelelor neuronale artificiale să facă un pas către simularea creierului.
Rețeaua este formată din două straturi de elemente, între care există legături bidirecționale conectate la elemente pe principiul tuturor cu toate. Prin urmare, o matrice de ponderi poate fi utilizată pentru a descrie rețeaua. În cazul în care această matrice este pătrată și simetrică, DAP se transformă într-o rețea Hopfield autoasociativă.
Atunci când un semnal zgomotos este aplicat la intrarea în rețea, transmiterea semnalelor în cadrul DAP durează atât de mult până când rețeaua găsește cel mai apropiat standard (asociere) în care rețeaua a fost instruită anterior. Acest proces poate fi interpretat ca reamintire și stabilizare a memoriei.
DAP-urile asincrone continue resping sincronicitatea și discontinuitatea, dar funcționează aproape în același mod ca versiunile discrete.
Într-un DAP sincron, neuronii formali din straturile 1 și 2 sunt sincroni, adică fiecare neuron are o memorie și toți neuronii își schimbă stările simultan. Într-un sistem asincron, orice neuron este liber să își schimbe starea ori de câte ori intrarea lui îi cere să facă acest lucru.
La determinarea funcției de activare a unui neuron, a fost utilizat un prag simplu, formând astfel o discontinuitate în funcția de transfer a neuronilor. În acest moment, metoda de backpropagation devine cunoscută, astfel încât devine posibilă crearea unei modificări continue a DAP. S-a demonstrat că sigmoidul este capabil să amplifice semnalele de nivel scăzut în timp ce comprimă intervalul dinamic al neuronilor. Un DAP continuu poate avea o funcție sigmoidală cu o valoare de l apropiată de unu, formând astfel neuroni cu un răspuns neted și continuu.
Un DAP adaptiv își modifică greutățile în timpul funcționării. Aceasta înseamnă că furnizarea unui set de antrenament de vectori de intrare la intrarea rețelei determină schimbarea stării de energie până la obținerea rezonanței. Treptat, memoria pe termen scurt se transformă în memorie pe termen lung, regland rețeaua ca urmare a funcționării acesteia. În timpul procesului de învățare, vectorii sunt alimentați în stratul A și vectorii asociați în stratul B. Unul dintre ei sau ambii vectori pot fi versiuni zgomotoase ale șablonului; rețeaua este antrenată pe vectorii originali fără zgomot. În acest caz, extrage esența asociațiilor prin învățarea din standarde, deși a „văzut” doar aproximări zgomotoase.
În multe sisteme neuronale concurente se observă un fel de competiție între neuroni. În neuronii care procesează semnale de la retină, inhibarea laterală duce la o creștere a producției neuronilor cei mai activi în detrimentul celor vecini. Astfel de sisteme măresc contrastul prin creșterea nivelului de activitate al neuronilor conectați la zona luminoasă a retinei, atenuând în același timp și mai mult ieșirile neuronilor conectați la zonele întunecate.
În DAP, competiția se realizează prin conectarea reciprocă a neuronilor din fiecare strat prin conexiuni suplimentare. Greutățile acestor legături formează o altă matrice de greutate cu valori pozitive ale elementelor diagonalei principale și valori negative ale elementelor rămase.
| Tipuri de rețele neuronale artificiale | |
|---|---|
| |