Neurocalculator

Un neurocomputer este un  dispozitiv de procesare a informațiilor bazat pe principiile de funcționare ale sistemelor neuronale naturale [1] . Aceste principii au fost oficializate, ceea ce a făcut posibil să se vorbească despre teoria rețelelor neuronale artificiale . Problema neurocalculatoarelor constă în construirea unor dispozitive fizice reale, care vor permite nu numai simularea rețelelor neuronale artificiale pe un computer convențional , ci și schimbarea principiilor de funcționare a computerului în așa fel încât să se poată spune că funcționează. în conformitate cu teoria rețelelor neuronale artificiale .

Istorie

Termenii neurocibernetică , neuroinformatică, neurocalculatoare au intrat în uz științific recent - la mijlocul anilor 80 ai secolului XX. Cu toate acestea, creierele electronice și biologice au fost comparate în mod constant de-a lungul istoriei computerului. Celebra carte a lui N. Wiener „ Cibernetica ” ( 1948 ) [2] are subtitlul „Control și comunicare în animal și mașină”.

Primele neurocalculatoare au fost perceptronii lui Rosenblatt : Mark-1 ( 1958 ) și Tobermory ( 1961-1967 ) [ 3] , precum și Adalin , dezvoltat de Widrow.și Hoff ( 1960 ) pe baza regulii deltei ( formulele lui Widrow ) [4] . Adaline ( Widrow learning Adaptive Adder ) este acum o caracteristică standard în multe sisteme de procesare a semnalului și comunicații. [5] În aceeași serie a primelor neurocalculatoare se află și programul „Kora”, dezvoltat în 1961 sub conducerea lui M. M. Bongard [6] .

Monografia lui Rosenblatt ( 1958 ) [7] a jucat un rol important în dezvoltarea neurocalculaturii .

Ideea de neurobionic (crearea de mijloace tehnice bazate pe neuro-principii) a început să fie implementată activ la începutul anilor 1980. Impulsul a fost următoarea contradicție: dimensiunile părților elementare ale computerelor au devenit egale cu dimensiunile „convertoarelor de informații” elementare din sistemul nervos , viteza elementelor electronice individuale a fost atinsă de milioane de ori mai mare decât cea a sistemelor biologice, iar eficiența rezolvării problemelor, în special a sarcinilor conexe de orientare și luare a deciziilor în mediul natural, în sistemele vii este încă de neatins mai mare.

Un alt impuls pentru dezvoltarea neurocalculatoarelor a fost dat de evoluțiile teoretice din anii 1980 privind teoria rețelelor neuronale ( rețele Hopfield , rețele Kohonen , backpropagation ).

Ideea principală este conexiunea

Spre deosebire de sistemele digitale, care sunt combinații de unități de procesare și stocare , neuroprocesoarele conțin memorie distribuită în conexiuni între procesoare foarte simple, care pot fi adesea descrise ca neuroni formali sau blocuri de același tip de neuroni formali. Astfel, sarcina principală asupra performanței funcțiilor specifice de către procesoare cade pe arhitectura sistemului, ale cărei detalii, la rândul lor, sunt determinate de conexiunile interneuronale. Abordarea bazată pe reprezentarea atât a memoriei de date, cât și a algoritmilor printr-un sistem de legături (și ponderile acestora) se numește conexionism.

Trei avantaje principale ale neurocalculatoarelor:

  1. Toți algoritmii de neuroinformatică sunt extrem de paraleli , iar aceasta este deja o garanție de înaltă performanță.
  2. Neurosistemele pot fi ușor de făcut foarte rezistente la interferențe și perturbări.
  3. Neurosistemele stabile și fiabile pot fi create și din elemente nesigure cu o împrăștiere semnificativă de parametri.

Dezvoltatorii de neurocalculatoare caută să combine stabilitatea, viteza și paralelismul AVM-urilor - computere analogice - cu versatilitatea computerelor moderne. [opt]

Problema paralelismului eficient

A. Gorban [9] a propus problema paralelismului eficient pentru rolul problemei centrale rezolvate de toata neuroinformatica si neurocalculatia . Se știe de mult timp că performanța computerului crește mult mai lent decât numărul procesoarelor. M. Minsky a formulat o ipoteză : performanța unui sistem paralel crește (aproximativ) proporțional cu logaritmul numărului de procesoare - aceasta este mult mai lentă decât o funcție liniară ( Ipoteza lui Minsky ).

Pentru a depăși această limitare, se utilizează următoarea abordare: pentru diferite clase de probleme, se construiesc algoritmi de soluție maxim paralelă care utilizează o arhitectură abstractă (paradigma) de paralelism fin, iar pentru calculatoare paralele specifice, instrumente pentru implementarea proceselor paralele ale unui sunt create o arhitectură abstractă dată. Ca urmare, apare un aparat eficient pentru producerea de programe paralele.

Neuroinformatica oferă arhitecturi paralele universale cu granulație fină pentru rezolvarea diferitelor clase de probleme. Pentru sarcini specifice, este construită o implementare abstractă a rețelei neuronale a algoritmului de soluție, care este apoi implementată pe dispozitive de calcul paralele specifice. Astfel, rețelele neuronale permit utilizarea eficientă a paralelismului.

Neurocalculatoare moderne

Eforturile pe termen lung ale multor grupuri de cercetare au condus la faptul că până acum s-au acumulat un număr mare de „reguli de învățare” și arhitecturi diferite ale rețelelor neuronale , implementările lor hardware și tehnicile de utilizare a rețelelor neuronale pentru a rezolva probleme aplicate.

Aceste invenții intelectuale [10] există ca o „ grădina zoologică ” a rețelelor neuronale. Fiecare rețea de grădini zoologice are propria arhitectură, regulă de învățare și rezolvă un set specific de probleme. În ultimul deceniu, s-au făcut eforturi serioase pentru a standardiza elementele structurale și a transforma această „grădina zoologică” într-un „ tehnoparc ” [11] : fiecare rețea neuronală din grădina zoologică este implementată pe un neurocomputer ideal universal cu o structură dată.

Regulile de bază pentru evidențierea componentelor funcționale ale unui neurocomputer ideal (conform lui Mirkes ):

  1. Izolare funcțională relativă: fiecare componentă are un set clar de funcții. Interacțiunea sa cu alte componente poate fi descrisă ca un număr mic de interogări.
  2. Abilitatea de a schimba diferite implementări ale oricărei componente fără a schimba alte componente.

Piața neurocalculatoarelor apare treptat . În prezent, diverși neuro-acceleratori extrem de paraleli [12] ( coprocesoare ) sunt utilizați pe scară largă pentru diverse sarcini. Există puține modele de neurocalculatoare universale pe piață, parțial pentru că majoritatea sunt implementate pentru aplicații speciale. Exemple de neurocalculatoare sunt Synapse neurocomputer (Siemens, Germania), [13] procesor NeuroMatrix [14] . Este publicată o revistă științifică și tehnică de specialitate „Neurocomputers: development, application” [15] . Se țin conferințe anuale despre neurocalculatoare [16] . Din punct de vedere tehnic, neurocalculatoarele de astăzi sunt sisteme de calcul cu fluxuri paralele de comenzi identice și fluxuri de date multiple (arhitectura MSIMD). Aceasta este una dintre direcțiile principale în dezvoltarea sistemelor de calcul masiv paralele .

O rețea neuronală artificială poate fi transferată de la (neuro)computer la (neuro)computer, la fel ca un program de calculator. În plus, pe baza acestuia pot fi create dispozitive analogice specializate de mare viteză. Există mai multe niveluri de înstrăinare a unei rețele neuronale de la un (neuro)computer universal [17] : de la o rețea antrenată pe un dispozitiv universal și folosind capacități bogate în manipularea caietului de sarcini, algoritmi de învățare și modificarea arhitecturii, pentru a finaliza alienarea fără a învăța și capacități de modificare, doar funcționarea rețelei instruite.

Una dintre modalitățile de a pregăti o rețea neuronală pentru transmitere este verbalizarea acesteia : rețeaua neuronală antrenată este minimizată, menținând în același timp abilitățile utile. Descrierea unei rețele minimizate este mai compactă și permite adesea o interpretare clară.

New twist - Wetware

În neurocomputing, o nouă direcție se maturizează treptat, bazată pe conexiunea neuronilor biologici cu elementele electronice. Prin analogie cu Software ( software ) și Hardware ( hardware electronic ), aceste dezvoltări au fost numite Wetware .

În prezent, există deja o tehnologie pentru conectarea neuronilor biologici cu tranzistoare subminiaturale cu efect de câmp folosind nanofibre Nanowire[18] Dezvoltarea folosește nanotehnologia modernă . În special, nanotuburile de carbon sunt folosite pentru a crea conexiuni între neuroni și dispozitive electronice . [19]

O altă definiție a termenului „Wetware” este de asemenea comună - componenta umană în sistemele „om-computer”.

Aplicații

  1. Control în timp real [20] [21] , inclusiv:
    • avioane și rachete [22] ,
    • procese tehnologice de producție continuă (în energie, metalurgie etc.) [23] ,
    • motor de mașină hibrid (electro-benzină) [24] ,
    • cilindru pneumatic [25] ,
    • aparat de sudura [26] ,
    • cuptor electric [27] ,
    • turbogenerator [28] .
  2. Recunoașterea modelului :
    • imagini [29] , fețe umane [30] , litere și hieroglife, amprente digitale în criminalistică, vorbire, semnale radar și sonar,
    • particulele elementare și procesele fizice care au loc cu ele (experimente cu acceleratori sau observarea razelor cosmice),
    • boli după simptome (în medicină) [31] ,
    • zonele în care ar trebui căutate minerale (în geologie, prin semne indirecte),
    • semne de pericol în sistemele de securitate,
    • proprietățile compușilor chimici după structură (în chimioinformatică ) [32]
  3. Predicție în timp real :
    • vreme,
    • prețul acțiunilor (și alți indicatori financiari) [33] ,
    • rezultatul tratamentului,
    • evenimente politice (rezultate ale alegerilor, relații internaționale etc.) [34] [35] ,
    • comportamentul inamicului (real sau potențial) într-un conflict militar și în competiție economică,
    • sustenabilitatea relațiilor conjugale.
  4. Optimizare  - găsirea celor mai bune opțiuni:
    • la proiectarea dispozitivelor tehnice, [36]
    • atunci când alegeți o strategie economică,
    • atunci când selectați o echipă (de la angajați ai întreprinderii la sportivi și participanți la expedițiile polare),
    • atunci când se tratează un pacient.
  5. Procesarea semnalului în prezența unui zgomot mare.
  6. Proteze („ proteze inteligente ”) și îmbunătățirea funcțiilor naturale [37] , inclusiv prin conectarea directă a sistemului nervos uman la computere ( interfața Neuro-computer ).
  7. Psihodiagnostic [38] [39] [40]
  8. Frauda în telecomunicații , detectarea și prevenirea acesteia cu ajutorul tehnologiilor rețelelor neuronale, conform unor experți [41] , este una dintre cele mai promițătoare tehnologii în domeniul securității informațiilor în rețelele de telecomunicații.
  9. Securitatea informațiilor [42]

Vezi și

Literatură

Note

  1. ↑ Dunin-Barkovsky V. L. , Neurocybernetics, Neuroinformatics, Neurocomputers Archival copy of August 19, 2017 at the Wayback Machine , În cartea: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N. Kirdin and etc.: Science Novosibirs Siberian Enterprise RAS, 1998. - 296 cu ISBN 5-02-031410-2
  2. ↑ Wiener N. , Cybernetics, or Control and Communication in Animal and Machine. Arhivat pe 13 aprilie 2010 la Wayback Machine / Per. din engleza. I. V. Solovyov și G. N. Povarov; Ed. G. N. Povarova. — ediția a II-a. — M.: Nauka, 1983. — 344 p.
  3. ↑ Rețele neuronale-atunci și acum . Preluat la 9 martie 2011. Arhivat din original la 30 august 2017.
  4. ↑ Korolev L. N. Neurocomputing, neuronal networks and neurocomputers Copie de arhivă din 6 septembrie 2008 la Wayback Machine
  5. ↑ Widrow B., Stearns S. , Adaptive Signal Processing. - M .: Radio și comunicare, 1989. - 440 p.
  6. ↑ Bongard M. M. , The problem of recognition Copie de arhivă din 4 martie 2016 la Wayback Machine M .: Fizmatgiz, 1967. O altă copie online: [1]  (link inaccesibil)
  7. ↑ Rosenblatt, F. Perceptronul: un model probabilistic pentru stocarea și organizarea informațiilor în creier. În, Psychological Review, vol. 65, nr. 6, pp. 386-408, noiembrie 1958. Lancaster, PA și Washington, DC: American Psychological Association, 1958. Rosenblatt, F. Principles of Neurodynamics. Perceptronii și teoria mecanismelor cerebrale Copie de arhivă din 10 noiembrie 2007 la Wayback Machine  - M.: Mir, 1965.
  8. ↑ Gorban A. N. Neurocomputer, sau copia Analog Renaissance Archival din 12 mai 2013 la Wayback Machine , PC World, 1994, nr. 10, 126-130.
  9. ↑ Gorban A.N. , Cine suntem, unde mergem, cum ne măsurăm drumul? Copie de arhivă din 14 august 2009 la Wayback Machine , Raport plenar la deschiderea conferinței Neuroinformatics-99, MEPhI, 20 ianuarie 1999. Versiunea jurnalului: Gorban A.N. , Neuroinformatica: cine suntem, unde mergem, cum să Măsurăm calea noastră // Tehnologia computațională. — M.: Mashinostroenie. - 2000. - Nr 4. - S. 10-14. = Gorban AN , Neuroinformatica: Ce suntem, unde mergem, cum ne masuram drumul? Arhivat la 17 februarie 2016 la Wayback Machine . Lectura de la Atelierul de Oportunități de Neurocomputing USA-NIS, Washington DC, iulie 1999 (Asociat cu IJCNN'99 )
  10. ↑ Savelyev A. V. , Neurocomputers in inventions // Neurocomputers: development, application. Copie de arhivă din 11 septembrie 2016 la Wayback Machine , M. Radiotekhnika, 2004, nr. 2-3, p. 33-49.
  11. ↑ Mirkes E.M. , Neurocomputer. Proiect de standard. Copie de arhivă din 15 iunie 2009 la Wayback Machine  - Novosibirsk: Nauka, 1999. - 337 cu ISBN 5-02-031409-9 Alte copii online: Copie arhivată . Consultat la 15 octombrie 2008. Arhivat din original pe 3 iulie 2009.
  12. ↑ Savelyev A.V. , Neuroaccelerator. Accelerator de rețea neuronală // Certificat. privind înregistrarea programului de calculator nr. 2003610307, ​​cererea 2002612174, 2003.
  13. ↑ Shakhnov V., Vlasov A., Kuznetsov A. , Neurocomputers - architecture and implementation. Partea 1. Arhivat la 9 octombrie 2008 la Wayback Machine ChipNews, 2000, N 5; Partea 2. Elementul de bază al neurocalculatoarelor. Arhivat 17 august 2009 la Wayback Machine ChipNews, 2000, N 6; Partea 3. Implementarea hardware a neurocalculatoarelor. Arhivat la 9 octombrie 2008 la Wayback Machine ChipNews, 2001, 1.
  14. ↑ [https://web.archive.org/web/20161012222905/http://www.module.ru/ruproducts/proc/nm6403.shtml Arhivat 12 octombrie 2016 la Wayback Machine Digital Signal Processor L1879VM1 (NM6403) STC „Modul” ]
  15. ↑ Jurnalul „Neurocalculatoare: dezvoltare, aplicație”. Arhivat pe 11 septembrie 2016 la Wayback Machine
  16. ↑ Savelev A.V. X CONFERINȚA ȘTIINȚIFICATĂ ALL-RUSSIAN „NEUROCOMPUTERE ȘI APLICAȚIILE LOR” NKP-201 Arhivat 27 martie 2012 la Wayback Machine
  17. ↑ Gorban A. N. Antrenamentul rețelelor neuronale , ed. URSS-USA Joint Venture „Paragraf”, 1990, 160 p.
  18. ↑ Patolsky F., Timko BP, Yu G., Fang Y., Greytak AB, Zheng G. și Lieber CM „Detecția, stimularea și inhibarea semnalelor neuronale cu matrice de tranzistori cu nanofir de înaltă densitate ”  // - 25 august 2006. - Iss. 313 , nr. 5790 . - P. 1100-1104 . - doi : 10.1126/science.1128640 .
  19. ↑ Mazzatenta A., Giugliano M., Campidelli S., Gambazzi L., Businaro L., Markram H., Prato M. și Ballerini L. „Interfacing Neurons with Carbon Nanotubes: Electrical Signal Transfer and Synaptic Stimulation in Cultured Brain Circuits »  (engleză)  // The Journal of Neuroscience. - 27 iunie 2007. - Nr. 27 . - P. 6931-6936 . - doi : 10.1523/JNEUROSCI.1051-07.2007 .
  20. ↑ Terekhov V. A., Efimov D. V., Tyukin I. Yu. Sisteme de control al rețelelor neuronale. - M .: Liceu , 2002. - S. 184. - ISBN 5-06-004094-1 .
  21. ↑ Tyukin I. Yu., Terekhov V. A. , Adaptation in nonlinear dynamic systems Copie de arhivă din 2 noiembrie 2012 la Wayback Machine , (Seria: Synergetics: from the past to the future), St. Petersburg: LKI, 2008. - 384 p. . ISBN 978-5-382-00487-7
  22. ↑ Utilizarea neurocalculatoarelor în tehnologia rachetelor și spațiale. Rezumat de articole. Efimov V. V. (ed.). - M .: Inginerie radio, 2006. - 144 C.
  23. ↑ Galushkin A.I. Application of neurocomputers in power systems , M.: Centrul științific al neurocomputerelor, 1997.
  24. ↑ Danil V. Prohorov. Toyota Prius HEV Neurocontrol și diagnosticare , rețele neuronale. – 2008. – Nr. 21. - P. 458 - 465
  25. ↑ Zmeu K.V., Markov N.A., Shipitko I.A., Notkin B.S. Neurocontrol invers predictiv fără model cu un tranzitoriu de referință regenerat // Sisteme inteligente. - 2009. - Nr. 3. - P. 109 - 117. . Consultat la 30 octombrie 2011. Arhivat din original la 27 septembrie 2016.
  26. ↑ D'Emilia G., Marrab A., Natalea E. Use of neuronal networks for quick and accurate auto-tuning of PID controller // Robotics and Computer-Integrated Manufacturing. - 2007. - Vol. 23. - P. 170 - 179.
  27. ↑ Dias FM, Mota AM Comparație între diferite strategii de control folosind rețele neuronale // A 9-a Conferință mediteraneană de control și automatizare. – Dubrovnik, Croația, 2001 . Consultat la 30 octombrie 2011. Arhivat din original la 27 septembrie 2016.
  28. ↑ Venayagamoorthy GK, Harley RG, Wunsch DC Implementarea Neurocontrolerelor Adaptive Critic-based pentru turbogeneratoare într-un sistem de alimentare cu mai multe mașini, IEEE Transactions on Neural Networks. - 2003. - Vol. 14, Numărul 5. - P. 1047 - 1064. (link inaccesibil) . Consultat la 30 octombrie 2011. Arhivat din original la 12 iunie 2010. 
  29. ↑ Ruaro ME, Bonifazi P. și Torre V., Toward the Neurocomputer: Image Processing and Pattern Recognition With Neuronal Cultures Arhivat 6 mai 2006 la Wayback Machine , IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING, VOL. 52, NR. 3, MARTIE 2005, 371-383.
  30. ↑ Micheli-Tzanakou, E., Uyeda, E., Ray, R., Sharma, A., Ramanujan, R., Dong, J. , Comparison of Neural Network Algorithms for Face Recognition, SIMULATION 65 (1995), 37- 51
  31. ↑ Rossiev D. A. , Medical Neuroinformatics Archival copy of 19 august 2017 on the Wayback Machine , În cartea: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N. Kirdin și alții - Novosibirsk: The science. Întreprinderea siberiană a Academiei Ruse de Științe, 1998. - 296 p.
  32. ↑ I. I. Baskin, V. A. Palyulin, N. S. Zefirov. Aplicarea rețelelor neuronale artificiale pentru prezicerea proprietăților compușilor chimici // Neurocalculatoare: dezvoltare, aplicare. - 2005. - Nr. 1 - 2. - S. 98 - 101.
  33. ↑ Galushkin A.I. , Aplicații ale neurocalculatoarelor în activitățile financiare. Arhivat pe 10 iunie 2008 la Wayback Machine
  34. ↑ Mirkes E. M. , Logically transparent neuronal networks and the production of explicit knowledge from data Copie de arhivă din 19 august 2017 la Wayback Machine , În cartea: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N Kirdin și alții - Novosibirsk : Știință. Siberian Enterprise RAS, 1998. - 296 cu ISBN 5-02-031410-2
  35. ↑ Borisyuk, R., Borisyuk, G., Rallings, C. și Thrasher, M. Forecasting the 2005 General Election: A Neural Network Approach. Jurnalul Britanic de Politică și Relații Internaționale. 7(2) (2005), 199-209.
  36. ↑ Terekhov S. A. , Neural network information models of complex engineering systems Copie de arhivă din 19 august 2017 la Wayback Machine , În cartea: Neuroinformatics / A. N. Gorban, V. L. Dunin-Barkovsky, A. N. Kirdin și alții - Novosibirsk: Science. Siberian Enterprise RAS, 1998. - 296 cu ISBN 5-02-031410-2
  37. ^ Morillas C., Romero S., Martinez A., Pelayo F., Reyneri L., Bongard M., Fernandez, E., A neuroengineering suite of computational tools for visual prostheses , Neurocomput., 70 (16-18) ( 2007), 2817-2827.
  38. ↑ Gorban AN, Rossiyev DA, Dorrer MG , MultiNeuron - Simulator de rețele neuronale pentru aplicații medicale, fiziologice și psihologice Arhivat 17 februarie 2016 la Wayback Machine , Wcnn'95, Washington, DC: Congresul mondial privind rețelele neuronale 1995 Rețeaua neuronală internațională Întâlnirea anuală a Societății: Renaissance Hotel, Washington, DC, SUA, 17-21 iulie 1995.
  39. ↑ Dorrer MG, Gorban AN, Kopytov AG, Zenkin VI , Psychological Intuition of Neural Networks. Proceedings of the 1995 World Congress on Neural Networks, Un volum din seria INNS de texte, monografii și lucrări, voi. 1, 1995, 193-196.
  40. ↑ M. G. Dorrer , Psychological Intuition of Artificial Neural Networks Arhivat 25 martie 2009 la Wayback Machine , Diss. … 1998. Alte copii online: [2] Arhivat 7 aprilie 2009 la Wayback Machine
  41. ↑ Taniguchi M., Haft M., Hollm\'en J., Tresp V. , Fraud detection in communications networks using neural and probabilistic methods Arhivat 29 decembrie 2009 la Wayback Machine , In Proceedings of the 1998 IEEE International Conference on Acoustics , Procesarea vorbirii și a semnalului (ICASSP'98), volumul II, paginile 1241-1244, 1998.
  42. ↑ Chervyakov N.I., Evdokimov A.A., Galushkin A.I. , Lavrinenko I.N. et al. , Utilizarea rețelelor neuronale artificiale și sistemul de clase reziduale în criptografie Copie de arhivă din 6 septembrie 2014 la Wayback Machine , - M .: FIZMATLIT, 2012.- 280 p. - ISBN 978-5-9221-1386-1 .