Rekurentní neuronová síť

náhled|Příklad rekurentní neuronové sítě. Signál vycházející z každého ze tří neuronů sítě je zároveň vstupním signálem téhož neuronu. Rekurentní neuronová síť (Recurrent Neural Network, RNN) je jedním ze dvou charakteristických typů umělých neuronových sítí, které se vyznačují směrem toku informací mezi jednotlivými vrstvami sítě. Tok informací v rekurentní síti je obousměrný, tj. výstup z některých neuronů ovlivňuje následný vstup do stejných resp. jiných neuronů, tj. tvoří se smyčky resp. zpětné vazby, na rozdíl od druhého typu sítí, tzv. dopředných neuronových sítí (Feed-forward Neural Network, FFNN), kde informace v síti proudí pouze jedním směrem od vstupní vrstvy neuronů, přes skryté vrstvy neuronů (pokud existují), až k výstupní vrstvě neuronů.

Rekurentní neuronové sítě mohou být dvou typů, prosté a zpětnovazební. U prosté rekurentní sítě je každý následující stav sítě jednoznačně předurčen stavem předcházejícím, např. gradientním spádem energetické funkce sítě (HAM, BAM) či konvergenčním procesem mezi dvěma nadrovinami vzorů (LAM). U zpětnovazební rekurentní sítě (Feed-back Neural Network, FBNN) je každý následující stav sítě závislý na zpětné vazbě, tj. síť může nabýt různých následujících stavů v závislosti na zpětné vazbě, např. dané shodou sítí vnímaného vzoru se vzorem uloženým v paměti sítě (ART).

Rekurentní (prosté) sítě Lineární extrapolační paměť (LAM) – Hebbovské učení Hopfieldova neuronová síť (HAM) – Hebbovské učení Bidirektní asociativní paměť (BAM) – Hebbovské učení Elmanova Jordanova neuronová síť – učení s učitelem

Rekurentní (zpětnovazební) sítě Dlouhá krátkodobá paměť (LSTM) Adaptivní rezonanční teorie (ART)Carpenter, G.A. & Grossberg, S. (2003), Adaptive Resonance Theory , In Michael A. Arbib (Ed.), The Handbook of Brain Theory and Neural Networks, Second Edition (pp. 87-90). Cambridge, MA: MIT Press

Reference

Literatura

Kategorie:Umělé neuronové sítě