A les xarxes neuronals, una capa d'agrupació és una mena de capa de xarxa que redueix i agrega la informació que es dispersa entre molts vectors en menys vectors. Té diversos usos. Elimina la informació redundant, redueix la quantitat de càlcul i memòria necessària, fa que el model sigui més robust a petites variacions en l'entrada i augmenta el camp receptiu de les neurones en capes posteriors de la xarxa.
Història A principis del , els neuroanatomistas van notar un cert motiu on múltiples neurones feien sinapsi a la mateixa neurona. Això es va donar una explicació funcional com "agrupació local", que fa que la traducció de la visió sigui invariable. (Hartline, 1940) va donar proves de suport a la teoria mitjançant experiments electrofisiològics sobre els camps receptius de les cèl·lules ganglionars de la retina. Els experiments de Hubel i Wiesel van demostrar que el sistema de visió dels gats és similar a una xarxa neuronal convolucional, amb algunes cèl·lules que sumen les entrades de la capa inferior.: Fig.19,20
Durant la dècada de 1970, per explicar els efectes de la percepció de la profunditat, alguns com (Julesz i Chang, 1976) van proposar que el sistema de visió implementa un mecanisme selectiu de disparitat mitjançant l'agrupació global, on els resultats de parells coincidents de regions de la retina dels dos ulls s'agrupen en cèl·lules d'ordre superior.
A les xarxes neuronals artificials, l'agrupació màxima es va utilitzar el 1990 per al processament de la parla (convolució unidimensional).
Agrupació de xarxes neuronals convolucionals La combinació s'utilitza més habitualment a les xarxes neuronals convolucionals (CNN). A continuació es mostra una descripció de l'agrupació en CNN bidimensionals. La generalització a n dimensions és immediata.
Com a notació, considerem un tensor , on és alçada, és ampla, i és el nombre de canals. Una capa d'agrupació produeix un tensor .
Definim dues variables anomenada "mida del filtre" (també conegut com "mida del nucli") i "passada". De vegades, cal utilitzar una mida i un pas de filtre diferents per a direccions horitzontals i verticals. En aquests casos, definim 4 variables .
El camp receptiu d'una entrada al tensor de sortida hi ha totes les entrades que pot afectar aquesta entrada.
Agrupació màxima miniatura|311x311px|Exemple treballat d'agrupació màxima, amb mida de filtre i gambada . La agrupació màxima (MaxPool) s'utilitza habitualment a les CNN per reduir les dimensions espacials dels mapes de característiques.
Definir on significa el rang . Tingueu en compte que hem d'evitar l'error off-by-one. La següent entrada és i així successivament. El camp receptiu de és , així que en general, Si la mida i els passos del filtre horitzontal i vertical difereixen, en general, Més succintament, podem escriure . miniatura|315x315px|Tres exemples de condicions de farciment. La condició de replicació significa que el píxel exterior està encoixinat amb el píxel més proper a l'interior. El farciment de reflexió és on el píxel exterior està encoixinat amb el píxel dins, reflectit a través del límit de la imatge. El farciment circular és on el píxel exterior s'envolta a l'altre costat de la imatge. Si no és expressable com on és un nombre enter, aleshores per calcular les entrades del tensor de sortida als límits, l'agrupació màxima intentaria prendre com a variables d'entrada fora del tensor. En aquest cas, com es gestionen aquestes variables inexistents depèn de les condicions de farciment, il·lustrades a la dreta.
La agrupació màxima global (GMP) és un tipus específic de agrupació màxima on el tensor de sortida té forma i el camp receptiu de és tot . És a dir, es necessita el màxim de cada canal sencer. Sovint s'utilitza just abans de les capes finals completament connectades en un capçal de classificació CNN.
Agrupació mitjana L'agrupació mitjana (AvgPool) es defineix de la mateixa manera Global Average Pooling (GAP) es defineix de manera similar a GMP. Es va proposar per primera vegada a Network-in-Network. De manera similar a GMP, sovint s'utilitza just abans de les capes finals completament connectades en un capçal de classificació CNN.
Interpolacions Hi ha algunes interpolacions de la agrupació màxima i la agrupació mitjana.La agrupació mixta és una suma lineal de la agrupació màxima i la agrupació mitjana. És a dir,
on
és un hiperparàmetre, un paràmetre aprendre o es mostra de nou aleatòriament cada vegada.
Lp Pooling és com l'agrupació mitjana, però utilitza la mitjana norma Lp en lloc de la mitjana: on és la mida del camp receptiu, i és un hiperparàmetre. Si totes les activacions no són negatives, és el cas de l'agrupació mitjana , i maxpooling és el cas de . La agrupació d'arrel quadrada és el cas de p=2.
L'agrupació estocàstica mostra una activació aleatòria del camp receptiu amb probabilitat . És el mateix que l'agrupació mitjana d'expectativa.
Softmax pooling és com maxpooling, però utilitza softmax, és a dir on . La posada en comú mitjana és el cas de , i maxpooling és el cas de .
La agrupació local basada en la importància generalitza l'agrupació softmax per on és una funció aprendre. miniatura|332x332px|Agrupació de RoI a mida 2x2. En aquest exemple, la proposta de RoI té una mida de 7x5. Es divideix en 4 rectangles. Com que 7 no és divisible per 2, es divideix als nombres enters més propers, ja que 7 = 3 + 4. De la mateixa manera, 5 es divideix en 2 + 3. Això dona 4 subrectangles. Es pren el màxim de cada subrectangle. Aquesta és la sortida de l'agrupació de RoI.
Altres agrupacions La agrupació piramidal espacial aplica la agrupació màxima (o qualsevol altra forma d'agrupació) en una estructura piramidal. És a dir, aplica la agrupació màxima global, després aplica la agrupació màxima a la imatge dividida en 4 parts iguals, després 16, etc. Els resultats es concatenen. És una forma jeràrquica d'agrupació global i, semblant a l'agrupació global, sovint s'utilitza just abans d'un cap de classificació.
La agrupació de regions d'interès (també coneguda com a agrupació de RoI) és una variant de la agrupació màxima que s'utilitza a les R-CNN per a la detecció d'objectes. Està dissenyat per prendre una matriu d'entrada de mida arbitrària i produir una matriu de sortida de mida fixa.
L'agrupació de covariància calcula la matriu de covariància dels vectors que després s'aplana a vector -dimensional . L'agrupació de covariància global s'utilitza de manera similar a l'agrupació màxima global. Com que l'agrupació mitjana calcula la mitjana, que és una estadística de primer grau, i la covariància és una estadística de segon grau, l'agrupació de covariàncies també s'anomena "agrupació de segon ordre". Es pot generalitzar a agrupacions d'ordre superior.
L'agrupació de desenfocament significa aplicar un mètode de desenfocament abans de baixar el mostreig. Per exemple, l'agrupació de desenfocament Rect-2 significa prendre una agrupació mitjana a , després prenent cada segon píxel (identitat amb ).
Agrupació de transformadors de visió A Vision Transformers (ViT), hi ha els següents tipus comuns d'agrupaments.
L'agrupació semblant a BERT utilitza un testimoni [CLS] simulat ("classificació"). Per a la classificació, la sortida a [CLS] és el testimoni de classificació, que després és processat per un mòdul LayerNorm-feedforward-softmax en una distribució de probabilitat, que és la predicció de la xarxa de la distribució de probabilitat de classe. Aquest és el que fa servir el ViT original i l'Autoencoder emmascarat.
L'agrupació mitjana global (GAP) no utilitza el testimoni fictici, sinó que simplement pren la mitjana de tots els testimonis de sortida com a testimoni de classificació. Es va esmentar al ViT original com igual de bo.
L'agrupació d'atenció multicapçalera (MAP) aplica un bloc d'atenció multicapçalera a l'agrupació. Concretament, pren com a entrada una llista de vectors , que es podria considerar com els vectors de sortida d'una capa d'un ViT. A continuació, aplica una capa de feedforward a cada vector, donant lloc a una matriu . A continuació, s'envia a una atenció multicapçalera, resultant en , on és una matriu de paràmetres entrenables. Això es va proposar per primera vegada a l'arquitectura Set Transformer.
Documents posteriors van demostrar que GAP i MAP funcionen millor que l'agrupació semblant a BERT.
Agrupació de xarxes neuronals de gràfics A les xarxes neuronals de gràfics (GNN), també hi ha dues formes d'agrupació: global i local. La agrupació global es pot reduir a una agrupació local on el camp receptiu és la sortida sencera.
Agrupació local: una capa d'agrupació local aproxima el gràfic mitjançant un mostreig inferior. L'agrupació local s'utilitza per augmentar el camp receptiu d'una GNN, de manera similar a l'agrupació de capes en xarxes neuronals convolucionals. Els exemples inclouen l'agrupació de k-veïns més propers, l'agrupació de k superior, i l'agrupació d'autoatenció. Agrupació global: una capa d'agrupació global, també coneguda com a capa de lectura, proporciona una representació de mida fixa de tot el gràfic. La capa d'agrupació global ha de ser invariant de la permutació, de manera que les permutacions en l'ordenació dels nodes i les vores del gràfic no alterin la sortida final. Els exemples inclouen la suma per elements, la mitjana o el màxim.
Les capes d'agrupació local fan més gruixudes el gràfic mitjançant el mostreig inferior. Presentem aquí diverses estratègies locals de posada en comú que s'han proposat. Per a cada cas, l'entrada és la gràfica inicial que està representada per una matriu de les característiques del node i la matriu d'adjacència del graf . La sortida és la nova matriu de les característiques del node i la nova matriu d'adjacència de gràfics .
Referències
Categoria:Xarxes neuronals artificials