En teoria d'operadors, una branca de les matemàtiques, un nucli definit positiu és una generalització d'una funció definida positiva o d'una matriu definida positiva. Va ser introduït per primera vegada per James Mercer a principis del segle XX, en el context de la resolució d'equacions d'operadors integrals. Des de llavors, les funcions definides positives i els seus diversos anàlegs i generalitzacions han sorgit en diverses parts de les matemàtiques. Es produeixen naturalment en l'anàlisi de Fourier, la teoria de la probabilitat, la teoria d'operadors, la teoria de funcions complexes, els problemes de moments, les equacions integrals, els problemes de valor límit per a equacions diferencials parcials, l'aprenentatge automàtic, el problema d'incrustació, la teoria de la informació i altres àrees.

Definició Deixa ser un conjunt no buit, de vegades anomenat conjunt d'índexs. Una funció simètrica s'anomena nucli definit positiu (pd) en si

s'aplica a tots , .

En teoria de la probabilitat, de vegades es fa una distinció entre nuclis definits positius, per als quals la igualtat a (1.1) implica , i nuclis semidefinits positius (psd), que no imposen aquesta condició. Cal tenir en compte que això equival a exigir que cada matriu finita construïda per avaluació per parells, , té valors propis completament positius (pd) o no negatius (psd).

En la literatura matemàtica, els nuclis solen ser funcions de valor complex. És a dir, una funció de valor complex s'anomena nucli hermitià si i definit positiu si per a cada conjunt finit de punts i qualsevol nombre complex ,

on denota el conjugat complex. A la resta d'aquest article assumim funcions amb valors reals, que és la pràctica habitual en aplicacions de nuclis pd.

Algunes propietats generals Per a una família de nuclis pd La suma cònica és pd, donat El producte és pd, donat El límit és pd si el límit existeix. Si és una seqüència de conjunts, i una seqüència de nuclis pd, aleshores tots dos i estan els nuclis pd activats . Deixa Aleshores, la restricció de a també és un nucli pd.

Exemples de nuclis pd Exemples comuns de nuclis p.d. definits en un espai euclidià Nucli lineal: . Nucli polinòmic: . Nucli gaussià (RBF kernel): . Nucli laplacià: . Abel kernel: . Nucli generador d'espais de Sobolev : , on és la funció de Bessel de tercera espècie. Nucli que genera un espai de Paley-Wiener: . Si és un espai de Hilbert, aleshores el seu producte intern corresponent és un nucli p.d. De fet, tenim Nuclis definits a i histogrames: Els histogrames es troben amb freqüència en aplicacions de problemes de la vida real. La majoria de les observacions solen estar disponibles en forma de vectors no negatius de recomptes, que, si es normalitzen, donen lloc a histogrames de freqüències. S'ha demostrat que la següent família de mètriques quadrades, respectivament la divergència de Jensen, el quadrat, la variació total i dues variacions de la distància de Hellinger:es pot utilitzar per definir nuclis p.d. utilitzant la fórmula següent

Exemples d'altres nuclis El nucli sigmoide, o nucli tangent hiperbòlic, es defineix com on són paràmetres reals. El nucli no és PD, però de vegades s'ha utilitzat per a algoritmes de nucli.Lin, Hsuan-Tien, and Chih-Jen Lin. "A study on sigmoid kernels for SVM and the training of non-PSD kernels by SMO-type methods." Neural Comput 3.1-32 (2003): 16.

Història Els nuclis definits positius, tal com es defineixen a (1.1), van aparèixer per primera vegada el 1909 en un article sobre equacions integrals de James Mercer.Mercer, J. (1909). “Functions of positive and negative type and their connection with the theory of integral equations”. Philosophical Transactions of the Royal Society of London, Series A 209, p. 415–446. Diversos altres autors van fer ús d'aquest concepte en les dues dècades següents, però cap d'ells va utilitzar nuclis explícitament. , funcions iepd (de fet, sembla que M. Mathias i S. Bochner no coneixien l'estudi dels nuclis pd). El treball de Mercer va sorgir de l'article de Hilbert de 1904Hilbert, D. (1904). "Grundzuge einer allgemeinen Theorie der linearen Integralgleichungen I", Gott. Nachrichten, math.-phys. K1 (1904), p. 49–91. sobre les equacions integrals de Fredholm de segona mena:

En particular, Hilbert havia demostrat que

on és un nucli real simètric continu, és continu, és un sistema complet de funcions pròpies ortonormals, i són els valors propis corresponents de (1.2). Hilbert va definir un nucli "definit" com aquell per al qual la integral doble satisfà excepte per L'objectiu original de l'article de Mercer era caracteritzar els nuclis que són definits en el sentit de Hilbert, però Mercer aviat va descobrir que la classe d'aquestes funcions era massa restrictiva per caracteritzar-la en termes de determinants. Per tant, va definir un nucli real simètric continu. ser de tipus positiu (és a dir, definit positiu) si per a totes les funcions contínues reals en , i va demostrar que (1.1) és una condició necessària i suficient perquè un nucli sigui de tipus positiu. Mercer va demostrar llavors que per a qualsevol nucli pd continu, l'expansió es manté absolutament i uniformement.

Més o menys al mateix temps, WH YoungYoung, W. H. (1909). "A note on a class of symmetric functions and on a theorem required in the theory of integral equations", Philos. Trans. Roy.Soc. London, Ser. A, 209, p. 415–446. motivat per una qüestió diferent en la teoria d'equacions integrals, va demostrar que per a nuclis continus la condició (1.1) és equivalent a per a tots .

EH MooreMoore, E.H. (1916). "On properly positive Hermitian matrices", Bull. Amer. Math. Soc. 23, 59, p. 66–67.Moore, E.H. (1935). "General Analysis, Part I", Memoirs Amer. Philos. Soc. 1, Philadelphia. va iniciar l'estudi d'un tipus molt general de nucli pd. Si és un conjunt abstracte, ell anomena funcions definit en «matrius hermitianes positives» si satisfan (1.1) per a tot Moore estava interessat en la generalització de les equacions integrals i va demostrar que per a cadascuna d'aquestes hi ha un espai de Hilbert de funcions tals que, per a cada Aquesta propietat s'anomena propietat de reproducció del nucli i resulta que té importància en la solució de problemes de valor de frontera per a equacions diferencials parcials el·líptiques.

Una altra línia de desenvolupament en què els nuclis pd van tenir un paper important va ser la teoria d'harmònics en espais homogenis, iniciada per E. Cartan el 1929 i continuada per H. Weyl i S. Ito. La teoria més completa dels nuclis pd en espais homogenis és la de M. Krein,Krein. M (1949/1950). "Hermitian-positive kernels on homogeneous spaces I and II" (in Russian), Ukrain. Mat. Z. 1(1949), p. 64–98, and 2(1950), p. 10–59. English translation: Amer. Math. Soc. Translations Ser. 2, 34 (1963), p. 69–164. que inclou com a casos especials el treball sobre funcions pd i representacions unitàries irreductibles de grups localment compactes.

En teoria de la probabilitat, els nuclis de pd sorgeixen com a nuclis de covariància de processos estocàstics.Loève, M. (1960). "Probability theory", 2nd ed., Van Nostrand, Princeton, N.J.

Algunes aplicacions Nuclis en l'aprenentatge automàtic Positive-definite kernels, through their equivalence with reproducing kernel Hilbert spaces (RKHS), are particularly important in the field of statistical learning theory because of the celebrated representer theorem which states that every minimizer function in an RKHS can be written as a linear combination of the kernel function evaluated at the training points. This is a practically useful result as it effectively simplifies the empirical risk minimization problem from an infinite dimensional to a finite dimensional optimization problem.

Nuclis en models probabilístics Hi ha diverses maneres diferents en què apareixen els nuclis en la teoria de la probabilitat.

Problemes de recuperació no deterministes: Suposem que volem trobar la resposta d'una funció model desconeguda en un nou punt d'un conjunt , sempre que tinguem una mostra de parells entrada-resposta donada per observació o experiment. La resposta a no és una funció fixa de sinó més aviat una realització d'una variable aleatòria amb valors reals .

Suposem ara que una variable de soroll , amb mitjana i variància zero , s'afegeix a , de manera que el soroll sigui independent per a diferents i independent de allà, doncs, el problema de trobar una bona estimació per a és idèntic a l'anterior, però amb un nucli modificat donat per .

Estimació de la densitat per nuclis: El problema és recuperar la densitat d'una distribució multivariant sobre un domini , d'una mostra gran incloent-hi repeticions. Quan els punts de mostreig són densos, la funció de densitat real ha de prendre valors grans. Una estimació simple de la densitat és possible comptant el nombre de mostres a cada cel·la d'una quadrícula i representant gràficament l'histograma resultant, que produeix una estimació de la densitat constant a trossos. Es pot obtenir una millor estimació utilitzant un nucli invariant a la traducció no negativa. , amb la integral total igual a un, i defineix com una estimació suau.

Solució numèrica d'equacions diferencials parcials Una de les àrees d'aplicació més importants dels anomenats mètodes sense malla és la solució numèrica d'EDP. Alguns dels mètodes sense malla populars estan estretament relacionats amb els nuclis definits positius (com ara el mètode de Petrov Galerkin local sense malla (MLPG), el mètode de partícules de nucli reproductor (RKPM) i la hidrodinàmica de partícules suavitzades (SPH)). Aquests mètodes utilitzen un nucli de base radial per a la col·locació.

Referències

Categoria:Matemàtiques