Il Prodotto di esperti (Product of experts, PoE) è una tecnica di apprendimento automatico che modella una distribuzione di probabilità combinando l'output di diverse distribuzioni più semplici. È stato proposto da Geoffrey Hinton nel 1999, insieme a un algoritmo per addestrare i parametri di tale sistema.
L'idea di base è quella di combinare diverse distribuzioni di probabilità (gli "esperti") moltiplicando le loro funzioni di densità, rendendo la classificazione del PoE simile a un'operazione di "AND". Ciò consente a ciascun esperto di prendere decisioni sulla base di poche dimensioni senza dover considerare l'intera dimensionalità di un problema:
dove le sono densità di esperti non normalizzate e
è una costante di normalizzazione (vedere funzione di partizione).
Ciò è correlato (sebbene diverso) a un modello di mistura, in cui diverse distribuzioni di probabilità vengono combinate tramite un'operazione "OR", che è una somma ponderata delle loro funzioni di densità:
con
Si può considerare ciascun esperti come responsabile dell'applicazione di un vincolo in uno spazio ad alta dimensionalità. Un punto è considerato probabile se e solo se nessuno degli esperti afferma che il punto viola un vincolo.
Per ottimizzare il modello, è stato proposto l'algoritmo di minimizzazione della divergenza contrastiva. Tale algoritmo è più spesso utilizzato per l'apprendimento di macchine di Boltzmann ristrette.
Note
Voci correlate Mistura di esperti Macchina di Boltzmann ristretta
Collegamenti esterni Prodotto di esperti: articolo su Scholarpedia
Categoria:Apprendimento automatico