La catena di classificatori (in inglese classifier chain o chained classifiers) costituisce un modello di apprendimento automatico supervisionato progettato principalmente per affrontare problemi di classificazione multi-etichetta (multi-label).
A differenza della classificazione classica, in cui a ogni istanza viene assegnata una sola etichetta mutuamente esclusiva, nella classificazione multi-etichetta un'istanza può appartenere a più categorie contemporaneamente. L'approccio dei classificatori in catena si distingue per la sua capacità di modellare le correlazioni e le dipendenze esistenti tra le diverse etichette di output.
Principio di funzionamento Il metodo si basa sulla scomposizione del problema multi-etichetta in una serie di problemi di classificazione binaria, collegati tra loro in una struttura sequenziale (catena).
Dato un insieme di istanze di input e un insieme di etichette , il processo si articola nei seguenti passi: Ordinamento: viene stabilito un ordine lineare per le etichette (ad esempio, ). Collegamento in catena: si addestrano classificatori binari indipendenti (), dove ogni classificatore corrisponde all'etichetta . Propagazione delle caratteristiche: Il primo classificatore viene addestrato usando solo lo spazio delle caratteristiche originali: . Il secondo classificatore viene addestrato usando lo spazio originale più il valore vero della prima etichetta: . In generale, il classificatore -esimo viene addestrato sullo spazio esteso dalle predizioni precedenti: .
In fase di predizione (inferenza), le etichette non sono note; pertanto, ogni classificatore utilizza l'output stimato (la predizione) dei classificatori precedenti della catena per calcolare il valore dell'etichetta successiva.
Vantaggi e Limitazioni
Vantaggi Modellazione delle dipendenze: supera il limite del metodo di Binary Relevance (che tratta le etichette come totalmente indipendenti), catturando le relazioni stocastiche tra le classi. Flessibilità: si può utilizzare qualsiasi classificatore binario standard (come SVM, albero di decisione o regressione logistica) come algoritmo di base (base learner). Efficienza: mantiene una complessità computazionale relativamente bassa rispetto a metodi che modellano l'intero spazio delle etichette in modo combinatorio.
Limitazioni Sensibilità all'ordine: l'accuratezza del sistema dipende fortemente dall'ordine in cui le etichette vengono disposte nella catena. Trovare l'ordine ottimale è un problema NP-difficile. Propagazione degli errori: Se un classificatore all'inizio della catena commette un errore di predizione, questo errore si propaga come input errato a tutti i classificatore successivi, degradando le performance complessive (fenomeno di propagazione dell'errore).
Varianti principali Per ovviare ai limiti intrinseci della struttura standard, la letteratura scientifica ha introdotto diverse varianti avanzate:
Ensemble of Classifier Chains (ECC): Introduce un approccio di ensemble learning. Vengono create molteplici catene, ciascuna con un ordine casuale delle etichette e addestrata su un sottoinsieme casuale dei dati (bagging). La predizione finale viene determinata tramite votazione o media delle risposte di tutte le catene, riducendo drasticamente l'effetto dell'ordine delle etichette. ''Probabilistic Classifier Chains'' (PCC): Invece di passare una decisione binaria netta ( o ) al passo successivo, questa variante stima la probabilità condizionata congiunta di tutte le etichette applicando la regola del prodotto della teoria della probabilità. Permette una ricerca ottimale nello spazio delle soluzioni tramite algoritmi di ricerca (ad es. Algoritmo A* o beam search).
Note
Bibliografia
Voci correlate Classificazione multi-etichetta Apprendimento d'insieme Catene di Markov (per le analogie nella struttura sequenziale)
Collegamenti esterni
Presentatione sulle catene di classificatori (di Jesse Read e Fernando Pérez Cruz)
Categoria:Apprendimento automatico Categoria:Algoritmi