mały|354x354px| Schemat paradygmatu uczenia się cech, który można stosować zarówno do surowych danych, takich jak obrazy lub tekst, jak i do początkowego zestawu cech. Uczenie reprezentacji ma na celu szybszy trening lub lepszą wydajność w specyficznych zadaniach w porównaniu z bezpośrednim wprowadzeniem danych (por. uczenie transferowe). W kontekście uczenia maszynowego uczenie (się) cech lub uczenie reprezentacji ( lub ) to zbiór technik, które umożliwiają systemowi automatyczne odkrywanie, na podstawie surowych danych, wewnętrznych reprezentacji potrzebnych do wykrywania obiektów lub klasyfikacji. Techniki maszynowego uczenia się cech zastępują inżynierię cech (definiowanie przydatnych cech przez człowieka) i pozwalają algorytmom zarówno wyekstrahować cechy, jak i wykorzystać je do wykonania określonego zadania.
Potrzeba uczenia reprezentacji wypływa z faktu, że zadania uczenia maszynowego, takie jak klasyfikacja, wymagają danych wejściowych, które są odpowiednio przystosowane do matematycznego i obliczeniowego przetwarzania. Tymczasem dane pochodzące ze świata rzeczywistego, takie jak obrazy, nagrania wideo czy dane z czujników, rzadko pozwalają na jednoznaczne zdefiniowanie istotnych cech za pomocą z góry zaprojektowanych algorytmów. Alternatywą jest odkrywanie takich cech (reprezentacji) poprzez analizę danych – bez konieczności polegania na ręcznej ekstrakcji cech.
Uczenie się cech może być nadzorowane, nienadzorowane lub samonadzorowane:
W nadzorowanym uczeniu się cech, cechy są pozyskiwane przy użyciu danych wejściowych z etykietami. Dane zawierają pary wejście–etykieta; model otrzymuje dane wejściowe i musi wygenerować odpowiadającą im etykietę jako wynik (tzw. ground truth)Stuart J. Russell, Peter Norvig (2010) Artificial Intelligence: A Modern Approach, Third Edition, Prentice Hall .. Można to wykorzystać do generowania reprezentacji cech za pomocą modelu, co skutkuje wysoką dokładnością przewidywania etykiet. Przykładami są nadzorowane uczenie słownikowe, sieci neuronowe, perceptrony wielowarstwowe. W nienadzorowanym uczeniu się cech, ekstrakcja cech powstaje przy użyciu nieoznaczonych danych wejściowych poprzez analizę relacji między punktami w zbiorze danychHinton, Geoffrey; Sejnowski, Terrence (1999). Unsupervised Learning: Foundations of Neural Computation. MIT Press. .. Przykłady obejmują uczenie słownikowe, analizę niezależnych składowych, rozkład macierzy i różne formy klasteryzacji. W przypadku uczenia samonadzorowanego reprezentacje są odkrywane przy użyciu nieoznaczonych danych, tak jak w przypadku uczenia się bez nadzoru, jednak pary wejście-etykieta są konstruowane z każdego punktu danych, co umożliwia poznawanie struktury danych za pomocą nadzorowanych metod, takich jak metoda gradientu prostego. Do klasycznych przykładów zaliczają się osadzanie słów i autoenkodery. Od tego czasu uczenie samonadzorowane zostało zastosowane w wielu obszarach z wykorzystaniem głębokich architektur sieci neuronowych, takich jak konwolucyjne sieci neuronowe i transformery.
Przypisy
Kategoria:Uczenie maszynowe