Funkcja straty w optymalizacji i uczeniu maszynowym Funkcja straty (ang. loss function) to matematyczna miara błędu modelu uczonego maszynowo. Określa, jak bardzo przewidywania modelu różnią się od wartości rzeczywistych i stanowi podstawowy element procesu optymalizacji. Celem uczenia jest minimalizacja wartości funkcji straty. Funkcja straty porównuje wartości prawdziwe
oraz wartości przewidywane przez model
które zależą od pewnej liczby parametrów
stosowanych w modelu. W optymalizacji dąży się do znalezienia wartości parametrów minimalizujących funkcję straty.
Popularne funkcje straty Regresja
(1) Błąd średni kwadratowy (ang. mean squared error - MSE) - funkcja najczęściej stosowana w regresji:
(2) Średni błąd bezwzględny (ang. mean absolute error - MAE) - funkcja odporniejsza na wartości odstające od pozostałych danych
Klasyfikacja Entropia krzyżowa - stosowana w klasyfikacji binarnej;