Методот на најмали квадрати се заснова на минимизирање на квадратните отстапувања на сите емпириски точки од линијата на регресија. Методот на најмали квадрати се состои во изнаоѓање на показатели на развојната тенденција и конструирање на нејзината линија што би минувала на најмало растојание од сите точки на емпириската линија. Такво најмало растојание ќе се постигне ако теоретската линија се конструира да минува на еднакво растојание од сите точки на општата линија, со други зборови ако алегебарскиот збир на растојанијата изнесува 0. Тоа значи дека треба да се најдат такви вредности за конструирање на теоретска линија (трендот) што ќе доведат до најмала сума на квадрати на отстапувањата на апсолутни вредности на движењето од вредностите на трендот. Затоа овој начин на изнаоѓање на точките на трендот се нарекува метод на најмали квадрати.
Линија на регресија на примерокот Врз основа на дијаграмот на растурање, вршиме избор на типот на кривата која најдобро одговара на емипириските податоци. Доколку дијаграмот на растурање, според локацијата и распоредот на точките, ни укаже за праволиниска зависност на две појави, потоа преоѓаме на втората етапа за оценување на непознатите параметри : слободниот членПодатотека:Beta0.pngи коефициентот на нагибот Податотека:Beta1.png. Целта се состои врз основа на примерокот да се дојде до најдобрата можна оцена заПодатотека:B0 i b1.png, и со тоа да се постави линија на регресија на примерокот во облик : центар
Каде y’, ја претставува онаа вредност на y која точно се наоѓа на најдобро прилагодена линија на регресијата и се нарекува прилагодена вредност на Y. Честопати се користи и изразот предвидена вредност на Y. Оваа формула служи за определување на точките на теоретската линија, а збирот на сите точки ја создава таалинија. Затоа, ако сакаме да ја прикажеме заедничката формула за сите точки на линијата, тогаш формулата ќе треба да ја помножиме со заедничките коефициенти за секоја константа. Коефициентот на константатаПодатотека:B0 malo.png е y (бидејќиПодатотека:B0 malo.png е отсечка од оската y),а коефициенотот на константатаПодатотека:B1 golemo.png е x. На тој начин, ќе ги добиеме следниве две равенки:
I равенка: ∑(x)=∑Податотека:B0 malo.png+Податотека:B1 golemo.png(∑x) II равенка: ∑(xy)=∑Податотека:B0 malo.png(x)+Податотека:B1 golemo.png(∑x^2)
Сумантот од,,Податотека:B0 malo.png", т.е. ∑Податотека:B0 malo.png всушност претставува збир од отсечките на ординалната оска на сите точки од теориската линија. Поради тоа, во првата равенка би можело тој да биде заменет со знакот за овој збир - Na. На тој начин равенките ќе го имаат следниов изглед
I равенка: ∑y=NПодатотека:B0 malo.png+Податотека:B1 golemo.png(∑x) II равенка: ∑(xy)=∑Податотека:B0 malo.png(x)+Податотека:B1 golemo.png(∑x^2)
Но, од друга страна, познато е дека при графичкото прикажување на временските низи x- оската служи за прикажување на временските отсечоци од проучуваниот период. Ако медијалниот временски отсек се означи со нула, а секој претходен и и ден отсек со 1, 2, 3, 4 итн., давајќи им на претходните отсеци негативен, а на идните позитивен знак, алгебарскиот збир на износите од,,x" ќе изнесува нула, што значи дека ќе ја имаме следнава ситуација: ∑x=0
Тоа ќе причини, по заменувањето во равенкитена,,∑x" со нула, да се добие следниов изглед:
I равенка: ∑y=NПодатотека:B0 malo.png II равенка: ∑(xy)=Податотека:B0 malo.png∑(x^2)
Во првата равенка ја имаме застапено константата,,Податотека:B0 malo.png", а во втората константа,, Податотека:B0 malo.png". Одтаму може да се извлече што всушност претставува секоја од нив. Така, од првата равенка произлегува дека
Податотека:B0 malo.png =(∑y)/N а од втората дека Податотека:B1 golemo.png=(∑(xy))/(∑x^2) Овие изводи јасно покажуваат што треба да се земе како константа,,Податотека:B0 malo.png", односно,,Податотека:B1 golemo.png", за изнаоѓањето на сите потребни точки на теориската линија. Константата,,Податотека:B0 malo.png" е исто што и збирот на дадените големини, разделен со бројот на големините, а тоа не е ништо друго туку аритметичка средна големина од временската статистичка серија. Што се однесува до втората константа,,Податотека:B1 golemo.png", таа се изнаоѓа кога збирот од производите помеѓу износите на,,x" и соодветните големини во серијата ќе се раздели со збирот на оквадратените износи на,,x". При пресметувањето на теориската линија според методот на најмалите квадрати, во техниката на работењето постои извесна разлика кога временската низа содржи непарен и парен број членови, поради што ќе ги прикажеме обата случаја.
а) При серија од непарен број членови Како пример ќе ја земеме истата серија, производството на памук во нашата земја. Само што, бидејќи таа серија содржеше парен број членови (14), ние ќе ја намалиме за еден член и ќе добиеме серија од 13 членови, која започнува од 1961, а завршува со 1973 година (од табелата). Тука централната година е 1967 и таа ќе биде обележена со x=0, додека годините пред неа ќе бидат обележени со -1, -2, -3 итн. а по неа со +1, +2, +3 итн. (колона 2). Кога овие коефициенти на,,x" ќе се помножат со податоците од движењето на појавата, ќе се добијат производите од,,x" и,,y" (колона 4).
центар
Податотека:B0 malo.png=(∑y)/N = 104670/13=8051,54 ; b=(∑xy)/(∑x^2)=40770/182=224,01
Од изводите на формулите што ги изнесовме погоре се виде што претставуваат константите,,a" и,,b". Тоа беше: Податотека:B0 malo.png=(∑y)/N Податотека:B1 golemo.png=(∑(xy))/(∑x^2)
Бидејќи сите овие симболи се веќе определени и измерени во табелата, од неа лесно ќе може да се изнајдат овие константи. Тие ќе бидат:
Податотека:B0 malo.png=104670/13=8051,54 и Податотека:B1 golemo.png=40770/182=224.01
Штом така ќе се определат константните големини,,Податотека:B0 malo.png" и,,Податотека:B1 golemo.png", тогаш со формулата y=Податотека:B0 malo.png+Податотека:B1 golemo.pngx ќе може многу лесно да се изнајдат точките од линијата на развојната тенденција (трендот) на проучуваната појава. Тоа ќе стане кога во оваа формула знаците,,Податотека:B0 malo.png",,,Податотека:B1 golemo.png" и,,x'' ќе се заменат со нивните големини. Така, за првата година (1961) ќе ја добиеме следнава положба: y = 8051,54 + 224,01 X (-6) = 8051,54 - 1344,06 = 6707,48
за 1962: y = 8051,54 + 224,01 X (-5) = 8051,54 - 1120,05 = 6931, 49
за 1963: y = 8051,54 + 224,01 X (-4) = 8051,54 - 896,04 = 7155,50
За централната 1967 година трендот ќе изгледа: y = 8051,54 + 224,01 X 0 = 8051,54 + 0 = 8051,54
За годините по централната година: за 1968: y = 8051,54 + 224,01 X 1 = 8051,54 + 224,01 = 8275, 55
за 1969: y = 8051,54 + 224,01 X 2 = 8051,54 + 448,02 = 8499,56
за 1970: y = 8051,54 + 224,01 X 3 = 8051,54 + 672,03 = 8723,57 Сите овие големини на теориската линија се претставени во колоната 6 од табелата.
б) При парен број членови
Ако временската низа содржи парен број членови, изнаоѓањето на точките од трендовата линија - и покрај истата техника - се комплицира поради тоа што не може да се фиксира централен член кој би одговарал на медијалната големина (x=0). Медијаната тука ќе падне меѓу двата централни члена. И бидејќи x=0 ќе биде меѓу тие два члена, тоа вредноста на тие членови ќе биде -0,5 (за претходниот) и +0,5 (за идниот член), а за сите други членови за по една единица повеќе. Тоа се гледа од следната табела, која се состои од 14 членови и каде што медијаната се паѓа меѓу 1967 и 1968 година. Инаку, целата техника околу изнаоѓањето на износите на константите,,Податотека:B0 malo.png" и,,Податотека:B1 golemo.png", и одтаму на точките од теориската линија, останува исто како и во случај кога серијата има непарен број членови. Податотека:Tabela 2.png
Податотека:B0 malo.png=(∑y)/N=111670/14=7976,43 ;
Податотека:B1 golemo.png=33935/227,50=149,16
Линиите на регресијата во масата и примерокот правилно се разликуваат, бидејќи оценетите вредности заПодатотека:B0 i b1.png се разликуваат од вистинските вредности на параметритеПодатотека:Beta0 i beta 1.png. центар Како прво решение се наметнува графичкиот метод, т.е визуелно да се избере онаа права која најповеќе одговара на општата тенденција на распоредот на точките. Меѓутоа, овој метод има две крупни слабости : во целост има субјективен карактер и не дава можност за одредување на грешката на оцената. Поради тоа во статистиката се предложени повеќе објективни методи за решавање на овој проблем, но сепак најповеќе се користи методот на најмали квадрати. Поради стохастичната природа на врската емпириските точки ќе покажуваат отстапување од правата. Вертикалното отстапување или разлика помеѓу стварните вредности наПодатотека:Yi.pngи прилагодените вредности Податотека:Yi prim.pngго нарекуваме резидуал и го означуваме соПодатотека:Ei.png и од тука центар
центар
Од сликата може да се забележи дека резидуалот ќе биде позитивен ако емпириската точка се наоѓа над оценетата линија, негативен ако точката лежи под и ќе биде еднаков на нула ако стварната вредност се поклопува со прилагодената. Во случај на фукционална или детерминирачка врска сите резидуали би биле еднакви на нула. Меѓутоа, јасно е дека правата добро ќе го репрезентира распоредот на точките доколку вредностите на резидуалот се релативно мали и обратно. Значи може да заклучиме дека резидуалотПодатотека:Ei.png всушност претставува оцена на соодветниот стохастички член Податотека:Golemo e.pngкој го покажува отстапувањето на ниво на маса. Меѓутоа, во статистичките истражувања, како критериум на прилагоденост не може да биде минимизирањето на збирот на резидуалот бидејќи тој е еднаков на нула поради потирањето на збирот на позитивните и негативните резидуали. Имајќи го предвид овој факт како критериум се користи збирот на квадратни отстапувања. Тоа значи, дека основната смисла и идеја на методот на најмали квадрати е од сите можни прави линии да се избере онаа која има најмала сума (збир) на квадратите на вертикални отстапувања ; центар Во наведениот математички израз непознати се параметритеПодатотека:B0 i b1.pngбидејќи вредностите на Податотека:Iksi.png и Податотека:Yi.pngпосле изборот на примерокот се познати. Исто така, во математичкиот израз, постапката за минимизирање се спроведува со изнаоѓање на парцијални изводи по Податотека:B0 i b1.pngи нивно изедначување со нула. На тој начин доаѓаме до системот на равенки со 2 непознати кои се нарекуваат нормални равенки : центар Каде n претставува големина на примерокот, односно броој на парови на податоци. Со решавање на равенките конечно доаѓаме до формулите за оценетите вредности на слободниот членПодатотека:B0 malo.png : центар и на коефициентот на нагибПодатотека:B1 golemo.png : центар
Одлики на оцените добиени со методот на најмали квадрати
Оценетата вредност на слободниот член, Податотека:B0 malo.png во регресивниот праволиниски модел нема некоја посебна економска важност. Таа вредност за ја покажува отсечката на Y оската во дијаграмот на растурање. Поради тоа поголемо внимание ќе посветиме на оценетата вредност на коефициентот на нагибот, Податотека:B1 golemo.png. Аналогно на толкувањето на параметаротПодатотека:Beta1.png, следи дека регресиониот коефициент Податотека:B1 golemo.png, претставува оценета вредност на просечните промени на зависно променливата Y кога независната променлива X се зголеми за својата единица.Доколку регресиониот коефициент Податотека:B1 golemo.png>0 врската помеѓу појавите е директна (позитивна), а во случај кога Податотека:B1 golemo.png<0 врската е инверзна (негативна). Тоа значи, дека знакот кој се наоѓа пред коефициентот на регресијата, Податотека:B1 golemo.png, укажува на насоката на слагањето помеѓу појавите.