MULTIPLE REGRETION MODEL Modelregresi regresipopulasi populasiYY(variabel (variabeltak tak Model bebas),atas ataskkvariabel variabelbebas, bebas,XX,1,XX,.2,.. .. ., , bebas), 1 2 adalah: XXk kadalah:
y
x2 β
Y=ββ 0++ββ X 1X1 + β 2X2 + . . . + β kXk Y= 0 1 1 + β 2X2 + . . . + β kXk ++εε dimanaββ 0adalah adalahintercept interceptdari dari dimana 0 regressionsurface surfacedan danββ i, ,ii==1,2,...,k 1,2,...,k regression i adalahslope slopedari dariregression regressionsurface surface–– adalah seringdisebut disebutresponse responsesurface. surface. sering AsumsiModel Model: : Asumsi ~N(0,σ 2)2) 1.1. εε ~N(0,σ VariableXXitidak tidakberkorelasi berkorelasidengan denganerror. error. 2.2. Variable i
β
β 0
x1 y = β 0 + β 1 x1 + β 2 x 2 + ε
1
2
Regresi Kuadrat TerkecilSederhana dan Berganda y
Y
x1
y = b0 + b1x X
Dalammodel modelregresi regresilinear linear Dalam sederhanapenaksir-penaksir penaksir-penaksir sederhana kuadratterkecil terkecil kuadrat meminimumkanjumlah jumlah meminimumkan kuadraterror errordari daritaksiran taksiran kuadrat garisregresi. regresi. garis
x2
y = b0 + b1 x1 + b2 x 2
Dalammodel modelregresi regresiberganda, berganda, Dalam taksirankuadrat kuadratterkecil terkecil taksiran meminimumkanjumlah jumlahkuadrat kuadrat meminimumkan errordari dariestimated estimatedregression regression error plane. plane.
Taksiran Hubungan Regresi Taksiranhubungan hubunganregresi: regresi: Taksiran Y = b0 + b1 X 1 + b2 X 2 ++bk X k
dengan Y sebagai sebagainilai nilaitaksiran taksirandari dariY, Y,bb0,...,k ,...,k adalah adalahLeastLeastdengan 0 SquaresEstimates Estimatesdari dariparameter parameterregresi regresipopulasi populasiββ i.i. Squares Modelregresi regresisampel: sampel: Model Y=b00++bb11XX11++bb22XX22+. +.....++bbkkXXkk++EE Y=b
Persamaan Normal untuk 2 variabel Taksiran koefisien koefisien bb00,, bb11,, dan dan bb22 diperoleh diperoleh dengan dengan Taksiran menyelesaikan persamaan persamaan normal normal (normal (normal equations): equations): menyelesaikan
∑ y = nb
0
+ b1 ∑ x 1 + b2 ∑ x 2
∑ x y =b ∑ x 1
∑x
2
0
+ b1 ∑ x 1 + b2 ∑ x 1 x 2 2
1
y =b0 ∑ x 2 + b1 ∑ x 1 x 2 + b2 ∑ x 2
2
Contoh Perhitungan YY 72 72 76 76 78 78 70 70 68 68 80 80 82 82 65 65 62 62 90 90 ----743 743
XX11 12 12 11 11 15 15 10 10 11 11 16 16 14 14 88 88 18 18 ----123 123
XX22 55 88 66 55 33 99 12 12 44 33 10 10 ----65 65
X212 1X2 XX1X X 2 1 60 144 60 144 88 121 88 121 90 225 90 225 50 100 50 100 33 121 33 121 144 256 144 256 168 196 168 196 32 64 32 64 24 64 24 64 180 324 180 324 ----------869 1615 1615 869
2 XX222 25 25 64 64 36 36 25 25 99 81 81 144 144 16 16 99 100 100 ----509 509
1Y XX1Y 864 864 836 836 1170 1170 700 700 748 748 1280 1280 1148 1148 520 520 496 496 1620 1620 ------9382 9382
Estimated regression equation:
2Y XX2Y 360 360 608 608 468 468 350 350 204 204 720 720 984 984 260 260 186 186 900 900 ------5040 5040
NormalEquations: Equations: Normal 743==10b 10b+123b 0+123b+65b 1+65b2 743 0 1 2 9382==123b 123b+1615b 0+1615b+869b 1+869b2 9382 0 1 2 5040==65b 65b+869b 0+869b+509b 1+509b2 5040 0 1 2 47.164942 bb00==47.164942 1.5990404 bb11==1.5990404 1.1487479 bb22==1.1487479
Y = 47164942 . + 15990404 . X 1 + 11487479 . X2
Contoh Penggunaan Komputer SUMMARY OUTPUT
Excel Output
Regression Statistics Multiple R 0.980326323 R Square 0.961039699 Adjusted R Square 0.949908185 Standard Error 1.910940432 Observations 10 ANOVA df Regression Residual Total
Intercept X1 X2
2 7 9
SS MS 630.5381466 315.2690733 25.56185335 3.651693336 656.1
Coefficients Standard Error t Stat 47.16494227 2.470414433 19.09191496 1.599040336 0.280963057 5.691283238 1.148747938 0.30524885 3.763316185
F Significance F 86.33503537 1.16729E-05
P-value 2.69229E-07 0.00074201 0.007044246
Lower 95% 41.32334457 0.934668753 0.426949621
Upper 95% 53.00653997 2.263411919 1.870546256
Uji F dari Model Regresi Berganda Pengujiansecara secarastatistik statistikuntuk untukeksistensi eksistensihubungan hubunganlinier linierantara antaraYYdengan dengan Pengujian variabel-variabelbebas bebasXX,1,xx,2,..., ...,XX:k: variabel-variabel 1 2 k ...=ββ =0 k=0 HH0:0: ββ 11==ββ 22==...= k Notall allthe theββ i(i=1,2,...,k) (i=1,2,...,k)are are00 HH1:1: Not i Source of Variation
Sum of Squares
Regression SSR Error Total
SSE SST
Degrees of Freedom Mean Square (k) (n-(k+1)) =(n-k-1) (n-1)
SSR
MSR = MSE =
k SSE ( n − ( k + 1))
MST =
SST ( n − 1)
F Ratio
Menguji keberartian parameterparameter regresi secara individu Hipotesisstatistis: statistis: Hipotesis (1) =0 (1) HH00::ββ 11=0 HH11::ββ 11≠≠00 (2) =0 (2) HH00::ββ 22=0 HH11::ββ 22≠≠00 ... .. . (k) =0 (k) HH00::ββ kk=0 HH11::ββ kk≠≠00 Test
statistic
for test i: t
b −0 = s(b ) i
( n −( k +1 )
i
Koefisien Determinasi Multipel
Koefisien determinasi multipel Proporsi dari variasi dalam variabel tak bebas Y yang dijelaskan oleh kombinasi variabel bebas dalam model regresi multipel How Good is the Regression
SSR SSE R = = 1SST SST 2
KOEFISIEN DETERMINASI MULTIPLE
R
2
R
2
YX i .. n YX i
= (Σβ1.rYX i )100%
= ( β1.rYX i )100%
VALIDITAS REGRESI Ada
beberapa pelanggaran asumsi regresi linear klasik antara lain heteroskedastisitas, otokorelasi, dan multikolinearitas. Pelanggaran-pelanggaran diatas dapat menyebabkan taksiran koefisien regresi yang tidak efisien.