REGRESI

A.  REGRESI

1.    Pengertian Regresi

Istilah regresi pertama kali diperkenalkan oleh Sir Francis Galton pada tahun 1886. Galton menemukan adanya tendensi bahwa orang tua yang memiliki tubuh tinggi memiliki anak-anak yang tinggi, orang tua yang pendek memiliki anak-anak yang pendek pula. Kendati demikian. Ia mengamati bahwa ada kecenderungan tinggi anak cenderung bergerak menuju rata-rata tinggi populasi secara keseluruhan. Dengan kata lain, ketinggian anak yang amat tinggi atau orang tua yang amat pendek cenderung bergerak kearah rata-rata tinggi populasi. Inilah yang disebut hukum Golton mengenai regresi universal. Dalam bahasa galton, ia menyebutkan sebagai regresi menuju mediokritas.

Hukum regresi semesta (law of universal regression) dari Galton diperkuat oleh temannya Karl Pearson, yang mengumpulkan lebih dari seribu catatan tinggi anggota kelompok keluarga. Ia menemukan bahwa rata-rata tinggi anak laki-laki kelompok ayah (yang) pendek lebih besar dari pada tinggi ayah mereka, jadi “mundurnya” (“regressing”) anak laki-laki yang tinggi maupun yang pendek serupa kea rah rata-rata tinggi semua laki-laki. Dengan kata lain Galton, ini adalah “kemunduran kearah sedang”.

2.    Analisis Regresi

Analisis regresi mempelajari bentuk hubungan antara satu atau lebih peubah/variabel bebas (X) dengan satu peubah tak bebas (Y). Dalam penelitian peubah bebas ( X) biasanya peubah yang ditentukan oleh peneliti secara bebas misalnya dosis obat, lama penyimpanan, kadar zat pengawet, umur ternak dan sebagainya. Disamping itu peubah bebas bisa juga berupa peubah tak bebasnya, misalnya dalam pengukuran panjang badan dan berat badan sapi, karena panjang badan lebih mudah diukur maka panjang badan dimasukkan kedalam peubah bebas (X), sedangkan berat badan dimasukkan peubah tak bebas (Y). Sedangkan peubah tak bebas (Y) dalam penelitian berupa respon yang diukur akibat perlakuan/peubah bebas (X). misalnya jumlah sel darah merah akibat pengobatan dengan dosis tertentu, jumlah mikroba daging setelah disimpan beberapa hari, berat ayam pada umur tertentu dan sebagainya.

Bentuk hubungan antara peubah bebas (X) dengan peubah tak bebas (Y) bisa dalam bentuk polinom derajat satu (linear) polinom derajat dua (kuadratik). Polinom derajat tiga (Kubik) dan seterusnya. Disamping itu bisa juga dalam bentuk lain misalnya eksponensial, logaritma, sigmoid dan sebagainya. Bentuk-bentuk ini dalam analisis regresi-korelasi biasanya dilakukan transformasi supaya menjadi bentuk polinom.

            Ada beberapa tujuan penggunaan analisis regresi, antara lain:

a.       Membuat estimasi rata-rata dan nilai variabel tergantung dengan didasari pada nilai variabel bebas.

b.      Menguji hipotesis karakteristik dependensi.

c.       Untuk meramalkan nilai rata-rata variabel bebas dengan didasarkan pada nilai variabel bebas diluar jangkauan sample.

3.    Persyaratan Penggunaan Regresi

             Model kelayakan  regresi linear didasarkan pada hal-hal sebagai berikut:

1.      Model regresi dikatakan layak  jika angka signifikansi pada ANOVA sebesar < 0.05.

2.      Predictor yang digunakan sebagai variabel bebas harus layak. Kelayakan ini diketahui jika angka Standard Error of Estimate < Standard Deviation.

3.     Koefesien regresi harus signifikan. Pengujian dilakukan dengan Uji T. Koefesien regresi signifikan jika T hitung > T tabel (nilai kritis).

4.     Tidak boleh terjadi multikolinieritas, artinya tidak boleh terjadi korelasi yang sangat tinggi atau sangat rendah antar variabel bebas. Syarat ini hanya berlaku untuk regresi linier berganda dengan variabel bebas lebih dari satu.

5.     Tidak terjadi otokorelasi. Terjadi otokorelasi jika angka Durbin dan Watson (DB) sebesar < 1 dan > 3.

6.      Keselerasan model regresi dapat diterangkan dengan menggunakan nilai r² semakin besar nilai tersebut maka model semakin baik. Jika nilai mendekati 1 maka model regresi semakin baik. Nilai r² mempunyai karakteristik diantaranya: 1) selalu positif, 2) Nilai r² maksimal sebesar 1. Jika Nilai r² sebesar 1 akan mempunyai arti kesesuaian yang sempurna. Maksudnya seluruh variasi dalam variabel Y dapat diterangkan oleh model regresi. Sebaliknya jika r² sama dengan 0, maka tidak ada hubungan linier antara X dan Y.

7.    Terdapat hubungan linier antara variabel bebas (X) dan variabel tergantung (Y)

8.    Data harus berdistribusi normal

9.    Data berskala interval atau rasio

10. Kedua variabel bersifat dependen, artinya satu variabel merupakan variabel bebas (disebut juga sebagai variabel predictor) sedang variabel lainnya variabel tergantung (disebut juga sebagai variabel response).

4.    Pengukuran Analisis Regresi

a)    Regresi Linier Sederhana

      Dalam bentuk yang paling sederhana yaitu satu peubah bebas (X) dengan satu peubah tak bebas (Y) mempunyai persamaan:

            Ŷ =a +bx

Dimana :

Ŷ  =  Subyek dalam variabel dependen yang diprediksikan

a  =  Harga Y ketika harga X = 0 ( harga konstanta )

b  =  Angka arah atau koefisien regresi, yang menunjukkan angka

        peningkatan ataupun penurunan variabel dependen yang didasarkan

        pada perubahan variabel independen. Bila (+) arah garis naik, dan bila

        (-) maka arah garis turun.

X  =  Subyek pada variabel independen yang mempunyai nilai tertentu

            b =

            a =

      Dalam pengertian fungsi persamaan garis Ŷ = a + bx hanya ada satu yang dapat dibentuk dari dua buah titik dengan koordinat yang berbeda yaitu ( X₁, Y₁) dan X_2,Y₂). Hal ini berarti kita bisa membuat banyak sekali persamaan garis dalam bentuk lain melalui dua buat titik yang berbeda koordinatnya/tidak berimpit.

            Persamaan garis melalui dua buah titik dirumuskan sebagai berikut:

Sebagai contoh misalnya titik A (1,3) dan titik B (4,9) maka persamaan garis linear yang dapat dibuat adalah:

Contoh soal :

1.         Misalnya X adalah persentase kenaikan biaya periklanan dan Y adalah persantase kenaikan hasil penjualan. Berapakah besarnya ramalan persentase (%) kenaikan penjualan kalau biaya iklan dinaikkan menjadi 15% (X=15)?

X (1)	Y (2)
1	2
2	4
4	5
5	7
7	8
9	10
10	12
12	14

Penyelesaian:

X (1)	Y (2)	X2 (3)	XY (4)
1	2	1	2
2	4	4	8
4	5	16	20
5	7	25	35
7	8	49	56
9	10	81	90
10	12	100	120
12	14	144	168
∑X = 50 Rata-rata X=6,25	∑Y = 62 Rata-rata Y=7,75	∑X2=420	∑XY=499

            b =

               = \

               = 1,04

(setiap ada kenaikan 1% biaya iklan, hasil penjualan naik 1,04%

a = Y  - bx

  = 7,75 – 1,04(6,25)

 = 1,25

Y = a + bx

    = 1,25 + 1,04X

Kalau X = 15, ramalan % kenaikan penjualan Y = 1,25 + 1,04(15) = 16,85

2.     

Karyawan	Hasil Produksi (lusin) (Y)	Skor Tes (X)	Y (Y - )	X (X - )	xy	X2	Y2
A	30	6	-7	-1	7	1	49
B	39	9	12	2	24	4	144
C	18	3	-19	-4	76	16	361
D	42	8	5	1	5	1	25
E	39	7	2	0	0	0	4
F	25	5	-12	-2	24	4	144
G	41	8	4	1	4	1	16
H	52	10	15	3	45	9	225
	256	56	0	0	185	36	968

   =  =  = 37 ;  =  =  = 7

Dari hasil perhitungan diatas, nilai a dan b dihitung sebagai berikut:

            b =

              = 5,138 atau 5,14

            a =  - b

               = 37 – 5,14(7)

               = 1,02

Sehingga, persamaan regresi yang memperlihatkan hubungan kedua variabel antara hasil produksi dan hasil tes kecerdasan karyawan pada pabrik mainan anak-anak.

                        Y’ = 1,02 + 5,14X

b)   Regresi Ganda

Jika pengukuran pengaruh antar variabel melibatkan lebih dari satu variabel bebas (X1, X2, X3,…., Xn) dinamakan analisis regresi linier berganda. Persamaan estimasi regresi linier berganda sebagai berikut :

Y = a + b₁X₁ + b₂X₂ + b₃X₃ + b_nX_n

Keterangan

a = nilai konstanta dan b₁, b₂, b₃, …., b_n = nilai koefisien regresi variable X₁, X₂,  X₃,…., X_n

Untuk menentukan nilai a dan b₁, b₂, b₃, …., b_n, dipergunakan beberapa persamaan regresi linier berganda :

1. ∑Y = an + b₁∑X₁ + b₂∑X₂ + b₃∑X₃ + b_n∑X_n

2. ∑X₁Y = a∑X₁ + b₁∑X₁² + b₂∑X₁X₂ + ….+ b_n∑X₁X_n

3. ∑X₂Y =  a∑X₂+ b₁∑X₁X₂ + b₂∑X₂² + b_n∑X₂X_n dan seterusnya

1)    Contoh soal untuk regresi ganda dua prediktor :

Penelitian dilakukan untuk mengetahui pengaryh kemampuan kerja pegawai dan kepemimpinan direktif terhadap produktivitas kerja pegawai. Berdasarkan 10 responden yang digunakan sebagai sumber data penelitian, hasilnya adalah sebagai berikut:

No.Responden	X1	X2	Y
1	10	7	23
2	2	3	7
3	4	2	15
4	6	4	17
5	8	6	23
6	7	5	22
7	4	3	10
8	6	3	14
9	7	4	20
10	6	3	19

 Penyelesaian :

No	X1	X2	Y	X1Y	X2Y	X1X­2	X12	X22
1	10	7	23	230	161	70	100	49
2	2	3	7	14	21	6	4	9
3	4	2	15	60	30	8	16	4
4	6	4	17	102	68	24	36	16
5	8	6	23	184	138	48	64	36
6	7	5	22	154	110	35	49	25
7	4	3	10	40	30	12	16	9
8	6	3	14	84	42	18	36	9
9	7	4	20	140	80	28	49	16
10	6	3	19	114	57	18	36	9
Jumlah	60	40	170	1122	737	267	406	182

Untuk menghitung harga-harga a, b₁ dan b₂ dapat menggunakan persamaan berikut :

 ∑Y = an + b₁∑X₁ + b₂∑X₂

 ∑X₁Y = a∑X₁ + b₁∑X₁² + b₂∑X₁X₂

 ∑X₂Y =  a∑X₂+ b₁∑X₁X₂ + b₂∑X₂²

Bila harga-harga dari data di atas dimasukkan dalam persamaan tersebut maka:

170    = 10a + 60b₁ + 40b₂                   ……………. (1)

1112  = 60a + 406b₁ + 267b₂          ……………. (2)

737    = 40a + 267b₁ + 182b₂             …………….. (3)

Agar a menjadi 0 pada persamaan 1 dan 2, maka persamaan (1) dikalikan 6 , persamaan (2) dikalikan 1, hasilnya menjadi :

1020  = 60a + 360b₁ + 240b₂

1122  = 60a + 406b₁ + 267b₂

-102 = 0a – 46b₁ – 27b­₂

-102 = -46b₁ – 27b₂              ……………. (4)

Agar perhitungan a menjadi 0 pada persamaan 1 dan 3, maka persamaan (1) dikalikan dengan 4, persamaan (3) dikalikan dengan 1 hasilnya menjadi :

 680  =  40a + 240b₁ + 160b₂

 737  =  40a + 267b₁ + 182b₂

-57   =  0a  -  27b₁  -  22b₂

-57  =  -27b₁  -  22b₂             …………… (5)

Persamaan (4) dikalikan dengan 27, persamaan (5) dikalikan dengan 46 hasilnya menjadi :

-2754 = -1242b₁ – 729b₂     ………….. (4)

-2622 = -1242b₁ – 1012b₂   ................. (5)

- 132 = 0b₁ + 283b₂

b₁  =  -132 :  283 = -0,466

Harga b₂ dimasukkan dalam salah satu persamaan (4) atau persamaan (5). Dalam hal ini dimasukkan dalam persamaan (4), maka:

-102 = -46b₁ – 27(-0,466)

-102 = -46b₁ + 12,582

46b₁ = 102 + 12,582 = 114,582

b₁ = 114,582 : 46 = 2,4909

Harga b₁ dan b₂ dimasukkan dalam persamaan (1), maka :

170 = 10a + 60(2,4909) + 40(-0,466)

170 = 10a + 149,454 – 18,640

10a = 170 – 149,454+ 18,640

a  = 39,186 : 10 = 3,9186

Jadi:

a = 3,9186

b₁ = 2,4909

b₂ = -0,466

Jadi persamaan regresi ganda linier untuk dua predictor (kemampuan kerja pegawai, dan kepemimpinan direktif) adalah :

Y = 3,9186 + 2,4909X₁ – 0,466X₂

Dari persamaan itu berarti produktivitas kerja pegawai akan naik, bila kemampuan pegawai ditingkatkan, dan akan turun bila kepemimpinan direktif (otokratis) ditingkatkan. Tetapi koefisien regresi untuk kemampuan pegawai X₁ = 2,4909 lebih besar dari pada koefisien regresi untuk kepemimpinan direktif X₂ = -0,466 (harga mutlak). Jadi bila kemampuan pegawai ditingkatkan sehingga mendapat nilai 10, dan juga tingkat kepemimpinan direktif sampai mendapat nilai 10, maka produktivitasnya adalah :

Y = 3,9186 + 2,4909 X₁ – 0,466 X₂

Y = 3.9186 + 2,4909 (10) – 0,466(10) = 24,1676

Diperkirakan produktivitas kerja pegawai = 24,1676

2)    Contoh soal analisis regresi tiga prediktor:

Hubungan antara kemampuan kerja, pemahaman terhadap tugas, motivasi kerja dan produktivitas kerja.

Di mana :

X₁  =  kemampuan kerja

X₂  =  pemahaman terhadap tugas

X₃  =  motivasi kerja

Y   =  produktivitas kerja

DATA TENTANG KEMAMPUAN KERJA, PEMAHAMAN TUGAS DAN PRODUKTIVITAS KERJA

No	X1	X2	X3	Y
1	60	59	67	56
2	31	33	41	36
3	70	70	71	71
4	69	69	70	68
5	50	48	49	47
6	30	29	33	34
7	40	48	51	50
8	55	54	60	60
9	58	61	59	61
10	26	34	31	29
11	78	76	75	77
12	45	43	43	46
13	47	56	46	50
14	34	42	43	39
15	57	58	56	56

TABEL PENOLONG UNTUK MENGHITUNG PERSAMAAN REGRESI TIGA PREDIKTOR

No	X1	X2	X3	Y	X12	X22	X32	Y2	X1Y	X2Y	X3Y	X1X2	X1X3	X2X3
1	60	59	67	56	3.600	3.481	4.489	3.136	3.360	3.304	3.752	3.540	4.020	3.953
2	31	33	41	36	961	1.089	1.681	1.296	1.116	1.188	1.476	1.023	1.271	1.353
3	70	70	71	71	4.900	4.900	5.041	5.041	4.970	4.970	5.041	4.900	4.970	4.970
4	69	69	70	68	4.761	4.761	4.900	4.624	4.692	4.692	4.760	4.761	4.830	4.830
5	50	48	49	47	2.500	2.304	2.401	2.209	2.350	2.256	2.303	2.400	2.450	2.352
6	30	29	33	34	9.00	841	1.089	1.156	1.020	9.86	1.122	870	990	957
7	40	48	51	50	1.600	2.304	2.601	2.500	2.000	2.400	2.550	1.920	2.040	2.448
8	55	54	60	60	3.025	2.916	3.600	3.600	3.300	3.240	3.600	2.970	3.300	3.240
9	58	61	59	61	3.364	3.721	3.481	3.721	3.538	3.721	3.599	3.538	3.422	3.599
10	26	34	31	29	676	1.156	961	841	754	986	899	884	806	1.054
11	78	76	75	77	6.084	5.776	5.625	5.929	6.006	5.852	5.775	5.928	5.850	5.700
12	45	43	43	46	2.025	1.849	1.849	2.116	2.070	1.978	1.978	1.935	1.935	1.849
13	47	56	46	50	2.209	3.136	2.116	2.500	2.350	2.800	2.300	2.632	2.162	2.576
14	34	42	43	39	1.156	1.764	1.849	1.521	1.326	1.638	1.677	1.428	1.462	1.806
15	57	58	56	56	3.249	3.364	3.136	3.136	3.192	3.248	3.136	3.306	3.192	3.248

Dari tabel diatas diperoleh harga-harga sebagai berikut :

∑X₁ = 750                  ∑X₁² = 41.010           Ẋ₁ = 50

∑X₂ = 780                  ∑X₂² = 43.362           Ẋ₂ = 52

∑X₃ = 795                  ∑X₃² = 44.819           Ẋ₃ = 53

∑Y  = 780                   ∑Y²  = 43.326            Ῡ   = 52

∑X₁Y = 42.044          ∑X₁X₂ = 42.035

∑X₂Y = 43.259          ∑X₁X₃ = 42.700

∑X₃Y = 43.968          ∑X₂X₃ = 43.935

Dengan metode skor deviasi diperoleh hasil sbb :

∑X₁²  = 41010 –  = 3510

∑X₂²  = 43362 –  = 2802

∑X₃²  = 44819 –  = 2684

∑Y²   = 43326 –  = 2766

∑X₁Y = 42044 –  = 3044

∑X₂Y = 43259 –  = 2699

∑X₃Y = 43968 –  = 2628

∑X₁X₂ = 42035 –  = 3035

∑X₁X₃ = 42700 –  = 2950

∑X₂X₃ = 43935 –  = 2595

Persamaan regresi untuk tiga prediktor adalah :

Y = a + b₁X₁ + b₂X₂ + b₃X₃

Untuk mencari koefisien regresi a, b₁, b₂, dan b₃ digunakan persamaan simultan sebagai berikut:

1. ∑X₁Y = b₁∑X₁² + b₂∑X₁X₂ + b₃∑X₁X₃

2. ∑X₂Y = b₁∑X₁X₂ + b₂∑X₂² + b₃∑X₂X₃

3. ∑X₃Y = b₁∑X₁X₃ + b₂∑X₂X₃ + b₃∑X₃²

 a = Ῡ - b₁Ẋ₁ – b₂Ẋ₂ – b₃Ẋ₃

Hasil perhitungan dengan metode skor deviasi dimasukkan ke rumus persamaan 1, 2, 3 diatas.

3044 = 3510b₁ + 3035b₂ + 2950b₃            …………… (1)

2699 = 3035b₁ + 2802b₂ + 2595b₃                …………… (2)

2628 = 2950b₁ + 2595b₂ + 2684b_{3                ­}…………… (3)

Jika persamaan (1) dibagi dengan 2950; persamaan (2) dibagi dengan 2595; dan persamaan (3) dibagi dengan 2684, maka diperoleh :

1,032 = 1,190b₁ + 1,029b₂ + b₃      ……………… (4)

1,040 = 1,170b₁ + 1,080b₂ + b₃        ...................... (5)

0,979 = 1,099b₁ + 0,967b₂ + b₃        ……………… (6)

Jika persamaan (4) dikurangi persamaan (5); dan persamaan (5) dikurangi persamaan (6), maka diperoleh :

-0,008 = 0,020b₁ – 0,051b₂             …………….. (7)

0,061 = 0,071b₁ + 0,113b₂              …………….. (8)

Jika persamaan (7) dibagi dengan -0,051; dan persamaan (8) dibagi dengan 0,113, maka diperoleh :

0,157 = -0,392b₁ + b₂           ……………… (9)

0,540 = 0,628b­₁ + b₂            ……………… (10)

Jika persamaan (9) dikurangi persamaan (10), maka diperoleh:

-0,383 = -1,020b₁

b₁  = 0,375

Jika nilai b₁ dimasukkan ke persamaan (10), maka diperoleh:

0,540 = 0,628b₁ + b₂

0,540 = 0,628(0,375) + b₂

0,540 = 0,236 + b₂

b₂ = 0,304

Jika nilai b₁ dan b₂ dimasukkan ke persamaan (6), maka diperoleh:

0,979 = 1,099b­₁ + 0,967b₂ + b₃

0,979 = 1,099(0,375) + 0,967(0,304) + b₃

0,979 = 0,412 + 0,294 + b₃

b₃ = 0,273

Nilai a diperoleh dari :

a = Ῡ - b₁Ẋ₁ – b₂Ẋ₂ – b₃Ẋ₃

a = 52 – (0,375)(50) – (0,304)(52) – (0,273)(53)

a = 3,792

Jadi, persamaan regresi adalah:

Y = a + b₁X₁ + b₂X₂ + b₃X₃

Y = 3,792 + 0,375X₁ + 0,304X­₂ + 0,273X₃

Berdasarkan analisis regresi, koefisien regresi didapat berturut-turut :

a = 3,792;       b₁ = 0,375;     b₂ = 0,304      b₃ = 0,273

c)    Uji Liniearitas Regresi

Salah satu asumsi dari analisi regresi adalah linearitas. Rumus-rumus yang digunakan dalam uji liniearitas:

JK (T)        = ∑ Y2 JK (A)       = JK (b  a)   = b                   = JK (S)       = JK(T) – JK(A) - JK (b  a) JK (TC)     = JK (G)       = JK(S) – JK(TC)

Dimana :

JK (T)        : Jumlah Kuadrat Total

JK (A)       : Jumlah Kuadrat Koefisien a

JK (b l a) : Jumlah Kuadrat Regresi (b l a)

JK (S)       : Jumlah Kuadrat Sisa

JK (TC)     : Jumlah Kuadrat Tuna Cocok

JK (G)       : Jumlah Kuadrat Galat

DAFTAR ANALISIS VARIANS (ANAVA) REGRESI LINEAR SEDERHANA

 

Sumber Variasi	dk	JK	KT	F
Total	n	∑Y2	∑Y2
Koefisien (a) Regresi (bla) Sisa	1 1 n – 2	JK (a) JK (bla) JK (S)	JK (a) S2reg = JK (bla) S2sis =
Tuna Cocok Galat	k – 2 n - k	JK (TC) JK (G)	S2TC = S2G =

Uji Keberartian :

Ho = Koefisien arah regresi tidak berarti (b = 0)

Ha = koefisien itu berarti (b ≠ 0)

Untuk menguji hipotesis nol, dipakai statistik F =   ( Fhitung ) dibandingkan dengan F tabel dengan dk pembilang = 1dan dk penyebut = n - 2. Untuk menguji hipotesis nol, kriterianya adalah tolak hipotesis nol apabila koefisien F hitung lebih besar dari harga F tabel berdasarkan taraf kesalahan yang dipilih dan dk yang bersesuaian.

Uji Liniearitas :

Ho = Regresi linier

Ha = Regresi non-linier

Statistik F =  (F hitung) dibandingkan dengan F tabel dengan dk pembilang (k – 2) dan dk penyebut (n – k). Untuk menguji hipotesis nol, tolak hipotesis regresi linier, juka statistik F hitung untuk tuna cocok yang diperoleh lebih besar dari harga F dari tabel menggunakan taraf kesalahan yang dipilih dan dk yang bersesuaian.