Studi Kasus : Analisis Regresi Berganda menggunakan LISREL

Dosen Pengampu :
Dian Handayani, M.Si.
Qorry Meidianingsih

Disusun Oleh :
Hanna Lusiana 1314618004
Syifa Fadia Salsabila 1314618012
Elvira Bunga Nasution 1314618016
Nada Rahmadini Salsabila 1314618000
Thitania Sukma Ning Ayu 1314618029
Wahyu Setianto 1314618033

PROGRAM STUDI STATISTIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS NEGERI JAKARTA
JAKARTA
2021
 Studi kasus analisis regresi linear berganda ini dilakukan dengan menggunakan data dari
Chatterjee dan Yilmaz (1992). Data berisi skor dari 24 pasien pada empat variabel yaitu sebagai
berikut :

a. Variabel 1 = usia pasien dalam beberapa tahun

b. Variabel 2 = tingkat keparahan penyakit
c. Variabel 3 = tingkat kecemasan
d. Variabel 4 = tingkat kepuasan

Terdapat dua pendekatan yang dapat dilakukan, yaitu menggunakan data mentah atau
menghitung korelasi atau matriks varians kovarians untuk menjadi input saat menggunakan
SEM. Pada studi kasus ini kami memilih untuk menggunakan matriks varians kovarians sebagai
input. Dalam melakukan analisis regresi linear berganda diperlukan beberapa tahapan yang perlu
dilakukan oleh peneliti yaitu sebagai berikut :

1. Menentukan model regresi berganda teoritis

Persamaan regresi merupakan model teoritis yang ditentukan oleh peneliti, oleh karena
itu spesifikasi modelnya melibatkan penemuan teori yang relevan dengan penelitian
sebelumnya. Tujuannya adalah untuk menentukan apakah model regresi teoritis cocok
dengan struktur matriks varians kovarians sampel dalam data, yaitu apakah matriks tersebut
menyiratkan beberapa model regresi teoretis yang mendasar.
Pada studi kasus ini yang menjadi minat dalam menentukan model regresi berganda
teoritis adalah untuk memprediksi tingkat kepuasan pasien berdasarkan usia pasien,
keparahan penyakit, dan tingkat kecemasan (variabel independen). Ini dapat menjadi
karakteristik model MCA karena sekumpulan variabelnya dipilih berdasarkan teori, agar
tidak terjadi kesalahan pada saat pemilihan variabel.

Berdasarkan gambar di atas terlihat panah lurus ke arah var4 menunjukkan bahwa var4
merupakan variabel dependen yang diprediksi atau dipengaruhi oleh variabel independen
yaitu var1, var2, dan var3. Dengan panah melengkung yang menunjukkan korelasi antar
variabel independennya, serta terdapat eror yang merupakan varians 1 - R2dan tidak dapat
dihitung oleh tiga variabel independen.
2. Melakukan identifikasi model
Identifikasi model bertujuan untuk memutuskan apakah sekumpulan estimasi parameter
unik dapat dihitung untuk persamaan regresi. Secara aljabar, setiap parameter bebas
(parameter yang tidak diketahui namun ingin diperkirakan) dalam persamaan regresi
berganda dapat diperkirakan menggunakan matriks varians kovarians sampel. Jumlah nilai
yang berbeda dalam matriks varians kovarians sampel sama dengan jumlah parameter yang
akan diestimasi, oleh karena itu model regresi berganda selalu dianggap model yang baru
saja diidentifikasi karena semua parameter diperkirakan.

Output dari komputer SEM dan software tradisional berbeda saat melakukan analisis
regresi, pada komputer SEM outputnya akan selalu menunjukkan bahwa analisis regresi
adalah model jenuh, yaitu X 2 =0 dan derajat kebebasan = 0. Model regresi mencakup tiga
varian variabel independen, tiga kovarian, tiga bobot regresi untuk variabel independen, dan
satu eror, sehingga semua parameter dalam persamaan regresi sedang diestimasi. Output
pada software tradisional (SAS, SPSS, dll.) menampilkan nilai R2 dan F, sedangkan software
SEM menampilkan nilai chi-square, karena software SEM sedang menguji perbedaan antara
matriks varians kovarians sampel asli dengan matriks varians kovarians model persamaan
regresi.

3. Menghitung bobot regresi (Estimasi Model)

Estimasi bobot regresi disebut juga estimasi model, yaitu menghitung bobot regresi
sampel untuk variabel independen. Istilah estimasi model digunakan karena terdapat
beberapa metode estimasi yang berbeda. Metode estimasi yang paling umum adalah estimasi
kuadrat terkecil biasa (unweighted least squares; ULS), yang memilih bobot regresi
berdasarkan meminimalkan jumlah kesalahan kuadrat. Namun ada metode estimasi lain yang
digunakan dalam statistik, khususnya software SEM, misalnya: estimasi maximum likelihood
(ML), two-stage least squares (2SLS), weighted least square (WLS), generalized least
squares (GLS), pembobotan diagonal kuadrat terkecil (DWLS), dan versi robust di Mplus
(MLM, MLMV, WLSM, WLSMV).
Metode estimasi yang berbeda diturunkan untuk digunakan dalam berbagai situasi
analisis data, termasuk non-normalitas, ukuran sampel kecil, pencilan, dll. Korelasi ganda
kuadrat dengan tiga variabel prediktor memprediksi variabel dependen Y adalah :

R2y .123=β 1 r y 1+ β2 r y 2+ β3 r y 3

Koefisien korelasi dikalikan dengan masing-masing bobot regresi parsial standar dan
dijumlahkan untuk menghasilkan koefisien regresi berganda kuadrat R2y .123

Di LISREL9 kita dapat menulis program SIMPLIS untuk menghitung bobot regresi
dalam model regresi. Program SIMPLIS mencakup perintah judul, perintah variabel yang
diamati untuk menentukan nama variabel, perintah ukuran sampel, dan perintah matriks
kovarian. Perintah persamaan menentukan persamaan regresi dengan variabel dependen di
sisi kiri persamaan. Jumlah desimal dan perintah diagram jalur bersifat opsional. Akhir dari
perintah masalah mengakhiri program.

Perintah program SIMPLIS yaitu sebagai berikut:

Regression Analysis Example (no intercept term)

Observed variables: VAR1 VAR2 VAR3 VAR4
Sample size: 24
Covariance matrix:
91.384
30.641 27.288
0.5840.641 0.100
−122.616 −52.576 −2.399 281.210
Equation: VAR4 = VAR1 VAR2 VAR3
Number of decimals = 3
Path Diagram
End of Problem

Output regresi tanpa sebuah intersep di dalam persamaannya :

VAR4 = - 1.153*VAR1 - 0.267*VAR2 - 15.546*VAR3, Errorvar.= 88.515
Standerr (0.273) (0.533) (7.080) (27.402)
Z-values -4.218 -0.501 -2.196 3.230
P-values 0.000 0.616 0.028 0.001

Goodness-of-Fit Statistics
Degrees of Freedom for (C1) - (C2) = 0
Maximum Likelihood Ratio Chi-Square (C1) = 0.0 (P = 1.000)
Browne’s (1984) ADF Chi-Square (C2_N2) = 0.00 (P = 1.000)
The model is saturated, the fit is perfect!

Bobot regresi dicantumkan di depan setiap variabel independen (VAR1, VAR2, VAR3).
Di bawah setiap bobot regresi adalah standar eror dalam tanda kurung; misalnya, bobot
regresi VAR1 memiliki standar eror 0,273, dengan nilai Z ditunjukkan di bawahnya, dan
nilai p tercantum di bawah nilai Z. Nilai Z dihitung sebagai estimasi parameter dibagi dengan
kesalahan standar (Z = −1.153 / .273 = −4.128). Jika menguji setiap bobot regresi pada
tingkat signifikansi z = 1,96, α = 0,05, maka VAR1 dan VAR3 signifikan secara statistik,
tetapi VAR2 tidak (Z = −.501). R2 = 0,685 atau 69% dari variabilitas skor Y (VAR4)
diprediksi oleh pengetahuan tentang VAR1, VAR2, dan VAR3.
4. Melakukan pengujian model dengan melibatkan kesesusaian model regresi teoritis
Nilai R2 dapat dihitung secara manual menggunakan matriks korelasi dan bobot beta
standar seperti yang ditunjukkan pada Tabel 4.1.

 Nilai R2 yang disesuaikan untuk pendekatan model regresi teoritis MCA adalah
R2y .123=β 1 r y 1+ β2 r y 2+ β3 r y 3
¿−0.657 (−0.7649 ) +−0.083 (−0.6002 ) +−0.294 (−0.4530 )
¿ 0.685

 Uji F untuk signifikansi nilai R2 adalah

R2 0.685
p 3 0.228
F= 2
= = =14.52
1−R 1−0.685 0.0157
− p−1
n 20

 Ukuran efeknya adalah

p 3
R 2− [ ]
n−1
=0.685−
23[ ]
=0.685−0.130=0.554

Ini akan dianggap sebagai ukuran efek yang cukup besar dan perhatikan bahwa output
software SEM tidak menampilkan nilai-nilai ini.

Hasil penelitian menunjukkan usia pasien, tingkat keparahan penyakit, dan tingkat
kecemasan membuat sekumpulan prediktor yang signifikan secara statistik dari tingkat
kepuasan pasien. Ada ukuran efek yang besar sehingga orang mungkin mengharapkan hasil
yang serupa saat melakukan analisis regresi pada sampel data lain. Koefisien regresi yang di
standarized negative menunjukkan bahwa sebagai usia pasien, keparahan penyakit, dan
kecemasan meningkat, kepuasan pasien menurun.

Model regresi teoritis termasuk satu set tiga penjelas independent variabel, yang
menghasilkan R2 = 0,685 yang signifikan secara statistik. Ini menyiratkan itu 69% dari
varians skor tingkat kepuasan pasien dijelaskan oleh pengetahuan usia pasien, tingkat
keparahan penyakit, dan tingkat kecemasan. Analisis regresi menunjukkan bahwa bobot
 regresi untuk VAR2 tidak berbeda secara statistic dari nol ( z=−0.501, p=.10). Jadi, dapat
dipertimbangkan untuk memodifikasi model untuk menghasilkan kesesuaian yang lebih baik
model. Dalam regresi berganda, dua persamaan regresi yang berbeda akan menghasilkan
nilai R2 yang berbeda, dengan demikian dilakukan uji F dari selisih kedua nilai R2 tersebut
akan dihitung.

Jadi nilai F testnya adalah

( R2F−R 2R )
(0.685−0.681)
( p1 − p2 ) (3−2)
F= 2
= =0.25
(1−R F ) (1−0.685)
(n− p1 −1) ( 24−3−1)

Uji F untuk perbedaan kedua nilai R2 tidak signifikan, menunjukkan bahwa menghapus
VAR2 tidak memengaruhi penjelasan kepuasan pasien tingkat (R2 = .685 vs R2 = .681).
Karena itu digunakan model regresi dua variabel yang lebih kecil (68% dari varian dalam
tingkat kepuasan pasien dijelaskan oleh pengetahuan tentang usia pasien dan tingkat
kecemasan, yaitu 68% dari 281.210 = 191.22). Tes F juga tidak tersedia dalam perangkat
lunak SEM karena nilai R2 bukan 1.0 (penjelasan atau prediksi sempurna), variabel
tambahan dapat ditambahkan jika penelitian tambahan menunjukkan bahwa variabel lain
relevan dengan tingkat kepuasan pasien. Varians kesalahan yang tidak dapat dijelaskan
(89,581) secara statistik signifikan yang berarti

1−R 2=1−.68=0.32

Jadi tambahan prediktor signifikan akan membantu dalam menghitung varians yang tidak
dapat dijelaskan. Jelas, lebih banyak variabel dapat ditambahkan dalam proses modifikasi
model, tetapi secara teoritis dasar harus ditetapkan oleh peneliti untuk variabel tambahan.

5. Pengukuran Error

Sebuah solusi yang direkomendasikan adalah mengalikan reliabilitas variabel dependen

dan / atau rata-rata reliabilitas variabel independen dengan nilai R2 (Cochran, 1968, 1970).
Dasar persamaan hanya menggunakan reliabilitas variabel dependennya

R2y .123=R 2y.123∗r yy ∗ŕ xx

^
 Penyesuaian ini tidak selalu memungkinkan jika tingkat reabilitasn variabel dependen
dan independennya tidak diketahui, koreksi R2 untuk kesalahan pengukuran (tidak reliable).
Jika reliabilitas variabel dependen adalah 0,80, maka hanya 54% dari varians (0,80 × 0,68 =
0,54) dalam kepuasan pasien tingkat adalah varian sebenarnya, bukan 68%. Unreliable
variabel (pengukuran kesalahan) dapat memiliki efek dramatis pada statistik dan interpretasi
terhadap hasil. Cochran (1968) mempelajari empat aspek berbeda tentang bagaimana
kesalahan pengukuran mempengaruhi statistik:

a. Jenis model matematika,

b. Standar teknik analisis yang memperhitungkan kesalahan pengukuran,
c. Pengaruh kesalahan pengukuran dalam menghasilkan bias dan ketelitian yang
berkurang serta apa perbaikannya prosedur tersedia,
d. Teknik untuk mempelajari kesalahan pengukuran.

Cochran (1970) juga mempelajari efek kesalahan pengukuran pada beberapa kuadrat
koefisien korelasi. Masalah validitas dan reliabilitas dalam pengukuran secara tradisional
telah ditangani dengan terlebih dahulu menguji validitas dan reliabilitas skor pada instrumen
yang digunakan dalam desain penelitian tertentu.

6. Persamaan Additive
Persamaan regresi berganda menurut definisi adalah aditif (Y = X1 + X2), dan dengan
demikian tidak mengizinkan hubungan lain di antara variabel untuk ditentukan. Ini
membatasi potensi variabel untuk memiliki efek langsung, tidak langsung, dan total satu
sama lain pada model regresi.
Metode regresi berganda pada dasarnya menentukan kontribusi keseluruhan satu set
variabel yang diamati untuk penjelasan atau prediksi, uji penuh dan terbatas model untuk
kontribusi signifikan variabel dalam model, dan menggambarkan subset terbaik dari
beberapa prediktor independen. Persamaan regresi berganda juga mengizinkan penggunaan
kode nominal, ordinal, efek, kontras, atau polynomial variabel (Pedhazur, 1982; Pedhazur &
Schmelkin, 1992).
Langkah-langkah analisis regresi menggunakan LISREL dengan SIMPLIS

1. Klik File – New – SIMPLIS Project – Masukkan data dengan format SAV – maka akan
terbuka seperti ini

2. Pada halaman tersebut kita akan memasukkan sintaks yang berisi judul dan variabel yang
akan kita masukkan ke aplikasi lisrel. Dengan Judul, yaitu “Title : Multiple Regression
Analysis” dan variabel yang akan diamati, yaitu “Observed Variable : X1 X2 X3 Y”.

3. Lalu, karena kita menggunakan matrix kovarians, masukkan perintah “Covarians Matrix”
dengan nilai korelasi masing – masing variabel yang sudah dihitung oleh SPSS.
Masukkan perintah persamaan / “Equation: Y = X1 X2 X3” dan jumlah desimalnya = 3.
 Perintah “Path Diagram” merupakan sebuah optional. Dan perintah “End of Problem”
untuk mengakhiri berjalannya program.

4. Setelah semua perintah sudah dimasukkan, block semua perintah dan klik Run LISREL.

Interpretasi Output dari analisis regresi menggunakan LISREL:

 Syntax SIMPLIS :
SATISFACTION REGRESSION MODEL (no intercept term)
Observed variables: X1 X2 X3 Y
Sample size: 24
Covariance matrix:
91.384
 30.641 27.288
0.584 0.641 0.100
−122.616 −52.576 −2.399 281.210
Equation: Y = X1 X2 X3
Number of decimals = 3
Path Diagram
Options: SC
End of Problem

 Nilai dugaan masing-masing parameter model (Covariance Matrix)

Path diagram di atas menunjukkan nilai koefisien yang sama dengan

matriks varians-kovarians. Koefisien antara X1 dan Y merupakan nilai koefisien
β 1 yaitu –1.16, koefisien antara X2 dan Y merupakan nilai koefisien β 2 yaitu
-0.27, koefisien antara X3 dan Y merupakan nilai koefisien β 3 yaitu -15.55. Nilai
koefisien pada masing-masing variabel independen merupakan nilai varians.
Misal, nilai 91.78 pada X1 merupakan varians dari X1. Dan nilai koefisien antar
variabel independen merupakan nilai kovarians.

Persamaan regresi tanpa konstanta :

 Dari output di atas didapatkan model regresi tanpa intercept/konstanta atau
β 0 yaitu:
Y =−1.153 X 1−0.267 X 2 −15.546 X 3 +ε
dengan galat ε =88.515
Pada output di atas, bobot regresi dicantumkan di setiap variabel X1, X2,
X3 pada bagian “Standerr”. Bobot regresi X1 memiliki standar error 0.273, bobot
regresi X2 memiliki standar error 0.531, bobot regresi X3 memiliki standar error
7.058.
Nilai Z ditunjukkan pada bagian “Z-values”. Nilai Z didapatkan dari
perhitungan estimasi parameter dibagi standar error (Z = −1.153 / .273 = −4.128).
Dengan menguji bobot regresi pada tingkat signifikansi z=± 1.96 α =0.05, maka
kita bisa dapat menyimpulkan bahwa X1 (Z = -4.231 < Z = -1.96) dan X3 (Z =
-2.203 < Z = -1.96) berpengaruh secara signifikan terhadap Y, dan X2 (Z = -0.503
> Z = -1.96) tidak berpengaruh signifikan terhadap Y.
Output di atas juga menunjukkan nilai p-value. Dari nilai p-value di atas
dapat disimpulkan bahwa variabel X1 dan X3 berpengaruh signifikan terhadap Y
dan variabel X2 (p-value = 0.615) tidak berpengaruh signifikan terhadap Y.

Persamaan regresi dengan konstanta :

Dari output di atas didapatkan model regresi dengan intercept/konstanta

atau β 0 yaitu:
Y =156.622−1.153 X 1−0.265 X 2 −15.594 X 3 +ε
dengan galat ε =88.464
Dari nilai p-value di atas dapat disimpulkan bahwa variabel X1 dan X3
memiliki pengaruh signifikan terhadap Y sedangkan variabel X2 yang memiliki
p-value 0,617<0.05, meunjukkan bahwa X2 tidak memiliki pengaruh signifikan
terhadap Y.

 Nilai korelasi antar variabel (Correlation Matrix)

 Output di atas merupakan nilai korelasi pada Path Diagram dan matriks korelasi.
Dari matriks korelasi di atas dapat dilihat bahwa korelasi antara variabel eksogen
tidak ada yang melebihi 0.8, ini berarti bahwa tidak ada multikolinieritas antar
variabel eksogen.

 T-value untuk menunjukkan pengaruh variabel eksogen terhadap variabel

endogen

Dari path diagram di atas didapatkan nilai t-value antara variabel X1, X2, dan X3
terhadap Y. Nilai t-value variabel X2 terhadap Y adalah -0.54 dan berwarna
 merah, ini menunjukkan bahwa variabel X2 tidak berpengaruh secara signifikan
terhadap Y.

 Goodness-of-Fit Statistics

Dari output di atas menunjukkan bahwa nilai db = 0, ADF Chi Square = 0, ML

Ratio Chi-Square = 0, ini menunjukkan bahwa model persamaan regresi
Y =−1.153 X 1−0.267 X 2 −15.546 X 3 +ε
merupakan model yang cocok untuk data ini.