PENGAMANAN SISTEM OPERASI

Sistem Keamanan Tek. Infor masi

MATERI

Perancangan Bentuk Tinjauan

sistem operasi serangan terhadap
yang aman terhadap sistem operasi
sistem operasi yang aman
Latar Belakang
Saat ini sistem komputer yang terpasang makin mudah diakses, sistem
timesharing dan akses jarak jauh menyebabkan kelemahan komunikasi
data menjadi pokok masalah keamanan

Terlebih dengan meningkatnya perkembangan jaringan komputer.

Kecenderungan lain saat ini adalah memberi tanggungjawab

pengelolaan aktivitas pribadi dan bisnis ke komputer, seperti :
• Sistem transfer dana elektronis (electronic fund transfer system) melewatkan uang
sebagai aliran bit.
• Sistem kendali lalu-lintas udara (air trafic control system) melakukan banyak kerja yang
sebelumnya ditangani pengendali manusia. Unit rawat intensif di rumah sakit sudah
sangat terkomputerisasi.
• Dan sebagainya.
 Latar Belakang

Implementasi pengamanan sangat penting untuk menjamin sistem tidak diinterupsi dan
diganggu.

Proteksi dan pengamanan terhadap perangkat keras dan system operasi sama
pentingnya.

Sistem operasi hanya satu bagian kecil dari seluruh perangkat lunak di suatu sistem.

Tetapi karena sistem operasi mengendalikan pengaksesan ke sumber daya, dimana

perangkat lunak lain meminta pengaksesan sumber daya lewat sistem operasi maka
sistem operasi menempati posisi yang penting dalam pengamanan sistem.
Latar Belakang

Pengamanan perangkat lunak cenderung memfokuskan pada

pengamanan sistem operasi, karena perangkat lunak aplikasi juga
memberi resiko keamanan.

Keamanan sistem operasi merupakan bagian masalah keamanan

sistem komputer secara total.

Pengamanan sistem operasi berarti kecil jika setiap orang dapat

melenggang di ruang sistem komputer.

Pengamanan secara fisik dengan membatasi pengaksesan fisik

secara langsung dengan fasilitas sistem komputer harus dilakukan
juga.
 (1) Keamanan
¨ Keamanan sistem komputer adalah untuk menjamin sumber daya tidak
digunakan atau dimodifikasi orang tak terotorisasi. Pengamanan termasuk
masalah teknis, manajerial, legalitas dan politis.
¨ Keamanan sistem terbagi menjadi tiga, yaitu :
¤ 1) Keamanan eksternal (external security).
n Berkaitan dengan pengamanan fasilitas komputer dari penyusup (hacker) dan bencana
seperti kebakaran dan kebanjiran.
¤ 2) Keamanan interface pemakai (user interface security).
n Berkaitan dengan identifikasi pemakai sebelum pemakai diijinkan mengakses program dan
data yang disimpan.
¤ 3) Keamanan internal (internal security).
n Berkaitan dengan pengamanan beragam kendali yang dibangun pada perangkat keras
dan sistem operasi yang menjamin operasi yang handal dan tak terkorupsi untuk menjaga
integritas program dan data.
n Istilah keamanan (security) dan proteksi (protection) sering digunakan secara bergantian.
n Untuk menghindari kesalahpahaman, istilah keamanan mengacu ke seluruh masalah
keamanan dan istilah mekanisme proteksi mengacu ke mekanisme sistem yang digunakan
untuk memproteksi/melindungi informasi pada sistem komputer.
 (2) Masalah Keamanan
¨ Terdapat dua masalah penting, yaitu :
¤ Masalah Pertama
n Kehilangan data (data loss). Dapat disebabkan karena :
n Bencana, Kebakaran, Banjir, Gempa bumi, Perang, Kerusuhan,
Binatang.
n Kesalahan perangkat keras dan perangkat lunak.
n Ketidakberfungsian pemroses, Disk atau tape yang tidak terbaca,
Kesalahan telekomunikasi, Kesalahan program (bugs).
n Kesalahan/kelalaian manusia.
n Kesalahan pemasukan data, Memasang tape atau disk yang salah,
Eksekusi program yang salah, Kehilangan disk atau tape.
n Kehilangan data dapat diatasi dengan mengelola beberapa
backup dan backup ditempatkan jauh dari data yang online.
 (2) Masalah Keamanan
¨ Terdapat dua masalah penting, yaitu :
¤ Masalah Kedua
n Penyusup (hacker).
n Terdiri dari :
n Penyusup pasif, yaitu yang membaca data yang tak diotorisasi.

n Penyusup aktif, yaitu yang mengubah data yang tak diotorisasi.

n Kategori penyusupan :
n Lirikan mata pemakai non teknis.
n Pada sistem time-sharing, kerja pemakai dapat diamati orang
sekelilingnya. Bila dengan lirikan itu dapat mengetahui apa yang
diketik saat pengisian password, maka pemakai non teknis dapat
mengakses fasilitas yang bukan haknya.
n Penyadapan oleh orang dalam.
n Usaha hacker dalam mencari uang.
n Spionase militer atau bisnis.
 (3) Ancaman Keamanan
¨ Sasaran pengamanan adalah menghindari, mencegah
dan mengatasi ancaman terhadap sistem.
¨ Kebutuhan keamanan sistem komputer dikategorikan tiga
aspek, yaitu :
¤ 1) Kerahasiaan (secrecy).
n Adalah keterjaminan bahwa informasi disistem komputer hanya
dapat diakses oleh pihak-pihak yang diotorisasi dan modifikasi
tetap menjaga konsistensi dan keutuhan data di sistem.
¤ 2) Integritas (integrity).
n Adalah keterjaminan bahwa sumber daya sistem komputer hanya
dapat dimodifikasi oleh pihak-pihak yang diotorisasi.
¤ 3) Ketersediaan (availability).
n Adalah keterjaminan bahwa susmber daya sistem komputer tersedia
bagi pihak-pihak yang diotorisasi saat diperlukan.
(3) Ancaman Keamanan
¨ Tipe-tipe ancaman terhadap keamanan sistem dapat dimodelkan dengan
memandang fungsi sistem komputer sebagai penyedia informasi.
¨ Berdasarkan fungsi ini, ancaman terhadap sistem komputer dapat dikategorikan
menjadi empat ancaman, yaitu :
¤ 1) Interupsi (interuption). Sumber daya sistem komputer dihancurkan atau menjadi tak
tersedia atau tak berguna. Interupsi merupakan ancaman terhadap ketersediaan.
n Contoh : penghancuran bagian perangkat keras, seperti harddisk, pemotongan kabel komunikasi.
¤ 2) Intersepsi (interception). Pihak tak diotorisasi dapat mengakses sumber daya. Interupsi
merupakan ancaman terhadap kerahasiaan. Pihak tak diotorisasi dapat berupa orang
atau program komputer.
n Contoh : penyadapan untuk mengambil data rahasia, mengetahui file tanpa diotorisasi.
¤ 3) Modifikasi (modification). Pihak tak diotorisasi tidak hanya mengakses tapi juga
merusak sumber daya. Modifikasi merupakan ancaman terhadap integritas.
n Contoh : mengubah nilai-nilai file data, mengubah program sehingga bertindak secara berbeda,
memodifikasi pesan-pesan yang ditransmisikan pada jaringan.
¤ 4) Fabrikasi (fabrication). Pihak tak diotorisasi menyisipkan/memasukkan objek-objek
palsu ke sistem. Fabrikasi merupakan ancaman terhadap integritas.
n Contoh : memasukkan pesan-pesan palsu ke jaringan, penambahan record ke file.
 (4) Petunjuk Pengamanan Sistem
¨ Terdapat beberapa prinsip pengamanan sistem komputer, yaitu :
¤ 1) Rancangan sistem seharusnya publik.
n Keamanan sistem seharusnya tidak bergantung pada kerahasiaan rancangan mekanisme pengamanan.
Mengasumsikan penyusup tidak akan mengetahui cara kerja sistem pengamanan hanya
menipu/memperdaya perancang sehingga tidak membuat mekanisme proteksi yang bagus.
¤ 2) Dapat diterima.
n Skema yang dipilih harus dapat diterima secara psikologis. Mekanisme proteksi seharusnya tidak
menganggu kerja pemakai dan memenuhi kebutuhan otorisasi pengaksesan. Jika mekanisme tidak mudah
digunakan maka tidak akan digunakan atau digunakan secara tak benar.
¤ 3) Pemeriksaan otoritas saat itu.
n Sistem tidak seharusnya memeriksa ijin dan menyatakan pengaksesan diijinkan, serta kemudian
menetapkan terus informasi ini untuk penggunaan selanjutnya. Banyak sistem memeriksa ijin ketika file
dibuka dan setelah itu (operasi-operasi lain) tidak diperiksa. Pemakai yang membuka file dan lupa
menutup file akan terus dapat walaupun pemilik file telah mengubah atribut proteksi file.
¤ 4) Kewenangan serendah mungkin.
n Program atau pemakai sistem seharusnya beroperasi dengan kumpulan wewenang serendah mungkin yang
diperlukan untuk menyelesaikan tugasnya. Default sistem yang digunakan harus tak ada akses sama
sekali.
¤ 5) Mekanisme yang ekonomis.
n Mekanisme proteksi seharusnya sekecil, sesederhana mungkin dan seragam sehingga memudahkan
verifikasi. Proteksi seharusnya dibangun dilapisan terbawah. Proteksi merupakan bagian integral
rancangan sistem, bukan mekanisme yang ditambahkan pada rancangan yang telah ada.
 (5) Otentifikasi Pemakai

Kebanyakan proteksi didasarkan asumsi sistem mengetahui

identitas pemakai.

Masalah identifikasi pemakai ketika login disebut otentifikasi

pemakai (user authentication).

Kebanyakan metode otentifikasi didasarkan pada tiga cara,

yaitu :
• Sesuatu yang diketahui pemakai, misalnya :
• Password, Kombinasi kunci, Nama kecil ibu mertua, Dan sebagainya.
• Sesuatu yang dimiliki pemakai, misalnya :
• Badge, Kartu identitas, Kunci, Dan sebagainya.
• Sesuatu mengenai (ciri) pemakai, misalnya :
• Sidik jari, Sidik suara, Foto, Tanda tangan.
(5) Otentifikasi Pemakai - Password
Pemakai memilih satu kata kode, mengingatnya dan
mengetikkan saat akan mengakses sistem komputer.

Saat diketikkan, komputer tidak menampilkan dilayar.

Teknik ini mempunyai kelemahan yang sangat banyak dan

mudah ditembus.

Pemakai cenderung memilih password yang mudah diingat.

Seseorang yang kenal dengan pemakai dapat mencoba login

dengan sesuatu yang diketahuinya mengenai pemakai.
(5) Otentifikasi Pemakai - Password

Proteksi password dapat ditembus

dengan mudah, antara lain :

Terdapat file berisi nama depan,

nama belakang, nama jalan,
nama kota dari kamus ukuran Isian di file dicocokkan dengan
sedang, disertai dengan file password.
pengejaan dibalik), nomor plat
mobil yang valid, dan string-
string pendek karakter acak.
 (5) Otentifikasi Pemakai - Password
¨ Upaya untuk lebih mengamankan proteksi password, antara lain :
¤ Salting.
n Menambahkan string pendek ke string password yang diberikan pemakai sehingga mencapai panjang password
tertentu.
¤ One time password.
n Pemakai harus mengganti password secara teratur. Upaya ini membatasi peluang password telah diketahui atau
dicoba-coba pemakai lain. Bentuk ekstrim pendekatan ini adalah one time password, yaitu pemakai mendapat satu
buku berisi daftar password. Setiap kali pemakai login, pemakai menggunakan password berikutnya yang
terdapat di daftar password. Dengan one time password, pemakai direpotkan keharusan menjaga agar buku
passwordnya jangan sampai dicuri.
¤ Satu daftar panjang pertanyaan dan jawaban.
n Variasi terhadap password adalah mengharuskan pemakai memberi satu daftar pertanyaan panjang dan
jawabannya. Pertanyaan-pertanyaan dan jawabannya dipilih pemakai sehingga pemakai mudah mengingatnya
dan tak perlu menuliskan di kertas.
n Pertanyaan berikut dapat dipakai, misalnya :
n Siapa mertua abang ipar Badru ?
n Apa yang diajarkan Pak Harun waktu SD ?
n Di jalan apa pertama kali ditemukan simanis ?
n Pada saat login, komputer memilih salah satu dari pertanyaan-pertanyaan secara acak, menanyakan ke pemakai
dan memeriksa jawaban yang diberikan.
¤ Tantangan tanggapan (chalenge response).
n Pemakai diberi kebebasan memilih suatu algoritma, misalnya x3. Ketika pemakai login, komputer menuliskan di
layar angka 3. Dalam kasus ini pemakai mengetik angka 27. Algoritma dapat berbeda di pagi, sore, dan hari
berbeda, dari terminal berbeda, dan seterusnya.
(5) Otentifikasi Pemakai - Identifikasi Fisik

¨ Identifikasi fisik
¤ Pendekatan lain adalah memberikan yang dimiliki pemakai,
seperti :
n Kartu berpita magnetik
n Kartu pengenal dengan selarik pita magnetik.
n Kartu ini disisipkan ke suatu perangkat pembaca kartu magnetik jika akan
mengakses komputer.
n Teknik ini biasanya dikombinasikan dengan password, sehingga pemakai
dapat login sistem komputer bila memenuhi dua syarat berikut :
n Mempunyai kartu.
n Mengetahui password yang spesifik kartu itu.
n ATM merupakan mesin yang bekerja dengan cara ini.
n Sidik jari
n Pendekatan lain adalah mengukur ciri fisik yang sulit ditiru, seperti :
n Sidik jari dan sidik suara.
n Analisis panjang jari.
n Pengenalan visual dengan menggunakan kamera diterapkan.
n Dan sebagainya.
(6) Pembatasan
¨ Pembatasan-pembatasan dapat dilakukan sehingga memperkecil
peluang penembusan oleh pemakai yang tak diotorisasi, misalnya :
¤ Pembatasan login.
n Login hanya diperbolehkan :
n Pada terminal tertentu.
n Hanya ada waktu dan hari tertentu.
n Pembatasan dengan call-back.
n Login dapat dilakukan siapapun. Bila telah sukses login, sistem segera
memutuskan koneksi dan memanggil nomor telepon yang telah disepakati.
Penyusup tidak dapat menghubungi lewat sembarang saluran telepon, tapi
hanya pada saluran telepon tertentu.
¤ Pembatasan jumlah usaha login.
n Login dibatasi sampai tiga kali dan segera dikunci dan diberitahu ke
administrator.
¤ Semua login direkam dan sistem operasi melaporkan informasi-
informasi berikut :
n Waktu, yaitu waktu pemakai login.
n Terminal, yaitu terminal dimana pemakai login.
Mekanisme Proteksi Sistem Komputer
¨ Pada sistem komputer banyak objek yang perlu diproteksi,
yaitu :
¤ Objek perangkat keras.
n Objek yang perlu diproteksi, antara lain :
n Pemroses.
n Segment memori.
n Terminal.
n Disk drive.
n Printer.
n Dan sebagainya.
¤ Objek perangkat lunak.
n Objek yang perlu diproteksi, antara lain :
n Proses.
n File.
n Basis data.
n Semaphore.
n Dan sebagainya.
 Malicious Program
¨ Malicious Program. Program yang dibuat untuk mengganggu, dan bahkan
merusak suatu sistem komputer.
¤ Jenis-jenis program ini dapat dikelompokkan menjadi 2, yaitu :
1. Needs Host Program. Jenis yang memerlukan program dari host untuk dapat melakukan
fungsinya. Yang termasuk ke dalamnya, adalah :
n Trapdoors. Akses masuk rahasia ke dalam suatu program tanpa harus melalui prosedur yang
seharusnya. Biasanya dibuat pada saat melakukan uji coba suatu program.
n Logic Bombs. Perintah yang dituliskan dalam suatu program yang akan meledak apabila suatu
kondisi terpenuhi.
n Trojan Horses. Perintah rahasia yang dibuat secara tidak terlihat dalam suatu program untuk
melakukan suatu tindakan apabila program dijalankan.
n Viruses. Program / perintah yang diselipkan ke dalam suatu program lain yang akan
memperbanyak dirinya sendiri dan memasukkannya kembali ke dalam program lainnya, biasanya
akan timbul suatu tindakan yang tidak diinginkan/ merusak.
n Ada 5 jenis virus yang dikenal, yaitu :
§ Parasitic virus. Virus yang menetap pada file yang dapat dieksekusi, dan memperbanyak
dirinya setiap kali program dijalankan dan mencari tempat penularan yang lainnya.
§ Memory-resident virus. Menetap dalam main memory dan menulari setiap program yang
dijalankan.
§ Boot sector virus. Menulari master boot record dan menyebar pada saat suatu sistem komputer
di boot dengan menggunakan disk yang mengandung virus tersebut.
§ Stealth virus. Jenis virus yang dibuat untuk dapat bersembunyi dari deteksi program antivirus.
§ Polymorphic virus. Jenis virus yang akan mengalami mutasi setiap kali menyebar untuk
menghindari pendeteksian dari program antivirus.
Malicious Program
2. Independent. Jenis yang dapat berdiri sendiri untuk
menjalankan fungsinya. Yang termasuk dalam kelompok ini,
antara lain :
n Bacteria. Program yang dibuat untuk menggangu sistem dengan
jalan memperbanyak diri sehingga mengurangi bahkan dapat
menghabiskan sumber daya sistem.
n Worm. Program yang dapat memperbanyak dirinya dan
mengirimkan kopinya ke komputer lain melalui jaringan.
 Antivirus
¨ Solusi ideal terhadap ancaman virus adalah pencegahan. Jaringan diijinkan
virus masuk ke sistem. Sasaran ini, tak mungkin dilaksanakan sepenuhnya.
¨ Pencegahan dapat mereduksi sejumlah serangan virus. Setelah pencegahan
terhadap masuknya virus, maka pendekatan berikutnya yang dapat dilakukan
adalah :
¤ Deteksi.
n Begitu infeksi telah terjadi, tentukan apakah infeksi memang telah terjadi dan cari lokasi
virus.
¤ Identifikasi.
n Begitu virus terdeteksi maka identifikasi virus yang menginfeksi program.
¤ Penghilangan.
n Begitu virus dapat diidentifikasi maka hilangkan semua jejak virus dari program yang
terinfeksi dan program dikembalikan ke semua (sebelum terinfeksi).
n Jika deteksi virus sukses dilakukan, tapi identifikasi atau penghilangan jejak tidak dapat
dilakukan, maka alternatif yang dilakukan adalah menghapus program yang terinfeksi dan
kopi kembali backup program yang masih bersih.
¨ Sebagaimana virus berkembang dari yang sederhana menjadi semakin canggih,
begitu juga paket perangkat lunak antivirus.
¨ Saat ini program antivirus semakin kompleks dan canggih.
Access Control

Access control pada system operasi

mengatur kemampuan akses user dalam
suatu jaringan, computer atau aplikasi.

Sistem access control pada jaringan data

umumnya menggunakan firewall.

Firewall akan bertindak sebagai pelindung

atau pembatas terhadap orang-orang
yang tidak berhak mengakses jaringan.
Access Control
Kemampuan-kemampuan firewall:
• IP Hiding/Mapping
• Kemampuan ini mengakibatkan IP address dalam jaringan ditransalasikan ke suatu IP
address yang baru. Dengan demikian, IP address dalam jaringan tidak akan dikenali
di internet.
• Privilege Limitation
• Dengan kemampuan ini, kita juga bisa membatasi para user jaringan sesuai dengan
otorisasi atau hak-hak yang diberikan kepadanya.
• Outside Limitation
• Kemampuan ini, dapat membatasi para user dalam jaringan untuk mengakses ke
alamat-alamat tertentu di luar jangkauan kita.
• Inside Limitation
• Kita memperbolehkan orang luar untuk mengakses informasi yang tersedia dalam
salah satu computer dalam jaringan kita. Selain itu, tidak diperbolehkan untuk
mengakses seluruh computer yang terhubung ke jaringan kita
• Password dan Encrypted Authentication
• Beberapa user di luar jaringan memang diizinkan untuk masuk ke jaringan kita untuk
mengakses data, dengan terlebih dahulu harus memasukkan password khusus yang
sudah terenkripsi.
 Access Control

Ada 3 macam pembagian firewall berdasarkan cara kerjanya:

• Internet firewalls
• Merupakan system atau grup system yang memberikan kebijakan keamanan
pada hubungan antara jaringan korporasi dan internet. Firewall mengatur
layanan-layanan apa yang bisa di akses dari luar system. Internet firewall
dapat berupa perangkat fisik atau software yang menyaring header paket
bergantung pada kebijakan keamanan.
• Packet filtering firewalls
• Merupakan tipe firewall yang melakukan control akses ke dalam maupun keluar
jaringan. Packet filter firewalls dapat berupa router maupun switch yang dapat
dikonfigurasi dengan access list. Izin maupun penolakan akses didasarkan pada
protocol, port asal maupun port tujuan alamat IP asal maupun tujuan.
• Application/proxy firewalls
• Perangkat atau software ini menjamin bahwa resource yang terlindungi tidak
bisa diakses oleh sembarang user. Pada saat ini ada beberapa aplikasi firewall
yang dapat dipasang di PC diantaranya adalah : McAfee, Personal Firewall,
Symantec Norton Personal Firewall 2000, Network ICE Blackice Defender, dll.
Access Control
Bentuk Serangan Terhadap Sistem Operasi

Berdasarkan masalah ancaman pada system

operasi ini, dikenal suatu istilah “Vulnerabilitas”.

Vulnerabilitas secara universal adalah keadaan

dimana :
• Memungkinkan penyerang mengeksekusi perintah sebagai user
lainnya.
• Memungkinkan penyerang untuk mengakses data yang
berbeda dengan batasan akses untuk data tersebut.
• Memungkinkan penyerang untuk memalsukan diri sebagai pihak
lain
• Memungkinkan penyerang untuk melakukan denial of service.
Bentuk Serangan Terhadap Sistem Operasi

Selain itu dikenal pula istilah “exposure”, yaitu

suatu keadaan dimana :
• Memungkinkan penyerang melakukan aktivitas
pengambilan informasi
• Memungkinkan penyerang menyembunyikan aktifitas
• Menyertakan suatu kemampuan yang berperilaku seolah-
olah seperti yang diinginkan, tetapi bisa dilakukan
compromise dengan mudah
• Merupakan titik masuk utama penyerang bisa melakukan
usaha memperoleh akses ke system atau data
• Dianggap sebagai masalah yang berkaitan dengan
kebijakan keamanan tertentu.
Bentuk Serangan Terhadap Sistem Operasi

Contoh Vulnerabilitas Universal Contoh Exposure

¨ phf (remote command axecution sebagai ¨ Menjalankan service semacam finger

user “nobody”) (berguna untuk mengambil informasi, tapi
¨ rpc.ttdbserved (remote command membuatnya seperti “mengiklankan”
execution sebagai root) sistem bagi penyerang)

¨ File password yang writeable secara ¨ Setting dan konfigurasi yang tidak tepat
bebas (modifikasi data penting sistem) pada kebijakan audit Windows NT

¨ Password default (remote command ¨ Menjalankan service yang biasa menjadi

execution atau akses lainnya) titik serangan (misal HTTP, FTP, atau
SMTP)
¨ Permasalahan denial of service yang
memungkinkan seorang penyerang untuk ¨ Pemakaian aplikasi atau service yang
menyebabkan blue death screen bisa diserang dengan sukses memakai
metode brute force.
¨ Smurf (denial of service dengan flooding
jaringan)
 Kebijakan Keamanan
Suatu sistem komputer bisa dilihat sebagai sekumpulan sumberdaya yang tersedia
untuk dipergunakan oleh user yang berhak.

Terdapat sejumlah komponen keamanan yang perlu diperhatikan oleh administrator :

• Availability
• Sistem harus tersedia untuk dipergunakan saat user memerlukannya. Serupa dengan itu , data penting
harus juga tersedia pada setiap saat.
• Utility
• Sistem dan data pada system harus berguna untuk suatu tujuan
• Integrity
• Sistem dan data harus lengkap dan terbaca
• Authenticity
• Sistem harus mampu memverifikasi identitas dari user, dan user harus bisa memverifikasi identitas
system
• Confidentially
• Data pribadi hanya boleh diketahui oleh pemilik data, atau sejumlah pihak terpilih untuk berbagi data
• Possession
• Pemilik dari sistem harus mampu mengendalikannya. Kehilangan control pada suatu system ke tangan
orang yang tidak berhak, akan berdampak pada keamanan system bagi pengguna lainnya.
 TERIMA KASIH

Sistem Keamanan Tek. Informasi