DNS Server: Cara Kerja, Jenis & Troubleshooting untuk IT Admin

Ketika website tidak dapat diakses atau email tidak dapat terkirim, IT admin perlu melakukan troubleshooting untuk memahami masalahnya. Jika koneksi internet terlihat normal dan server masih bisa dijangkau, bisa jadi masalahnya adalah DNS server.

DNS server memiliki peran penting dalam membantu perangkat menemukan server yang ingin dituju. Tanpa proses DNS yang berjalan dengan baik, nama domain tidak dapat diterjemahkan menjadi IP address dan melakukan koneksi ke server. Akibatnya, layanan digital dapat lumpuh.

Bagi IT admin, pemahaman mengenai cara kerja, jenis, hingga langkah troubleshooting DNS server sangat penting untuk membantu menemukan sumber masalah ketika layanan mengalami gangguan. Blog ini akan membahas selengkapnya untuk Anda.

Apa Itu DNS Server?

DNS (Domain Name System) adalah sistem yang membantu komputer mencari tahu IP address di balik sebuah nama domain. Dengan adanya DNS, pengguna tidak perlu mengingat deretan angka IP setiap kali ingin mengakses website atau layanan tertentu.

Cara kerjanya dapat dianalogikan dengan daftar kontak di ponsel. Saat ingin menelepon seseorang, kita cukup mencari namanya di kontak tanpa perlu menghafal nomor teleponnya. Pada DNS, setiap domain seperti contoh.com, memiliki IP address yang mengarah ke server tertentu. Pengguna cukup mengingat nama domain, sedangkan komputer akan menggunakan IP address untuk menentukan server yang perlu dihubungi.

DNS server adalah server yang ikut menjalankan fungsi-fungsi dalam sistem DNS, seperti menerima permintaan pencarian DNS dan membantu menemukan IP address yang sesuai nama domain. Dengan cara ini, perangkat dapat mengetahui tujuan yang harus dihubungi untuk mengakses suatu layanan.

DNS server tidak semestinya berupa komputer besar di data center. Kini, bentuknya bisa berupa software pada server fisik, virtual machine, container Kubernetes, maupun layanan cloud.

Jenis-jenis DNS Server

Secara umum, DNS server dapat dibedakan berdasarkan perannya menjadi recursive DNS server dan authoritative DNS server.

Recursive server

Recursive server disebut juga dengan recursive resolver atau DNS resolver. Jenis DNS server ini memanfaatkan cache memory untuk menyimpan hasil pencarian DNS sebelumnya.

Ketika pengguna mengetik URL di browser, perangkat akan meminta recursive server untuk mencari IP address dari nama domain tersebut. Recursive resolver kemudian memeriksa apakah informasi yang dibutuhkan masih tersedia dan valid di cache. Jika tersedia, resolver dapat langsung mengembalikan IP address ke perangkat. Pengguna pun dapat melihat website yang diinginkan.

Akan tetapi, jika IP address tidak ditemukan dalam cache, recursive server akan mencari jawabannya melalui sistem DNS. Umumnya, server dapat menghubungi root DNS server, kemudian Top-Level Domain (TLD) server, hingga akhirnya authoritative nameserver yang memiliki informasi DNS untuk domain tersebut.

Setelah mendapatkan jawaban, recursive server akan mengirimkan hasilnya ke perangkat pengguna dan menyimpannya di cache. Hasil pencarian akan disimpan selama periode tertentu berdasarkan TTL (Time to Live). Sehingga, di pencarian berikutnya, recursive server tidak perlu mengulang pencarian dari root, hanya ke cache memory saja.

Authoritative server

Authoritative server menyimpan dan memberikan informasi resmi mengenai domain yang menjadi tanggung jawabnya. Server ini berperan sebagai sumber yang menyediakan jawaban berdasarkan DNS record yang dikelolanya.

Authoritative server tidak hanya menyimpan informasi mengenai IP address. Server ini menyimpan berbagai jenis DNS record, seperti A, AAAA, MX, CNAME, TXT, dan NS, sesuai dengan DNS zone yang dikelola.

Dalam hierarki DNS, terdapat beberapa authoritative server dengan tanggung jawab yang berbeda, di antaranya:

• Root name server: Server ini bersifat authoritative untuk root zone, yaitu tingkat tertinggi dalam hierarki DNS. Dalam proses DNS lookup, root name server membantu mengarahkan recursive resolver ke TLD name server yang sesuai. Misalnya, ketika mencari www.contoh.com, resolver akan diarahkan ke server yang menangani .com.

• Top-Level Domain (TLD) name server: Server ini bersifat authoritative untuk TLD tertentu, seperti .com, .org, atau .id. TLD name server membantu mengarahkan recursive resolver ke authoritative nameserver yang menangani domain yang dicari. Misalnya, TLD server .com dapat memberikan informasi mengenai nameserver yang menangani contoh.com.

• Authoritative nameserver untuk domain: Server ini menyimpan DNS record untuk zone domain yang dikelolanya. Untuk contoh.com, misalnya, server tersebut dapat menyimpan informasi mengenai IP address website, mail server, subdomain, dan record DNS lainnya.

Jika dibuat tabel perbandingan, berikut adalah perbedaan antara recursive dan authoritative server:

Bagaimana Cara Kerja DNS Server?

Ketika pengguna mengetik suatu domain di browser, berikut proses yang terjadi:

1. Pengguna mengetik nama domain

Misalkan pengguna membuka browser dan mengetik www.contoh.com. Karena browser membutuhkan alamat server yang harus dihubungi, perangkat pun mencari IP address yang berkaitan dengan nama domain tersebut.

2. Pengiriman DNS query ke recursive resolver

Perangkat kemudian mengirimkan DNS query ke recursive resolver yang digunakan perangkat. Hal ini dilakukan untuk mengetahui IP address untuk www.contoh.com.

3. Recursive resolver mengecek cache

Pertama, recursive resolver akan mengecek cache. Jika informasi IP address untuk www.contoh.com terdapat dalam cache, resolver akan mengembalikan informasinya ke perangkat. Jika tidak, maka recursive resolver perlu mencari jawabannya dari tempat lain.

4. Recursive resolver bertanya ke root name server

Jika informasi yang dibutuhkan belum tersedia di cache, resolver dapat memulai pencarian dari root name server. Untuk domain www.contoh.com, root server akan memberikan informasi yang mengarahkan resolver ke TLD name server yang menangani .com.

5. Recursive resolver bertanya ke TLD server .com

Selanjutnya, resolver menghubungi TLD name server .com yang memiliki informasi delegasi untuk domain-domain di bawah .com. TLD server akan memberikan informasi yang mengarahkan resolver ke authoritative name server contoh.com.

6. Recursive resolver bertanya ke authoritative name server

Authoritative name server akan memeriksa DNS record yang dikelolanya dan memberikan DNS record yang sesuai dengan permintaan. Jika resolver sedang mencari A atau AAAA record, misalnya, proses ini dapat menghasilkan IP address yang dibutuhkan untuk mengakses www.contoh.com.

7. Recursive resolver mengembalikan IP address

Setelah mendapatkan jawaban, recursive resolver mengembalikannya ke perangkat. Resolver juga biasanya menyimpan hasil tersebut di cache sesuai TTL (Time to Live). Tujuannya supaya ketika ada permintaan yang sama, resolver tidak perlu mengulangi seluruh proses pencarian.

8. Browser menghubungi server tujuan

Perangkat kini sudah mengetahui IP address untuk domain yang dimasukkan. Browser kemudian menggunakan informasi tersebut untuk membangun koneksi ke server tujuan dan melakukan komunikasi HTTP/HTTPS untuk meminta konten website.

Jenis-jenis DNS Record

DNS server memiliki beberapa jenis catatan atau record yang menyimpan informasi tentang domain dan server terkait. Jenis-jenis DNS record tersebut antara lain:

• A Record: A record atau address record menghubungkan hostname atau domain dengan IPv4 address.

• AAAA Record: Fungsinya hampir sama seperti A record, bedanya catatan ini menyimpan informasi IPv6 address.

• CNAME Record: CNAME atau Canonical Name digunakan untuk membuat suatu nama menjadi alias dari nama domain atau hostname lain.

• MX Record: Mail Exchange (MX) record memberi tahu server mana yang menerima email untuk sebuah domain.

• TXT Record: Record ini menyimpan informasi berbentuk teks yang berkaitan dengan domain. Saat ini banyak digunakan untuk verifikasi dan konfigurasi layanan.

• SRV Record: SRV (Service) record digunakan untuk menunjukkan lokasi layanan tertentu. Informasi yang tersimpan misalnya service, protocol, weight, port, dan target hostname.

• NS Record: Record ini menunjukkan authoritative name server yang bertanggung jawab atas suatu DNS zone.

• PTR Record: Kebalikan dari A dan AAAA record. Record ini digunakan untuk reverse DNS lookup, yaitu mencari nama yang diasosiasikan dengan sebuah IP address.

Masalah DNS yang Sering Terjadi

Sebagai infrastruktur yang kritis, DNS rentan terhadap berbagai masalah, baik dari sisi keamanan maupun operasional. Berikut yang paling umum ditemui di lingkungan enterprise.

1. Risiko DNS spoofing

DNS spoofing disebut juga dengan DNS cache poisoning. Insiden ini terjadi ketika ada data DNS yang corrupt tersimpan dalam cache. Akibatnya, DNS server mengembalikan IP address yang salah. Pengguna pun diarahkan ke situs palsu yang berpotensi membahayakan keamanan data.

2. Risiko DDoS attack

Serangan DDoS membanjiri DNS server dengan jutaan query palsu hingga server tidak mampu merespons permintaan yang sah. Dampaknya, seluruh layanan yang bergantung pada DNS seperti website, email, atau aplikasi internal akan ikut terganggu.

3. Risiko DNS tunneling

DNS tunneling memanfaatkan protokol DNS untuk menyembunyikan komunikasi berbahaya, termasuk eksfiltrasi data. Serangan ini sulit dideteksi karena DNS traffic jarang difilter seketat protokol lain seperti HTTP.

4. Kesalahan konfigurasi DNS record

Kesalahan konfigurasi DNS record bisa menyebabkan tiket IT melonjak. Misalnya, MX record yang salah menyebabkan email gagal terkirim atau A record yang keliru membuat website tidak bisa diakses.

5. DNS server tidak merespons

DNS server bisa berhenti merespons karena berbagai sebab, mulai dari hardware failure, power outage, hingga serangan siber. Jika tidak ada server backup, seluruh name solver bisa mati dan pengguna pun tidak dapat mengakses layanan apapun.

Cara Troubleshooting DNS untuk IT Admin

Masalah DNS dapat berasal dari gangguan operasional maupun ancaman keamanan. Karena penyebabnya berbeda, langkah penanganannya pun perlu disesuaikan.

Berikut beberapa langkah troubleshooting dan mitigasi yang dapat dilakukan IT Admin berdasarkan masalah DNS yang terjadi.

1. Mitigasi risiko DNS spoofing

Untuk mengurangi risiko DNS spoofing, organisasi dapat menerapkan DNSSEC (Domain Name System Security Extensions). DNSSEC menggunakan digital signature yang memungkinkan resolver yang melakukan validasi untuk memeriksa keaslian dan integritas data DNS.

Jika ditemukan indikasi DNS spoofing, IT admin juga dapat membandingkan hasil DNS lookup dengan sumber authoritative, memeriksa cache, serta meninjau log dan konfigurasi DNS untuk mencari perubahan atau aktivitas yang tidak semestinya.

2. Mitigasi DDoS attack pada DNS server

Serangan DDoS dapat menghasilkan traffic dalam jumlah besar hingga DNS server kesulitan melayani query yang sah. Karena itu, IT Admin perlu mengawasi lonjakan jumlah query, response time, penggunaan resource, dan availability DNS server.

Salah satu mekanisme yang dapat diterapkan adalah rate limiting untuk membatasi pola permintaan DNS yang berlebihan sesuai kebutuhan dan kapasitas layanan. Selain itu, organisasi dapat menggunakan redundansi DNS dan perlindungan DDoS untuk mengurangi risiko gangguan ketika salah satu server atau jalur mengalami serangan.

Jika terjadi lonjakan traffic yang mencurigakan, periksa log dan sumber traffic untuk membantu menentukan apakah peningkatan tersebut berasal dari penggunaan normal atau aktivitas berbahaya.

3. Periksa indikasi DNS tunneling

DNS tunneling memanfaatkan traffic DNS untuk menyembunyikan komunikasi atau pemindahan data. Karena traffic tersebut dapat terlihat seperti query DNS biasa, identifikasinya membutuhkan pemeriksaan terhadap pola aktivitas DNS.

IT admin dapat memperhatikan query dalam jumlah atau pola yang tidak biasa dari perangkat tertentu, subdomain yang sangat panjang atau tampak acak, serta komunikasi berulang dengan domain yang mencurigakan.

Jika ditemukan indikasi tersebut, analisis log dan traffic DNS untuk mengidentifikasi perangkat, domain, serta pola komunikasi yang terlibat. Temuan yang mengarah pada aktivitas berbahaya perlu ditindaklanjuti melalui proses incident response agar perangkat dapat diisolasi dan sumber aktivitas diperiksa lebih lanjut.

4. Periksa kesalahan konfigurasi DNS record

Jika mencurigai adanya kesalahan DNS record, IT Admin dapat melakukan beberapa pemeriksaan berikut.

Langkah 1: Identifikasi layanan yang bermasalah

Tentukan terlebih dahulu layanan yang terdampak. Jika website tidak dapat diakses, pemeriksaan dapat difokuskan pada A, AAAA, atau CNAME record. Sementara itu, masalah routing email dapat memerlukan pemeriksaan MX record.

Langkah 2: Periksa hasil DNS lookup

Lakukan pemeriksaan DNS untuk melihat apakah domain mengembalikan informasi yang sesuai.

Bandingkan hasil yang diperoleh dengan konfigurasi DNS yang seharusnya.

Langkah 3: Periksa DNS record pada server authoritative

Jika hasil DNS tidak sesuai, periksa record pada server yang bertanggung jawab atas zone tersebut. Pastikan IP address, hostname, mail server, atau nilai record lainnya telah dikonfigurasi dengan benar.

Langkah 4: Bandingkan hasil dari resolver berbeda

Bandingkan hasil DNS dari resolver yang berbeda. Jika hasilnya tidak sama, sebagian resolver mungkin masih menyimpan informasi lama atau terdapat masalah pada proses resolusi.

Langkah 5: Periksa TTL dan cache

Jika record sudah benar tetapi perangkat masih memperoleh informasi lama, periksa TTL (Time to Live). Informasi sebelumnya mungkin masih tersimpan sementara di cache.

Jika diperlukan, IT Admin dapat memperbarui cache pada perangkat sesuai prosedur yang berlaku.

Langkah 6: Uji kembali DNS resolution

Setelah konfigurasi diperbaiki atau cache diperbarui, lakukan pemeriksaan kembali untuk memastikan perangkat mendapatkan informasi yang sesuai. Setelah itu, uji layanan yang sebelumnya mengalami gangguan.

5. Troubleshooting DNS server yang tidak merespons

Jika DNS server tidak memberikan respons, IT admin perlu mempersempit sumber masalah untuk mengetahui apakah gangguan berasal dari perangkat pengguna, jaringan, atau DNS server itu sendiri.

Langkah 1: Tentukan cakupan masalah

Cari tahu apakah masalah hanya dialami satu perangkat atau banyak pengguna. Jika hanya satu perangkat terdampak, masalah kemungkinan berada pada konfigurasi client atau konektivitas perangkat. Jika banyak pengguna mengalami masalah secara bersamaan, pemeriksaan dapat difokuskan pada jaringan atau infrastruktur DNS.

Langkah 2: Periksa konektivitas jaringan

Pastikan perangkat dapat terhubung ke jaringan dan menjangkau DNS server. Periksa juga routing atau jalur jaringan menuju server untuk memastikan tidak ada gangguan konektivitas.

Langkah 3: Periksa konfigurasi DNS client

Pastikan perangkat menggunakan DNS server yang benar. Periksa bagian DNS Servers untuk mengetahui resolver yang digunakan perangkat.

Langkah 4: Uji DNS server secara langsung

Lakukan pemeriksaan DNS secara langsung untuk memastikan server dapat memberikan jawaban yang sesuai.

Jika server tidak memberikan jawaban, bandingkan hasilnya dengan resolver lain. Jika resolver alternatif bekerja normal, pemeriksaan dapat difokuskan pada DNS server sebelumnya atau jalur jaringan menuju server tersebut.

Langkah 5: Periksa layanan dan resource DNS server

Jika server dapat dijangkau tetapi tidak memberikan respons yang sesuai, periksa apakah layanan DNS berjalan normal. Perhatikan juga penggunaan CPU, memory, disk, dan resource lainnya untuk mengetahui apakah server mengalami beban berlebih atau masalah sistem.

Langkah 6: Periksa firewall dan port DNS

Pastikan aturan jaringan dan perlindungan sistem tidak menghambat komunikasi DNS yang diperlukan. Periksa kebijakan akses jaringan yang berlaku untuk memastikan layanan DNS dapat berkomunikasi dengan normal.

Langkah 7: Periksa log DNS server

Tinjau log untuk mencari error, kegagalan permintaan, gangguan layanan, atau aktivitas lain yang terjadi ketika masalah muncul. Log dapat membantu menentukan penyebab ketika server terlihat aktif tetapi tidak memberikan respons dengan normal.

Langkah 8: Periksa DNS server cadangan

Jika organisasi menggunakan DNS server yang redundan, pastikan server alternatif tetap dapat menerima dan menjawab permintaan. Hal ini penting agar kegagalan satu server tidak mengganggu proses name resolution bagi seluruh pengguna.

Langkah 9: Uji kembali layanan

Setelah sumber masalah ditemukan dan diperbaiki, lakukan pemeriksaan DNS kembali dari perangkat pengguna. Pastikan domain dapat diterjemahkan dengan benar dan layanan yang bergantung pada DNS dapat diakses secara normal.

Optimalkan DNS Server dengan DNS Monitoring ManageEngine

Troubleshooting manual efektif untuk menginvestigasi masalah yang sudah terjadi. Namun untuk infrastruktur yang tidak boleh berhenti, IT admin membutuhkan visibilitas yang lebih dari sekadar pemeriksaan berkala.

ManageEngine Applications Manager menyediakan kemampuan DNS monitoring yang membantu IT admin mengawasi availability dan performa DNS server secara proaktif. Beberapa kapabilitas yang dapat dimanfaatkan antara lain:

• Memantau availability dan response time DNS server untuk membantu mendeteksi downtime maupun respons DNS yang melambat.
• Memantau DNS lookup dan record untuk membantu mengidentifikasi record atau proses pencarian yang mengalami masalah.
• Memberikan alert secara real-time ketika terjadi penyimpangan performa sehingga IT admin dapat mengetahui gangguan lebih cepat.
• Memantau DNS dari berbagai lokasi geografis untuk membantu menemukan perbedaan response time dan masalah domain name resolution yang dialami pengguna di lokasi berbeda.
• Menyediakan report performa DNS untuk menganalisis tren dan membantu proses troubleshooting ketika terjadi masalah berulang.
• Membantu troubleshooting DNS dengan memberikan informasi untuk mengidentifikasi masalah seperti kesalahan konfigurasi, gangguan jaringan, pembaruan DNS, hingga kendala akses ke root server.

Pelajari lebih lanjut tentang solusi DNS monitoring ManageEngine melalui free trial atau demo dengan tim kami!