Skip to main content

Mengenal Lebih Dalam Robots.Txt Khusus

Mengenal Lebih Dalam Robots.txt Khusus - Delapan belas bulan yang kemudian saya sudah menuliskan artikel perihal Cara memasang robots.txt khusus, namun disana saya belum menjelaskan secara spesifik mengenai robots.txt khusus tersebut dan kali ini saya akan mencoba membahas dan menjelaskan lebih dalam mengenai robots.txt khusus ini. Search engine menyerupai google contohnya intinya sudah mempunyai setelan default robots.txt pada robot crawl (perayap google).

Perintah yang paling fundamental pada robots.txt default perayap google yaitu merayapi semua penggalan laman situs terkecuali laman pencarian (search). Itu sebabnya konten unik dari blogger pemula tetap sanggup terindex dan muncul dihasil pencarian google meskipun tanpa melaksanakan Submit url maupun Fetch as Google. Dan peran robots.txt khusus pada sebuah laman web yaitu untuk membatasi perayapan yang dilakukan oleh robot crawl, itulah penyebab kenapa pengembang situs dianjurkan supaya berhati-hati dalam menggunakan robots.txt khusus.
 Delapan belas bulan yang kemudian saya sudah menuliskan artikel perihal  Mengenal Lebih Dalam Robots.txt Khusus
Mengenal Lebih Dalam Robots.txt Khusus
Bagaimana Contoh Robots.txt Default

Robots.txt Default Google sanggup dilihat melaui search console atau biasa disebut dengan webmaster tool, buatlah situs web gres tanpa robots.txt khusus kemudian tambahkan ke situs search console, kemudian verifikasi kepemilikan situs, kemudian buka tab Crawl pada search console dan lihat pada penggalan Robots.txt Tester.

Disana kau sanggup melihat pengaturan Robots.txt Default google dan kau sanggup menguji pengaturan Robots.txt tersebut dengan 7 bot google yaitu: Googlebot, Googlebot-News, Googlebot-Image, Googlebot-Video, Googlebot-Mobile, Mediapartners-Google, Adsbot-Google.
Lihat pola gambar dibawah ini;
 Delapan belas bulan yang kemudian saya sudah menuliskan artikel perihal  Mengenal Lebih Dalam Robots.txt Khusus
Robots.txt default
Jika pada ketika pengujian robots.txt tertera "diizinkan" itu artinya googlebot sanggup mengakses dan merayapi situs, jikalau tertera "dicekal" itu artinya googlebot tidak diizinkan untuk merayapi url situs. Ujilah url situs anda dengan 7 jenis googlebot menyerupai diatas, jikalau semua berstatus "diizinkan" maka pengaturan robots.txt tersebut sudah benar. Copy isyarat robots.txt nya kemudian pasang ke pengaturan situs blogger anda supaya tool penguji SEO (Search Engine Optimization) sanggup membacanya.

Kode Robots.txt Dasar (Default)
User-agent: Mediapartners-Google
Disallow:
User-agent: *
Disallow: /search
Allow: /
Sitemap: https://yoursitename.blogspot.com/sitemap.xml
Sekarang bagaimana contoh robots.txt khusus? Setelah mengetahui pengaturan default robots.txt maka sangat gampang untuk memahami robots.txt khusus, "Khusus" yang dimaksud pada pengaturan robots.txt yaitu pengaturan optional dari pihak pengelola situs untuk mengatur susukan robot crawl, misalnya;

Pada sebuah laman situs web terdapat halaman yang privasi atau bersifat belakang layar atau halaman yang berlawanan dengan kebijakan google, Nah, pada kasus menyerupai ini pengelola situs sanggup menggunakan robots.txt khusus untuk membatasi perayapan dan peng-index-an robot crawl pada laman tersebut.

Contoh:
User-agent: Mediapartners-Google
Disallow:
User-agent: *
Disallow: /search
Disallow: /p/cepika-cepiki.html
Disallow: /document-privacy.html
Allow: /
Sitemap: https://yoursitename.blogspot.com/sitemap.xml
Perhatikan dua baris isyarat "Disallow" yang ditandai dengan aksara tebal diatas yaitu pola robots.txt khusus, kedua url tersebut tidak akan dirayapi oleh robot.crawl dan tidak ditampilkan pada laman hasil pencarian. Kaprikornus sangat sanggup dipahami kan bahwa robots.txt khusus merupakan pengaturan optional/pengaturan kita sendiri untuk membatasi susukan robot crawl dalam merayapi situs kita.

Jika tidak ada laman yang bersifat belakang layar (privasi) maka kita tidak perlu melaksanakan pembatasan susukan terhadap robot crawl (perayap google), Dianjurkan "cukup" gunakan pengaturan default robots.txt, sesudah benar-benar paham silahkan berkreasi dengan Robots.txt Khusus.

Upload File Robots.txt Khusus ke Webmaster (Search Console)
Bagaimana cara meng-update atau meng-upload robots.txt khusus dari situs blogger ke webmaster tool (search console)?
Memperbaharui robots.txt khusus baik itu menambah atau mengurangi robots.txt dilakukan melalui dashboard "settingan" blogger, kemudian kemudian masuk ke search console dan buka fitur robots.txt tester, tekan tombol submit untuk mengupdate / upload robots.txt. Biasanya akan muncul pop-up yang berisi 3 pilihan, silahkan pilih submit untuk pembaharuan robots.txt, sesudah tamat lakukan refresh pada search console untuk melihat hasilnya.

Baca Juga: Setting Robots.txt Untuk Adsense

Demikian klarifikasi perihal "robots.txt khusus" dari saya semoga bermanfaat dan menambah ilmu pengetahuan. Artikel ini saya dedikasikan kepada para blogger khususnya visitor yang menanyakan "kenapa kode robots.txt disini pendek sedangkan di situs tetangga sebelah panjang". Jika dipahami dengan benar maka artikel ini sudah cukup untuk menjawab-nya. Mohon maaf saya tidak mempublikasikan komentar dia lantaran tidak subscribe dulu gres komentar, sekian.

Comments

Popular posts from this blog

Cara Melihat Jumlah Followers Blog Sendiri

Cara Melihat Jumlah Followers Blog Sendiri - Situs blog yang terkenal tentu sudah memiki jumlah followers (pengikut) situs yang cukup banyak, ratusan atau mungkin ribuan followers. Taukah kau followers situs blogger yang gotong royong yaitu followers yang di sanggup dari feedburner atau lebih dikenal dengan istilah Follow by E-mail atau RSS Feed . Pertanyaan nya berapakah jumlah followers atau pengikut situs blog anda ketika ini? Untuk mengetahui nya mari kita simak cara melihat jumlah followers situs blogger yang diperoleh dari feedburner google (widget follow by e-mail) berikut ini; Cara Mengetahui Jumlah Pengikut RSS Feed Pertama Login ke Akun G-mail, kemudian Kunjungi laman Dashboard Feedburner Anda akan diarahkan ke dashboard RSS Feed (Laman kawasan melihat statistik dan jumlah followers situs blog) Seperti yang ditunjukkan pada pola berikut ini. Cara melihat atau mengetahui jumlah followers blog Keterangan : Gambar sebelah kiri mengatakan daftar feedburner s...

Hapus User-Agent: Mediapartners-Google Sebelum Mendaftar Adsense

Hapus User-agent: Mediapartners-Google Sebelum Mendaftar Adsense - Artikel tentang robots.txt yang telah aku publikasikan beberapa hari yang kemudian menjelaskan bagaimana cara / setting default robots.txt menurut webmaster google dan pada kesempatan ini aku ingin menjelaskan kembali " settings robots.txt " untuk mendaftar adsense dan mengatasi dilema iklan google adasense yang umum terjadi alasannya pemblokiran perayap adsense oleh robots.txt. Hapus User-agent: Mediapartners-Google Sebelum Mendaftar Adsense Salah satu kunci sukses dalam periklanan adsense / mendaftarkan situs web ke adsese ialah menyetting robots.txt biar tidak bertentangan dengan perayap adsense. Google mempunyai banyak jenis spider atau bot (perangkat lunak yang dipakai Google untuk memproses dan mengindeks konten laman web) diantara nya ialah perayap adsense. Kaprikornus kalau situs web merupakan kawan adsense atau akan mendaftar ke adsense sebaik-nya berikan akeses 100% ke perayap adsense unt...

Gaya Menulis Artikel Dan Contohnya

Gaya Menulis Artikel - Masing-masing penulis memilki teknik atau gaya penulisan tersendiri dalam membuat atau menulis artikel. Ibarat seorang presenter / host yang mengontrol program dan emosi audiens, penulis juga berperanan sama yaitu mengontrol emosi pembaca dengan karya tulis (artikel) yang diterbitkan oleh penulis tersebut. Saya tidak mengajarkan perihal bagaimana cara mengontrol dan memainkan emosi pembaca melalui karya tulis alasannya saya juga tidak se-propesional itu dalam menulis. Akan tetapi saya akan menyebarkan mengenai format/ teknik / gaya menulis artikel yang baik dan benar menurut struktur (Format penulisan artikel) itu sendiri. Format Dasar Penulisan Artikel Format penulisan artikel yang paling dasar yaitu meliputi 4 hal penting yaitu: Tema / Judul Paragraf pembuka (kata pengantar) Isi / Topik inti artikel Paragraf penutup Jika didalam suatu goresan pena (artikel) telah mempunyai 4 point penting penulisan artikel menyerupai diatas maka artike...