Sebenarnya penyebabnya bermacam-macam dan salah satu penyebab paling umum adalah pengguna blog menghapus artikel yang sudah dipublish dan sudah terindeks oleh google. Ketika Mesin Pencari Google mengindeks link error tersebut dan kemudian seseorang mengklik link tersebut maka akan muncul halaman yang bertulisan Crawl Error 404 Not Found, artinya URL yang diminta tidak bisa dituju atau tidak ditemukan.
Terkadang pula crawl error terjadi pada kotak komentar yakni ketika ada blogger yang meninggalkan link artikelnya di blog kita lalu artikel tersebut dihapus oleh pemiliknya sehingga muncul peringatan tersebut Url Not Found (tidak ditemukan).
CARA MENGETAHUI DAN MENGATASI CRAWL ERROR PADA BLOG
1. Login ke halaman Dashboard Google Webmaster Tools.
2. Jika anda memiliki lebih dari satu blog, pilih blog yang ingin anda cek (periksa)
3. Kemudian pada sidebar sebelah kiri, klik KESEHATAN >> KESALAHAN PERAYAPAN
4. Centang semua crawl error
5. Klik Tandai sebagai telah diperbaiki
6. Klik Ok
CARA MENGETAHUI DAN MENGATASI CRAWL ERROR PADA BLOG
1. Login ke halaman Dashboard Google Webmaster Tools.
2. Jika anda memiliki lebih dari satu blog, pilih blog yang ingin anda cek (periksa)
3. Kemudian pada sidebar sebelah kiri, klik KESEHATAN >> KESALAHAN PERAYAPAN
4. Centang semua crawl error
5. Klik Tandai sebagai telah diperbaiki
6. Klik Ok
Disana tertulis: Kesalahan ini tidak akan dicantumkan lagi (tetapi mungkin akan muncul kembali jika masalah tidak diatasi)
Jadi jika pada kesempatan berikutnya anda mengecek lagi tapi masih tersisa beberapa crawl error yang tidak bisa diperbaiki. Maka lakukan langkah 1 (satu) sampai 3 (tiga) diatas, sehingga langkah yang ke
4. Klik tulisan Not Found.
5. Anda akan dibawa ke halaman Crawl Errors. Di halaman ini akan ditunjukkan URL yang Not Found. Copy url-url tersebut.
6. Kemudian masuk ke Pengoptimalan >> Hapus Url >> lalu klik Buat Permintaan Penghapusan Baru
7. Paste URL Not found yang dicopy tadi, Kemudian klik Terus
8. Lalu akan muncul 3 pilihan dalam menghapus URL
>> URL akan dihapus dari hasil pencarian Google dan cache
>> URL akan dihapus dari cache saja
>> URL akan dihapus dari direktori Google
9. Klik Kirim Permintaan
Proses penghapusan URL yang Not Found ini memerlukan waktu yang cukup lama. Saya biasa menggunakan cara pertama, tapi karena masih ada error yang membandel, cara kedua saya terapkan tapi masih belum tahu jarak waktunya. Tergantung seberapa rajin Google mengcrawl blog anda. demikian cara mengetahui crawl error pada blog. Semoga bisa teratasi dan proses crawling pada blog sobat semakin lancar dan membantu posisi blog anda di Google.
Jadi jika pada kesempatan berikutnya anda mengecek lagi tapi masih tersisa beberapa crawl error yang tidak bisa diperbaiki. Maka lakukan langkah 1 (satu) sampai 3 (tiga) diatas, sehingga langkah yang ke
4. Klik tulisan Not Found.
5. Anda akan dibawa ke halaman Crawl Errors. Di halaman ini akan ditunjukkan URL yang Not Found. Copy url-url tersebut.
6. Kemudian masuk ke Pengoptimalan >> Hapus Url >> lalu klik Buat Permintaan Penghapusan Baru
8. Lalu akan muncul 3 pilihan dalam menghapus URL
>> URL akan dihapus dari hasil pencarian Google dan cache
>> URL akan dihapus dari cache saja
>> URL akan dihapus dari direktori Google
9. Klik Kirim Permintaan
Proses penghapusan URL yang Not Found ini memerlukan waktu yang cukup lama. Saya biasa menggunakan cara pertama, tapi karena masih ada error yang membandel, cara kedua saya terapkan tapi masih belum tahu jarak waktunya. Tergantung seberapa rajin Google mengcrawl blog anda. demikian cara mengetahui crawl error pada blog. Semoga bisa teratasi dan proses crawling pada blog sobat semakin lancar dan membantu posisi blog anda di Google.