Intisari Webinar: Audit SEO Langsung dan File Log dengan Bill Hartzer

Diterbitkan: 2018-10-02

Pada tanggal 25 September, OnCrawl dengan senang hati menjadi tuan rumah Bill Hartzer untuk webinar tentang analisis file log dan mengapa itu penting untuk audit SEO. Dia menelusuri situs webnya sendiri untuk menunjukkan dampak pengoptimalan pada aktivitas bot dan frekuensi perayapan.

Memperkenalkan Bill Hartzer

Bill Hartzer adalah Konsultan SEO & Ahli Nama Domain dengan pengalaman lebih dari 20 tahun. Bill diakui secara internasional sebagai pakar di bidangnya dan baru-baru ini diwawancarai di CBS News sebagai salah satu pakar pencarian terkemuka di negara itu.

Selama webinar berdurasi satu jam ini, Bill memberi kita gambaran tentang file lognya dan mendiskusikan bagaimana dia menggunakannya dalam konteks audit situs. Dia menyajikan berbagai alat yang dia gunakan untuk memverifikasi kinerja situs dan perilaku bot di situsnya.

Terakhir, Bill menjawab pertanyaan tentang cara menggunakan OnCrawl untuk memvisualisasikan hasil yang berarti, dan memberikan tip untuk SEO lainnya.

Cara mengakses file log Anda melalui plugin cPanel untuk WordPress

Jika situs web Anda dibuat dengan WordPress dan Anda menggunakan plugin cPanel, Anda dapat menemukan log server Anda langsung di antarmuka WordPress.

Navigasikan ke Metrik, lalu ke Raw Access. Di sana, Anda dapat mengunduh file log harian dari pengelola file, serta arsip zip dari file log lama.

Periksa isi file log

File log adalah file teks besar yang berisi informasi tentang semua pengunjung situs web Anda, termasuk bot. Anda dapat membukanya menggunakan editor teks dasar.

Tidak sulit untuk menemukan potensi hit bot dari googlebot atau bing, yang mengidentifikasi diri mereka sendiri dalam file log, meskipun ada baiknya untuk mengonfirmasi identifikasi bot menggunakan pencarian IP.

Anda mungkin juga menemukan bot lain yang merayapi situs Anda, tetapi mungkin tidak berguna bagi Anda. Anda dapat memblokir bot ini agar tidak mengakses situs Anda.

OnCrawl akan memproses analitik mentah di file log Anda untuk memberi Anda pandangan yang jelas tentang bot yang mengunjungi situs Anda.

Menggunakan file log Anda untuk informasi lebih lanjut tentang Statistik Perayapan

Informasi tentang Statistik Perayapan tersedia di versi lama Google Search Console di bawah Perayapan > Statistik Perayapan memiliki arti baru jika dibandingkan dengan informasi di file log Anda.

Anda harus menyadari bahwa data yang ditampilkan di Google Search Console tidak terbatas pada bot SEO Google dan oleh karena itu kurang bermanfaat dibandingkan informasi yang lebih tepat yang dapat Anda peroleh dengan menganalisis file log Anda.

Contoh terbaru dari aktivitas perayapan yang tidak biasa

Bill melihat tiga lonjakan terbaru yang terlihat dalam statistik perayapan di Google Search Console. Ini sesuai dengan peristiwa besar yang memicu peningkatan aktivitas perayapan.

Lonjakan Indeksasi Pertama Seluler

Lonjakan 7 September di Google Search Console mungkin tampak, pada awalnya, tidak terkait dengan acara di situs web. Namun, lihat analisis log di OnCrawl memberikan petunjuk:


Analisis file log memungkinkan kami untuk melihat rincian bot yang berbeda yang digunakan Google untuk merayapi halaman. Menjadi jelas bahwa aktivitas Googlebot desktop menurun tajam sebelum tanggal ini, dan lonjakan ini—tidak seperti lonjakan sebelumnya yang lebih kecil—hampir seluruhnya terdiri dari klik pada halaman unik yang sudah diindeks oleh bot Google seluler.

Peningkatan 50% dalam lalu lintas organik yang dicatat oleh Google Analytics menegaskan bahwa lonjakan ini sesuai dengan Pengindeksan Pertama Seluler situs tersebut pada awal September, beberapa minggu sebelum peringatan dikirim oleh Google!

Modifikasi struktur URL untuk situs

Pertengahan Agustus, Bill membuat perubahan pada struktur URL-nya agar lebih SEO-friendly.

Google Search Console mencatat dua lonjakan besar tepat setelah modifikasi ini, mengonfirmasi bahwa Google mengidentifikasi peristiwa situs utama dan menggunakannya sebagai sinyal untuk merayapi ulang URL situs web.

Saat kami mengamati perincian klik ini di OnCrawl, menjadi jelas bahwa lonjakan kedua kurang dari lonjakan, tetapi tingkat perayapan halaman yang tinggi di situs web ini berlanjut selama beberapa hari. Jelas bahwa Google telah mengambil perubahan, karena Bill dapat mengonfirmasi dengan mengamati perbedaan dalam aktivitas perayapan selama beberapa hari setelah perubahannya.

Laporan dan fitur OnCrawl yang berguna untuk melakukan audit teknis

Kunjungan SEO dan halaman SEO Aktif

OnCrawl memproses data file log Anda untuk memberikan informasi akurat tentang Kunjungan SEO, atau pengunjung manusia yang datang dari daftar SERP Google.

Anda dapat melacak jumlah kunjungan, atau melihat halaman aktif SEO, yang merupakan halaman individual di situs web yang menerima lalu lintas organik.

Satu hal yang mungkin ingin Anda perhatikan sebagai bagian dari audit adalah alasan bahwa beberapa halaman peringkat tidak menerima lalu lintas organik (atau, dengan kata lain, bukan halaman aktif SEO).

Peringkat Baru

Metrik seperti Peringkat Baru OnCrawl memberikan informasi penting. Dalam hal ini: penundaan rata-rata dalam hari antara saat Google pertama kali merayapi laman dan saat laman mendapatkan kunjungan SEO pertamanya.


Strategi promosi konten dan mengembangkan tautan balik dapat membantu mendapatkan lalu lintas lebih cepat untuk halaman baru. Beberapa halaman di situs dalam audit ini, seperti posting blog yang dipromosikan melalui jejaring sosial, mendapatkan Peringkat Baru yang jauh lebih rendah.

Hit bot pada halaman dan sumber daya dengan kode status

Bot mungkin mengunjungi URL yang menampilkan kesalahan 404 atau 410. Ini mungkin menyangkut sumber daya seperti CSS, JavaScript, PDF, atau file gambar.

Ini adalah elemen yang pasti ingin Anda selidiki selama audit. Mengarahkan ulang URL ini dan menghapus tautan internal ke sana dapat memberikan kemenangan cepat.

Selama audit, akan sangat membantu jika Anda membuat catatan tentang elemen yang harus ditangani, seperti URL yang mengembalikan kesalahan status ke bot.

Laporan Penjelajah Data: Laporan khusus

Penjelajah Data OnCrawl menawarkan filter cepat untuk menghasilkan laporan yang mungkin menarik bagi Anda, tetapi Anda juga dapat menarik laporan Anda sendiri berdasarkan kriteria yang Anda minati. Misalnya, Anda mungkin ingin mensurvei Halaman Aktif SEO dengan bouncing dan waktu buka yang tinggi.

Laporan Penjelajah Data: Halaman Yatim Piatu yang Aktif

Dengan menggabungkan data analitik, perayapan, dan file log, OnCrawl dapat membantu Anda menemukan laman dengan kunjungan manusia organik yang tidak selalu memberikan nilai bagi situs Anda. Keuntungan menggunakan data dari file log adalah Anda dapat menemukan setiap halaman di situs Anda yang telah dikunjungi, termasuk halaman yang mungkin tidak memiliki kode Google Analytics.

Bill dapat mengidentifikasi kunjungan organik SEO di halaman umpan RSS, kemungkinan melalui tautan dari sumber eksternal. Halaman-halaman ini adalah halaman yatim piatu di situsnya; mereka tidak memiliki halaman "induk" yang tertaut ke mereka. Halaman-halaman ini tidak memberikan nilai ekstra pada strategi SEO-nya, tetapi mereka masih menerima beberapa kunjungan dari lalu lintas organik.

Halaman-halaman ini adalah kandidat yang bagus untuk mulai mengoptimalkan.

Analisis pencarian untuk peringkat kata kunci

Data untuk peringkat dapat diambil dari Google Search Console. Langsung di Google Search Console versi lama, Anda dapat membuka Lalu Lintas Penelusuran, lalu Analisis Penelusuran, dan melihat Klik, Tayangan, RKT, dan Posisi selama 90 hari terakhir.

OnCrawl memberikan laporan yang jelas tentang bagaimana informasi ini terkait dengan seluruh situs, memungkinkan Anda untuk membandingkan jumlah total halaman di situs, jumlah halaman peringkat, dan jumlah halaman yang menerima klik.

Tayangan, RKT, dan Klik

Segmentasi situs memungkinkan Anda untuk mengonfirmasi, dalam sekali pandang, jenis atau grup halaman mana di situs Anda yang diberi peringkat, dan di halaman mana hasilnya.

Dalam audit ini, Bill dapat menggunakan metrik OnCrawl untuk menemukan jenis halaman yang cenderung berperingkat baik. Ini adalah jenis halaman yang dia tahu harus terus diproduksi untuk meningkatkan lalu lintas ke situs web.

Klik pada halaman peringkat sangat berkorelasi dengan posisi peringkat: posisi di atas 10 tidak lagi berada di halaman pertama hasil pencarian, di mana jumlah klik akan turun tajam untuk sebagian besar kata kunci.

Segmentasi situs web

Segmentasi OnCrawl adalah cara untuk mengelompokkan halaman Anda ke dalam kumpulan yang bermakna. Saat segmentasi otomatis disediakan, Anda dapat mengedit filter, atau membuat segmentasi sendiri dari awal. Menggunakan filter Bahasa Kueri OnCrawl, Anda dapat menyertakan atau mengecualikan halaman dalam grup berdasarkan banyak kriteria berbeda.

Di situs yang dilihat Bill di webinar, segmentasi didasarkan pada direktori yang berbeda di situs web.

Halaman dalam struktur > dirayapi > diberi peringkat > aktif

Dalam laporan Peringkat OnCrawl, bagan “Halaman dalam struktur > dirayapi > diberi peringkat > aktif” dapat mengingatkan Anda tentang masalah dalam mendapatkan peringkat dan kunjungan halaman Anda.

Bagan ini menunjukkan kepada Anda:

  • Halaman dalam struktur: jumlah halaman yang dapat dijangkau melalui berbagai tautan di situs Anda
  • Dirayapi: halaman yang telah dirayapi Google
  • Peringkat: halaman yang muncul di SERP Google
  • Aktif: halaman yang telah menerima kunjungan organik

Audit Anda akan ingin melihat alasan perbedaan antara batang dalam grafik ini.

Namun, perbedaan antara jumlah halaman dalam struktur dan jumlah halaman yang dirayapi mungkin disengaja, misalnya, jika Anda mencegah Google merayapi laman tertentu dengan melarang robot di file robots.txt. Ini adalah sesuatu yang ingin Anda verifikasi selama audit Anda.

Anda dapat melihat jenis data ini di OnCrawl dengan mengklik grafik.

takeaways kunci


Takeaways utama dari webinar ini meliputi:

  • Perubahan besar dalam struktur situs web dapat menghasilkan perubahan besar dalam aktivitas perayapan.
  • Alat gratis Google melaporkan data yang dikumpulkan, dirata-ratakan, atau dibulatkan sedemikian rupa sehingga membuatnya terlihat tidak akurat.
  • File log memungkinkan Anda melihat perilaku bot nyata dan kunjungan organik. Dikombinasikan dengan data perayapan dan pemantauan harian, mereka adalah alat yang ampuh untuk mendeteksi lonjakan.
  • Data yang akurat diperlukan untuk memahami mengapa dan apa yang terjadi, dan ini hanya dapat dicapai dengan analisis silang analitik, perayapan, peringkat, dan—khususnya—data file log di alat seperti OnCrawl.

Coba OnCrawl gratis

Apakah Anda tertarik untuk menerapkan teknik ini ke situs Anda untuk wawasan audit yang dapat ditindaklanjuti?

Mulai Uji coba Gratis Anda

Ketinggalan langsung? Tonton tayangan ulangnya!

Bahkan jika Anda tidak dapat membuat webinar langsung, atau jika Anda tidak dapat mengikuti sesi penuh, Anda masih dapat melihat versi lengkapnya.