Kurz-Fakten

  • Zeigt tatsächliche Abrufe, nicht Absichten oder Schätzungen
  • Einzige vollständige Quelle für das Verhalten von Crawlern
  • Deckt Adressen auf, die in keiner Sitemap und keinem Crawl stehen
  • Echtheit von Crawlern über umgekehrte DNS-Abfrage prüfbar

Einordnung für die Praxis

Die aufschlussreichsten Befunde sind meist unerwartet: Adressen, die niemand kennt und die trotzdem abgerufen werden – aus alten Beiträgen, aus fehlerhaften Verweisen, aus vergessenen Erweiterungen. Jede davon verbraucht Abrufkapazität.

Für kleinere Websites ist der Aufwand meist nicht gerechtfertigt; dort reichen die Crawling-Statistiken der Search Console. Ab einigen zehntausend Adressen wird die Protokollanalyse dagegen zur einzigen Möglichkeit, Verschwendung zu erkennen.

Verwandte Begriffe