在分析日志的過程中，往往會(huì)發(fā)現(xiàn)404狀態(tài)下有一些或者很多的不完整的url或者比原url多出字段的莫名其妙的網(wǎng)站本身不存在的url的抓取。在群里面也見有人問過類似的情況，覺得這是一個(gè)大家普遍都會(huì)遇見的問

在分析日志的過程中，往往會(huì)發(fā)現(xiàn)404狀態(tài)下有一些或者很多的不完整的url或者比原url多出字段的莫名其妙的網(wǎng)站本身不存在的url的抓取。在群里面也見有人問過類似的情況，覺得這是一個(gè)大家普遍都會(huì)遇見的問題，有猜測(cè)過有可能是被別人采集才導(dǎo)致這樣的問題出現(xiàn)，在上課的時(shí)候問過國(guó)平老大，當(dāng)時(shí)國(guó)平老大說(shuō)有可能是爬蟲在抓取url的時(shí)候下載不完整，但是這都沒有一個(gè)具體的數(shù)據(jù)來(lái)支撐，總是覺得很朦朧沒把握。

現(xiàn)在，google管理員工具可以很清晰的用數(shù)據(jù)為你揭曉這其中的詫異了，google管理員工具是國(guó)平老大非常推崇的一個(gè)seo工具，有人覺得做百度的人不需要google的東西，因?yàn)榘俣群蚲oogle的算法有差別，那下面介紹google管理員的這個(gè)功能可以告訴你這樣的想法是大錯(cuò)特錯(cuò)的，管理員工具是一個(gè)按照網(wǎng)站seo各項(xiàng)考核標(biāo)準(zhǔn)制定的一個(gè)最最權(quán)威的seo工具，做seo需要的數(shù)據(jù)，絕大部分都可以從這里面獲取，下面就來(lái)介紹管理員工具的這個(gè)功能（好像是最近更新的，以前不是這樣子）。

首頁(yè)看下百度日志里面的怪異404

這些url的入口在哪里呢？搜索引擎是從什么地方獲取這些url的？

Google告訴你

首先介紹下google管理員工具關(guān)于抓取錯(cuò)誤的功能

下面是另一個(gè)網(wǎng)站由于改版問題沒做跳轉(zhuǎn)和抓取攔截所造成的找不到抓取錯(cuò)誤，有一很完整的曲線可以讓你很清晰的看見網(wǎng)站存在的這方面的問題的變化趨勢(shì)

和服務(wù)器問題造成的抓取錯(cuò)誤

接第一張圖（同一個(gè)網(wǎng)站）

一開始從日志中觀察到這些錯(cuò)誤，但是不知道這些錯(cuò)誤的來(lái)源

現(xiàn)在可以知道這些錯(cuò)誤的url是從何而來(lái)

點(diǎn)擊第102條，彈出下面的框，url不在sitemap中，但是在自己的其他網(wǎng)站里面出現(xiàn)，說(shuō)明網(wǎng)址是網(wǎng)站自身存在的但是已經(jīng)被刪除了

點(diǎn)擊第110條，彈出下面的框，可以看到搜索引擎是從其他網(wǎng)站過來(lái)的（或是采集站，或是其他）

點(diǎn)擊進(jìn)入具體的來(lái)源頁(yè)面可以看到

至此，可以很明確的知道，到底網(wǎng)站日志里面的出現(xiàn)的那些莫名其妙的url到底是怎么回事了，是自己站內(nèi)存在的還是站外錯(cuò)誤構(gòu)成的。最近更新的還有其他的功能，感興趣的朋友可以親自用用體驗(yàn)下。

原文地址：光年論壇