java新手代碼大全 網站爬蟲怎么爬取多個網站文章標題列表?
網站爬蟲怎么爬取多個網站文章標題列表?謝謝你的邀請。網絡爬蟲如何處理這個問題實際上是數據提取的步驟。首先,我們需要清楚地知道網頁的頁面結構,這是最基本的,因為網頁是一個有層次的樹結構。否則,我們很難提
網站爬蟲怎么爬取多個網站文章標題列表?
謝謝你的邀請。網絡爬蟲如何處理這個問題實際上是數據提取的步驟。首先,我們需要清楚地知道網頁的頁面結構,這是最基本的,因為網頁是一個有層次的樹結構。否則,我們很難提取出我們想要的數據,所以我們應該記住這樣一個概念:網頁是一個具有層次結構的樹文檔。
這里我以搜房網為例:http://esf.nb.fang.com/housing/此頁是單元格的列表頁?,F在我們需要提取單元格名稱和URL。
選擇列表=響應.xpath(“//div[@class=”houselist“]/*/dl/DD/a[@class=”plottit“
]這樣,我們需要提取整個頁面的列表。我們還需要通過循環(huán)取出每個單元格的標題和頁面URL。我們可以這樣寫:
對于選擇器列表中的Li:title=李.xpath(“/@href”).extract()[0]網址=李.xpath( ". /文本()“”。Extract()[0
]在本例中,將提取標題和頁面URL。關于如何使用XPath,可以查詢相關課程。
歡迎留言討論。