如何通過(guò)網(wǎng)絡(luò)爬蟲(chóng)獲取網(wǎng)站數(shù)據(jù)？以python為例，簡(jiǎn)要介紹如何通過(guò)python網(wǎng)絡(luò)爬蟲(chóng)獲取網(wǎng)站數(shù)據(jù)，主要分為靜態(tài)網(wǎng)頁(yè)數(shù)據(jù)抓取和頁(yè)數(shù)據(jù)抓取。實(shí)驗(yàn)環(huán)境為win10 python3.6 pycharm5.0

如何通過(guò)網(wǎng)絡(luò)爬蟲(chóng)獲取網(wǎng)站數(shù)據(jù)？

以python為例，簡(jiǎn)要介紹如何通過(guò)python網(wǎng)絡(luò)爬蟲(chóng)獲取網(wǎng)站數(shù)據(jù)，主要分為靜態(tài)網(wǎng)頁(yè)數(shù)據(jù)抓取和頁(yè)數(shù)據(jù)抓取。實(shí)驗(yàn)環(huán)境為win10 python3.6 pycharm5.0，主要內(nèi)容如下:

靜態(tài)網(wǎng)頁(yè)數(shù)據(jù)這里的數(shù)據(jù)是嵌入在網(wǎng)頁(yè)源代碼中的，所以它 可以直接請(qǐng)求網(wǎng)頁(yè)源代碼進(jìn)行解析。下面我簡(jiǎn)單介紹一下。這里以爬取糗事百科上的數(shù)據(jù)為例:

1.首先，打開(kāi)原始網(wǎng)頁(yè)，如下。假設(shè)這里要抓取的字段包括昵稱、內(nèi)容、段子數(shù)和評(píng)論數(shù):

然后看網(wǎng)頁(yè)的源代碼，如下，可以看到，所有的數(shù)據(jù)都嵌套在網(wǎng)頁(yè)中:

2.然后根據(jù)上面的網(wǎng)頁(yè)結(jié)構(gòu)，我們可以直接編寫(xiě)爬蟲(chóng)代碼，解析網(wǎng)頁(yè)，提取我們需要的數(shù)據(jù)。測(cè)試代碼如下，非常簡(jiǎn)單，主要使用requests BeautifulSoup的組合，其中requests用于獲取網(wǎng)頁(yè)源代碼，BeautifulSoup用于解析網(wǎng)頁(yè)并提取數(shù)據(jù):

點(diǎn)擊運(yùn)行這個(gè)程序，效果如下，我們需要的數(shù)據(jù)已經(jīng)爬取成功:

頁(yè)數(shù)據(jù)這里的數(shù)據(jù)都不在網(wǎng)頁(yè)的源代碼中(所以你可以 不要通過(guò)直接請(qǐng)求頁(yè)面來(lái)獲取任何數(shù)據(jù))。大多數(shù)情況下，它存儲(chǔ)在一個(gè)json文件中，只有當(dāng)網(wǎng)頁(yè)更新時(shí)，數(shù)據(jù)才會(huì)被加載。我簡(jiǎn)單介紹一下這個(gè)方法。這里以抓取人人貸上的數(shù)據(jù)為例:

1.首先，打開(kāi)原始網(wǎng)頁(yè)，如下。假設(shè)這里要爬取的數(shù)據(jù)包括年利率、貸款標(biāo)題、期限、金額、進(jìn)度:

然后按F12調(diào)出開(kāi)發(fā)者工具，點(diǎn)擊 "網(wǎng)絡(luò) "-gt "xhr "接下來(lái)，F(xiàn)5刷新頁(yè)面，您可以找到并鍵入動(dòng)態(tài)加載的json文件，這是我們需要抓取的數(shù)據(jù):

2.然后根據(jù)這個(gè)json文件寫(xiě)相應(yīng)的代碼來(lái)分析我們需要的字段信息。測(cè)試代碼如下，也很簡(jiǎn)單，主要使用requests json的組合，其中requests用于請(qǐng)求json文件，json用于分析json文件提取數(shù)據(jù):

點(diǎn)擊運(yùn)行這個(gè)程序，效果如下，我們需要的數(shù)據(jù)已經(jīng)爬取成功:

至此，我們已經(jīng)完成了使用python網(wǎng)絡(luò)爬蟲(chóng)獲取網(wǎng)站數(shù)據(jù)?？偟膩?lái)說(shuō)，整個(gè)過(guò)程很簡(jiǎn)單。python內(nèi)置了很多網(wǎng)絡(luò)爬蟲(chóng)包和框架(scrapy等。)，可以快速獲取網(wǎng)站數(shù)據(jù)。非常適合初學(xué)者學(xué)習(xí)掌握。只要你有一定的爬蟲(chóng)基礎(chǔ)，熟悉以上流程和代碼，就能很快掌握。當(dāng)然也可以用現(xiàn)成的爬蟲(chóng)軟件，比如章魚(yú)、后羿，網(wǎng)上也有相關(guān)教程和資料。歡迎評(píng)論和留言補(bǔ)充。

為什么在pycharm中不能導(dǎo)入json？

可以導(dǎo)入。如果導(dǎo)入有問(wèn)題，應(yīng)該是Python解釋器或者科學(xué)包。建議在控制臺(tái)或PythonIDLEIDLE中測(cè)試。