網(wǎng)站源代碼怎么看 零基礎(chǔ)小白如何在最短的時(shí)間快速入門python爬蟲?
~!我的觀點(diǎn)是,首先,我們需要有Python的基礎(chǔ)。在有了基礎(chǔ)的前提下,使用框架是最快的,可以在短時(shí)間內(nèi)實(shí)現(xiàn)爬蟲。這里我推薦scratch,它是一個(gè)基于python的開源web爬蟲框架。其易用性、靈活
~!我的觀點(diǎn)是,首先,我們需要有Python的基礎(chǔ)。在有了基礎(chǔ)的前提下,使用框架是最快的,可以在短時(shí)間內(nèi)實(shí)現(xiàn)爬蟲。這里我推薦scratch,它是一個(gè)基于python的開源web爬蟲框架。其易用性、靈活性、易擴(kuò)展性和跨平臺性等特點(diǎn)使其受到廣大用友的歡迎。
使用刮削也非常簡單。您只需要關(guān)注spider文件,它實(shí)際上是web頁面上數(shù)據(jù)處理的一部分。以《詩詞王-爬行詩》為例。我們可以在spider中這樣寫:
上面的代碼整體上分為兩部分,一部分是提取網(wǎng)頁中的URL,另一部分是從詩歌細(xì)節(jié)頁面中提取需要爬網(wǎng)的內(nèi)容。我選擇在這里爬行的數(shù)據(jù)是詩歌作者、內(nèi)容、網(wǎng)站標(biāo)簽等等。
很方便嗎?如果不需要存儲數(shù)據(jù),這里就足夠了。定義項(xiàng)字段以爬網(wǎng)數(shù)據(jù)。如果需要在數(shù)據(jù)庫中存儲數(shù)據(jù),需要在管道中定義一個(gè)類來存儲數(shù)據(jù)
如上圖所示,定義了mongodb的類,這樣我們就可以在mongodb中存儲數(shù)據(jù)了。
零基礎(chǔ)小白如何在最短的時(shí)間快速入門python爬蟲?
網(wǎng)頁的源代碼是父網(wǎng)頁的代碼。網(wǎng)頁中有一種稱為iframe的節(jié)點(diǎn),相當(dāng)于網(wǎng)頁的子頁。其結(jié)構(gòu)與外部網(wǎng)頁完全一致??蚣茉创a是子網(wǎng)頁的源代碼。另外,網(wǎng)易云爬行推薦使用selenium,因?yàn)槲覀冊谧鼍W(wǎng)易云爬行熱評操作時(shí),此時(shí)請求的代碼是父網(wǎng)頁的源代碼。此時(shí),我們無法請求子網(wǎng)頁的源代碼,也無法獲取需要提取的信息。這是因?yàn)樵跒閟elenium打開頁面之后,默認(rèn)操作是在父幀中,此時(shí),如果頁面位于中,則也存在子幀,而子幀無法獲取子幀中的節(jié)點(diǎn)。你需要使用開關(guān)到框架()切換幀的方法。此時(shí),請求的代碼從網(wǎng)頁源代碼切換到框架源代碼,然后我們可以提取所需的信息。