java和python在爬蟲方面的優(yōu)勢和劣勢是什么？Python強大的網(wǎng)絡(luò)功能，模擬登陸，解析JavaScript，缺點是網(wǎng)頁解析Python編寫程序非常方便，著名的Python爬蟲有scratch等

java和python在爬蟲方面的優(yōu)勢和劣勢是什么？

Python

強大的網(wǎng)絡(luò)功能，模擬登陸，解析JavaScript，缺點是網(wǎng)頁解析Python編寫程序非常方便，著名的Python爬蟲有scratch等

Java

Java有很多解析器，對網(wǎng)頁的解析支持非常好，缺點是有網(wǎng)絡(luò)上有很多Java開源爬蟲，比如nutch，中國有優(yōu)秀的webmagicjava解析器，比如Htmlparser和jsoup，可以滿足Java和python的通用需求。如果需要模擬登陸和反采集，選擇python更方便。如果需要處理復(fù)雜的網(wǎng)頁，解析網(wǎng)頁內(nèi)容生成結(jié)構(gòu)化數(shù)據(jù)或精細解析網(wǎng)頁內(nèi)容，可以選擇Java。

為什么很少人討論或者使用java爬蟲？

1. 爬行動物的經(jīng)濟價值是什么？只有在有經(jīng)濟價值的情況下，才有必要開發(fā)這種爬行動物。不幸的是，在今天的許多情況下，爬行動物并沒有太大的價值。僅：采用比價、數(shù)據(jù)統(tǒng)計、搜索引擎、信用爬蟲等有限的場合，這些場合基本被大公司壟斷?，F(xiàn)在很少有人寫爬行動物。

2. 寫爬行動物有多難？一天早上，就這樣。所以沒有什么困難。最多，設(shè)置useragent，設(shè)置refer，首先獲取cookie，設(shè)置延遲等等。從錢的角度看，估計值三四百元左右?；ㄙM不多。

3. 爬行動物能活多久？長期以來，只要爬網(wǎng)系統(tǒng)不升級，就可以一直使用。換句話說，寫爬蟲半年是很常見的。它很常見，這意味著它不有趣，也沒有被注意到

爬蟲程序選擇什么工具？

1. Crawler是一個網(wǎng)絡(luò)蜘蛛機器人，它能自動地抓取數(shù)據(jù)并根據(jù)我們的規(guī)則獲取數(shù)據(jù)

2。為什么使用爬蟲？私人定制搜索引擎獲取更多數(shù)據(jù)的時代不再是互聯(lián)網(wǎng)時代，而是大數(shù)據(jù)時代

3。爬蟲的原理：控制節(jié)點（URL分配器）、爬蟲節(jié)點（根據(jù)算法抓取數(shù)據(jù)并存儲在數(shù)據(jù)庫中）、資源庫（存儲爬蟲數(shù)據(jù)庫提供搜索）。爬蟲的設(shè)計思想：爬蟲的網(wǎng)絡(luò)地址，通過HTTP協(xié)議得到相應(yīng)的HTML頁面

5。爬蟲語言選擇：

PHP:雖然被評為“世界上最好的語言”，但作為爬蟲的缺點：沒有多線程的概念，對異步的支持很少，并發(fā)性不足，爬蟲對效率的要求很高

C/C Java:python最大的競爭對手，它非常龐大和笨重。爬蟲需要經(jīng)常修改代碼

Python：語言優(yōu)美，代碼介紹，多方功能模塊，調(diào)用替代語言接口，成熟的分布式策略