sklearn是什么 使用sklearn做文本分類(lèi),速度比較慢,有什么優(yōu)化方法?
使用sklearn做文本分類(lèi),速度比較慢,有什么優(yōu)化方法?首先,我想你可以打印出每一步的時(shí)間,看看哪一步需要更多的時(shí)間,并嘗試找到優(yōu)化方法。讓我先談?wù)勎蚁氲降膸c(diǎn)。在sklearn的一些分類(lèi)方法中,您
使用sklearn做文本分類(lèi),速度比較慢,有什么優(yōu)化方法?
首先,我想你可以打印出每一步的時(shí)間,看看哪一步需要更多的時(shí)間,并嘗試找到優(yōu)化方法。讓我先談?wù)勎蚁氲降膸c(diǎn)。
在sklearn的一些分類(lèi)方法中,您還可以嘗試在其參數(shù)中使用multi-process選項(xiàng)。
如果您的培訓(xùn)數(shù)據(jù)很大,請(qǐng)先嘗試LSA、LDA和其他模型來(lái)降低維度。這兩種方法在sklearn中也可用。
此外,在countvectorizer中,設(shè)置mintf和maxtf參數(shù)以避免過(guò)多的字。雖然這可能對(duì)速度影響很小,但可能會(huì)對(duì)結(jié)果產(chǎn)生影響。
如果你在處理中文文本,必須有一個(gè)好的停止詞和字典。
暫時(shí)就這么多了。