mysql數(shù)據(jù)量大怎么處理 mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過(guò)1億,而且還在
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過(guò)1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時(shí)間或一定的規(guī)則進(jìn)行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫(kù)。這是最有效的方法。特別是寫,放入一個(gè)新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個(gè)新的獨(dú)立表。對(duì)于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫(kù)
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語(yǔ)句
5使用內(nèi)存緩存,或者在前端讀取時(shí)增加緩存數(shù)據(jù)庫(kù)。重復(fù)讀取時(shí),直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個(gè)服務(wù)器就可以做到,但是管理起來(lái)有點(diǎn)麻煩。
當(dāng)然,如果總體數(shù)據(jù)量特別大,并且您不關(guān)心投資成本,請(qǐng)使用cluster或tidb
delete尚未完成,因此我建議您使用truncate命令。
delete語(yǔ)句一次刪除一行,并在事務(wù)日志中記錄每個(gè)刪除行的條目。Truncate table通過(guò)釋放用于存儲(chǔ)表數(shù)據(jù)的數(shù)據(jù)頁(yè)來(lái)刪除數(shù)據(jù),并且只在事務(wù)日志中記錄頁(yè)面釋放。建議您使用MySQL GUI tools 5.0工具M(jìn)ySQLAdministrator.exe在“服務(wù)器連接”中,找到正在執(zhí)行刪除的連接。您將看到一個(gè)進(jìn)程正在執(zhí)行delete語(yǔ)句。把這個(gè)過(guò)程干掉。您可以再次運(yùn)行truncate table name
mysql一次性刪除一千萬(wàn)條以上的數(shù)據(jù)時(shí),可能會(huì)出現(xiàn)什么問(wèn)題?
實(shí)際上,它類似于分頁(yè)來(lái)獲取數(shù)據(jù)。網(wǎng)上有更多的例子。您可以通過(guò)分段存儲(chǔ)當(dāng)前在文件、數(shù)據(jù)庫(kù)或Memcache中獲得的最大自增量ID??梢允褂么笥诖酥底鳛橄乱欢蔚臈l件,然后在遍歷后更新數(shù)字。