mysql分區(qū)和分表優(yōu)缺點(diǎn) mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過(guò)1億,而且還在
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過(guò)1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時(shí)間或一定的規(guī)則進(jìn)行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫(kù)。這是最有效的方法。特別是寫,放入一個(gè)新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個(gè)新的獨(dú)立表。對(duì)于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫(kù)
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語(yǔ)句
5使用內(nèi)存緩存,或者在前端讀取時(shí)增加緩存數(shù)據(jù)庫(kù)。重復(fù)讀取時(shí),直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個(gè)服務(wù)器就可以做到,但是管理起來(lái)有點(diǎn)麻煩。
當(dāng)然,如果總體數(shù)據(jù)量特別大,我們不關(guān)心投資成本,可以使用cluster,也可以使用tidb
當(dāng)數(shù)據(jù)庫(kù)表中的數(shù)據(jù)量可以預(yù)測(cè)到非常大,或者已經(jīng)有大量的數(shù)據(jù)時(shí),我們應(yīng)該選擇子表或分區(qū)(即使用多個(gè)數(shù)據(jù)庫(kù))解決數(shù)據(jù)訪問(wèn)的性能問(wèn)題。如果單機(jī)的CPU能承受并發(fā)的站點(diǎn)數(shù),就應(yīng)該選擇分表的方式,因?yàn)榉直肀容^簡(jiǎn)單,容易實(shí)現(xiàn)規(guī)模化,當(dāng)涉及多表連接時(shí),分區(qū)不能直接使用join。但是如果并發(fā)站點(diǎn)的數(shù)量太大,那么訪問(wèn)多個(gè)數(shù)據(jù)庫(kù)無(wú)疑需要多個(gè)cpu。此時(shí),我們需要選擇分區(qū)方法。
MySql分區(qū)的缺點(diǎn)是哪些?
通過(guò)MySQL的表分區(qū)功能(邏輯上是表,對(duì)程序是透明的),可以通過(guò)分區(qū)功能實(shí)現(xiàn)自動(dòng)的表分區(qū)。如果要實(shí)現(xiàn)每月或每周按數(shù)據(jù)動(dòng)態(tài)重分區(qū),可以編寫存儲(chǔ)過(guò)程實(shí)現(xiàn)分區(qū)調(diào)整邏輯,最后編寫MySQL事件定期調(diào)用存儲(chǔ)過(guò)程。
mysql怎么按照時(shí)間做表分區(qū)?
我將從存在的問(wèn)題和如何做中回答這個(gè)問(wèn)題。。
沒(méi)有辦法避免這個(gè)問(wèn)題,通常拆分SQL,使用多個(gè)查詢,然后使用結(jié)果分別檢查結(jié)果
!我們可以使用TCC編程模型來(lái)確保兩個(gè)事務(wù)可以正確提交,但這種代碼入侵方式相對(duì)較重!您還可以使用基于消息的數(shù)據(jù)一致性保證
!1. 使用多線程分別查詢多個(gè)節(jié)點(diǎn),然后匯總!