mybatis分庫(kù)分表插件 當(dāng)數(shù)據(jù)庫(kù)扼住系統(tǒng)性能咽喉,直接分庫(kù)分表能解決嗎?
當(dāng)數(shù)據(jù)庫(kù)扼住系統(tǒng)性能咽喉,直接分庫(kù)分表能解決嗎?子庫(kù)和子表是一種相對(duì)落后的優(yōu)化方法,因?yàn)槌杀鞠鄬?duì)較高。遇到數(shù)據(jù)庫(kù)瓶頸:-首先考慮SQL優(yōu)化,這是最簡(jiǎn)單的方法。對(duì)現(xiàn)有系統(tǒng)沒(méi)有影響。-第二個(gè)是考慮數(shù)據(jù)庫(kù)讀
當(dāng)數(shù)據(jù)庫(kù)扼住系統(tǒng)性能咽喉,直接分庫(kù)分表能解決嗎?
子庫(kù)和子表是一種相對(duì)落后的優(yōu)化方法,因?yàn)槌杀鞠鄬?duì)較高。
遇到數(shù)據(jù)庫(kù)瓶頸:
-首先考慮SQL優(yōu)化,這是最簡(jiǎn)單的方法。對(duì)現(xiàn)有系統(tǒng)沒(méi)有影響。
-第二個(gè)是考慮數(shù)據(jù)庫(kù)讀寫分離,這也是一個(gè)相對(duì)簡(jiǎn)單的方法。在數(shù)據(jù)庫(kù)級(jí)配置中,系統(tǒng)級(jí)只需要調(diào)整獲取數(shù)據(jù)庫(kù)連接的邏輯即可。讀取數(shù)據(jù)時(shí),可以同時(shí)獲得主庫(kù)和從庫(kù)連接。寫入數(shù)據(jù)時(shí),僅獲取主庫(kù)連接。
-考慮添加緩存層。數(shù)據(jù)緩存在緩存中,再次訪問(wèn)時(shí)不再?gòu)臄?shù)據(jù)庫(kù)檢索。通常,緩存層對(duì)系統(tǒng)是透明的,對(duì)系統(tǒng)本身沒(méi)有影響。但是,cache的引入也引入了相應(yīng)的需要考慮的問(wèn)題,如雪崩、命中率、分布式cache等]-還有一種非技術(shù)手段,就是改變需求。性能問(wèn)題的原因是否不合理?還是要求太復(fù)雜?需求可以簡(jiǎn)化嗎?這種方法對(duì)系統(tǒng)的影響相對(duì)較小。
-最后,考慮子數(shù)據(jù)庫(kù)和子表。優(yōu)先考慮子數(shù)據(jù)庫(kù),因?yàn)樗茸颖砗?jiǎn)單。將相應(yīng)的表移動(dòng)到新的數(shù)據(jù)庫(kù)中,并調(diào)整系統(tǒng)的邏輯以獲得數(shù)據(jù)庫(kù)連接。在這里,我們需要考慮移動(dòng)哪些表。在提高性能的前提下,我們首先嘗試避免分布式事務(wù)。
-最后,考慮子表。子表的主要原因是單個(gè)表中的數(shù)據(jù)量很大。子表分為縱斷面和橫斷面。垂直剪切是按列剪切的,例如用戶表。常用信息為基本信息表,其他信息為明細(xì)表。橫切是按行切割。例如,一個(gè)有1億數(shù)據(jù)的表被分成10個(gè)有1000萬(wàn)數(shù)據(jù)的表。這涉及到數(shù)據(jù)應(yīng)該存儲(chǔ)在哪個(gè)表中或從哪個(gè)表中獲取。在表被劃分之后,可以對(duì)數(shù)據(jù)庫(kù)進(jìn)行進(jìn)一步的優(yōu)化。
-如果涉及分布式事務(wù),應(yīng)考慮如何保證分布式事務(wù)。理論上,2個(gè),3個(gè),帕克斯,帽子,底座。相應(yīng)中間件的使用。
系統(tǒng)的設(shè)計(jì)和優(yōu)化不是模仿的問(wèn)題,而是需要根據(jù)實(shí)際場(chǎng)景進(jìn)行處理。
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫(kù)分表之外,還有沒(méi)有其他的解決方式?
在正常配置下,MySQL只能承載2000萬(wàn)數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)。現(xiàn)在已經(jīng)超過(guò)1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時(shí)間或一定的規(guī)則進(jìn)行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫(kù)。這是最有效的方法。特別是寫,放入一個(gè)新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個(gè)新的獨(dú)立表。對(duì)于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫(kù)
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語(yǔ)句
5使用內(nèi)存緩存,或者在前端讀取時(shí)增加緩存數(shù)據(jù)庫(kù)。重復(fù)讀取時(shí),直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個(gè)服務(wù)器就可以做到,但是管理起來(lái)有點(diǎn)麻煩。
當(dāng)然,如果總體數(shù)據(jù)量特別大,并且您不關(guān)心投資成本,請(qǐng)使用集群或tidb