mysql怎么統(tǒng)計(jì)總數(shù) mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?在正常配置下,MySQL只能承載2000萬數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過1億,而且還在
mysql表數(shù)據(jù)量太大,達(dá)到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?
在正常配置下,MySQL只能承載2000萬數(shù)據(jù)(同時(shí)讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時(shí)間或一定的規(guī)則進(jìn)行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫。這是最有效的方法。特別是寫,放入一個(gè)新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個(gè)新的獨(dú)立表。對于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語句
5使用內(nèi)存緩存,或者在前端讀取時(shí)增加緩存數(shù)據(jù)庫。重復(fù)讀取時(shí),直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個(gè)服務(wù)器就可以做到,但是管理起來有點(diǎn)麻煩。
當(dāng)然,如果總的數(shù)據(jù)量特別大,并且您不關(guān)心投資成本,那么您可以使用cluster或tidb
1。它可以通過分組和分組計(jì)數(shù)來實(shí)現(xiàn)。句子如下:select a,count(*)from a group by A2,group by:group by[grouping field](可以有多個(gè)字段)。執(zhí)行此操作后,數(shù)據(jù)集將根據(jù)分組字段的值將數(shù)據(jù)集劃分為不同的組。在這里,分組字段是a,因此數(shù)據(jù)集被分為三個(gè)組:你、我和他。然后使用count(*)計(jì)算每組中的記錄數(shù)。三。Count(*)函數(shù):Count(*)函數(shù)返回表中的記錄數(shù)。請注意,它與groupby一起用于返回組中的記錄數(shù)。select count(*)和select count(1)之間的區(qū)別通常,select count(*)和select count(1)的返回結(jié)果是相同的。如果有主鍵,當(dāng)主鍵用作計(jì)數(shù)條件時(shí),計(jì)數(shù)是最快的。如果您的表只有一個(gè)字段,count(*)是最快的。參考資料: