mysql體系結(jié)構(gòu) mysql表數(shù)據(jù)量太大,達到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?
mysql表數(shù)據(jù)量太大,達到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?在正常配置下,MySQL只能承載2000萬數(shù)據(jù)(同時讀寫,表中有大文本字段,單服務(wù)器)。現(xiàn)在已經(jīng)超過1億,而且還在
mysql表數(shù)據(jù)量太大,達到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?
在正常配置下,MySQL只能承載2000萬數(shù)據(jù)(同時讀寫,表中有大文本字段,單服務(wù)器)?,F(xiàn)在已經(jīng)超過1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時間或一定的規(guī)則進行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫。這是最有效的方法。特別是寫,放入一個新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個新的獨立表。對于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語句
5使用內(nèi)存緩存,或者在前端讀取時增加緩存數(shù)據(jù)庫。重復(fù)讀取時,直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個服務(wù)器就可以做到,但是管理起來有點麻煩。
當然,如果總體數(shù)據(jù)量特別大,并且您不關(guān)心投資成本,請使用cluster和tidb
1。優(yōu)化SQL語句、索引和表結(jié)構(gòu)。
2. 打開查詢緩存時,查詢緩存緩存選擇查詢及其結(jié)果數(shù)據(jù)集。當執(zhí)行同一個select查詢時,MySQL將直接從內(nèi)存中檢索結(jié)果,這加快了查詢的執(zhí)行速度,減少了對數(shù)據(jù)庫的壓力。執(zhí)行show變量,比如“have”uqueryucache,您可以檢查MySQL查詢緩存是否打開。要打開查詢緩存,只需配置我的.cnf具體如下:
querycacheuuutype=1
querycacheuusize=128M
querycacheulimit=1m
保存后重新啟動mysql。
3. 選擇InnoDB存儲引擎。MySQL常用的存儲引擎是MyISAM和InnoDB。它們之間的區(qū)別如下:
MyISAM
查詢速度快;
支持表級鎖,在此期間不能對表執(zhí)行其他操作;
支持全文檢索;
支持數(shù)據(jù)壓縮、自復(fù)制、查詢緩存和數(shù)據(jù)加密;
不支持外鍵;
不支持事務(wù),因此沒有提交和回滾操作;
不支持群集數(shù)據(jù)庫。
InnoDB
支持行級鎖;
支持外鍵和外鍵約束強制執(zhí)行;
支持事務(wù),可以執(zhí)行提交和回滾操作;
支持數(shù)據(jù)壓縮、自復(fù)制、查詢緩存和數(shù)據(jù)加密;
可以在群集環(huán)境中使用,但不完全支持。InnoDB表可以轉(zhuǎn)換為NDB存儲引擎,可以在集群環(huán)境下使用。
mysql優(yōu)化教程?
1. 什么是數(shù)據(jù)庫?什么是關(guān)系數(shù)據(jù)庫?什么是非關(guān)系數(shù)據(jù)庫?
2. 安裝MySQL
3。MySQL的連接
4。MySQL數(shù)據(jù)庫的基本操作:創(chuàng)建數(shù)據(jù)庫、查看數(shù)據(jù)庫、修改數(shù)據(jù)庫、刪除數(shù)據(jù)庫
相關(guān)內(nèi)容:全球化和本地化[數(shù)據(jù)庫選項
]5。MySQL數(shù)據(jù)表的基本操作:表結(jié)構(gòu)操作、段操作
基本知識:MySQL的數(shù)據(jù)類型和字段屬性
6。MySQL數(shù)據(jù)的基本操作
高級查詢:[7。完成MySQL學(xué)習(xí)的select語句
8。MySQL的連接查詢、聯(lián)合查詢和子查詢
9。MySQL的外鍵
10。MySQL的常用函數(shù)
聚合函數(shù)
字符串函數(shù),數(shù)值函數(shù)和時間日期函數(shù)
11。MySQL的索引
12。查看MySQL
13。MySQL的變量
14。MySQL的觸發(fā)器
15。MySQL的存儲過程
16。MySQL的自定義函數(shù)
17。MySQL的游標
18。MySQL的代碼執(zhí)行結(jié)構(gòu)
19。MySQL的事務(wù)管理
20。MySQL的用戶管理
21。MySQL的用戶權(quán)限管理
22。MySQL的數(shù)據(jù)備份和恢復(fù)
23。MySQL的日志管理[占用空間,什么時候可以再寫?這里顯示的是知識點,還有這個知識點
]24。MySQL的診斷與性能優(yōu)化[空間占用,有時間寫的時候,這里是用來顯示知識點的,還有這個知識點
]補充:
25。MySQL的全球化和本地化:字符集,校對集,中文編碼問題
26。MySQL的系統(tǒng)默認數(shù)據(jù)庫
范例
]鎖定機制
以MySQL為列:
1:支持高并發(fā)系統(tǒng),這肯定會涉及,所以數(shù)據(jù)庫引擎必須選擇InnoDB。InnoDB支持事務(wù),事務(wù)級別取決于業(yè)務(wù)。如果業(yè)務(wù)數(shù)據(jù)一致性要求非常高,事務(wù)將啟動序列化級別,這將完全隔離事務(wù),但會導(dǎo)致對鎖資源的競爭加劇。MySQL的性能在一定程度上降低了。
2:數(shù)據(jù)庫分為主數(shù)據(jù)庫和從數(shù)據(jù)庫。主數(shù)據(jù)庫負責寫入數(shù)據(jù),集群數(shù)據(jù)庫負責讀取數(shù)據(jù)。注意主從數(shù)據(jù)庫的數(shù)據(jù)一致性。
3:冷熱數(shù)據(jù)分離,美團、饑餓部分設(shè)計采用冷熱數(shù)據(jù)分離。以訂單為例,出庫單的主要業(yè)務(wù)場景是查詢。數(shù)據(jù)查詢越向前,概率越低。這是冷數(shù)據(jù)。正在交易的訂單是熱點數(shù)據(jù),需要隨時查詢和更新。冷數(shù)據(jù)可以放入redis緩存。這將提高查詢效率。
4:數(shù)據(jù)表設(shè)計,充分利用索引查詢。businesssql避免返回無用的行和列,禁止使用select*query,在查詢時增加限制,并盡可能返回滿足要求的行。對于復(fù)雜的SQL,請考慮拆分SQL。拆分SQL有一個優(yōu)點。對于重復(fù)查詢SQL,將第二次查詢放入MySQL緩沖區(qū),避免重復(fù)磁盤操作,提高訪問性能。
5:子數(shù)據(jù)庫和子表。例如,業(yè)務(wù)數(shù)據(jù)按月份分類。在一定程度上,增加、刪除、修改和檢查的壓力將得到緩解。
希望對您有所幫助。謝謝您。