mongodb分布式 MySQL分庫分表之后,id主鍵如何處理?
MySQL分庫分表之后,id主鍵如何處理?我將從存在的問題和如何做中回答這個問題。。沒有辦法避免這個問題,通常拆分SQL,使用多個查詢,然后使用結(jié)果分別檢查結(jié)果!我們可以使用TCC編程模型來確保兩個事
MySQL分庫分表之后,id主鍵如何處理?
我將從存在的問題和如何做中回答這個問題。。
沒有辦法避免這個問題,通常拆分SQL,使用多個查詢,然后使用結(jié)果分別檢查結(jié)果
!我們可以使用TCC編程模型來確保兩個事務(wù)可以正確提交,但這種代碼入侵方式相對較重!您還可以使用基于消息的數(shù)據(jù)一致性保證
!1. 使用多線程分別查詢多個節(jié)點,然后匯總
mysql表數(shù)據(jù)量太大,達到了1億多條數(shù)據(jù),除了分庫分表之外,還有沒有其他的解決方式?
在正常配置下,MySQL只能承載2000萬數(shù)據(jù)(同時讀寫,表中有大文本字段,單服務(wù)器)。現(xiàn)在已經(jīng)超過1億,而且還在增加,建議按以下方式處理:
1子表。它可以按時間或一定的規(guī)則進行拆分,以便盡可能地查詢子表中的數(shù)據(jù)庫。這是最有效的方法。特別是寫,放入一個新表,并定期同步。如果記錄不斷更新,最好將寫入的數(shù)據(jù)放在redis中,并定期同步表3的大文本字段,將它們分隔成一個新的獨立表。對于較大的文本字段,可以使用NoSQL數(shù)據(jù)庫
4優(yōu)化體系結(jié)構(gòu),或者優(yōu)化SQL查詢,避免聯(lián)合表查詢,盡量不要使用count(*)、in、recursion等性能消耗語句
5使用內(nèi)存緩存,或者在前端讀取時增加緩存數(shù)據(jù)庫。重復(fù)讀取時,直接從緩存中讀取。
以上是一種低成本的管理方法,基本上幾個服務(wù)器就可以做到,但是管理起來有點麻煩。
當(dāng)然,如果整體數(shù)據(jù)量特別大,而且你不在乎投資成本,可以使用cluster或tidb
子數(shù)據(jù)庫和子表是一種相對落后的優(yōu)化方法,因為成本相對較高。
遇到數(shù)據(jù)庫瓶頸:
-首先考慮SQL優(yōu)化,這是最簡單的方法。對現(xiàn)有系統(tǒng)沒有影響。
-第二個是考慮數(shù)據(jù)庫讀寫分離,這也是一個相對簡單的方法。在數(shù)據(jù)庫級配置中,系統(tǒng)級只需要調(diào)整獲取數(shù)據(jù)庫連接的邏輯即可。讀取數(shù)據(jù)時,可以同時獲得主庫和從庫連接。寫入數(shù)據(jù)時,僅獲取主庫連接。
-考慮添加緩存層。數(shù)據(jù)緩存在緩存中,再次訪問時不再從數(shù)據(jù)庫檢索。通常,緩存層對系統(tǒng)是透明的,對系統(tǒng)本身沒有影響。但是,cache的引入也引入了相應(yīng)的需要考慮的問題,如雪崩、命中率、分布式cache等]-還有一種非技術(shù)手段,就是改變需求。性能問題的原因是否不合理?還是要求太復(fù)雜?需求可以簡化嗎?這種方法對系統(tǒng)的影響相對較小。
-最后,考慮子數(shù)據(jù)庫和子表。優(yōu)先考慮子數(shù)據(jù)庫,因為它比子表簡單。將相應(yīng)的表移動到新的數(shù)據(jù)庫中,并調(diào)整系統(tǒng)的邏輯以獲得數(shù)據(jù)庫連接。在這里,我們需要考慮移動哪些表。在提高性能的前提下,我們首先嘗試避免分布式事務(wù)。
-最后,考慮子表。子表的主要原因是單個表中的數(shù)據(jù)量很大。子表分為縱斷面和橫斷面。垂直剪切是按列剪切的,例如用戶表。常用信息為基本信息表,其他信息為明細(xì)表。橫切是按行切割。例如,一個有1億數(shù)據(jù)的表被分成10個有1000萬數(shù)據(jù)的表。這涉及到數(shù)據(jù)應(yīng)該存儲在哪個表中或從哪個表中獲取。在表被劃分之后,可以對數(shù)據(jù)庫進行進一步的優(yōu)化。
-如果涉及分布式事務(wù),應(yīng)考慮如何保證分布式事務(wù)。理論上,2個,3個,帕克斯,帽子,底座。相應(yīng)中間件的使用。
系統(tǒng)的設(shè)計和優(yōu)化不是模仿的問題,而是需要根據(jù)實際場景進行處理。
當(dāng)數(shù)據(jù)庫扼住系統(tǒng)性能咽喉,直接分庫分表能解決嗎?
學(xué)習(xí)本身就是一個循序漸進的過程,PHP入門簡單,精通也需要循序漸進。
1. 從一個簡單的框架開始,比如ThinkPHP,從CMS開始,推薦thinkcmf。它們都是中國人的作品,材料不需要翻譯。
2. HTML、CSS和JavaScript都需要涉獵。JQuery,一個早期的框架,今天仍然很有用,而且尖端技術(shù)仍然需要掌握angular、js和Vue。也有相似之處余燼.js、主干等,前端框架最凌亂。ES6和ES7的語法仍在改進中。不要貪心,一步一步地去了解它。
3. 終極框架推薦國外最流行的laravel。它模仿ruby的設(shè)計理念,與Java類似。它將設(shè)計模式發(fā)揮到了極致。因此,掌握這個框架主要集中在控制反轉(zhuǎn)(IOC)、依賴注入(DI)上,這實際上是工廠模式和接口(laravel中的契約)。實現(xiàn)技術(shù)使用PHP的魔術(shù)方法(比如靜態(tài)調(diào)用)和反射機制來實現(xiàn)優(yōu)雅,被稱為Web藝術(shù)家的框架。
4. Mysql,mongodb慢查詢優(yōu)化,緩存設(shè)計,子數(shù)據(jù)庫,子表,分片設(shè)計,SQL優(yōu)化。大約是半分貝。
5. 異步消息隊列的使用,如Beanstalk或rabbitmq。Redis使用Memcache,結(jié)合特定的業(yè)務(wù)場景,具有處理高并發(fā)架構(gòu)的能力。
6. Lamp/LNMP部署,包括應(yīng)用集群、數(shù)據(jù)庫集群、MQ和redis緩存集群部署。大約是Devops的一半。
技術(shù)的最終目標(biāo)是成為一名優(yōu)秀的架構(gòu)師。它是綜合能力的培養(yǎng),是新知識的學(xué)習(xí)能力,是解決商業(yè)問題的能力。我不認(rèn)為許信辰已經(jīng)掌握了以上這么多。他在底層、PHP內(nèi)核、C擴展等方面比較精通,但他非常成功。也有spool和workman的作者,但是在社區(qū)中建立這種威望也是必要的,這需要付出很多代價。如果你想成為一名技術(shù)大師,這個過程是必不可少的。
手機打字不容易。我也是一個php程序員和標(biāo)題作家。我會定期在專欄里發(fā)一些技術(shù)文章。歡迎你關(guān)注我。我們也歡迎更正上述評論。