什么是大數(shù)據(jù)?要簡單通俗點(diǎn)的解釋？什么是大數(shù)據(jù)和應(yīng)用？大數(shù)據(jù)就是海量數(shù)據(jù)。人類生活在三維空間中，一棵樹、一座山、一條水，人類活動(dòng)的軌跡，都可以用數(shù)據(jù)來表達(dá)。如企業(yè)的生產(chǎn)經(jīng)營、商品標(biāo)準(zhǔn)等。政府管理決策、

什么是大數(shù)據(jù)?要簡單通俗點(diǎn)的解釋？

什么是大數(shù)據(jù)和應(yīng)用？大數(shù)據(jù)就是海量數(shù)據(jù)。人類生活在三維空間中，一棵樹、一座山、一條水，人類活動(dòng)的軌跡，都可以用數(shù)據(jù)來表達(dá)。如企業(yè)的生產(chǎn)經(jīng)營、商品標(biāo)準(zhǔn)等。政府管理決策、消費(fèi)者消費(fèi)水平、消費(fèi)習(xí)慣。公路、河流等的地理環(huán)境。方方面面都有大數(shù)據(jù)。每個(gè)行業(yè)都有自己的大數(shù)據(jù)。通過企業(yè)、行業(yè)、社會(huì)主體等的數(shù)據(jù)整合。形成了概念更大、價(jià)值更高的大數(shù)據(jù)流。在整個(gè)宇宙中，一切都是相互聯(lián)系的。邏輯關(guān)系分析。我可以得到它。對社會(huì)治理、企業(yè)經(jīng)營、個(gè)人服務(wù)方便可靠、真正服務(wù)的解決方案。事物的構(gòu)成不是由單一因素構(gòu)成的。多方聯(lián)合或合作完成的。要完成一件服裝，必須有面料制造商、服裝制造商、搭扣制造商、線制造商、設(shè)計(jì)師、工人等的組合。大數(shù)據(jù)也是如此。大數(shù)據(jù)應(yīng)用也是如此。人類剛剛進(jìn)入數(shù)字經(jīng)濟(jì)時(shí)代。這是一個(gè)以數(shù)據(jù)為生產(chǎn)手段的時(shí)代。誰能掌握大數(shù)據(jù)及其應(yīng)用？更好地服務(wù)于人類社會(huì)。誰將占據(jù)未來財(cái)富和地位的制高點(diǎn)。中國戰(zhàn)略性新興產(chǎn)業(yè)聯(lián)盟河北唐冠中興科技有限公司的畢紹鵬回答道

子數(shù)據(jù)庫和子表是一種相對落后的優(yōu)化方法，因?yàn)槌杀鞠鄬^高。

遇到數(shù)據(jù)庫瓶頸：

-首先考慮SQL優(yōu)化，這是最簡單的方法。對現(xiàn)有系統(tǒng)沒有影響。

-第二個(gè)是考慮數(shù)據(jù)庫讀寫分離，這也是一個(gè)相對簡單的方法。在數(shù)據(jù)庫級配置中，系統(tǒng)級只需要調(diào)整獲取數(shù)據(jù)庫連接的邏輯即可。讀取數(shù)據(jù)時(shí)，可以同時(shí)獲得主庫和從庫連接。寫入數(shù)據(jù)時(shí)，僅獲取主庫連接。

-考慮添加緩存層。數(shù)據(jù)緩存在緩存中，再次訪問時(shí)不再從數(shù)據(jù)庫檢索。通常，緩存層對系統(tǒng)是透明的，對系統(tǒng)本身沒有影響。但是，cache的引入也引入了相應(yīng)的需要考慮的問題，如雪崩、命中率、分布式cache等]-還有一種非技術(shù)手段，就是改變需求。性能問題的原因是否不合理？還是要求太復(fù)雜？需求可以簡化嗎？這種方法對系統(tǒng)的影響相對較小。

-最后，考慮子數(shù)據(jù)庫和子表。優(yōu)先考慮子數(shù)據(jù)庫，因?yàn)樗茸颖砗唵?。將相?yīng)的表移動(dòng)到新的數(shù)據(jù)庫中，并調(diào)整系統(tǒng)的邏輯以獲得數(shù)據(jù)庫連接。在這里，我們需要考慮移動(dòng)哪些表。在提高性能的前提下，我們首先嘗試避免分布式事務(wù)。

-最后，考慮子表。子表的主要原因是單個(gè)表中的數(shù)據(jù)量很大。子表分為縱斷面和橫斷面。垂直剪切是按列剪切的，例如用戶表。常用信息為基本信息表，其他信息為明細(xì)表。橫切是按行切割。例如，一個(gè)有1億數(shù)據(jù)的表被分成10個(gè)有1000萬數(shù)據(jù)的表。這涉及到數(shù)據(jù)應(yīng)該存儲(chǔ)在哪個(gè)表中或從哪個(gè)表中獲取。在表被劃分之后，可以對數(shù)據(jù)庫進(jìn)行進(jìn)一步的優(yōu)化。

-如果涉及分布式事務(wù)，應(yīng)考慮如何保證分布式事務(wù)。理論上，2個(gè)，3個(gè)，帕克斯，帽子，底座。相應(yīng)中間件的使用。

系統(tǒng)的設(shè)計(jì)和優(yōu)化不是模仿的問題，而是需要根據(jù)實(shí)際場景進(jìn)行處理。

當(dāng)數(shù)據(jù)庫扼住系統(tǒng)性能咽喉，直接分庫分表能解決嗎？

在正常配置下，MySQL只能承載2000萬數(shù)據(jù)（同時(shí)讀寫，表中有大文本字段，單服務(wù)器）?，F(xiàn)在已經(jīng)超過1億，而且還在增加，建議按以下方式處理：

1子表。它可以按時(shí)間或一定的規(guī)則進(jìn)行拆分，以便盡可能地查詢子表中的數(shù)據(jù)庫。這是最有效的方法。特別是寫，放入一個(gè)新表，并定期同步。如果記錄不斷更新，最好將寫入的數(shù)據(jù)放在redis中，并定期同步表3的大文本字段，將它們分隔成一個(gè)新的獨(dú)立表。對于較大的文本字段，可以使用NoSQL數(shù)據(jù)庫

4優(yōu)化體系結(jié)構(gòu)，或者優(yōu)化SQL查詢，避免聯(lián)合表查詢，盡量不要使用count（*）、in、recursion等性能消耗語句

5使用內(nèi)存緩存，或者在前端讀取時(shí)增加緩存數(shù)據(jù)庫。重復(fù)讀取時(shí)，直接從緩存中讀取。

以上是一種低成本的管理方法，基本上幾個(gè)服務(wù)器就可以做到，但是管理起來有點(diǎn)麻煩。

當(dāng)然，如果總體數(shù)據(jù)量特別大，并且您不關(guān)心投資成本，請使用集群或tidb