字節(jié)跳動2-2需要幾年的工作經(jīng)驗？百度投資2-2不需要5年的工作經(jīng)驗。字節(jié)跳動的發(fā)展越來越快，可能導(dǎo)致想再次進入騰訊的應(yīng)屆生越來越密集，競爭越來越大，所以字節(jié)跳動的面試也越來越難。這對普通本科世家出身

字節(jié)跳動2-2需要幾年的工作經(jīng)驗？

百度投資2-2不需要5年的工作經(jīng)驗。字節(jié)跳動的發(fā)展越來越快，可能導(dǎo)致想再次進入騰訊的應(yīng)屆生越來越密集，競爭越來越大，所以字節(jié)跳動的面試也越來越難。這對普通本科世家出身的我，不得不說是一項挑戰(zhàn)，而這項挑戰(zhàn)是否可以成功的關(guān)鍵，就本質(zhì)如何確定能堅持，有無做到了充足的準(zhǔn)備。要知道，是對技術(shù)人員來說，技能水平比起比學(xué)歷水平更重要。

如何設(shè)計每秒十萬查詢的高并發(fā)架構(gòu)？

是需要回顧曾經(jīng)下，整個架構(gòu)右側(cè)部分發(fā)展演進到的那個程度，其實早的很的確實不錯了，而且百億流量，最大速度十萬級并發(fā)寫入文件的場景，可以使用MQ人員限流削峰、分布式數(shù)據(jù)KV集群給抗住了。接著使用了算出與儲存只是分離的架構(gòu)，每個Slave可以計算節(jié)點會全權(quán)負責(zé)其他提取數(shù)據(jù)到內(nèi)存中，基于條件自研的SQL內(nèi)存算出引擎成功可以計算。同時采用了數(shù)據(jù)動靜分離的架構(gòu)，靜態(tài)動態(tài)數(shù)據(jù)全部緩存，代碼數(shù)據(jù)自動出現(xiàn)提純，可以保證了盡很有可能把網(wǎng)絡(luò)跪請開銷降低到不超過。

另外，按照自研的分布式系統(tǒng)架構(gòu)，以及數(shù)據(jù)分片和計算任務(wù)分布式執(zhí)行、具有彈性資源調(diào)度、分布式高容錯機制、主備智能切換機制，都能可以保證整套系統(tǒng)的橫豎斜按需內(nèi)存量，低功耗、高可用的的運行。

然后再，咱們得來研究去研究架構(gòu)里左側(cè)的部分了。

二、日漸興盛膨脹起來的自動更新計算結(jié)果

其實大家會注意一點到，在左側(cè)也有一個MySQL，那個MySQL就是利用喚起實時計算結(jié)果和自動更新計算出結(jié)果放在旁邊里面匯總表格的。

終端的商家用戶就是可以隨手的查詢MySQL里的數(shù)據(jù)分析結(jié)果，勉力支撐自己的決策，他也可以看當(dāng)天的數(shù)據(jù)分析報告，也是可以看歷史上任何一段時期內(nèi)的數(shù)據(jù)分析報告。

但是那個MySQL在早期很有可能而且不少，只不過總之存放在這個MySQL里的數(shù)據(jù)量低些要小那些，況且是計算后的一些結(jié)果罷了吧。但是到了中后期，這個MySQL不過也風(fēng)雨飄搖了。

給大家舉一個例子，離線模式計算鏈路里，要是每天增量數(shù)據(jù)是1000萬，那你每天換算完以后的結(jié)果至少唯有50萬，早上50萬新增數(shù)據(jù)放進去MySQL，其實我還是是可以進行的。

不過要是每天晚上增量數(shù)據(jù)是10億，那么每天算出完以后的結(jié)果大致會是千萬級，你是可以算他是計算結(jié)果有5000萬條數(shù)據(jù)吧，每隔一天5000萬增量數(shù)據(jù)中寫入左側(cè)的MySQL中，你覺著是啥感覺？

這個可以給大家說哈系統(tǒng)當(dāng)時的情況，基本是是，單臺MySQL服務(wù)器的磁盤存儲空間迅速就要接近滿掉，但是單表數(shù)據(jù)量都是幾億、甚至十億的級別。

這種量級的單表數(shù)據(jù)量，你感覺用戶網(wǎng)上查詢數(shù)據(jù)分析報告的時候，親身體驗?zāi)芎妹?？基本上?dāng)時一次可以查詢大都幾秒鐘的級別。很慢。

殊不知，會出現(xiàn)過用戶一次可以查詢要十秒的級別，甚至于幾十秒，上分鐘的級別。很立刻崩潰，用戶體驗很差，仍舊達將近不收費產(chǎn)品的級別。

所以解決的辦法了右側(cè)的存儲和計算出的問題之后，左側(cè)的網(wǎng)上查詢的問題也迫在眉睫。新一輪的重構(gòu)，刻不容緩！

三、分庫分表讀寫分離

首先應(yīng)該是老把戲，分庫分表讀寫分離，這個基本上是基于條件MySQL的架構(gòu)中，必經(jīng)之路了，不過率先實施下來難度不是什么最重要的的高，不過速度較快，效果比較比較作用效果。

整個的思路和之前第一篇文章（《大型系統(tǒng)架構(gòu)演進之如何支撐百億級數(shù)據(jù)的存儲與計算》）講的基本都一致。

說白了，那就是分庫后，每臺主庫這個可以承載部分中寫入壓力，單庫的寫并發(fā)會降底；主要是單個主庫的磁盤空間這個可以減低負載的數(shù)據(jù)量，不再說一下子就滿了；

而分表之后，單個數(shù)據(jù)表的數(shù)據(jù)量可以降低到百萬級別，這個是支撐海量數(shù)據(jù)包括能保證低功耗的最佳實踐，基本是兩三百萬的單表數(shù)據(jù)量級應(yīng)該合算的。

然后再讀寫分離之后，就可以將單庫的讀寫負載壓力分離到主庫和從庫多臺機器上去，主庫就容納寫電源輸出，從庫就支撐起讀電源輸出，那樣的話盡量避免單庫處機器的讀寫負載溫度過高，會造成CPU負載、IO負載端、網(wǎng)絡(luò)負載過高時，之后搞得數(shù)據(jù)庫機器宕機。

簡單這么說重構(gòu)下數(shù)據(jù)庫層面的架構(gòu)之后，效果就好的多了。畢竟單表數(shù)據(jù)量減少了，這樣的話用戶去查詢的性能我得到不大的提升，基本上也可以達到1秒以內(nèi)的效果。

四、最大速度10萬可以查詢的高并發(fā)挑戰(zhàn)

上面那套進一步的分庫分表讀寫分離的架構(gòu)倒是勉強支撐了一段時間，可是慢慢的的那套架構(gòu)又被人發(fā)現(xiàn)不出來了弊端不出來了，因為商家用戶也是開了數(shù)據(jù)分析頁面之后，頁面上有js腳本會每隔幾秒鐘就發(fā)送中一次只是請求到后端來讀取最新的數(shù)據(jù)分析結(jié)果。

此時就有一個問題了，逐漸的查詢MySQL的壓力越來越大，大部分可預(yù)見的范圍是朝著速度1010級別去走。

可是我們總結(jié)了再看看，其實99%的查詢，全是頁面JS腳本不自動能發(fā)出重新登陸當(dāng)日數(shù)據(jù)的查詢。只能1%的查詢是針對昨天以前的歷史數(shù)據(jù)，用戶半自動指定你網(wǎng)上查詢范圍聽說后來查詢的。

但是現(xiàn)在的這個架構(gòu)之下，我們是把當(dāng)日實時數(shù)據(jù)計算出結(jié)果（代表了熱數(shù)據(jù)）和歷史不聯(lián)網(wǎng)換算結(jié)果（貞潔戒了冷數(shù)據(jù)）都放在一起的，所以才大家也可以預(yù)料下，熱數(shù)據(jù)和冷數(shù)據(jù)放在在一起，然后再對熱數(shù)據(jù)的高并發(fā)去查詢占到了99%，那這樣的架構(gòu)還合理嗎？

當(dāng)然不合理，我們不需要再一次全面重構(gòu)軟件架構(gòu)。

五、數(shù)據(jù)的冷熱分離的過程架構(gòu)

是對本案所涉提到的問題，很明顯再做的一個架構(gòu)重構(gòu)那是熱和冷數(shù)據(jù)只是分離。也就是說，將今日實時計算出的熱數(shù)據(jù)裝在一個MySQL集群里，將自動更新計算不出來的冷數(shù)據(jù)放在另外一個MySQL集群里。

后再開發(fā)一個數(shù)據(jù)網(wǎng)站查詢平臺，整體封裝底層的多個MySQL集群，根據(jù)去查詢條件動態(tài)路由到熱數(shù)據(jù)存儲也可以是冷數(shù)據(jù)存儲。

實際這個步驟的重構(gòu)，我們就可以不有效的將熱數(shù)據(jù)存儲中單表的數(shù)據(jù)量會降低到更少更少，有的單表數(shù)據(jù)量很可能就幾十萬，畢竟將離線模式可以計算的大量數(shù)據(jù)結(jié)果從表里剝離回去了，扔到另外一個集群里去。此時大家可以想象得出，效果當(dāng)然了是好了。

只不過熱數(shù)據(jù)的單表數(shù)據(jù)量會減少了很多，當(dāng)時的一個最明顯的效果，應(yīng)該是用戶99%的查詢大都是對熱數(shù)據(jù)存儲發(fā)動攻擊的，性能從那個的1秒左右減低到了200毫秒以內(nèi)，用戶體驗提升到，大家覺得更合適了。

六、自研ElasticsearchHBase純內(nèi)存的查詢引擎

微服務(wù)化到這里，看起來好像好象還不錯，但不過問題我還是很多。是因為到了這個階段，系統(tǒng)碰上另一個特有相當(dāng)嚴(yán)重的問題：冷數(shù)據(jù)存儲，如果不是完全用MySQL來容納是很不可靠的。冷數(shù)據(jù)的數(shù)據(jù)量是日增長不時提升，不過增速迅速，每隔一天都再新增幾千萬。

因此你的MySQL服務(wù)器將是面臨不停的需要容量擴展的問題，但是如果不是是為勉強支撐這1%的冷數(shù)據(jù)查詢只是請求，不停的擴容提高高配置的MySQL服務(wù)器，大家總覺得靠譜么？

肯定是不合適的！

要明白了，大量分庫分表后，MySQL大量的庫和表維護出聲是蠻麻煩您的，修改個字段？加個索引？這都是場麻煩的話事兒。

當(dāng)然了，是因為對冷數(shù)據(jù)的查詢，一般全是因為大量數(shù)據(jù)的查詢，比如說用戶會你選擇過去幾個月，甚至還一年的數(shù)據(jù)通過分析查詢，此時如果不是純用MySQL肯定挺災(zāi)難性的。

是因為當(dāng)時很明顯突然發(fā)現(xiàn)，因為海量數(shù)據(jù)場景下，在一瞬間去查詢分析幾個月的或幾年的數(shù)據(jù)，性能是極差的，那就容易搞成十幾秒甚至連幾十秒才出結(jié)果。

但針對這個冷數(shù)據(jù)的存儲和可以查詢的問題，我們終于你選擇了自研一套基于組件NoSQL來存儲，然后基于組件NoSQL內(nèi)存的SQL計算引擎。

具體來說，我們會將冷數(shù)據(jù)所有采用ESHBase來并且存儲，ES中比較多能保存要對冷數(shù)據(jù)進行再篩選的各種條件索引，比如日期在內(nèi)各種維度的數(shù)據(jù)，接著HBase中會儲存時全量的數(shù)據(jù)字段。

因為ES和HBase的原生SQL支持都不是太好，所以我們真接自研了另外一套SQL引擎，拿來支持什么這種特定的事件的場景，是基本上就沒多表關(guān)聯(lián)，是對單個數(shù)據(jù)集進行查詢和分析，后再允許NoSQL存儲內(nèi)存計算。

這里有一個先決條件，那就是如果沒有要可以做到對冷數(shù)據(jù)徹底是單表類的數(shù)據(jù)集查詢，必須要在冷數(shù)據(jù)剛剛進入NoSQL存儲文件的時候，完全實現(xiàn)ES和HBase的特性能做到多表驗收入庫關(guān)聯(lián)，進數(shù)據(jù)存儲就完全可以做成大寬表的狀態(tài)，將數(shù)據(jù)關(guān)聯(lián)全部上推到出庫時能夠完成，而不是在查詢時參與。

對冷數(shù)據(jù)的查詢，我們自研的SQL引擎是需要會依據(jù)什么各種where條件先走ES的分布式集高性能索引網(wǎng)上查詢，ES是可以根據(jù)海量數(shù)據(jù)高性能的檢索進去要的那部分?jǐn)?shù)據(jù)，這個過程用ES做是最比較好的。

緊接著那是將檢索出的數(shù)據(jù)不對應(yīng)的完整的各個數(shù)據(jù)字段，從HBase里再提取出去，拼接成能夠完成的數(shù)據(jù)。

然后再就是將這份數(shù)據(jù)集放在旁邊內(nèi)存里，通過急切的函數(shù)計算、分組聚合在內(nèi)排序等你操作。

本案所涉操作，所有基于條件自研的針對這個場景的查詢引擎能夠完成，底層基于條件Elasticsearch、HBase、純內(nèi)存來實現(xiàn)程序。

七、實時地數(shù)據(jù)存儲引入緩存集群

好了，到此為止，冷數(shù)據(jù)的海量數(shù)據(jù)存儲、低功耗網(wǎng)站查詢的問題，就能解決了。緊接著回過頭來來去看看當(dāng)日實時數(shù)據(jù)的查詢，反正實時數(shù)據(jù)的每日算出結(jié)果不會太，但中寫入并發(fā)不會最重要的特別的高，每秒上萬也就也差不多了。

因此這個背景下，就是用MySQL分庫分表來支撐數(shù)據(jù)的寫入、存儲和查詢，都沒有問題。

可是有一個小問題，是說每個商家的實時數(shù)據(jù)不過不是正常的變更的，在一段時間內(nèi)，很可能壓根就不知道沒變化，因此不要高并發(fā)請求，每秒10萬級別的全部落地之前到數(shù)據(jù)庫層面吧？要都落地到數(shù)據(jù)庫層面，那可能要給每個主庫武器掛載很多從庫來抵擋高并發(fā)讀。

并且這里我們化入了一個緩存集群，實時數(shù)據(jù)你每次沒更新后讀取的時候，是寫數(shù)據(jù)庫集群同樣的還寫緩存集群的，是雙寫的。

然后把可以查詢的時候是優(yōu)先于從緩存集群來走，此時大部分90%以上的高并發(fā)網(wǎng)上查詢都走緩存集群了，接著只有一10%的查詢會落地之前到數(shù)據(jù)庫集群。

八、階段性總結(jié)

完了，到此結(jié)束吧，這個架構(gòu)基本上左邊也都重新架構(gòu)后：

熱數(shù)據(jù)設(shè)計和實現(xiàn)緩存集群數(shù)據(jù)庫集群來承載高并發(fā)的每秒十萬級別的查詢冷數(shù)據(jù)實現(xiàn)ESHBase內(nèi)存算出的自研去查詢引擎來勉力支撐海量數(shù)據(jù)存儲在內(nèi)低功耗網(wǎng)站查詢。經(jīng)實踐，整個效果非常的好。用戶對熱數(shù)據(jù)的查詢基本多是幾十毫秒的響應(yīng)速度，對冷數(shù)據(jù)的查詢都差不多大都200毫秒以內(nèi)的響應(yīng)速度。

九、下一階段的展望

不過微服務(wù)化到這里巳經(jīng)很不容易了，畢竟本是這樣幾張圖，里面比較復(fù)雜到無數(shù)的細節(jié)和技術(shù)方案的落地，要一個團隊需要時間至多1年的時間才能你做到這個程度。

不過接下來的事情，我們要對付的，就是高可用的問題，因為需要付費級的產(chǎn)品，我們可以要能保證高就的可用性，99.99%的可用性，甚至是99.999%的可用性。

但是越是奇怪的系統(tǒng)，越不容易又出現(xiàn)問題，對應(yīng)的高可用架構(gòu)就越是奇怪到極點