收到大數(shù)據(jù)信息如何處理？1 .大數(shù)據(jù)處理之一:采集。大數(shù)據(jù)的收集是指使用多個數(shù)據(jù)庫從客戶端(Web、App或傳感器等)接收數(shù)據(jù)。)，用戶可以通過這些數(shù)據(jù)庫進行簡單的查詢和處理。例如，電子商務(wù)公司使用傳

收到大數(shù)據(jù)信息如何處理？

大數(shù)據(jù)的收集是指使用多個數(shù)據(jù)庫從客戶端(Web、App或傳感器等)接收數(shù)據(jù)。)，用戶可以通過這些數(shù)據(jù)庫進行簡單的查詢和處理。例如，電子商務(wù)公司使用傳統(tǒng)的關(guān)系數(shù)據(jù)庫如MySQL和Oracle來存儲每筆交易的數(shù)據(jù)。此外，Redis和MongoDB等NoSQL數(shù)據(jù)庫也常用于數(shù)據(jù)收集。

在大數(shù)據(jù)采集過程中，其主要特點和挑戰(zhàn)是高并發(fā)，因為可能會有成千上萬的用戶同時訪問和操作，比如火車票售票網(wǎng)站和淘寶，其并發(fā)訪問量高峰時達到數(shù)百萬，因此需要在采集端部署大量的數(shù)據(jù)庫來支撐。而如何在這些數(shù)據(jù)庫之間進行負載均衡和碎片化，確實需要深入的思考和設(shè)計。

2.大數(shù)據(jù)處理II:導(dǎo)入/預(yù)處理

雖然采集端本身會有很多數(shù)據(jù)庫，但是要想有效的分析這些海量數(shù)據(jù)，還是要把這個

前端的一些數(shù)據(jù)導(dǎo)入到一個集中式的大型分布式數(shù)據(jù)庫或者分布式存儲集群中，在導(dǎo)入的基礎(chǔ)上可以做一些簡單的清理和預(yù)處理工作。也有一些用戶在導(dǎo)入時使用來自Twitter的Storm來流式傳輸數(shù)據(jù)，以滿足一些業(yè)務(wù)的實時計算需求。

導(dǎo)入和預(yù)處理過程的特點和挑戰(zhàn)主要是導(dǎo)入數(shù)據(jù)量大，往往達到每秒百兆甚至千兆的水平。

3.大數(shù)據(jù)處理III:統(tǒng)計/分析

統(tǒng)計和分析主要使用分布式數(shù)據(jù)庫或分布式計算集群，對其中存儲的海量數(shù)據(jù)進行普通利用。

為了滿足最常見的分析需求，一些實時需求將使用EMC的GreenPlum、Oracle的Exadata、基于MySQL的Infobright，一些批處理或半結(jié)構(gòu)化數(shù)據(jù)需求可以使用Hadoop。

統(tǒng)計與分析的主要特點和挑戰(zhàn)是分析涉及的數(shù)據(jù)量大，會占用大量的系統(tǒng)資源，尤其是I/O。

4.大數(shù)據(jù)處理IV:挖掘

不同于以往的統(tǒng)計和分析過程，數(shù)據(jù)挖掘一般沒有預(yù)設(shè)的主題，主要基于各種算法對現(xiàn)有數(shù)據(jù)進行計算，從而達到預(yù)測的效果，實現(xiàn)一些高層次數(shù)據(jù)分析的要求。典型的算法包括用于聚類的Kmeans、用于統(tǒng)計學(xué)習(xí)的SVM和用于分類的NaiveBayes。使用的主要工具是Hadoop 看象人。這個過程的特點和挑戰(zhàn)是，用于挖掘的算法非常復(fù)雜，涉及的數(shù)據(jù)量和計算量非常大。常用的數(shù)據(jù)挖掘算法都是基于單線程占優(yōu)勢。