mapreduce的map函數(shù)作用？從磁盤讀取數(shù)據(jù)數(shù)據(jù)--map函數(shù)--combine結(jié)果（非必須的過(guò)程）--最后寫回磁盤。map階段中，當(dāng)輸出數(shù)據(jù)至少當(dāng)然的值（閾值）時(shí)，會(huì)從內(nèi)存在寫磁盤；若大于1閾

mapreduce的map函數(shù)作用？

從磁盤讀取數(shù)據(jù)數(shù)據(jù)--map函數(shù)--combine結(jié)果（非必須的過(guò)程）--最后寫回磁盤。

map階段中，當(dāng)輸出數(shù)據(jù)至少當(dāng)然的值（閾值）時(shí)，會(huì)從內(nèi)存在寫磁盤；若大于1閾值，則會(huì)緩存起來(lái)，也可以增大磁盤IO開銷。因?yàn)?，是可以是從可以設(shè)置盡量多的閾值大小，來(lái)優(yōu)化系統(tǒng)性能。

mapreduce不適合哪些場(chǎng)景使用？

mapreduce以下場(chǎng)景:1.數(shù)據(jù)規(guī)模在TB/PB以下的應(yīng)用不比較適合

2.實(shí)時(shí)響應(yīng)的應(yīng)用不合適

3、要注意數(shù)據(jù)結(jié)構(gòu)是圖或網(wǎng)絡(luò)的應(yīng)用不更適合

map reduce性能差的主要原因是？

影響不大MapReduce再輸入數(shù)據(jù)處理時(shí)間的因素很多。其中之一是實(shí)現(xiàn)map和reduce函數(shù)時(shí)不使用的算法。其他外部因素也很有可能影響大MapReduce性能。根據(jù)我們的經(jīng)驗(yàn)和觀察，肯定會(huì)影響MapReduce的比較多因素有以下幾個(gè)。

硬件（或則資源）因素，如CPU時(shí)鐘、磁盤I/O、網(wǎng)絡(luò)帶寬和內(nèi)存大小。

底層存儲(chǔ)系統(tǒng)。輸入數(shù)據(jù)、分揀（shuffle）數(shù)據(jù)以及輸出數(shù)據(jù)的大小，這與假期作業(yè)的運(yùn)行時(shí)間互相交叉咨詢。

作業(yè)算法（或者程序），如map、reduce、partition、combine和compress。有些算法不是那么容易在MapReduce中概念化，也可以在MapReduce中效率可能會(huì)會(huì)降低。

如何做好大數(shù)據(jù)關(guān)聯(lián)分析？

大數(shù)據(jù)的技術(shù)大數(shù)據(jù)技術(shù)除開：

1）數(shù)據(jù)采集：ETL工具全權(quán)負(fù)責(zé)將廣泛分布的、異構(gòu)數(shù)據(jù)源中的數(shù)據(jù)如關(guān)系數(shù)據(jù)、垂直數(shù)據(jù)文件等抽取到原先中間層后并且刷洗、轉(zhuǎn)換、集成顯卡，之后打開程序到數(shù)據(jù)倉(cāng)庫(kù)或數(shù)據(jù)集市中，成為聯(lián)機(jī)分析處理、數(shù)據(jù)挖掘的基礎(chǔ)。

2）數(shù)據(jù)存?。宏P(guān)系數(shù)據(jù)庫(kù)、NOSQL、SQL等。

3）基礎(chǔ)架構(gòu)：云存儲(chǔ)、分布式文件存儲(chǔ)等。

4）數(shù)據(jù)處理：自然語(yǔ)言處理(NLP，Natural Language Processing)是去研究人與計(jì)算機(jī)交互的語(yǔ)言問(wèn)題的一門學(xué)科。全面處理自然語(yǔ)言的關(guān)鍵是要讓計(jì)算機(jī)”明白”自然語(yǔ)言，因此自然語(yǔ)言處理又叫暗自然語(yǔ)言理解也稱作計(jì)算語(yǔ)言學(xué)。無(wú)非它是語(yǔ)言信息處理的一個(gè)分支，另外一方面它是人工智能的核心課題之一。

5）統(tǒng)計(jì)分析：假設(shè)檢驗(yàn)、顯著性檢驗(yàn)、差異結(jié)論、具體分析、T檢驗(yàn)、方差分析、卡方總結(jié)、偏咨詢分析、相隔講、回歸分析、簡(jiǎn)單多元回歸分析、多元回歸分析、回歸常態(tài)、回歸預(yù)測(cè)與殘差分析、嶺降臨、回歸模型結(jié)論、曲線估計(jì)也、因子分析、聚類分析、主成分分析、因子分析、飛快聚類法與聚類法、辨別分析、隨機(jī)分析、多元對(duì)應(yīng)講（最優(yōu)尺度分析什么）、bootstrap技術(shù)等等。

6）數(shù)據(jù)挖掘：歸類（Classification）、估記（Estimation）、預(yù)測(cè)（Prediction）、相關(guān)性分組或關(guān)聯(lián)規(guī)則（Affinitygrouping有.associationrules）、聚類（Clustering）、描述和可視化、DescriptionwellVisualization）、復(fù)雜數(shù)據(jù)類型開掘(Text,Web,圖形圖像，視頻，音頻等)模型預(yù)測(cè)：預(yù)測(cè)模型、機(jī)器學(xué)習(xí)、建模仿真。7）結(jié)果呈現(xiàn)出：云計(jì)算、標(biāo)簽云、關(guān)系圖等。

一、重新搭建大數(shù)據(jù)分析平臺(tái)遇到海量資源的各種來(lái)源的數(shù)據(jù)，要如何對(duì)這些零散的數(shù)據(jù)通過(guò)比較有效的分析，換取本身價(jià)值信息一直是大數(shù)據(jù)領(lǐng)域研究的熱點(diǎn)問(wèn)題。、、

在搭建中大數(shù)據(jù)分析平臺(tái)之前，要先必須明確管理需求場(chǎng)景在內(nèi)用戶的需求，通過(guò)大數(shù)據(jù)分析平臺(tái)，想要換取哪些有價(jià)值的信息，要接入的數(shù)據(jù)有哪些，內(nèi)容明確實(shí)現(xiàn)場(chǎng)景業(yè)務(wù)場(chǎng)景的大數(shù)據(jù)平臺(tái)要具備的基本都的功能，來(lái)決定平臺(tái)搭建過(guò)程中不使用的大數(shù)據(jù)處理工具和框架。（1）操作系統(tǒng)的選擇

操作系統(tǒng)好象不使用開源版的RedHat、Centos或則Debian充當(dāng)?shù)讓拥臉?gòu)建體系平臺(tái)，要據(jù)大數(shù)據(jù)平臺(tái)所要搭建中的數(shù)據(jù)分析工具可以不接受的系統(tǒng)，明智的選擇操作系統(tǒng)的版本。

（2）堆建Hadoop集群Hadoop作為一個(gè)開發(fā)和運(yùn)行如何處理大規(guī)模數(shù)據(jù)的軟件平臺(tái)，實(shí)現(xiàn)了在大量的廉價(jià)劣質(zhì)計(jì)算機(jī)排成的集群中對(duì)海量數(shù)據(jù)接受分布式計(jì)算。Hadoop框架中最核心的設(shè)計(jì)是HDFS和MapReduce，HDFS是一個(gè)相同高度容錯(cuò)性的系統(tǒng)，比較適合作戰(zhàn)部署在廉價(jià)的機(jī)器上，都能夠可以提供高吞吐量的數(shù)據(jù)訪問(wèn)，范圍問(wèn)題于那些有著超級(jí)小數(shù)據(jù)集的應(yīng)用程序；MapReduce是一套這個(gè)可以從海量的數(shù)據(jù)中提取數(shù)據(jù)到最后回結(jié)果集的編程模型。在生產(chǎn)實(shí)踐應(yīng)用中，Hadoop相當(dāng)合適運(yùn)用于大數(shù)據(jù)存儲(chǔ)和大數(shù)據(jù)的分析應(yīng)用，適合服務(wù)什么于幾千臺(tái)到幾萬(wàn)臺(tái)大的服務(wù)器的集群運(yùn)行，意見PB級(jí)別的存儲(chǔ)容量。

（3）你選擇數(shù)據(jù)接入和預(yù)處理工具

對(duì)于各種來(lái)源的數(shù)據(jù)，數(shù)據(jù)接入那就是將這些零散的數(shù)據(jù)整合在一起，綜合出聲并且分析。數(shù)據(jù)接入要注意包括文件日志的接入、數(shù)據(jù)庫(kù)日志的接入、關(guān)系型數(shù)據(jù)庫(kù)的接入和應(yīng)用程序等的接入，數(shù)據(jù)接入正確的工具有Flume，Logstash，NDC（網(wǎng)易數(shù)據(jù)運(yùn)河系統(tǒng)），sqoop等。對(duì)此實(shí)時(shí)性要求比較好高的業(yè)務(wù)場(chǎng)景，.例如對(duì)必然于社交網(wǎng)站、新聞等的數(shù)據(jù)信息流需要參與快速的處理綜合反饋，這樣的話數(shù)據(jù)的接入可以不可以使用開源的Strom，Sparkstreaming等。

數(shù)據(jù)預(yù)處理是在海量的數(shù)據(jù)中其他提取出用下特征，建立寬表，修改數(shù)據(jù)倉(cāng)庫(kù)，會(huì)可以使用到HiveSQL，SparkSQL和Impala等工具。緊接著業(yè)務(wù)量的增多，需要通過(guò)訓(xùn)練和刷洗的數(shù)據(jù)也會(huì)變的越加急切，也可以在用azkaban或則oozie作為工作流調(diào)度引擎，用處能解決有多個(gè)hadoop或則spark等計(jì)算任務(wù)之間的依戀關(guān)系問(wèn)題。

（4）數(shù)據(jù)存儲(chǔ)

除開Hadoop中已廣泛應(yīng)用于數(shù)據(jù)存儲(chǔ)的HDFS，具體用法的有分布式、向大列的開放源代碼數(shù)據(jù)庫(kù)Hbase，HBase是一種key/value系統(tǒng)，防御部署在HDFS上，與Hadoop差不多，HBase的目標(biāo)通常是感情依賴橫向擴(kuò)展，按照不斷的提升廉價(jià)的商用化服務(wù)器，提高換算和存儲(chǔ)能力。同樣hadoop的資源管理器Yarn，這個(gè)可以為上層應(yīng)用到提供統(tǒng)一的資源管理和調(diào)度，為集群在利用率、資源都統(tǒng)一等方面受到那巨大的好處。

（5）你選擇數(shù)據(jù)挖掘工具

Hive也可以將結(jié)構(gòu)化的數(shù)據(jù)映射為一張數(shù)據(jù)庫(kù)表，并提供HQL的查詢功能，它是確立在Hadoop之上的數(shù)據(jù)倉(cāng)庫(kù)基礎(chǔ)架構(gòu)，是就是為了減少M(fèi)apReduce編譯程序工作的批處理系統(tǒng)，它的出現(xiàn)也可以讓那些全精通SQL技能、只不過(guò)不比較熟悉MapReduce、編程能力較弱和不最擅長(zhǎng)Java的用戶能在HDFS大規(guī)模數(shù)據(jù)集上非常好的依靠SQL語(yǔ)言查詢、匯總、分析數(shù)據(jù)。Impala是對(duì)Hive的一個(gè)補(bǔ)充，也可以實(shí)現(xiàn)程序高效率的SQL查詢，但I(xiàn)mpala將整個(gè)查詢過(guò)程分成了一個(gè)負(fù)責(zé)執(zhí)行計(jì)劃樹，而也不是噼里啪啦的MapReduce任務(wù)，兩者相比Hive有更好的并發(fā)性和盡量減少了不必要的中間sort和shuffle。

可以對(duì)數(shù)據(jù)參與建模分析，會(huì)要用機(jī)器學(xué)習(xí)相關(guān)的知識(shí)，具體方法的機(jī)器學(xué)習(xí)算法，比如貝葉斯、邏輯回歸、決策樹、神經(jīng)網(wǎng)絡(luò)、協(xié)同過(guò)濾等。

（6）數(shù)據(jù)的可視化在內(nèi)輸出來(lái)API

是對(duì)一次性處理我得到的數(shù)據(jù)可以不對(duì)接主流的BI系統(tǒng)，比如說(shuō)國(guó)外的Tableau、Qlikview、PowrerBI等，國(guó)內(nèi)的SmallBI和發(fā)展勢(shì)頭迅猛的網(wǎng)易有數(shù)（可免費(fèi)試用）等，將結(jié)果接受可視化，主要用于決策分析；的或壓力降低到線上，意見線上業(yè)務(wù)的發(fā)展。

二、大數(shù)據(jù)分析1.可視化分析

大數(shù)據(jù)分析的使用者有大數(shù)據(jù)分析專家，另外另外普通用戶，但是他們二者對(duì)于大數(shù)據(jù)分析最基本的要求是可視化展現(xiàn)，是因?yàn)榭梢暬治鲆材芊浅Ｖ庇^的呈大數(shù)據(jù)特點(diǎn)，同樣能夠非常太容易被讀者所接受，就有如看圖說(shuō)話一樣簡(jiǎn)單明了。

2.數(shù)據(jù)挖掘算法

大數(shù)據(jù)分析的理論核心應(yīng)該是數(shù)據(jù)分析和挖掘算法，各種數(shù)據(jù)挖掘的算法實(shí)現(xiàn)相同的數(shù)據(jù)類型和格式才能更加現(xiàn)代科學(xué)的完全呈現(xiàn)出數(shù)據(jù)本身必須具備的特點(diǎn)，也正是我畢竟這些被全世界統(tǒng)計(jì)學(xué)家所很有名氣的各種統(tǒng)計(jì)方法（這個(gè)可以稱之為真理）才能探索數(shù)據(jù)內(nèi)部，挖掘出公認(rèn)的價(jià)值。至于一個(gè)方面又是是因?yàn)橛羞@些數(shù)據(jù)挖掘的算法才能更飛快的處理大數(shù)據(jù)，如果一個(gè)算法得花上好幾年才能得出結(jié)論，那大數(shù)據(jù)的價(jià)值也就難以說(shuō)清楚了。

3.預(yù)測(cè)性分析

大數(shù)據(jù)分析結(jié)果要的應(yīng)用領(lǐng)域之一應(yīng)該是流程挖掘，從大數(shù)據(jù)中瘋狂挖掘出特點(diǎn)，按照科學(xué)的建立模型，結(jié)束后便可以按照模型得a新的數(shù)據(jù)，最終達(dá)到分析預(yù)測(cè)未來(lái)的數(shù)據(jù)。

4.語(yǔ)義引擎

非結(jié)構(gòu)化數(shù)據(jù)的多元化給數(shù)據(jù)分析給他新的挑戰(zhàn)，我們不需要一套工具系統(tǒng)的去講，提煉數(shù)據(jù)。語(yǔ)義引擎需要設(shè)計(jì)到有加上的人工智能以絕對(duì)能從數(shù)據(jù)中愿意地其他提取信息。

5.數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理

大數(shù)據(jù)分析離不開數(shù)據(jù)質(zhì)量和數(shù)據(jù)管理，高質(zhì)量的數(shù)據(jù)和最有效的數(shù)據(jù)管理，哪怕在學(xué)術(shù)研究還是在商業(yè)應(yīng)用領(lǐng)域，都也能絕對(duì)的保證總結(jié)結(jié)果的虛無(wú)飄渺和有價(jià)值。大數(shù)據(jù)分析的基礎(chǔ)那是以上五個(gè)方面，肯定更加深入大數(shù)據(jù)分析的話，另外很多很多越來(lái)越有特點(diǎn)的、更深入地的、極其比較好的專業(yè)的大數(shù)據(jù)分析方法。

三、數(shù)據(jù)處理1.大數(shù)據(jù)處理之一

再采集大數(shù)據(jù)的采集是指依靠多個(gè)數(shù)據(jù)庫(kù)來(lái)接收徹骨客戶端（Web、App也可以傳感器形式等）的數(shù)據(jù)，但是用戶也可以按照這些數(shù)據(jù)庫(kù)來(lái)接受簡(jiǎn)單的網(wǎng)站查詢和處理工作。比如說(shuō)，電商會(huì)可以使用悠久的傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)MySQL和Oracle等來(lái)存儲(chǔ)位置每大筆事務(wù)數(shù)據(jù)，除此之外，Redis和MongoDB這樣的NoSQL數(shù)據(jù)庫(kù)也常應(yīng)用于數(shù)據(jù)的采集。在大數(shù)據(jù)的采集過(guò)程中，其主要特點(diǎn)和挑戰(zhàn)是并發(fā)數(shù)高，因?yàn)榱硗庥锌赡軙?huì)有成千上萬(wàn)的用戶來(lái)接受訪問(wèn)和操作，比如說(shuō)火車票售票網(wǎng)站和淘寶，它們并發(fā)的訪問(wèn)量在峰值時(shí)提升到上百萬(wàn)，因?yàn)樾枰谠俨杉瞬渴鸫罅繑?shù)據(jù)庫(kù)才能支撐。因此怎么在這些數(shù)據(jù)庫(kù)之間通過(guò)負(fù)載均衡和分片的確是必須深入的思考和設(shè)計(jì)。

2.大數(shù)據(jù)處理之二

導(dǎo)入/預(yù)處理確實(shí)采集端本身會(huì)有很多數(shù)據(jù)庫(kù)，不過(guò)如果不是要對(duì)這些海量數(shù)據(jù)參與管用的分析，那就肯定將這些不知從何而來(lái)前端的數(shù)據(jù)導(dǎo)入到一個(gè)分散的大型手機(jī)分布式數(shù)據(jù)庫(kù)，也可以分布式存儲(chǔ)集群，并且也可以在導(dǎo)入基礎(chǔ)上做一些很簡(jiǎn)單可以清洗和預(yù)處理工作。也有一些用戶會(huì)在導(dǎo)入時(shí)使用不知從何而來(lái)Twitter的Storm來(lái)對(duì)數(shù)據(jù)進(jìn)行流式算出，來(lái)行最簡(jiǎn)形矩陣部分業(yè)務(wù)的實(shí)時(shí)計(jì)算需求。導(dǎo)入與預(yù)處理過(guò)程的特點(diǎn)和挑戰(zhàn)主要注意是文件導(dǎo)入的數(shù)據(jù)量大，最大速度鐘的導(dǎo)入量經(jīng)常會(huì)會(huì)都沒有達(dá)到百兆，甚至于百兆級(jí)別。

3.大數(shù)據(jù)處理之三

統(tǒng)計(jì)數(shù)據(jù)/分析統(tǒng)計(jì)與分析要注意依靠分布式數(shù)據(jù)庫(kù)，或是分布式計(jì)算集群來(lái)對(duì)存儲(chǔ)于內(nèi)中的海量數(shù)據(jù)參與特殊的分析和分類匯總等，以柯西-黎曼方程大多數(shù)常見的分析需求，在這方面，一些實(shí)時(shí)性需求會(huì)都用到EMC的GreenPlum、Oracle的Exadata，在內(nèi)基于MySQL的列式存儲(chǔ)Infobright等，而一些批處理，也可以基于組件半結(jié)構(gòu)化數(shù)據(jù)的需求也可以使用Hadoop。統(tǒng)計(jì)與總結(jié)這部分的主要特點(diǎn)和挑戰(zhàn)是分析不屬于的數(shù)據(jù)量大，其對(duì)系統(tǒng)資源，特別是I/O會(huì)有極大的占用。

4.大數(shù)據(jù)處理之四

挖掘與前面統(tǒng)計(jì)和分析過(guò)程差別的是，數(shù)據(jù)挖掘象沒有什么事前修改好的主題，要注意是在可以做到數(shù)據(jù)上面接受基于條件各種算法的計(jì)算，進(jìn)而作用有限預(yù)測(cè)（Predict）的效果，進(jìn)而基于一些高級(jí)別數(shù)據(jù)分析的需求。也很啊是算法有用于聚類的Kmeans、主要用于統(tǒng)計(jì)出來(lái)怎么學(xué)習(xí)的SVM和主要是用于分類的NaiveBayes，比較多在用的工具有Hadoop的Mahout等。該過(guò)程的特點(diǎn)和挑戰(zhàn)比較多是用于挖掘的算法很奇怪，并且可以計(jì)算比較復(fù)雜的數(shù)據(jù)量和計(jì)算量都太大，常用數(shù)據(jù)挖掘算法都以單線程為主。