大數(shù)據(jù)主要學(xué)習(xí)哪些內(nèi)容？這是一個非常好的問題。作為一個IT從業(yè)者，一個教育工作者，我來回答一下。大數(shù)據(jù)經(jīng)過多年的發(fā)展，已經(jīng)逐漸形成了比較龐大系統(tǒng)的知識體系，整體技術(shù)成熟度已經(jīng)比較高，所以學(xué)習(xí)大數(shù)據(jù)技術(shù)

大數(shù)據(jù)主要學(xué)習(xí)哪些內(nèi)容？

這是一個非常好的問題。作為一個IT從業(yè)者，一個教育工作者，我來回答一下。

大數(shù)據(jù)經(jīng)過多年的發(fā)展，已經(jīng)逐漸形成了比較龐大系統(tǒng)的知識體系，整體技術(shù)成熟度已經(jīng)比較高，所以學(xué)習(xí)大數(shù)據(jù)技術(shù)也會有比較好的學(xué)習(xí)體驗(yàn)。

因?yàn)榇髷?shù)據(jù)涉及的內(nèi)容非常多，而且大數(shù)據(jù)技術(shù)也與行業(yè)息息相關(guān)，所以在學(xué)習(xí)大數(shù)據(jù)的時候，可以從技術(shù)的角度，也可以基于行業(yè)來學(xué)習(xí)大數(shù)據(jù)。對于學(xué)生來說，可以從大數(shù)據(jù)技術(shù)體系中學(xué)習(xí)，對于職場人來說，可以結(jié)合自己的行業(yè)和工作任務(wù)學(xué)習(xí)大數(shù)據(jù)。

無論是學(xué)生還是職場人士，想要學(xué)習(xí)大數(shù)據(jù)，需要掌握以下基本內(nèi)容:

第一:計算機(jī)基礎(chǔ)知識。學(xué)習(xí)大數(shù)據(jù)技術(shù)，計算機(jī)基礎(chǔ)知識非常重要，其中操作系統(tǒng)、編程語言、數(shù)據(jù)庫等知識是必須要學(xué)的。編程語言可以向Python學(xué)習(xí)，如果以后想從事專業(yè)的大數(shù)據(jù)開發(fā)，也可以向Java學(xué)習(xí)。計算機(jī)基礎(chǔ)知識學(xué)習(xí)起來比較難，要注意實(shí)驗(yàn)在學(xué)習(xí)過程中的作用。

第二:數(shù)學(xué)統(tǒng)計基礎(chǔ)知識。大數(shù)據(jù)技術(shù)體系的核心目的是 "數(shù)據(jù)價值 "，而數(shù)據(jù)價值產(chǎn)生的過程必然離不開數(shù)據(jù)分析，所以作為數(shù)據(jù)分析基礎(chǔ)的數(shù)學(xué)和統(tǒng)計學(xué)知識更為重要。數(shù)學(xué)和統(tǒng)計學(xué)的基礎(chǔ)對大數(shù)據(jù)從業(yè)者未來的成長空間有著重要的影響，所以一定要重視這兩方面知識的學(xué)習(xí)。

第三:大數(shù)據(jù)平臺的基礎(chǔ)。大數(shù)據(jù)開發(fā)和大數(shù)據(jù)分析離不開大數(shù)據(jù)平臺的支撐，大數(shù)據(jù)平臺涉及分布式存儲、分布式計算等基礎(chǔ)功能。掌握大數(shù)據(jù)平臺，也會形成對大數(shù)據(jù)技術(shù)體系的深刻理解。對于新手來說，可以從Hadoop和Spark入手。

本人從事互聯(lián)網(wǎng)行業(yè)多年，目前在讀計算機(jī)專業(yè)研究生。我的主要研究方向是大數(shù)據(jù)和人工智能。我會陸續(xù)寫一些互聯(lián)網(wǎng)技術(shù)方面的文章，有興趣的朋友可以關(guān)注我。我相信我一定會有所收獲。

如果你有關(guān)于互聯(lián)網(wǎng)，大數(shù)據(jù)，人工智能，或者考研的問題，可以在評論區(qū)留言或者私信我！

hdfs的特點(diǎn)和限制？

HDFS特色

1.海量數(shù)據(jù)存儲:HDFS可以橫向擴(kuò)展，存儲的文件可以支持PB級或更高的數(shù)據(jù)存儲。

2.高容錯性:保存多個數(shù)據(jù)副本，副本丟失后自動恢復(fù)。可以建立在廉價的機(jī)器上實(shí)現(xiàn)線性擴(kuò)張。當(dāng)新節(jié)點(diǎn)加入集群時，namenode還可以感知和平衡負(fù)載，平衡數(shù)據(jù)分布，并將數(shù)據(jù)備份到新節(jié)點(diǎn)。

3.商業(yè)硬件:Hadoop沒有它需要在昂貴且高度可靠的硬件上運(yùn)行。它被設(shè)計為運(yùn)行在商用硬件(廉價的商用硬件)集群上。(相比小型機(jī)，大型機(jī)便宜)

4.大文件存儲:HDFS使用數(shù)據(jù)塊來存儲數(shù)據(jù)，并在物理上將數(shù)據(jù)分成幾個小數(shù)據(jù)塊。所以再大的數(shù)據(jù)，經(jīng)過細(xì)分后，大數(shù)據(jù)變成了很多小數(shù)據(jù)。當(dāng)用戶讀取時，他們重組幾個小數(shù)據(jù)塊。

HDFS的缺點(diǎn)

1.無法實(shí)現(xiàn)低延遲數(shù)據(jù)訪問:hadoop針對高數(shù)據(jù)吞吐量進(jìn)行了優(yōu)化，代價是數(shù)據(jù)采集延遲，因此低延遲數(shù)據(jù)訪問的業(yè)務(wù)需求不適合HDFS。

2.不適合存儲大量小文件:由于namenode將文件系統(tǒng)的元數(shù)據(jù)存儲在內(nèi)存中，因此文件系統(tǒng)能夠存儲的文件總數(shù)受到namenode內(nèi)存容量的限制。根據(jù)經(jīng)驗(yàn)，每個文件、目錄、數(shù)據(jù)塊的存儲信息占150字節(jié)左右。所以，如果有100萬個小文件，每個小文件會占用一個數(shù)據(jù)塊，至少需要300MB內(nèi)存。如果是上億級的話，會超過目前硬件的能力。

3.修改文件:。HDFS適合寫一次，讀多次。不支持修改上傳到HDFS的文件。雖然Hadoop2.0支持追加文件的功能，但不建議在HDFS上修改文件。因?yàn)樾实汀?/p>

4.不支持用戶并行寫入:同一時間只能有一個用戶寫入。