數(shù)據(jù)分析一般包括哪些內(nèi)容？數(shù)據(jù)分析是一個(gè)比較大的框架，從字面上講，就是從數(shù)據(jù)中提取有用的規(guī)則或者背后的邏輯。作業(yè)數(shù)據(jù)分析的功能主要分為以下六個(gè)步驟：數(shù)據(jù)收集數(shù)據(jù)清理數(shù)據(jù)存儲(chǔ)指數(shù)計(jì)算統(tǒng)計(jì)分析和建模數(shù)據(jù)可

數(shù)據(jù)分析一般包括哪些內(nèi)容？

數(shù)據(jù)分析是一個(gè)比較大的框架，從字面上講，就是從數(shù)據(jù)中提取有用的規(guī)則或者背后的邏輯。

作業(yè)數(shù)據(jù)分析的功能主要分為以下六個(gè)步驟：

數(shù)據(jù)收集

數(shù)據(jù)清理

數(shù)據(jù)存儲(chǔ)

指數(shù)計(jì)算

統(tǒng)計(jì)分析和建模

數(shù)據(jù)可視化

數(shù)據(jù)收集的第一步：在前期，我們的數(shù)據(jù)還沒有形成具體的體系的時(shí)候，或者我們的業(yè)務(wù)正在進(jìn)行的時(shí)候，我們需要通過各種渠道獲取數(shù)據(jù)。數(shù)據(jù)采集方式多種多樣，包括程序自動(dòng)采集數(shù)據(jù)(數(shù)據(jù)嵌入、網(wǎng)絡(luò)爬蟲、ERP或CRM系統(tǒng)自動(dòng)生成等。)、人工統(tǒng)計(jì)(Excel統(tǒng)計(jì))、第三方網(wǎng)站抽取(通過開放數(shù)據(jù)網(wǎng)站、API等下載。)等多種方法。方法的選擇遵循商業(yè)形式。

第二步：數(shù)據(jù)清洗：采集的數(shù)據(jù)是臟數(shù)據(jù)，需要進(jìn)行清洗，即取其精華去其糟粕，這樣的數(shù)據(jù)才是我們可以正常使用的數(shù)據(jù)。在這一步中，正則表達(dá)式主要用于數(shù)據(jù)清理。采集的數(shù)據(jù)有多種格式，需要轉(zhuǎn)碼成特定的格式和代碼。

第三步：數(shù)據(jù)存儲(chǔ)：隨著現(xiàn)在的公司數(shù)據(jù)越來越大，互聯(lián)網(wǎng)時(shí)代已經(jīng)從IT變成了DT?，F(xiàn)在每個(gè)公司的業(yè)務(wù)數(shù)據(jù)都是幾何級(jí)增長(zhǎng)，在存儲(chǔ)數(shù)據(jù)的時(shí)候肯定不能再用以前那個(gè)時(shí)代的紙筆記錄了。目前數(shù)據(jù)量小的公司一般使用Excel文件進(jìn)行數(shù)據(jù)存儲(chǔ)。許多公司也使用數(shù)據(jù)庫產(chǎn)品進(jìn)行數(shù)據(jù)存儲(chǔ)。市場(chǎng)上也有很多性能不錯(cuò)的數(shù)據(jù)庫產(chǎn)品，如Oracle、MySQL、SqlServer等。現(xiàn)在針對(duì)大數(shù)據(jù)也有相應(yīng)的蜂巢數(shù)據(jù)倉庫產(chǎn)品。這些產(chǎn)品非常容易使用，其中一些是開源產(chǎn)品。就我們公司而言，之前使用的Oracle和MySQL、SqlServer數(shù)據(jù)庫，因?yàn)闃I(yè)務(wù)線的調(diào)整，已經(jīng)將數(shù)據(jù)從單一數(shù)據(jù)庫轉(zhuǎn)移到hive數(shù)據(jù)倉庫進(jìn)行存儲(chǔ)，更方便技術(shù)、業(yè)務(wù)、分析師等角色應(yīng)用和提取數(shù)據(jù)。

第四步：指標(biāo)計(jì)算：在指標(biāo)計(jì)算之前，數(shù)據(jù)分析師需要建立當(dāng)前部門的KPI指標(biāo)，對(duì)應(yīng)業(yè)務(wù)部門對(duì)不同業(yè)務(wù)場(chǎng)景的業(yè)務(wù)數(shù)據(jù)好壞和規(guī)則的反饋。這一步復(fù)雜而持續(xù)，可能會(huì)貫穿整個(gè)數(shù)據(jù)分析生涯。什么是指標(biāo)？指標(biāo)是衡量目標(biāo)的方法，如商品管理中常用的存貨周轉(zhuǎn)率、毛利率，運(yùn)營(yíng)中經(jīng)常見到的路徑轉(zhuǎn)換，營(yíng)銷中經(jīng)常見到的ROI等。對(duì)應(yīng)的指標(biāo)反映了不同業(yè)務(wù)場(chǎng)景的好壞，隨著業(yè)務(wù)和企業(yè)階段的變化，指標(biāo)會(huì)一直跟隨變化。

第五步：數(shù)據(jù)的統(tǒng)計(jì)分析和建模：這個(gè)環(huán)節(jié)是整個(gè)數(shù)據(jù)分析過程中最有趣的環(huán)節(jié)，沒有之一。與前一個(gè)環(huán)節(jié)相比，你將在這個(gè)環(huán)節(jié)面臨各種挑戰(zhàn)。什么假設(shè)檢驗(yàn)，線性回歸，特征工程，貝葉斯等等。會(huì)被滿足。在這里你會(huì)看到各種數(shù)據(jù)背后的邏輯，以及數(shù)據(jù)產(chǎn)生的價(jià)值。并且在數(shù)據(jù)分析的過程中，你可能會(huì)遇到數(shù)據(jù)清洗的第二步，處理缺失值和異常值。

第六步：數(shù)據(jù)可視化：即數(shù)據(jù)呈現(xiàn)。步驟5中統(tǒng)計(jì)分析和建模的結(jié)果需要以圖表的形式顯示出來。俗話說，字不如表，表不如圖。Tableau、PowerBI、finebi、PPT等數(shù)據(jù)可視化產(chǎn)品在市場(chǎng)上應(yīng)用廣泛。前三種主要是交互形式，即在線存儲(chǔ)的報(bào)告，而PPT主要是以報(bào)告的形式呈現(xiàn)。

目前的數(shù)據(jù)分析按照功能可以簡(jiǎn)單的分為幾個(gè)方向：

業(yè)務(wù)數(shù)據(jù)分析師

數(shù)據(jù)挖掘工程師

大數(shù)據(jù)開發(fā)工程師

以上是目前招聘時(shí)長(zhǎng)比較常見的職位，每個(gè)職位之前都不一樣。業(yè)務(wù)數(shù)據(jù)分析師主要面向業(yè)務(wù)，將數(shù)據(jù)應(yīng)用于企業(yè)決策。主要工具有Python，R，Excel，SPSS，tableau，PowerBI等。數(shù)據(jù)挖掘工程師側(cè)重于技術(shù)方向，主要是反欺詐、垃圾郵件識(shí)別等數(shù)據(jù)應(yīng)用。主要工具有Python，Java，C，C等。大數(shù)據(jù)開發(fā)工程師主要負(fù)責(zé)搭建數(shù)據(jù)平臺(tái)，使用hadoop、hive、spark、Python、Java、C、C等工具開發(fā)適合公司數(shù)據(jù)流的數(shù)據(jù)平臺(tái)。數(shù)據(jù)分析是目前為止比較新的崗位，所以大部分人都在不斷學(xué)習(xí)和提高。

以上我的一些拙見，如有不足，歡迎補(bǔ)充交流。