深度神經(jīng)網(wǎng)絡(luò)原理 深度學(xué)習(xí)和普通的機(jī)器學(xué)習(xí)有什么區(qū)別?
深度學(xué)習(xí)和普通的機(jī)器學(xué)習(xí)有什么區(qū)別?一張圖片顯示了這種關(guān)系。機(jī)器學(xué)習(xí)是人工智能的重要領(lǐng)域之一,而深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支。深度學(xué)習(xí)之所以近年來(lái)流行起來(lái),是因?yàn)樗黄屏藗鹘y(tǒng)機(jī)器學(xué)習(xí)無(wú)法解決的一些問(wèn)題
深度學(xué)習(xí)和普通的機(jī)器學(xué)習(xí)有什么區(qū)別?
一張圖片顯示了這種關(guān)系。機(jī)器學(xué)習(xí)是人工智能的重要領(lǐng)域之一,而深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支。深度學(xué)習(xí)之所以近年來(lái)流行起來(lái),是因?yàn)樗黄屏藗鹘y(tǒng)機(jī)器學(xué)習(xí)無(wú)法解決的一些問(wèn)題。
機(jī)器學(xué)習(xí)的意義在于代替人工完成重復(fù)性工作,識(shí)別出統(tǒng)一的規(guī)則(模式)。但是對(duì)于傳統(tǒng)的機(jī)器學(xué)習(xí)來(lái)說(shuō),特征提取的難度不?。ㄌ卣骺梢允窍袼?、位置、方向等)。特征的準(zhǔn)確性將在很大程度上決定大多數(shù)機(jī)器學(xué)習(xí)算法的性能。為了使特征準(zhǔn)確,在特征工程部分需要大量的人力來(lái)調(diào)整和改進(jìn)特征。完成這一系列工作的前提是,數(shù)據(jù)集中所包含的信息量是充分的,并且易于識(shí)別。如果不滿足這一前提,傳統(tǒng)的機(jī)器學(xué)習(xí)算法將在信息的雜亂中失去其性能。深度學(xué)習(xí)的應(yīng)用正是基于這個(gè)問(wèn)題。它的深層神經(jīng)網(wǎng)絡(luò)使它能夠在雜波中學(xué)習(xí),自動(dòng)發(fā)現(xiàn)與任務(wù)相關(guān)的特征(可以看作是自發(fā)學(xué)習(xí)的特征工程),并提取高級(jí)特征,從而大大減少了特征工程部分任務(wù)所花費(fèi)的時(shí)間。
另一個(gè)明顯的區(qū)別是他們對(duì)數(shù)據(jù)集大小的偏好。傳統(tǒng)的機(jī)器學(xué)習(xí)在處理規(guī)則完備的小規(guī)模數(shù)據(jù)時(shí)表現(xiàn)出良好的性能,而深度學(xué)習(xí)則表現(xiàn)不好。隨著數(shù)據(jù)集規(guī)模的不斷擴(kuò)大,深度學(xué)習(xí)的效果會(huì)逐漸顯現(xiàn)出來(lái),并變得越來(lái)越好。對(duì)比如下圖所示。
是否存在通用的神經(jīng)網(wǎng)絡(luò)模型,可以處理圖像,語(yǔ)音以及NLP?
對(duì)于目前的深度學(xué)習(xí)模型,雖然深度學(xué)習(xí)的目標(biāo)之一是設(shè)計(jì)能夠處理各種任務(wù)的算法,但是深度學(xué)習(xí)的應(yīng)用還需要一定的專業(yè)化,目前還沒(méi)有通用的神經(jīng)網(wǎng)絡(luò)處理模型。然而,每一種模式也在相互學(xué)習(xí)、相互融合、共同提高。例如,一些創(chuàng)新可以同時(shí)改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)和遞歸神經(jīng)網(wǎng)絡(luò),如批量標(biāo)準(zhǔn)化和關(guān)注度。一般模型需要在將來(lái)提出。
圖像和視頻處理,計(jì)算機(jī)視覺(jué),最流行的是CNN,卷積神經(jīng)網(wǎng)絡(luò),它的變形和發(fā)展,CNN適合處理空間數(shù)據(jù),廣泛應(yīng)用于計(jì)算機(jī)視覺(jué)領(lǐng)域。例如,alexnet、vggnet、googlenet、RESNET等都有自己的特點(diǎn)。將上述模型應(yīng)用于圖像分類識(shí)別中。在圖像分割、目標(biāo)檢測(cè)等方面,提出了更有針對(duì)性的模型,并得到了廣泛的應(yīng)用。
語(yǔ)音處理,2012年之前,最先進(jìn)的語(yǔ)音識(shí)別系統(tǒng)是隱馬爾可夫模型(HMM)和高斯混合模型(GMM)的結(jié)合。目前最流行的是深度學(xué)習(xí)RNN遞歸神經(jīng)網(wǎng)絡(luò),其長(zhǎng)、短期記憶網(wǎng)絡(luò)LSTM、Gru、雙向RNN、層次RNN等。
除了傳統(tǒng)的自然語(yǔ)言處理方法外,目前的自然語(yǔ)言處理深度學(xué)習(xí)模型也經(jīng)歷了幾個(gè)發(fā)展階段,如基于CNN的模型、基于RNN的模型、基于注意的模型、基于變壓器的模型等。不同的任務(wù)場(chǎng)景有不同的模型和策略來(lái)解決一些問(wèn)題。
深度學(xué)習(xí)的預(yù)測(cè)模型有哪些?
深度學(xué)習(xí)模型很常見(jiàn):卷積神經(jīng)網(wǎng)絡(luò)CNN、堆疊式自動(dòng)編碼器SAE、遞歸神經(jīng)網(wǎng)絡(luò)DNN、生成對(duì)抗網(wǎng)絡(luò)Gan、深度信念網(wǎng)絡(luò)DBN、深度神經(jīng)網(wǎng)絡(luò)DNN、深度強(qiáng)化學(xué)習(xí)DRL以及模型的許多變體。
深度學(xué)習(xí)中沒(méi)有預(yù)測(cè)模型,只是那些模型是一個(gè)預(yù)測(cè)問(wèn)題。GDP預(yù)測(cè)是一個(gè)連續(xù)的問(wèn)題。我覺(jué)得CNN、DBN和DNN不合適。如果數(shù)據(jù)量有限,參考互聯(lián)網(wǎng)金融,我覺(jué)得遷移學(xué)習(xí)深度學(xué)習(xí)模式是一個(gè)不錯(cuò)的選擇。個(gè)人觀點(diǎn),僅供參考,更多官方賬號(hào)可關(guān)注個(gè)人微信公眾號(hào)“深度學(xué)習(xí)與NLP”。