如何評(píng)價(jià)「神經(jīng)網(wǎng)絡(luò)本質(zhì)不過(guò)是初中生都會(huì)的復(fù)合函數(shù)」？如果說(shuō)本質(zhì)是很簡(jiǎn)單的事情，至少聽起來(lái)很簡(jiǎn)單。計(jì)算機(jī)的本質(zhì)只是門電路的開關(guān)，程序的本質(zhì)只是01組合，火箭發(fā)射的本質(zhì)只是軌道擬合，生命體的本質(zhì)只是一堆蛋

如何評(píng)價(jià)「神經(jīng)網(wǎng)絡(luò)本質(zhì)不過(guò)是初中生都會(huì)的復(fù)合函數(shù)」？

如果說(shuō)本質(zhì)是很簡(jiǎn)單的事情，至少聽起來(lái)很簡(jiǎn)單。

計(jì)算機(jī)的本質(zhì)只是門電路的開關(guān)，程序的本質(zhì)只是01組合，火箭發(fā)射的本質(zhì)只是軌道擬合，生命體的本質(zhì)只是一堆蛋白質(zhì)，思維的本質(zhì)只是電信號(hào)，等等。如果追根溯源，人的本質(zhì)就像一堆原子。

許多東西無(wú)法分解為可見，因?yàn)樗鼈兊膬r(jià)值就在組合的這一部分。神經(jīng)網(wǎng)絡(luò)的本質(zhì)確實(shí)是一個(gè)復(fù)合函數(shù)，因?yàn)榧訖?quán)是乘法，偏移是加法，激活是函數(shù)運(yùn)算。這些都很簡(jiǎn)單。即使外部激活函數(shù)稍微復(fù)雜一些，它仍然可以被寫出來(lái)。但是，需要提出神經(jīng)網(wǎng)絡(luò)的反向傳播，否則神經(jīng)網(wǎng)絡(luò)無(wú)法優(yōu)化；全連通網(wǎng)絡(luò)的參數(shù)個(gè)數(shù)過(guò)大，無(wú)法增加深度，因此需要提出CNN、RESNET、dropout、pool，并在此基礎(chǔ)上實(shí)現(xiàn)它們的反向傳播算法，這些理論是經(jīng)過(guò)嚴(yán)格的數(shù)據(jù)邏輯驗(yàn)證后提出的。

當(dāng)然，任何人都可以做復(fù)合功能，但他們做不到。最后兩個(gè)月的課足夠?qū)W習(xí)了，但是學(xué)習(xí)這些東西能提出神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)嗎？你學(xué)完高等數(shù)學(xué)后能寫一篇約洛嗎？不要老是談?wù)摼A。只有真正理解的人才有資格談?wù)摫举|(zhì)。人們甚至不知道神經(jīng)網(wǎng)絡(luò)的本質(zhì)。聽起來(lái)像是土木科學(xué)說(shuō)地球是平的。

為什么matlab的BP神經(jīng)網(wǎng)絡(luò)曲線擬合的時(shí)候沒(méi)問(wèn)題，預(yù)測(cè)的時(shí)候誤差這么大？

這是由于神經(jīng)網(wǎng)絡(luò)的特性造成的，與MATLAB無(wú)關(guān)。

一方面，如果您的網(wǎng)絡(luò)層選擇的神經(jīng)元數(shù)和層數(shù)不合適，會(huì)導(dǎo)致此結(jié)果；

另一方面，如果您的訓(xùn)練樣本選擇不正確，或者數(shù)據(jù)表達(dá)過(guò)快，也會(huì)導(dǎo)致此問(wèn)題。

在前一方面，根據(jù)經(jīng)驗(yàn)，后者可以制成參數(shù)可調(diào)的神經(jīng)元。

深度神經(jīng)網(wǎng)絡(luò)是否夸張地過(guò)擬合了？

這不可能是一樣的。

1. 過(guò)度裝配可分為許多情況。一是現(xiàn)在的情況太多了。這種神經(jīng)網(wǎng)絡(luò)能對(duì)許多情況給出正確的答案。即使它是過(guò)度安裝，你也無(wú)法證明它。此外，即使它能工作和排氣，也沒(méi)有壞處。

2. 是否過(guò)擬合與我們的神經(jīng)網(wǎng)絡(luò)模型和訓(xùn)練集有關(guān)。當(dāng)二者的組合過(guò)擬合時(shí)，它在訓(xùn)練集上運(yùn)行良好，在驗(yàn)證集上也會(huì)出現(xiàn)問(wèn)題?，F(xiàn)在有一些方法可以對(duì)訓(xùn)練集的數(shù)據(jù)進(jìn)行預(yù)處理、多次輸入和多次訓(xùn)練。

3. 目前，過(guò)度擬合的問(wèn)題是不可避免的。培訓(xùn)本身就是一種適應(yīng)過(guò)程。如果未來(lái)在數(shù)學(xué)原理或應(yīng)用這方面有質(zhì)的突破，可能有解決的機(jī)會(huì)。

既然使用神經(jīng)網(wǎng)絡(luò)也可以解決分類問(wèn)題，那SVM、決策樹這些算法還有什么意義呢？

這取決于數(shù)據(jù)量和樣本數(shù)。不同的樣本數(shù)和特征數(shù)據(jù)適合不同的算法。像神經(jīng)網(wǎng)絡(luò)這樣的深度學(xué)習(xí)算法需要訓(xùn)練大量的數(shù)據(jù)集來(lái)建立更好的預(yù)測(cè)模型。許多大型互聯(lián)網(wǎng)公司更喜歡深度學(xué)習(xí)算法，因?yàn)樗麄儷@得的用戶數(shù)據(jù)是數(shù)以億計(jì)的海量數(shù)據(jù)，這更適合于卷積神經(jīng)網(wǎng)絡(luò)等深度學(xué)習(xí)算法。

如果樣本數(shù)量較少，則更適合使用SVM、決策樹和其他機(jī)器學(xué)習(xí)算法。如果你有一個(gè)大的數(shù)據(jù)集，你可以考慮使用卷積神經(jīng)網(wǎng)絡(luò)和其他深度學(xué)習(xí)算法。

以下是一個(gè)圖表，用于說(shuō)明根據(jù)樣本數(shù)量和數(shù)據(jù)集大小選擇的任何機(jī)器學(xué)習(xí)算法。

如果你認(rèn)為它對(duì)你有幫助，你可以多表?yè)P(yáng)，也可以關(guān)注它。謝謝您！