神經(jīng)網(wǎng)絡(luò)relu怎么反向求導(dǎo)？Relu是神經(jīng)網(wǎng)絡(luò)中的一個激活函數(shù)。在神經(jīng)網(wǎng)絡(luò)從輸入到輸出的正向傳播中，激活函數(shù)是不可避免的。因此，在反向傳播調(diào)整過程中，還需要根據(jù)鏈導(dǎo)數(shù)規(guī)則調(diào)整relu的偏差或梯度。在

神經(jīng)網(wǎng)絡(luò)relu怎么反向求導(dǎo)？

Relu是神經(jīng)網(wǎng)絡(luò)中的一個激活函數(shù)。

在神經(jīng)網(wǎng)絡(luò)從輸入到輸出的正向傳播中，激活函數(shù)是不可避免的。因此，在反向傳播調(diào)整過程中，還需要根據(jù)鏈導(dǎo)數(shù)規(guī)則調(diào)整relu的偏差或梯度。

在神經(jīng)網(wǎng)絡(luò)中，每兩層神經(jīng)元的權(quán)重根據(jù)梯度進行調(diào)整。梯度調(diào)整的幅度和方向取決于激活函數(shù)后前一層神經(jīng)元的輸入值a和激活函數(shù)前后一層神經(jīng)元輸出值的偏差。relu的逆導(dǎo)數(shù)是神經(jīng)元輸出的偏差（在進入激活函數(shù)之前）。relu的偏差請參考我的文章《BP反向傳播算法的思考與直觀理解——卷積小白的隨機世界》

例如，當L1層的偏差為m時，則relu后的L層的偏差為m*Wij。如果此時，relu之前的l層的輸出為Zi。如果Zi小于0。那么，L層神經(jīng)元通過relu前的偏差為0；如果Zi大于0。那么，relu之前的L層的偏差是m*Wij。

如何評價「神經(jīng)網(wǎng)絡(luò)本質(zhì)不過是初中生都會的復(fù)合函數(shù)」？

如果說講本質(zhì)是很簡單的事情，至少聽起來很簡單。

計算機的本質(zhì)只是門電路的開關(guān)，程序的本質(zhì)只是01組合，火箭發(fā)射的本質(zhì)只是軌道擬合，生命體的本質(zhì)只是一堆蛋白質(zhì)，思維的本質(zhì)只是電信號，等等。如果追根溯源，人的本質(zhì)就像一堆原子。

許多東西無法分解為可見，因為它們的價值就在組合的這一部分。神經(jīng)網(wǎng)絡(luò)的本質(zhì)確實是一個復(fù)合函數(shù)，因為加權(quán)是乘法，偏移是加法，激活是函數(shù)運算。這些都很簡單。即使外部激活函數(shù)稍微復(fù)雜一些，它仍然可以被寫出來。但是，需要提出神經(jīng)網(wǎng)絡(luò)的反向傳播，否則神經(jīng)網(wǎng)絡(luò)無法優(yōu)化；全連通網(wǎng)絡(luò)的參數(shù)個數(shù)過大，無法增加深度，因此需要提出CNN、RESNET、dropout、pool，并在此基礎(chǔ)上實現(xiàn)它們的反向傳播算法，這些理論是經(jīng)過嚴格的數(shù)據(jù)邏輯驗證后提出的。

當然，任何人都可以做復(fù)合功能，但他們做不到。最后兩個月的課足夠?qū)W習了，但是學習這些東西能提出神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)嗎？你學完高等數(shù)學后能寫一篇約洛嗎？不要老是談?wù)摼A。只有真正理解的人才有資格談?wù)摫举|(zhì)。人們甚至不知道神經(jīng)網(wǎng)絡(luò)的本質(zhì)。聽起來像是土木科學說地球是平的。