BP算法 前饋神經(jīng)網(wǎng)絡、BP神經(jīng)網(wǎng)絡、卷積神經(jīng)網(wǎng)絡的區(qū)別與聯(lián)系?
前饋神經(jīng)網(wǎng)絡、BP神經(jīng)網(wǎng)絡、卷積神經(jīng)網(wǎng)絡的區(qū)別與聯(lián)系?前饋神經(jīng)網(wǎng)絡是一層節(jié)點,只把前一層作為輸入,輸出到后一層,本身和其他層之間沒有聯(lián)系,因為數(shù)據(jù)是一層前向傳播的,所以叫前饋網(wǎng)絡。BP網(wǎng)絡是最常見的前
前饋神經(jīng)網(wǎng)絡、BP神經(jīng)網(wǎng)絡、卷積神經(jīng)網(wǎng)絡的區(qū)別與聯(lián)系?
前饋神經(jīng)網(wǎng)絡是一層節(jié)點,只把前一層作為輸入,輸出到后一層,本身和其他層之間沒有聯(lián)系,因為數(shù)據(jù)是一層前向傳播的,所以叫前饋網(wǎng)絡。
BP網(wǎng)絡是最常見的前饋網(wǎng)絡之一。BP體現(xiàn)在運行機制上。數(shù)據(jù)輸入后,逐層向前傳播,然后計算損失函數(shù),得到損失函數(shù)的殘差,再逐層向后傳播殘差。
卷積神經(jīng)網(wǎng)絡是基于人類視覺的特點,即視覺是從局部到全局的認知,所以并不是所有的人都使用全連接(一般只有1-2個全連接層,甚至最近的研究建議取消CNN的全連接層),而是使用滑動窗口只處理一個部分,這個運算就像一個濾波器,這個運算叫做卷積運算(不是卷積運算)信號處理的卷積運算,當然也可以用卷積運算)。這種網(wǎng)絡稱為卷積神經(jīng)網(wǎng)絡。
目前最流行的網(wǎng)絡有前饋網(wǎng)絡和遞歸網(wǎng)絡,一般都是BP網(wǎng)絡;深度網(wǎng)絡一般采用卷積運算,因此也屬于卷積神經(jīng)網(wǎng)絡。但大多數(shù)卷積網(wǎng)絡都不在BP網(wǎng)絡的范圍內(nèi)。