Hopfield神經(jīng)網(wǎng)絡詳解 hopfield神經(jīng)網(wǎng)絡和遺傳算法的不同點?
hopfield神經(jīng)網(wǎng)絡和遺傳算法的不同點?兩者有很多不同之處。換言之,兩者沒有多少相似之處。Hopfield網(wǎng)絡基本上建立了每次能量下降的機制。另一方面,遺傳算法則大不相同。它是一種群體搜索機制。首
hopfield神經(jīng)網(wǎng)絡和遺傳算法的不同點?
兩者有很多不同之處。換言之,兩者沒有多少相似之處。Hopfield網(wǎng)絡基本上建立了每次能量下降的機制。另一方面,遺傳算法則大不相同。它是一種群體搜索機制。首先,它初始化了一堆解決方案,然后,根據(jù)概述,它允許優(yōu)秀的解決方案進入下一代(注意可能會有一些較差的解決方案,Hopfield意味著每一代的能量都會下降)。下一代通過交叉和變異機制產(chǎn)生新一代。因為下一代通過每一次選舉的概率會更高,所以根據(jù)概率,每一代都會比上一代好。這樣,它最終會進化成一代足夠優(yōu)秀的媒介。它們都經(jīng)歷了幾代人的衰落,最終趨于穩(wěn)定。但兩者是不同的,遺傳算法是每一代都是一個群體,而霍普菲爾德是一個個體。每一代遺傳算法都允許更壞的條件,這有助于跳出局部最優(yōu)。而Hopfield能量每次都在下降,具有貪婪算法的味道,一般不能跳出局部最優(yōu)。就這樣。對于目前的深度學習模型,雖然深度學習的目標之一是設計能夠處理各種任務的算法,但是深度學習的應用還需要一定的專業(yè)化,目前還沒有通用的神經(jīng)網(wǎng)絡處理模型。然而,每一種模式也在相互學習、相互融合、共同提高。例如,一些創(chuàng)新可以同時改進卷積神經(jīng)網(wǎng)絡和遞歸神經(jīng)網(wǎng)絡,如批量標準化和關注度。一般模型需要在將來提出。
圖像和視頻處理,計算機視覺,最流行的是CNN,卷積神經(jīng)網(wǎng)絡,它的變形和發(fā)展,CNN適合處理空間數(shù)據(jù),廣泛應用于計算機視覺領域。例如,alexnet、vggnet、googlenet、RESNET等都有自己的特點。將上述模型應用于圖像分類識別中。在圖像分割、目標檢測等方面,提出了更有針對性的模型,并得到了廣泛的應用。
語音處理,2012年之前,最先進的語音識別系統(tǒng)是隱馬爾可夫模型(HMM)和高斯混合模型(GMM)的結合。目前最流行的是深度學習RNN遞歸神經(jīng)網(wǎng)絡,其長、短期記憶網(wǎng)絡LSTM、Gru、雙向RNN、層次RNN等。
除了傳統(tǒng)的自然語言處理方法外,目前的自然語言處理深度學習模型也經(jīng)歷了幾個發(fā)展階段,如基于CNN的模型、基于RNN的模型、基于注意的模型、基于變壓器的模型等。不同的任務場景有不同的模型和策略來解決一些問題。