MNIST手寫識(shí)別 為什么神經(jīng)網(wǎng)絡(luò)有用?
為什么神經(jīng)網(wǎng)絡(luò)有用?個(gè)人認(rèn)為這要不得不嘆服神經(jīng)網(wǎng)絡(luò)的泛迅速接近理論,必須什么樣的映射(更具體詳細(xì)的說(shuō)是函數(shù))把數(shù)據(jù)丟給神經(jīng)網(wǎng)絡(luò)去跑就完了。在機(jī)器翻譯(NMT),命名原則實(shí)體識(shí)別(NER),自然語(yǔ)言處理
為什么神經(jīng)網(wǎng)絡(luò)有用?
個(gè)人認(rèn)為這要不得不嘆服神經(jīng)網(wǎng)絡(luò)的泛迅速接近理論,必須什么樣的映射(更具體詳細(xì)的說(shuō)是函數(shù))把數(shù)據(jù)丟給神經(jīng)網(wǎng)絡(luò)去跑就完了。
在機(jī)器翻譯(NMT),命名原則實(shí)體識(shí)別(NER),自然語(yǔ)言處理(NLP)和計(jì)算機(jī)視覺(jué)任務(wù)(CV)上,神經(jīng)網(wǎng)絡(luò)的應(yīng)用都取得了非常比較好的效果,那它為什么不會(huì)有用呢?
學(xué)習(xí)總結(jié)的話,有三點(diǎn):
1.算法
神經(jīng)網(wǎng)絡(luò)是一種模擬人腦的神經(jīng)網(wǎng)絡(luò)以期都能夠?qū)崿F(xiàn)程序類人工智能的機(jī)器學(xué)習(xí)技術(shù),實(shí)際模擬人腦的運(yùn)行來(lái)實(shí)現(xiàn)方法其有效性。我們先來(lái)清楚一個(gè)簡(jiǎn)單的且比較經(jīng)典的神經(jīng)網(wǎng)絡(luò)架構(gòu)
這是一個(gè)中有三個(gè)層次的網(wǎng)絡(luò)架構(gòu),各為然后輸入層,隱含層,輸出低層;箭頭方向代表數(shù)據(jù)流向和傳播方向包括計(jì)算順序,每個(gè)一根線華指差別的權(quán)值(訓(xùn)練所得),節(jié)點(diǎn)代表神經(jīng)元。
在設(shè)計(jì)一個(gè)網(wǎng)絡(luò)架構(gòu)的時(shí)候輸入層和作為輸出層并不一定是且固定的,我們不需要設(shè)定好的為中間的隱含層,這也是神經(jīng)網(wǎng)絡(luò)的關(guān)鍵。一個(gè)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練算法就是讓權(quán)重的值決定到適宜,以以至于整個(gè)網(wǎng)絡(luò)的預(yù)測(cè)效果最好。
我們給神經(jīng)網(wǎng)絡(luò)喂入數(shù)據(jù),然后再讓其訓(xùn)練,是從反向傳播的時(shí)候是從激活函數(shù)可以計(jì)算分析和預(yù)測(cè)數(shù)據(jù)同目標(biāo)數(shù)據(jù)的一個(gè)差值接受修正,最終訓(xùn)練為三個(gè)比較有效地神經(jīng)網(wǎng)絡(luò)。
事實(shí)上就很像我們?nèi)四X去去學(xué)習(xí)的,我們?cè)诖酥皩?duì)這個(gè)世界是沒(méi)有定義的,但是按照學(xué)習(xí),慢慢地對(duì)認(rèn)知并且糾正,就自然形成了我們對(duì)這個(gè)世界的認(rèn)知,另外在收不到新事物的時(shí)候,我們也可以憑借我們的先驗(yàn)知識(shí)接受識(shí)別。
2.數(shù)據(jù)集
初始時(shí)的也很很經(jīng)典的和簡(jiǎn)單的數(shù)據(jù)集-手寫數(shù)字Mnist數(shù)據(jù)集到現(xiàn)在的中有百萬(wàn)圖像,大小達(dá)到幾十G的數(shù)據(jù)集,隨著數(shù)據(jù)集的不斷更新和發(fā)展,能有更多的任務(wù)訓(xùn)練不可能而且數(shù)據(jù)集的極度缺乏而慢了下來(lái)。
3.計(jì)算能力
目前世界上運(yùn)算速度最快的計(jì)算機(jī)系統(tǒng)為的“天河二號(hào)”,堅(jiān)持了計(jì)算速度為最大速度3.39億億次、峰值計(jì)算速度為最大速度5.49億億次,藍(lán)月帝國(guó)目前世界運(yùn)算最方便的超級(jí)計(jì)算機(jī)。超級(jí)計(jì)算機(jī)性能的發(fā)展按照萬(wàn)倍定律,即每隔10年超級(jí)計(jì)算計(jì)的性能是會(huì)增強(qiáng)1000倍。而伴隨著計(jì)算能力的提升,更多難以可以計(jì)算的數(shù)據(jù)都將被挖掘點(diǎn)出去。
以內(nèi)觀點(diǎn)若有不足,還請(qǐng)不當(dāng)之處
卷積神經(jīng)網(wǎng)絡(luò)如何進(jìn)行圖像識(shí)別?
首先要清楚民間的圖像處理是如何做的。
舉一個(gè)也不是很詞語(yǔ)代替的例子,比如說(shuō)最簡(jiǎn)單的邊緣檢測(cè)。
1.邊緣檢測(cè)算子,遍歷增幅圖像,可以我得到該圖像的邊緣信息。也就是該圖像的特征信息。
2.我們可以不實(shí)際比較好和目標(biāo)圖像的的邊緣信息的歐式距離,進(jìn)行可以確定兩者的相似性。
相對(duì)于卷積神經(jīng)網(wǎng)絡(luò),你也可以發(fā)現(xiàn)自己,卷積層中,是個(gè)帶有邊緣檢測(cè)的算子。對(duì)圖像通過(guò)遍歷,分離提取圖像特征信息。但是通過(guò)網(wǎng)絡(luò)得三次不斷迭代,說(shuō)是也可以分離提取出圖像的深層滲透特征。
所以我說(shuō)卷積神經(jīng)網(wǎng)絡(luò)本質(zhì)上肯定圖像特征提取比較的過(guò)程。