既然使用神經(jīng)網(wǎng)絡也可以解決分類問題，那SVM、決策樹這些算法還有什么意義呢？這取決于數(shù)據(jù)量和樣本數(shù)。不同的樣本數(shù)和特征數(shù)據(jù)適合不同的算法。像神經(jīng)網(wǎng)絡這樣的深度學習算法需要訓練大量的數(shù)據(jù)集來建立更好的預

既然使用神經(jīng)網(wǎng)絡也可以解決分類問題，那SVM、決策樹這些算法還有什么意義呢？

這取決于數(shù)據(jù)量和樣本數(shù)。不同的樣本數(shù)和特征數(shù)據(jù)適合不同的算法。像神經(jīng)網(wǎng)絡這樣的深度學習算法需要訓練大量的數(shù)據(jù)集來建立更好的預測模型。許多大型互聯(lián)網(wǎng)公司更喜歡深度學習算法，因為他們獲得的用戶數(shù)據(jù)是數(shù)以億計的海量數(shù)據(jù)，這更適合于卷積神經(jīng)網(wǎng)絡等深度學習算法。

如果樣本數(shù)量較少，則更適合使用SVM、決策樹和其他機器學習算法。如果你有一個大的數(shù)據(jù)集，你可以考慮使用卷積神經(jīng)網(wǎng)絡和其他深度學習算法。

以下是一個圖表，用于說明根據(jù)樣本數(shù)量和數(shù)據(jù)集大小選擇的任何機器學習算法。

如果你認為它對你有幫助，你可以多表揚，也可以關注它。謝謝您

深度神經(jīng)網(wǎng)絡是否夸張地過擬合了？

這不可能是一樣的。

1. 過度裝配可分為許多情況。一是現(xiàn)在的情況太多了。這種神經(jīng)網(wǎng)絡能對許多情況給出正確的答案。即使它是過度安裝，你也無法證明它。此外，即使它能工作和排氣，也沒有壞處。

2. 是否過擬合與我們的神經(jīng)網(wǎng)絡模型和訓練集有關。當二者的組合過擬合時，它在訓練集上運行良好，在驗證集上也會出現(xiàn)問題。現(xiàn)在有一些方法可以對訓練集的數(shù)據(jù)進行預處理、多次輸入和多次訓練。

3. 目前，過度擬合的問題是不可避免的。培訓本身就是一種適應過程。如果未來在數(shù)學原理或應用這方面有質的突破，可能有解決的機會。

請教大牛神經(jīng)網(wǎng)絡的過擬合問題？

你的問題很模糊。你想知道神經(jīng)網(wǎng)絡的過擬合是什么樣的嗎？為什么會有過擬合。對于第一個問題，神經(jīng)網(wǎng)絡的過擬合類似于支持向量機、高斯混合模型等建模方法的過擬合，說明訓練數(shù)據(jù)集的建模效果很好，而測試數(shù)據(jù)集的建模效果很差，由于強學習能力是預測模型中的噪聲會湮滅有用信息，導致泛化能力差。對于第二個問題，產(chǎn)生上述現(xiàn)象的主要原因是隱層節(jié)點過多（隱層節(jié)點越多，學習能力越強），這使得預測模型在訓練過程中挖掘訓練數(shù)據(jù)集中的噪聲，即噪聲會湮滅有用信息。因此，在使用神經(jīng)網(wǎng)絡建模時，必須處理模型過擬合的問題。一方面，我們可以增加樣本數(shù)據(jù)集，另一方面，我們可以使用交叉驗證來選擇適當數(shù)量的隱層節(jié)點，在精度和泛化能力之間做出權衡。最常用的方法是加入正則化項，在一定程度上可以防止模型過擬合的問題。（機器學習算法和python學習）

為什么自然語言處理很難？

是非常困難的，但是它比自然語言處理在前20年的進展要好得多。最近，因為我們想研究人工智能自然語言處理項目，我們一直在閱讀相關書籍，從數(shù)學的奧秘，統(tǒng)計理論，概率論等。！讀了這么多書之后，我發(fā)現(xiàn)很多東西都取決于你的堅實基礎。為什么自然語言處理的頭20年如此困難，或者沒有進展？簡單地說，人的習慣性思維決定了你對事物的理解方式。

在過去的20年里，科學家對自然語言處理的研究一直局限于或局限于人類學習語言的方式。簡而言之，就是用計算機來模仿人腦。當時，大多數(shù)科學家認為，機器要翻譯或識別語音，就必須讓計算機理解我們的語言，而要做到這一點，就必須讓計算機有能力模仿人類什么樣的智慧，這是人類理解的普遍規(guī)律，我們不應該嘲笑他們，因為只有這樣的試錯，才能取得今天的成就。

現(xiàn)在，語音識別和翻譯已經(jīng)做得很好了，但是很多不在我們機器學習研究領域的人仍然錯誤地認為語音識別和翻譯是通過理解自然語言的計算機來實現(xiàn)的，而這實際上是通過數(shù)學和統(tǒng)計學來實現(xiàn)的。

從規(guī)則到統(tǒng)計的進步是人類對事物理解的突破。統(tǒng)計語言模型的建立是當今自然語言處理的基礎和關鍵，但許多事物都會有其固有的缺陷，無法改變。

數(shù)的關系，公式的計算，n元模型在語言模型中的定位，為什么馬爾可夫假設中n的值這么小，涉及的知識太多，我這里不能一一回答。我只想說，純自然語言處理不像以前那么混亂，現(xiàn)在比以前好多了。困難不在于它本身，而在于它涉及太多的知識點。。。。

可以通過直接減少hidden layer、hidden unit而不是加正則化來解決神經(jīng)網(wǎng)絡過擬合嗎？

簡單的答案是肯定的。復雜的答案是不確定的（見下文）。

這個概念。

（圖片作者：chabacano，許可證：CC by sa 4.0）

從圖像中可以明顯看出，過度擬合的曲線過于曲折（復雜），對現(xiàn)有數(shù)據(jù)擬合得非常好，但它不能很好地描述數(shù)據(jù)的規(guī)律，因此面對新數(shù)據(jù)，我們不得不停下來。

從上面我們得到一個直覺，過度擬合的模型往往比正確的模型更復雜。

。您所說的“直接減少隱藏層和隱藏單元的數(shù)量”使網(wǎng)絡更薄、更窄正是簡化模型的方法。這個想法沒有問題。

但是，我們可能必須嘗試找出它是否有效。因為，一般來說，更復雜的網(wǎng)絡可能更有表現(xiàn)力。

一般來說，神經(jīng)網(wǎng)絡仍然是一個黑匣子。有時，正則化的效果更好，有時則不然。一些問題可能是復雜的網(wǎng)絡工作得很好，另一些問題可能是深度和狹窄的網(wǎng)絡工作得很好，另一些問題可能是薄而寬的網(wǎng)絡工作得很好，或者一些問題可能是簡單的網(wǎng)絡工作得很好。

具體來說，為了解決過擬合問題，除了簡化模型（即您稱之為“直接減少隱藏層、隱藏層、隱藏層”）外，還存在漏項（在某種意義上，我們可以看到模型的某些部分由于簡化模型的繞道而無法工作），以及人為增加稀疏性限制（稀疏性和簡化之間存在模糊關系）或盡快停止訓練。