梯度下降法和隨機梯度下降法的區(qū)別？梯度下降算法是一個寬泛的概念，意思是：當(dāng)你優(yōu)化一個函數(shù)/分類器時，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？

梯度下降法和隨機梯度下降法的區(qū)別？

梯度下降算法是一個寬泛的概念，意思是：當(dāng)你優(yōu)化一個函數(shù)/分類器時，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？答案是：隨機的。因此，梯度下降算法包括隨機梯度下降算法。

算法的核心是什么，數(shù)學(xué)就是算法嗎？

我認為這種理解并不全面。首先，算法的核心是如何利用抽象的數(shù)學(xué)模型來解決這個實際問題，而實現(xiàn)的手段是通過代碼編程，所以算法的核心是數(shù)學(xué)，基本上是精確的。但是說數(shù)學(xué)是一種算法是一個大問題。數(shù)學(xué)涉及面很廣。它是一個自洽系統(tǒng)。隨著人類認識水平的提高，數(shù)學(xué)也在不斷發(fā)展，許多新的數(shù)學(xué)工具被開發(fā)出來幫助我們解決實際問題。

因此，如果數(shù)學(xué)是它背后的真理理論，那么算法就是用部分真理來幫助我們解決一些具體問題。這是我的理解。

深度學(xué)習(xí)最終會淘汰掉其他所有機器學(xué)習(xí)算法嗎？

謝謝。我可以確切地說，不！也許首先，為什么深度學(xué)習(xí)被稱為“深度”？從當(dāng)前技術(shù)的角度來看，深度學(xué)習(xí)結(jié)合底層特征，形成更抽象的屬性類別或特征的高層表示，從而發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。

深度學(xué)習(xí)屬于前者，它有很多參數(shù)需要調(diào)整，是一個非常大的參數(shù)模型。一般的機器學(xué)習(xí)模型屬于后者，它需要強大的特征來分離數(shù)據(jù)，最終得到不同的類別。

一般來說，目前深度學(xué)習(xí)確實有很多優(yōu)勢。例如，對我來說，這是非常簡單和暴力的。它不需要很長時間來調(diào)整參數(shù)，清理數(shù)據(jù)，并把它扔進去看看結(jié)果。如果不好，調(diào)整參數(shù)繼續(xù)嘗試。一般的機器學(xué)習(xí)模型不是這樣的。它需要大量的特征工程。但是，深度學(xué)習(xí)有一個問題，到目前為止還沒有解決的工程。它是一個可解釋性差的“黑匣子”，導(dǎo)致系統(tǒng)出現(xiàn)錯誤，無法快速找出原因或追溯以前的錯誤。所以在工程中，我們實際上更喜歡特征少的工程和解釋性強的模型來獲得更好的結(jié)果。我們期待著深學(xué)在未來科學(xué)技術(shù)的進一步發(fā)展。

我將在這里發(fā)表所有關(guān)于算法、機器學(xué)習(xí)和深度學(xué)習(xí)的有趣文章。

編寫代碼不容易。如果這篇文章對你有幫助，請喜歡