梯度下降法和隨機(jī)梯度下降法的區(qū)別？梯度下降算法是一個寬泛的概念，意思是：當(dāng)你優(yōu)化一個函數(shù)/分類器時，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？

梯度下降法和隨機(jī)梯度下降法的區(qū)別？

梯度下降算法是一個寬泛的概念，意思是：當(dāng)你優(yōu)化一個函數(shù)/分類器時，如何減少它的誤差？你不妨選擇梯度下降的方向，這很可能是最好的方向。既然你知道方向是梯度，你要走多久？答案是：隨機(jī)的。因此，梯度下降算法包括隨機(jī)梯度下降算法。

算法的核心是什么，數(shù)學(xué)就是算法嗎？

我認(rèn)為這種理解并不全面。首先，算法的核心是如何利用抽象的數(shù)學(xué)模型來解決這個實際問題，而實現(xiàn)的手段是通過代碼編程，所以算法的核心是數(shù)學(xué)，基本上是精確的。但是說數(shù)學(xué)是一種算法是一個大問題。數(shù)學(xué)涉及面很廣。它是一個自洽系統(tǒng)。隨著人類認(rèn)識水平的提高，數(shù)學(xué)也在不斷發(fā)展，許多新的數(shù)學(xué)工具被開發(fā)出來幫助我們解決實際問題。

因此，如果數(shù)學(xué)是它背后的真理理論，那么算法就是用部分真理來幫助我們解決一些具體問題。這是我的理解。