最速下降法迭代公式推導(dǎo) 怎樣由最速下降法變成牛頓法?
怎樣由最速下降法變成牛頓法?最速下降法的迭代點(diǎn)在逼近最小點(diǎn)的過程中采用鋸齒形路徑,容易產(chǎn)生鋸齒現(xiàn)象,導(dǎo)致每次迭代的距離越來越小,收斂速度不快。如果目標(biāo)函數(shù)具有連續(xù)的二階偏導(dǎo)數(shù),牛頓法可以快速收斂到問題
怎樣由最速下降法變成牛頓法?
最速下降法的迭代點(diǎn)在逼近最小點(diǎn)的過程中采用鋸齒形路徑,容易產(chǎn)生鋸齒現(xiàn)象,導(dǎo)致每次迭代的距離越來越小,收斂速度不快。如果目標(biāo)函數(shù)具有連續(xù)的二階偏導(dǎo)數(shù),牛頓法可以快速收斂到問題的最小點(diǎn)。