機(jī)器學(xué)習(xí)需要哪些數(shù)學(xué)基礎(chǔ)？對于搞機(jī)器學(xué)習(xí)的同學(xué)來說，高等數(shù)學(xué)、線性代數(shù)和概率論與數(shù)理統(tǒng)計(jì)是最重要的三門的數(shù)學(xué)基礎(chǔ)了。下面我來分別說明這三方面在機(jī)器學(xué)習(xí)中的作用一. 高等數(shù)學(xué)高等數(shù)學(xué)里面的微積分、牛頓迭

機(jī)器學(xué)習(xí)需要哪些數(shù)學(xué)基礎(chǔ)？

對于搞機(jī)器學(xué)習(xí)的同學(xué)來說，高等數(shù)學(xué)、線性代數(shù)和概率論與數(shù)理統(tǒng)計(jì)是最重要的三門的數(shù)學(xué)基礎(chǔ)了。下面我來分別說明這三方面在機(jī)器學(xué)習(xí)中的作用

一. 高等數(shù)學(xué)高等數(shù)學(xué)里面的微積分、牛頓迭代、拉格朗日乘數(shù)法、泰勒展開等等知識點(diǎn)在機(jī)器學(xué)習(xí)中都有應(yīng)用到。例如在邏輯回歸模型求梯度時(shí)候需要求偏導(dǎo)、優(yōu)化目標(biāo)使用的牛頓迭代方法、帶約束優(yōu)化問題的SVM需要用到拉格朗日乘數(shù)法等等，還有其它高等數(shù)學(xué)的知識點(diǎn)在機(jī)器學(xué)習(xí)中或多或少都有體現(xiàn)。

二. 線性代數(shù)推薦系統(tǒng)使用的SVD分解、張量分解、非負(fù)矩陣分解NMF，PCA主成分分析中求特征值、矩陣運(yùn)算。下面我貼一下之前我用矩陣求導(dǎo)解最小二乘問題的公式推導(dǎo)過程，可以體會一下線性代數(shù)的重要程度。

最小二乘的解，可以通過梯度下降迭代或牛頓迭代方法求解，但也可以基于矩陣求導(dǎo)來計(jì)算，它的計(jì)算更加簡潔高效，不需要大量迭代，只需解一個(gè)正規(guī)方程組。

總之，線性代數(shù)對于機(jī)器學(xué)習(xí)來說比高數(shù)還重要。

三. 概率論與數(shù)理統(tǒng)計(jì)概率論與數(shù)理統(tǒng)計(jì)那就更重要了，比如樸素貝葉斯分類和概率圖模型用到的貝葉斯公式，高斯過程、最大熵模型，采樣方法，NLP領(lǐng)域的大部分算法都與概率論相關(guān)，像基于LDA的主題模型、基于CRF的序列標(biāo)注模型、分詞系統(tǒng)等等。

所以要搞機(jī)器學(xué)習(xí)，高等數(shù)學(xué)、線性代數(shù)和概率論與數(shù)理統(tǒng)計(jì)都是必不可少的數(shù)學(xué)基礎(chǔ)。

優(yōu)化算法有哪些？

優(yōu)化算法有很多，關(guān)鍵是針對不同的優(yōu)化問題，例如可行解變量的取值（連續(xù)還是離散）、目標(biāo)函數(shù)和約束條件的復(fù)雜程度（線性還是非線性）等，應(yīng)用不同的算法。

對于連續(xù)和線性等較簡單的問題，可以選擇一些經(jīng)典算法，如梯度、Hessian 矩陣、拉格朗日乘數(shù)、單純形法、梯度下降法等。而對于更復(fù)雜的問題，則可考慮用一些智能優(yōu)化算法，如遺傳算法和蟻群算法，此外還包括模擬退火、禁忌搜索、粒子群算法等。

機(jī)械本科，要不要轉(zhuǎn)行算法領(lǐng)域？

作為一名科技領(lǐng)域的從業(yè)者，我來回答一下這個(gè)問題。

首先，目前算法崗位的人才培養(yǎng)主要以研究生教育為主，本科生轉(zhuǎn)向算法崗位具有較大的難度，一方面算法的設(shè)計(jì)、訓(xùn)練和驗(yàn)證需要數(shù)據(jù)和算力的支撐，另一方面算法設(shè)計(jì)領(lǐng)域的迭代速度也比較快，初學(xué)者在脫離課題的情況下，學(xué)習(xí)難度還是比較大的，也很難會深入下去。

算法崗位在大數(shù)據(jù)和人工智能技術(shù)的推動(dòng)下，近些年來得到了廣泛的關(guān)注，由于科技企業(yè)紛紛布局大數(shù)據(jù)和人工智能領(lǐng)域，所以曾掀起了算法人才的“爭奪戰(zhàn)”，但是隨著人工智能產(chǎn)品目前依然存在落地難問題，所以目前算法崗位的人才招聘下滑趨勢明顯。

從2018年和2019年這兩屆研究生的就業(yè)情況來看，算法崗位的招聘數(shù)量還是比較少的，以往大熱的視覺方向和自然語言處理方向的算法崗位也出現(xiàn)了較為明顯的下滑，所以不少相關(guān)方向的研究生都轉(zhuǎn)向了開發(fā)崗位，這是一個(gè)比較明顯的變化。所以，在這個(gè)大背景下，機(jī)械專業(yè)的本科生要想轉(zhuǎn)向算法領(lǐng)域，就業(yè)可能存在比較大的問題。

算法崗位招聘數(shù)量下降并不代表大數(shù)據(jù)和人工智能的研發(fā)放緩了腳步，實(shí)際上導(dǎo)致這種情況的主要原因是早期不少科技企業(yè)在沒有做好實(shí)際規(guī)劃的情況下，就招聘了大量的算法人才，而由于算法設(shè)計(jì)往往需要一個(gè)系統(tǒng)的過程，所以算法人才的崗位迭代速度并沒有開發(fā)崗位那么快，所以未來算法崗位的招聘將很難再出現(xiàn)大面積爆發(fā)的情況。

最后，近兩年大數(shù)據(jù)開發(fā)崗位的人才需求量還是比較大的，可以重點(diǎn)考慮一下。

我從事互聯(lián)網(wǎng)行業(yè)多年，目前也在帶計(jì)算機(jī)專業(yè)的研究生，主要的研究方向集中在大數(shù)據(jù)和人工智能領(lǐng)域，我會陸續(xù)寫一些關(guān)于互聯(lián)網(wǎng)技術(shù)方面的文章，感興趣的朋友可以關(guān)注我，相信一定會有所收獲。

如果有互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等方面的問題，或者是考研方面的問題，都可以在評論區(qū)留言，或者私信我！