正則化的方法是什么？定義：正則化是指在線性代數(shù)理論中，不適定問(wèn)題通常由一組線性代數(shù)方程組來(lái)定義，這些方程組通常來(lái)源于具有大量條件的不適定反問(wèn)題。條件數(shù)過(guò)大意味著舍入誤差或其他誤差會(huì)嚴(yán)重影響問(wèn)題的結(jié)果。

正則化的方法是什么？

定義：正則化是指在線性代數(shù)理論中，不適定問(wèn)題通常由一組線性代數(shù)方程組來(lái)定義，這些方程組通常來(lái)源于具有大量條件的不適定反問(wèn)題。條件數(shù)過(guò)大意味著舍入誤差或其他誤差會(huì)嚴(yán)重影響問(wèn)題的結(jié)果。另外，我們給出了一個(gè)解釋性的定義：對(duì)于線性方程AX=B，當(dāng)解X不存在或不唯一時(shí)，就是所謂的不適定問(wèn)題。但是在很多情況下，我們需要解決不適定問(wèn)題，那么怎么辦呢？對(duì)于解不存在的情況，通過(guò)增加一些條件來(lái)尋找近似解；對(duì)于解不唯一的情況，通過(guò)增加一些限制來(lái)縮小解的范圍。這種通過(guò)增加條件或限制來(lái)解決病態(tài)問(wèn)題的方法稱為正則化方法。正則化就是正則化，就是正則化和調(diào)整。通過(guò)一些調(diào)整或其他方法，病態(tài)問(wèn)題也可以得到唯一的解決方案。在這個(gè)平差過(guò)程中，采用的技術(shù)是正則化技術(shù)，采用的方法是正則化方法。求解線性方程組的標(biāo)準(zhǔn)方法是最小二乘法，即求解最小值，對(duì)于病態(tài)的線性方程組，Tikhonov提出的方法稱為Tikhonov矩陣

簡(jiǎn)而言之，機(jī)器學(xué)習(xí)就是根據(jù)樣本數(shù)據(jù)訓(xùn)練模型，然后用這個(gè)模型計(jì)算出測(cè)試數(shù)據(jù)的輸出值。由于樣本數(shù)據(jù)存在一定的誤差，訓(xùn)練后的模型容易出現(xiàn)“過(guò)擬合”（即模型與樣本數(shù)據(jù)幾乎匹配，但不是實(shí)際模型）。正則化是為了解決“過(guò)擬合”問(wèn)題，使模型更接近實(shí)際情況，防止被錯(cuò)誤的樣本數(shù)據(jù)“偏誤”。

在上圖中，圖1擬合不足（通常是因?yàn)闃颖緮?shù)據(jù)太少），圖2擬合過(guò)度。該模型雖然與樣本數(shù)據(jù)完全吻合，但過(guò)于復(fù)雜和陌生，明顯脫離實(shí)際。圖3是添加正則化后接近真實(shí)模型的結(jié)果。

機(jī)器學(xué)習(xí)中常常提到的正則化到底是什么意思？

[AI瘋狂高級(jí)正則化-今日頭條]https://m.toutiaocdn.com/item/6771036466026906123/？app=newsuArticle&timestamp=157662997&reqid=201912180846060100140470162DE60E99&groupid=6771036466026906123&ttfrom=copylink&utmuSource=copylink&utmuMedium=toutiaoios&utmuCampaign=client神經(jīng)網(wǎng)絡(luò)正則化技術(shù)包括數(shù)據(jù)增強(qiáng)、L1、L2、batchnorm、dropout等技術(shù)。本文對(duì)神經(jīng)網(wǎng)絡(luò)正則化技術(shù)及相關(guān)問(wèn)題進(jìn)行了詳細(xì)的綜述。如果你有興趣，可以關(guān)注我，繼續(xù)把人工智能相關(guān)理論帶到實(shí)際應(yīng)用中去。