Keras還是TensorFlow，程序員該如何選擇深度學(xué)習(xí)框架？如果想盡可能快速并且以少量的代碼建立并測(cè)試神經(jīng)網(wǎng)絡(luò)，keras是最快速的， Sequential API和Model的功能十分強(qiáng)大。并

Keras還是TensorFlow，程序員該如何選擇深度學(xué)習(xí)框架？

如果想盡可能快速并且以少量的代碼建立并測(cè)試神經(jīng)網(wǎng)絡(luò)，keras是最快速的， Sequential API和Model的功能十分強(qiáng)大。并且keras的設(shè)計(jì)十分用戶友好，以數(shù)據(jù)輸入輸為例，對(duì)比keras簡(jiǎn)單的操作，tensorflow解碼編碼的構(gòu)建過程特別繁雜（尤其對(duì)于初學(xué)者來說，大量的記憶過程上手非常痛苦）。除此之外，keras將模塊化作為設(shè)計(jì)原則之一，使用者可以各按所需進(jìn)行組合。如果只是想快速地搭建常見的模型來實(shí)現(xiàn)自己的想法，keras可以作為首選。

但是，keras在封裝后會(huì)變得很不靈活，并且加上它本身速度也比較慢，如果是高度封裝，前面提到的缺點(diǎn)會(huì)更加明顯，除了一些對(duì)速度要求很低的工業(yè)應(yīng)用，tensorflow會(huì)因?yàn)楦咚俣贿x擇

如果在驗(yàn)證自己想法的時(shí)候，不想用既有的設(shè)定而是想要自己定義損失函數(shù)、測(cè)度、層數(shù)等等，相比keras，tensorflow提供了更多個(gè)性的空間。此外，對(duì)神經(jīng)網(wǎng)絡(luò)控制力度的大小會(huì)很大程度決定對(duì)網(wǎng)絡(luò)的理解和優(yōu)化工作，而keras種提供的權(quán)限很少，tensorflow相反給了更多操控權(quán)，比如對(duì)多個(gè)變量中的某一變量是否進(jìn)行訓(xùn)練、對(duì)梯度進(jìn)行操作(以獲取訓(xùn)練的進(jìn)展)等等。

雖然二者都提供深度學(xué)習(xí)模型通常所需的功能性，但是，如果使用者還追求一些更高階的功能性的選擇，像是進(jìn)行特殊種類模型的研究，就要求諸tensorflow了。比如，如果想要運(yùn)算加速，可以使用tensorflow的線程功能，多線程實(shí)行同一對(duì)話。另外，它還提供調(diào)試器的功能，對(duì)推斷bug和加速運(yùn)算都有幫助。

請(qǐng)問神經(jīng)網(wǎng)絡(luò)有多個(gè)輸出的回歸問題，損失函數(shù)如何定義比較合理？

個(gè)人認(rèn)為有多個(gè)輸出倒和損失函數(shù)的類型選擇沒有特別直接的關(guān)系，一般使用交叉熵就沒什么問題，就是用mse也不會(huì)有特別顯著的差別，不過最好加上一范數(shù)(計(jì)算量略小些)的正則化因子，倒是這個(gè)輸出到底有多大是影響算法收斂的關(guān)鍵因素，因?yàn)槿绻枰獙?duì)結(jié)果進(jìn)行歸一化也是很耗費(fèi)機(jī)器時(shí)間的，如輸出實(shí)在是太多，比如超過了上千個(gè)，那么可以考慮試試層次式的softmax，代碼可參看word2vec，希望對(duì)你有幫助

邏輯回歸為什么使用對(duì)數(shù)損失函數(shù)？

兩種方法都是常見的分類算法，從目標(biāo)函數(shù)來看，區(qū)別在于邏輯回歸采用的是logistical loss，svm采用的是hinge loss.這兩個(gè)損失函數(shù)的目的都是增加對(duì)分類影響較大的數(shù)據(jù)點(diǎn)的權(quán)重，減少與分類關(guān)系較小的數(shù)據(jù)點(diǎn)的權(quán)重.SVM的處理方法是只考慮support vect。

卷積神經(jīng)損失函數(shù)怎么加入正則化？

【AI瘋狂進(jìn)階——正則化篇 - 今日頭條】https://m.toutiaocdn.com/item/6771036466026906123/?app=news_article&timestamp=1576629967&req_id=201912180846060100140470162DE60E99&group_id=6771036466026906123&tt_from=copy_link&utm_source=copy_link&utm_medium=toutiao_ios&utm_campaign=client_share

神經(jīng)網(wǎng)絡(luò)正則化技術(shù)包括數(shù)據(jù)增強(qiáng)，L1，L2，batchnorm，dropout等技術(shù)，我在上面的文章中詳細(xì)總結(jié)了神經(jīng)網(wǎng)路正則化的技術(shù)以及相關(guān)的問題，如果有興趣想可以關(guān)注我，持續(xù)為你帶來AI相關(guān)的理論到實(shí)踐應(yīng)用。