sigmoid和softmax區(qū)別 為什么交叉熵cross-entropy可以用于計算代價？
為什么交叉熵cross-entropy可以用于計算代價？如果你是一個面試者，怎么判斷一個面試官的機器學習水平？請問神經(jīng)網(wǎng)絡有多個輸出的回歸問題，損失函數(shù)如何定義比較合理？在我看來，多重輸出與損失函數(shù)的
為什么交叉熵cross-entropy可以用于計算代價？
如果你是一個面試者，怎么判斷一個面試官的機器學習水平？
請問神經(jīng)網(wǎng)絡有多個輸出的回歸問題，損失函數(shù)如何定義比較合理？
在我看來，多重輸出與損失函數(shù)的類型選擇沒有直接關系。一般來說，使用交叉熵是沒有問題的，即使MSE也不會產(chǎn)生特別顯著的差異。但是，最好添加范數(shù)的正則化因子（計算量較少）。但是，輸出量有多大是影響算法收斂的關鍵因素，因為如果需要對結果進行歸一化也是非常費時的，比如輸出量太多，比如一千多，那么可以考慮試試分層softmax，代碼可以看word2vec，希望對你有所幫助