什么是信息熵？信息是一個非常抽象的概念。人們常說信息多，或者信息少，但很難說到底有多少信息。例如，一本50萬字的中文書包含多少信息。直到1948年香農(nóng)提出“信息熵”的概念，他才解決了信息的定量測量問題

什么是信息熵？

信息是一個非常抽象的概念。人們常說信息多，或者信息少，但很難說到底有多少信息。例如，一本50萬字的中文書包含多少信息。

直到1948年香農(nóng)提出“信息熵”的概念，他才解決了信息的定量測量問題。信息熵一詞是C.E.香農(nóng)從熱力學(xué)中借用來的。熱力學(xué)中的熱熵是表征分子狀態(tài)無序程度的物理量。Shannon用信息熵的概念來描述信息源的不確定性。

信息論之父克勞德·埃爾伍德·香農(nóng)首先在數(shù)學(xué)語言中闡述了概率與信息冗余的關(guān)系。

信息論之父C.E.Shannon在1948年發(fā)表的論文《通信的數(shù)學(xué)理論》中指出，任何信息都有冗余，這與信息中每個符號（數(shù)字、字母或單詞）的概率或不確定性有關(guān)。

基于熱力學(xué)的概念，Shannon將排除冗余的平均信息量稱為“信息熵”，給出了計算信息熵的數(shù)學(xué)表達(dá)式。

算法的核心是什么，數(shù)學(xué)就是算法嗎？

我認(rèn)為這種理解并不全面。首先，算法的核心是如何利用抽象的數(shù)學(xué)模型來解決這個實際問題，而實現(xiàn)的手段是通過代碼編程，所以算法的核心是數(shù)學(xué)，基本上是精確的。但是說數(shù)學(xué)是一種算法是一個大問題。數(shù)學(xué)涉及面很廣。它是一個自洽系統(tǒng)。隨著人類認(rèn)識水平的提高，數(shù)學(xué)也在不斷發(fā)展，許多新的數(shù)學(xué)工具被開發(fā)出來幫助我們解決實際問題。

因此，如果數(shù)學(xué)是它背后的真理理論，那么算法就是用部分真理來幫助我們解決一些具體問題。這是我的理解。

從哪本書開始學(xué)習(xí)Python比較好？

如果是基本的，我想找一個在線網(wǎng)站學(xué)習(xí)如何開始是可以的。如果你想系統(tǒng)地學(xué)習(xí)，我建議從不同的方向?qū)W習(xí)會更有效率。例如下面三個，分別為安全域、數(shù)據(jù)分析、網(wǎng)絡(luò)爬蟲等。如果是游戲指導(dǎo)或機(jī)器學(xué)習(xí)，找另一個。。

29歲想學(xué)python，有哪些建議？

學(xué)習(xí)Python與年齡無關(guān)。去年，我33歲的時候在openstack上學(xué)習(xí)Python。在我的職業(yè)生涯中，我學(xué)過幾種語言，包括C、C、PHP和python。

就學(xué)習(xí)內(nèi)容而言，我認(rèn)為學(xué)習(xí)一門語言主要包括兩個方面：

1）語言本身的語法，其實內(nèi)容很少

2）與語言相關(guān)的系統(tǒng)庫和第三方庫，內(nèi)容多，難度大

另外，我的經(jīng)驗是如何學(xué)好一門語言的實踐，實踐包括兩個方面：

1）閱讀更多的代碼，你可以看到更好的開源項目，如openstack或Django等。

2）編寫更多的代碼。如果你的工作中有項目，如果沒有，你可以寫一些小項目。例如，開發(fā)一個python版本的redis。