別擔(dān)心,信息雖然是不確定的,但還是有辦法將它們進(jìn)行量化的。人們根據(jù)信息的概念,可以歸納出信息是有以下的幾個特點(diǎn)的:
1. 消息發(fā)生的概率P(x)越大,信息量越??;反之,發(fā)生的概率越小,信息量就越大。可見,信息量(我們用I來表示)和消息發(fā)生的概率是相反的關(guān)系。
2. 當(dāng)概率為1時,百分百發(fā)生的事,地球人都知道,所以信息量為0。
3. 當(dāng)一個消息是由多個獨(dú)立的小消息組成時,那么這個消息所含信息量應(yīng)等于各小消息所含信息量的和。