別擔心，信息雖然是不確定的，但還是有辦法將它們進行量化的。人們根據(jù)信息的概念，可以歸納出信息是有以下的幾個特點的：
1． 消息發(fā)生的概率P(x)越大，信息量越??；反之，發(fā)生的概率越小，信息量就越大。可見，信息量（我們用I來表示）和消息發(fā)生的概率是相反的關(guān)系。
2． 當概率為1時，百分百發(fā)生的事，地球人都知道，所以信息量為0。
3． 當一個消息是由多個獨立的小消息組成時，那么這個消息所含信息量應(yīng)等于各小消息所含信息量的和。
根據(jù)這幾個特點，如果用數(shù)學(xué)上對數(shù)函數(shù)來表示，就正好可以表示信息量和消息發(fā)生的概率之間的關(guān)系式：I=-loga(P(x))。這樣，信息不就可以被量化了嗎？既然信息可以被量化，那么總得給它一個單位吧？人的體重是以公斤來計量的，人的身高是以米來計量的，那么信息量該以什么單位來計量呢？通常是以比特（bit）為單位來計量信息量的，這樣比較方便，因為一個二進制波形的信息量恰好等于1bit。