由于在實(shí)際的通信系統(tǒng)中，消息往往是指發(fā)送的某些符號(hào)。這些符號(hào)到底能攜帶多少信息量，與這些符號(hào)發(fā)生的概率有關(guān)，而對(duì)于任何接收端來(lái)說(shuō)，這些符號(hào)發(fā)生的概率是一定的，不會(huì)說(shuō)對(duì)這個(gè)接收機(jī)是這個(gè)概率，對(duì)那個(gè)接收機(jī)是那個(gè)概率。比如有一串符號(hào)221234，這串符號(hào)由1，2，3，4四個(gè)符號(hào)組成，假設(shè)四個(gè)符號(hào)出現(xiàn)的概率都是1/4，那么在這串符號(hào)中，2出現(xiàn)了3次，所以2所攜帶的信息量是-3×log2(1/4)=6bit。我們需要明白，通信系統(tǒng)中傳送的符號(hào)，就相當(dāng)于我們現(xiàn)在談?wù)摰南ⅰ?/span>由于在實(shí)際的通信系統(tǒng)中，消息往往是指發(fā)送的某些符號(hào)。這些符號(hào)到底能攜帶多少信息量，與這些符號(hào)發(fā)生的概率有關(guān)，而對(duì)于任何接收端來(lái)說(shuō)，這些符號(hào)發(fā)生的概率是一定的，不會(huì)說(shuō)對(duì)這個(gè)接收機(jī)是這個(gè)概率，對(duì)那個(gè)接收機(jī)是那個(gè)概率。比如有一串符號(hào)221234，這串符號(hào)由1，2，3，4四個(gè)符號(hào)組成，假設(shè)四個(gè)符號(hào)出現(xiàn)的概率都是1/4，那么在這串符號(hào)中，2出現(xiàn)了3次，所以2所攜帶的信息量是-3×log2(1/4)=6bit。我們需要明白，通信系統(tǒng)中傳送的符號(hào)，就相當(dāng)于我們現(xiàn)在談?wù)摰南ⅰ?/span>