※ 引述《innominate (innominate)》之銘言:
: https://machinelearningmastery.com/what-is-information-entropy/
: A Gentle Introduction to Information Entropy
ㄟ,危機的例子是這樣說
就是一個完全公平的硬幣,丟之前會是哪面一半一半,完全不可能預測
所以丟硬幣產生出來一個結果以後,這個事件產生的訊息量是完整的
中間的比較難理解的譬如說80%正面這種情況先不管,直接跳到最極端
是如果一個出千硬幣,就是根本兩面都是正面,丟之前就知道一定正面
所以丟硬幣產生出來一個結果,訊息量是 0
這邊根本沒有所謂講謊話這種事
丟硬幣出千的人之前就知道使用出千硬幣所以丟硬幣的結果對他來說訊息量是 0
至於他要去騙別人這部分根本不是這個公式要管的事情
丟硬幣的結果是直接觀察的,當然沒有所謂謊言
如果你要討論到謊言問題,那應該是要討論香農另一個公式,信噪比的那個吧