等確率3事象の平均情報量
互いに排他的な3つの事象が、それぞれ等しい確率で起こる。1事象あたりの平均情報量(エントロピー)に最も近い値はどれか。
解説を見る
各事象の確率は 1/3。平均情報量 H = -Σ p log2 p = -3 × (1/3) log2(1/3) = log2(3) ≈ 1.585 ビット。2ビットあれば3事象を区別できる(4通り表せる)が、情報量そのものは 2 未満になる。
誤答の解説
B1.00 ビットは2事象が等確率のときの値(log2 2)。事象数が3なのでこれより大きい。
C1.50 は log2(3) の概算として粗すぎる。正しくは約1.585。
D3.00 は事象数そのものであって情報量ではない。log2(3) と混同している。
ヒント
・等確率 n 事象のエントロピーは log2(n) ビット。
・log2(3) は log2(2)=1 と log2(4)=2 の間。