1. No category

情報理論 レポート課題 / Information Theory Report Assignment
提出締切：平成 27 年 5 月 12 日
due date: May 12, 2015
提出場所 / submit to：A612
課題 1：
２本の通信路𝐶1 , 𝐶2が並列に存在する状況を考える．𝐶1 , 𝐶2への入力は同一の𝑋であり，𝐶1からの出力を𝑌1,
𝐶2 からの出力を𝑌2 とする．このとき，「𝑌1だけを知るより，𝑌1 , 𝑌2 の両方を知る方が，𝑋に関して多くの情
報を得ることができる」こと，すなわち，𝐼(𝑋; 𝑌1 , 𝑌2 ) ≥ 𝐼(𝑋; 𝑌1 )となることを示せ．ただし
𝐼(𝑋; 𝑌1 , 𝑌2 ) = 𝐻(𝑋, 𝑌1 , 𝑌2 ) − 𝐻(𝑋|𝑌1 , 𝑌2 ),
𝐻(𝑋, 𝑌1 , 𝑌2 ) = ∑
∑
∑
−𝑃𝑋𝑌1 𝑌2 (𝑥, 𝑦1 , 𝑦2 ) log2 𝑃𝑋𝑌1 𝑌2 (𝑥, 𝑦1 , 𝑦2 )
𝑥∈𝐷(𝑋) 𝑦1 ∈𝐷(𝑌1 ) 𝑦2 ∈𝐷(𝑌2 )
𝐻(𝑋|𝑌1 , 𝑌2 ) =
∑
∑
𝑦1 ∈𝐷(𝑌1 ) 𝑦2 ∈𝐷(𝑌2 )
𝑃𝑌1 𝑌2 (𝑦1 , 𝑦2 ) ∑ −𝑃𝑋|𝑌1 𝑌2 (𝑥|𝑦1 , 𝑦2 ) log2 𝑃𝑋|𝑌1 𝑌2 (𝑥|𝑦1 , 𝑦2 )
𝑥∈𝐷(𝑋)
である．
課題 2：
赤いサイコロと青いサイコロ（いずれも 1 から 6 の目を持つ公正なサイコロとする）を同時に投げ，赤
いサイコロの目を𝑋，２つのサイコロの目の和を𝑌とするとき，𝐼(𝑋; 𝑌)を計算せよ．
Question 1:
An identical input 𝑋 is given to two parallel communication channels 𝐶1 and 𝐶2, and 𝐶1 and 𝐶2
output 𝑌1 and 𝑌2 , respectively. Show that 𝐼(𝑋; 𝑌1 , 𝑌2 ) ≥ 𝐼(𝑋; 𝑌1 ), which means that we have more
information of 𝑋 if we know both of 𝑌1 and 𝑌2, compared to just knowing a single 𝑌1. Refer the
above Japanese section for the related definitions.
Question 2:
Roll a red dice and a blue dice (we assume they are both fair dices with spots from 1 to 6). Let 𝑋 be
the outcome of the red dice and 𝑌 be the sum of outcomes of the two dice. Compute 𝐼(𝑋; 𝑌).
このトレーに提出のこと
Put your report on this tray