2009/10/6
第3回: 今日の目標
•
•
•
•
•
•
•
平均情報量を説明し、計算できる
シャノンの通信モデルを説明できる
情報源符号化の条件を示せる
通信路符号化の意味を示せる
標本化定理を説明できる
AD変換における量子化を説明できる
人間の五感による情報処理能力を推測できる
平均情報量
完全事象系(全ての要素の確率の和が1)
E1, E2, E3, ・・・,En
E=
i(Ei) = -log2 pi
p1 , p2 , p3 , ・・・,pn
事象の発生
E2 E1 E1 E3 E1 E2 E3 ・・・ En
例: a big earthquake occurred ・・・
N個の事象
事象Eiが発生した数:mi (N=Σmi)
事象Eiの情報量
:-mi log2 pi
情報量の総和
平均情報量=
発生した事象の数
:H(E)
-Σmilog2pi
H(E) =
N
lim
N→∞
mi
N
= pi
H(E) = -Σpilog2pi [bit/事象]
:完全事象系Eのエントロピー
(平均情報量)
英文(アルファベット+スペース:27文字)
(1)出現確率が全て等しいなら
1
1
H0 = -27× log2
= log227 = 4.75 bit
27
27
(2)現実の出現確率を使うと
H1 = -Σpilog2pi = 4.08 bit
例:コインを投げた時の事象
A1:表が出る、
A2:裏が出る
p(A1)=p(A2)=0.5のとき
A=
裏表対称なコイン
A1 A2
0.5 0.5
H(A) = -0.5 log20.5 - 0.5 log20.5 = -log22-1 = 1 bit
p(B1)=0.75
B=
p(B2)=0.25のとき
B1
B2
0.75 0.25
裏表いびつなコイン
H(B) = -0.75 log20.75 – -0.25 log20.25 = 0.811 bit
したがって
H(A)≧H(B)
Aの方が予想がつき難い(不確かさが大きい)
無記憶二元情報源
E1
p
1
E2
1-p
0.8
H(E)
E=
1.2
H(E) = -p log2p -(1-p)log2(1-p)
0.6
0.4
0.2
0
0
0.2
0.4
0.6
P
一般に
E=
E1 E2 ・・・・・・・・ En
p1 p2 ・・・・・・・・ pn
p1 = p2 = ・・・ = pn のとき、 H(E) = log2nで最大
0.8
1
通信のモデル
;Shannon
情報源
送信
送信
受信
符号器
通信路
復号器
符号 Decoder
Encoder 符号
雑音源
Noise source
情報伝達の基本定理
①通信路の容量
②雑音の混入
③通信路符号化定理
通信路の容量>情報発生量
⇒雑音混入情報を100%復元できる
受信
受信者
情報源符号化
記号
0
符号器
1
Vボルト
電気信号
通信路
0ボルト
情報
発生率
符号C1
yes
0.3
0
no
0.2
1
Neutral
0.5
10
発生率の高い記号は短い符号にする
符号C2
1
10
0
情報源を効率のよい符号に変換すること
=1情報源記号当りの平均符号長を短くする(データ圧縮)
可逆符号:一意に復元可能
通信路符号化
0.9
0
入
力
雑音など
0
0.1
0.1
出
力
誤った情報
1
1
0.9
情報源符号系列
ACAABC
情報源
情報源符号器
A⇒0
B⇒10
C⇒11
情報系列
011001011
符号語系列
000111111000・
通信路符号器
0⇒000
1⇒111
冗長化
情報源符号 通信路符号 受信
0
000
2つ又は3つ0ならば0
1
111
2つ又は3つ1ならば1
情報源
情報系列
ACAABC⇒ 011001011 通信路
通信路符号化
000111111000000111000111111
受信系列
復号情報
011101011
ACBBC
雑音
000011111000100111001111101
0 1 1 0 0 1 0 1 1
A C
A A B
C
000,001,010,100=>0
0.93+3×0.92×0.1=0.972
誤り確率:0.1⇒0.028:信頼性の向上
標本化定理
アナログ情報:音、明るさ、温度、・・・⇒電圧
x(t)
電
圧
x2 x
3 x
x1
4 x5
x6 x7
x8
Δt
t1 t2 t3 t4 t5 t6 t7 t8
時間 t
t2n
t0
T
a
f=1/T
x(t)= 0 +Σ(a
cos2πnft+b
sin2πnft)
n
n
n=1
2
f:基本周波数
w≧nfならば、Δt=1/2w =T/2nでサンプリングすれば、
x(t)を完全に再現できる。
1
:ナイキスト間隔
2w
量子化
電
圧 x(t)
8.0
6.0
x1
x2
x3 x x
4
5
x6 x7 x
8
4.0
2.0
0.0
t1 t2 t3 t4 t5 t6 t7 t8
x1=5.0
5
x2=6.0
6
量
x3=5.5 子 6
x4=4.6 化 5
x5=4.7
5
x6=6.8
7
x7=6.9
7
x8=6.1
6
時間 t
A-D変換
D-A変換
電
圧 x(t)
8.0
6.0
x1
x2
x3 x x
4
5
x6 x7 x
8
4.0
2.0
0.0
t1 t2 t3 t4 t5 t6 t7 t8
歪⇒量子化雑音
時間 t
人間の情報処理能力
(1)目で見える能力
テレビ画面
600点
525本
強
さ
10
走査線
Windows:96d/i, Mac:72d/i
デジタルカメラ?
1点 1点 3色
走査線(3色)
1点の場合の数:10×3
画面全体の場合の数
(10×3)525×600
1画面の情報量
I = log2(10×3)525×600
= 525×600× log2(30)
≒ 1.5×106 bit
1秒間30コマ
4~5× 107 bit/s
(2)目で見る能力
日本語を意識して読む: 10文字/s
文章: 漢字+ひらがな = 約3000個
1文字あたりの情報量
I = log23000 ≒ 12 bit/文字
10 [文字/s]× 12 [bit/文字] = 120 bit/s
(3)聞こえる能力
耳の感度:
FFT
音の振幅30dB~90dB
周波数100Hz~10000Hz(会話)
10Hz~50000Hz(全身):ピーク5000Hz
a [dB] = 20 log10(A/A0)、 A0 = 2×10-4dyn/cm2
60dB幅 ⇒ A/A0 = 1060/20=103
1秒間の音のサンプル:1~10000 Hz
1秒間の情報量: log2100010000= 104log2103 ≒ 105 bit/s
演習
1.いろは48文字が独立で等確率で出現する場合の平均情報量
はいくらか
2.1と6の目が出る確率がそれぞれ1/4、他の目の出る確率は
すべて1/8のサイコロの平均情報量はいくらか
3.振幅を1024のレベルで区別し、0.1msecごとにサンプリングした
音声波形1分間のデータは何ビットか。
4.カラーディスプレイの画面を横600点、縦400点に分けて1点の
3原色のレベルをそれぞれ8ビットで区別すると1画面当り何
バイトの情報になるか。また、1点では何色を区別できるか。
情報科学概論のトップへ
和田義親のトップへ
明治薬科大学のホームへ
ダウンロード

PowerPoint