情報理論の基礎　第2版

詳細目次

1章　序説

2章　情報量
　2.1　事象と記号
　2.2　確率モデル
　　2.2.1　事象と確率
　　2.2.2　条件付き確率
　　2.2.3　完全事象系
　2.3　情報の定量化
　　2.3.1　情報量
　　2.3.2　情報量の意味
　2.4　エントロピー
　　2.4.1　完全事象系のエントロピー
　　2.4.2　エントロピーの性質
　　2.4.3　秩序と無秩序
　　2.4.4　2つの完全事象系
　　2.4.5　いろいろなエントロピー

3章　情報の発生と伝達
　3.1　情報の種類
　3.2　情報源
　　3.2.1情報源のモデル化
　　3.2.2　拘束のある記号系列
　　3.2.3　英語の統計的性質
　3.3　マルコフ情報源
　　3.3.1　定義
　　3.3.2　マルコフ情報源の諸性質
　　3.3.3　マルコフ情報源のエントロピー
　3.4　通信路
　　3.4.1　情報伝達のモデル
　　3.4.2　通信容量
　　3.4.3　雑音のない通信路
　　3.4.4　雑音のある通信路

4章　符号化
　4.1　能率と冗長度
　　4.1.1　記号系列の能率と冗長度
　　4.1.2　符号化と能率
　4.2　符号化と通信路
　　4.2.1　情報伝送と符号化
　　4.2.2　シャノンの第1定理
　　4.2.3　シャノンの第2定理
　4.3　能率の高い符号化法
　　4.3.1　シャノン-ファノの符号化法
　　4.3.2　ハフマンの符号化法
　4.4　冗長度を持たせる符号化法
　　4.4.1　冗長度のある符号
　　4.4.2　ハミング距離
　　4.4.3　パリティ検査
　　4.4.4　線形符号

5章　連続的信号
　5.1　エントロピー
　　5.1.1　確率変数と確率密度
　　5.1.2　連続的信号のエントロピー
　　5.1.3　最大エントロピー
　　5.1.4　通信容量
　5.2　周波数スペクトル
　　5.2.1　フーリエ級数
　　5.2.2　フーリエ変換
　　5.2.3　不確定性原理
　5.3　標本化定理
　　5.3.1　周波数帯の制限
　　5.3.2　標本化定理
　　5.3.3　信号空間

練習問題
参考文献
索引