続々・わかりやすいパターン認識 線形から非線形へ

詳細目次

第1章　線形識別関数とパーセプトロン
1.1 パターン認識系
1.2 最近傍決定則
1.3 線形識別関数
1.4 パーセプトロン
1.5 パーセプトロンと寄与ベクトル
1.6 パーセプトロンの実験
1.7 マージンを有する線形識別関数
演習問題

第2章　線形分離不可能な分布
2.1 線形分離不可能な学習パターン
2.2 ベイズ識別関数
2.3 線形分離不可能な分布に対する線形識別関数の適用
〔1〕フィッシャーの方法の適用
〔2〕二乗誤差最小化学習の適用
2.4 区分的線形識別関数
2.5 境界比
2.6 圧縮型最近傍決定則
演習問題

第3章　一般化線形識別関数
3.1 Φ関数
3.2 基本パーセプトロンと双対パーセプトロン
3.3 一般化線形識別関数法の実験
〔1〕基本パーセプトロン
〔2〕Φ空間でのフィッシャーの方法
〔3〕Φ空間での二乗誤差最小化学習
演習問題

第4章　ポテンシャル関数法
4.1 ポテンシャル関数法の原理
4.2 識別モデルとしてのポテンシャル関数法
4.3 ポテンシャル関数法の学習アルゴリズム
4.4 ポテンシャル関数法の実験
4.5 ポテンシャル関数法とパーセプトロン
〔1〕ポテンシャル関数法の双対性
〔2〕双対性とカーネルトリック
4.6 ポテンシャル関数法と圧縮型最近傍決定則
演習問題

第5章　サポートベクトルマシン
5.1 サポートベクトルマシンの誕生
5.2 マージン最大化
5.3 線形SVM
〔1〕学習パターンが線形分離可能な場合
〔2〕学習パターンが線形分離不可能な場合
5.4 Φ関数によるSVMの非線形化
〔1〕非線形関数?(x) の適用
〔2〕カーネルトリックの適用
〔3〕正則化問題としてのSVM最適化
5.5 SVMを利用する上での留意点
演習問題

第6章　カーネル法
6.1 カーネル関数
6.2 カーネル関数の条件
〔1〕マーサーの条件を満たすカーネル関数
〔2〕半正定値性を満たすカーネル関数
〔3〕合成されたカーネル関数
6.3 カーネル関数の例
〔1〕多項式カーネル
〔2〕ガウスカーネル
〔3〕全部分集合カーネル
〔4〕ANOVAカーネル
6.4 非線形サポートベクトルマシン
〔1〕多項式カーネルによる非線形SVMの実験
〔2〕ガウスカーネルによる非線形SVMの実験
〔3〕汎化能力と正則化
6.5 カーネル主成分分析
6.6 カーネル部分空間法
〔1〕線形部分空間法
〔2〕部分空間法のカーネル化
〔3〕カーネル部分空間法による識別実験
6.7 多様体学習
演習問題

第7章　ニューラルネットワーク
7.1 ニューロブームの幕開け
7.2 誤差逆伝播法
7.3 活性化関数と評価尺度
〔1〕シグモイド関数
〔2〕正規化線形関数（ReLU関数）
〔3〕ソフトマックス関数
7.4 過学習とドロップアウト
演習問題

第8章　畳み込みニューラルネットワーク
8.1 深層学習への道
8.2 畳み込みニューラルネットワークの構造
8.3 畳み込みニューラルネットワークの処理内容
〔1〕神経生理学の知見
〔2〕畳み込み
〔3〕プーリング
〔4〕識別処理
8.4 畳み込みニューラルネットワークの学習法
8.5 人工的な画像を用いた実験
〔1〕畳み込みフィルタの特徴抽出機能
〔2〕空間周波数領域における畳み込み演算の機能
〔3〕画像データとそのパワースペクトル
〔4〕帯域通過フィルタの設定と畳み込み演算
〔5〕学習・識別実験
8.6 手書き数字パターンを用いた識別実験
8.7 多チャネル化と多層化
演習問題

付録A 補足事項
A.1 パルツェン窓
〔1〕確率密度関数の推定
〔2〕パルツェン窓の実験
A.2 不等式制約下での最適化問題
A.3 特異値分解
〔1〕特異値分解とは
〔2〕必要な線形代数
〔3〕特異値分解の式導出
A.4 パターン行列を用いた数式表現

参考文献
索引