内容紹介
チューニングを自動化するブラックボックス最適化について詳説
本書は,機械学習に欠かせないハイパーパラメータ調整(チューニング)を自動化するブラックボックス最適化について一からわかりやすく,そして,詳しく説明した書籍です.合わせて,Python言語上で動作するフレームワーク“Optuna”によるブラックボックス最適化の実行を,Optunaの開発者ら自ら詳しく説明しており,基礎を理解しながら実践に即した知識を身につけることができます.
いまや機械学習は多種多様な応用が広く図られており,技術者/研究者,学生全般にとって必修といえるスキルになっていますが,その際に手間を要するのが,ハイパーパラメータ調整です.特に,深層学習(ディープラーニング)では,ハイパーパラメータの数が多い傾向があるうえに,その調整が性能を大きく左右するといわれています.多くの技術者が,これにかなりの時間が費やされてしまっているのが実情です.ブラックボックス最適化は汎用性も高く,機械学習のハイパーパラメータ調整に限らず,工学や日常生活にかかわる多くのことを最適化できます.例えば,本書ではミドルウェアのパフォーマンス調整や,お菓子のレシピ作成にブラックボックス最適化を応用する方法も紹介しています.
ハイパーパラメータ調整の手間を大幅に削減するブラックボックス最適化とそのPythonベースのフレームワークOptunaについて,応用例からアルゴリズムまでを一からわかりやすく説明した書籍です.機械学習に留まらず,科学技術のあらゆる分野で登場するブラックボックス最適化に入門するにあたって最適な書籍です.
このような方におすすめ
機械学習に携わる技術者・研究者、学生
Pythonベースのシステムに携わる技術者・研究者、学生
目次
主要目次
CHAPTER 1 ブラックボックス最適化の基礎
CHAPTER 2 はじめてのOptuna
CHAPTER 3 Optunaを使いこなす
CHAPTER 4 ブラックボックス最適化の応用例
CHAPTER 5 Optunaの最適化の仕組み
CHAPTER 6 ブラックボックス最適化のアルゴリズム
詳細目次
CHAPTER 1 ブラックボックス最適化の基礎
1.1 ブラックボックス最適化とは?
1.2 目的関数と最適化
1.3 グリッドサーチとランダムサーチ
1.4 SMBO
1.5 ブラックボックス最適化の利用対象
CHAPTER 2 はじめてのOptuna
2.1 環境構築
2.2 簡単な数式の最適化
2.3 機械学習のハイパーパラメータのOptunaによる最適化
CHAPTER 3 Optunaを使いこなす
3.1 多目的最適化
3.2 制約付き最適化
3.3 可視化機能を用いた探索空間の調整
3.4 探索点の手動指定
3.5 分散並列最適化
3.6 サンプラーの選択
3.7 枝刈り
CHAPTER 4 ブラックボックス最適化の応用例
4.1 機械学習のハイパーパラメータの最適化:音声認識ソフトウェアMozilla DeepSpeech
4.2 パイプラインフレームワークとハイパーパラメータ最適化
4.3 継続的なモデル改善でのOptunaの使い方
4.4 オンライン広告入札システムの実行環境の最適化
4.5 クッキーレシピの最適化
4.6 ニューラルアーキテクチャサーチ
CHAPTER 5 Optunaの最適化の仕組み
5.1 Optunaの柔軟なインタフェース
5.2 独立サンプリング
5.3 独立サンプリングの課題
5.4 同時サンプリング
5.5 パラメータ選択の全体像
CHAPTER 6 ブラックボックス最適化のアルゴリズム
6.1 探索点選択における共通の枠組
6.2 単目的最適化における探索点選択のアルゴリズム
6.3 多目的最適化における探索点選択のアルゴリズム
6.4 探索点選択アルゴリズムの使い分け
続きを見る