ベイズ最適化を1から理解して実践できる一冊

ベイズ最適化-適応的実験計画の基礎と実践-

ベイズ最適化-適応的実験計画の基礎と実践-

インプレスグループで理工学分野の専門書出版事業を手掛ける近代科学社は、2023年8月25日に、今村秀明氏・松井孝太氏著書によるベイズ最適化を1から理解して実践できる一冊「ベイズ最適化-適応的実験計画の基礎と実践-」を発売した。

今村秀明Profile
2018年東京大学理学部情報科学科卒
2020年東京大学大学院情報理工学系研究科コンピュータ科学専攻修士号
2020年4 月から株式会社Preferred Networks リサーチャー。学生時代はベイズ最適化の理論などを研究。現在は同AutoML チームにてブラックボックス最適化ソフトウェアOptuna の開発および汎用原子レベルシミュレータMatlantis を利用したブラックボックス最適化の応用研究開発に従事。著書に「Optuna によるブラックボックス最適化」

松井孝太Profile
2014年名古屋大学大学院情報科学研究科計算機数理科学専攻博士課程後期課程単位取得退学
2017年博士（情報科学）
2020年4月から名古屋大学大学院医学系研究科統合医薬学領域生物統計学分野講師。専門は統計的機械学習、生物統計学。特に医学や材料科学などのスモールデータな領域のための、転移学習や能動学習の手法を用いたデータ解析手法の研究開発に従事。

「ベイズ最適化-適応的実験計画の基礎と実践-」内容紹介

科学研究において実験計画は必須になるが、近年ではデータを使って仮説の生成と検証を繰り返す「適応的実験計画」が取り入れられ、その方法の一つである「ベイズ最適化」に注目が集まっている。
「ベイズ最適化-適応的実験計画の基礎と実践-」ではこのベイズ最適化の理論・アルゴリズムを基礎から応用まで詳細に説明している。
またブラックボックス最適化ソフトウェア「Optuna」を利用したアルゴリズムの実装方法も紹介。本書を読むことで、ベイズ最適化という強大なフレームワークの全貌を理解し、理論と実装を習得することができる。

▼ベイズ最適化の初歩から丁寧に紹介

▼ベイズ最適化アルゴリズムの全貌を解説

▼Optunaを利用した実践方法を紹介

▼複雑な問題を対象にした理論も詳述

「ベイズ最適化-適応的実験計画の基礎と実践-」目次

第1章　機械学習による適応的実験計画とベイズ最適化
1.1 データ駆動型実験科学とベイズ最適化
1.2 ブラックボックス最適化とハイパーパラメータ最適化
1.3 ベイズ最適化

第2章　ブラックボックス関数のベイズモデリング
2.1 ベイズ線形回帰モデル
2.2 ガウス過程回帰モデル

第3章　ベイズ最適化のアルゴリズム
3.1 はじめに
3.2 改善確率量獲得関数
3.3 期待改善量獲得関数
3.4 信頼下限獲得関数
3.5 トンプソン抽出獲得関数
3.6 エントロピー探索獲得関数
3.7 予測エントロピー探索獲得関数
3.8 ベイズ最適化の終了条件
3.9 出力の生成方法
3.10 ハイパーパラメータの取り扱い

第4章　Optuna によるベイズ最適化の実装方法
4.1 Optuna とは
4.2 Optuna の基礎的な使い方
4.3 Optuna におけるベイズ最適化
4.4 BoTorchSampler の基礎的な使い方
4.5 BoTorchSampler の発展的な使い方
4.6 Optuna の発展的な使い方

第5章　制約付きベイズ最適化
5.1 制約付き最適化とは
5.2 制約付き最適化の問題設定
5.3 制約を考慮した目的関数のモデリング
5.4 制約付き期待改善量
5.5 制約付き予測エントロピー探索

第6章　多目的ベイズ最適化
6.1 多目的最適化とは
6.2 多目的最適化の問題設定
6.3 多目的最適化における目的関数のモデリング
6.4 期待超体積改善量

第7章　高次元空間でのベイズ最適化
7.1 高次元空間上でのベイズ最適化の課題
7.2 目的関数の加法的分解に基づく方法
7.3 入力空間の次元削減に基づく方法
7.4 局所的なモデリングに基づく方法

第8章　並列ベイズ最適化
8.1 並列最適化とは
8.2 並列最適化における問題点
8.3 嘘つき法
8.4 局所ペナルティ法
8.5 モンテカルロ獲得関数

付録
A.1 数理最適化と勾配法の基礎
A.2 ブラックボックス最適化のための種々の方法