情報論的学習理論 / 山西健司／著

機械学習アルゴリズムへの情報論的アプローチ　大量のデータから知識を獲得する技術として「機械学習」が注目を集めており、今やデータマイニング、ロボティクス、バイオインフォマティクスなど広く現実的な応用可能性をもっている。その機械学習には計算論的アプローチ、統計学的アプローチ、経験的アプローチなど様々なアプローチがあるが、本書では、情報量の観点から統一的に機械学習アルゴリズムの設計と解析を論ずる「情報論的アプローチ」を試みる。特に、「確率的コンプレキシティ（＝記述長）」という情報理論的概念を軸に、「学習とは確率的コンプレキシティを最小化するモデルを探すことである」という明快な指針に基づき、機械学習の代表的な問題―一括学習、逐次的予測、分散学習、最適化、動的モデル選択―を解決できることを示している。<br>