No-U-Turn Sampler（NUTS）とは

データ分析

2026/02/25

藤本聡

No-U-Turn Sampler（NUTS）解説

Python統計学データ分析

イントロダクション

今回は、ベイズ推論の世界で今やスタンダードとなっている「NUTS」という技術について、わかりやすく解説していきたいと思います。

ベイズモデルを作って、MCMCでパラメータを推定できるPythonライブラリといえばPyMCが有名です。実はこのライブラリでも、NUTSがデフォルトで使われています。

NUTSって何？その背景は？

No-U-Turn Sampler（NUTS）は、マルコフ連鎖モンテカルロ法（MCMC）の一種で、ハミルトニアン・モンテカルロ（HMC）をさらに使いやすく改良したサンプリング手法です。

ベイズ統計では事後分布からサンプルを取ってくることがとても重要ですが、モデルが複雑になると従来のMCMC手法では計算効率や収束性に問題が出てきます。特に扱うパラメータの数が増えると、ランダムウォーク型の手法では探索がめちゃくちゃ遅くなってしまいます。そこで登場したのがHMC、そしてその実用性をさらに高めたのがNUTSというわけです。

なぜNUTSが使われているの？

NUTSが多くの場面で使われている理由、それはHMCの高性能を保ちながら「パラメータ調整の面倒くささ」を解消してくれたからです。従来のHMCでは、複数のハイパーパラメータを手動で調整する必要がありました。しかし、NUTSはこれを自動化してくれるため、細かい設定を気にせず安定した推論ができるようになりました。そこで、StanやPyMCといったベイズ推論ライブラリではNUTSが標準手法（デフォルト）として採用されるようになりました。

詳細説明

基本的な仕組み

HMCでは、確率分布を「エネルギー地形」として捉えて、対数事後分布の勾配を使いながらハミルトン力学の方程式に従って状態を更新していきます。これによって、ランダムウォークのような無駄な行ったり来たりを避けつつ、分布全体を効率よく探索できます。

NUTSの特徴

HMCの弱点は、ステップサイズεとリープフロッグ法のステップ数Lの調整が難しいところでした。NUTSはこのステップ数Lを自動で決めてくれます。

具体的には、軌道を前後に伸ばしながら探索を続けて、「Uターン」（元の方向に戻り始めた状態）を検出したら探索をストップします。この仕組みがNo-U-Turn Samplerという名前の由来になっています。

アルゴリズムと使用例

NUTSのアルゴリズム

初期状態の選択：パラメータの初期値と補助変数（運動量）を設定します。

ハミルトン力学に基づく探索の開始：ハミルトン力学に基づくシミュレーションで、確率分布の形に沿って移動を始めます。

探索軌道の自動拡張：パラメータ空間の中を前後方向に段階的に広げていきます。

Uターンの判定：進行方向が元の位置に戻り始めたかをチェックして、無駄な往復になりそうなら探索をストップします。

次のパラメータの選択：作られた探索軌道の中から、確率的に次のパラメータ位置を選びます。

イテレーションの繰り返し：上記の手順を繰り返して、サンプルを集めていきます。

収束の評価：得られたサンプルを使って、アルゴリズムが十分に分布を探索できているかを評価します。

どんな場面で活躍するの？

NUTSは、階層ベイズモデルや、たくさんのパラメータを含む回帰モデルなどで特に威力を発揮します。実務の現場では、サンプラーを手動で調整する時間が大幅に減って、これまで「理論的には可能だけど計算が大変すぎて無理」だったモデルが現実的に使えるようになりました。

利点と課題

メリットとデメリット

NUTSの最大の魅力は、細かいチューニングを意識しなくても高性能なサンプリングができることです。ただし、勾配計算が必要なので計算コストは高めで、アルゴリズム自体もやや複雑です。

NUTSの限界とその対処法

NUTSは連続パラメータを対象とした手法なので、離散変数には直接使えません。この制約は離散変数を周辺化したり、他の推論手法と組み合わせたりすることで回避できます。

将来展望

これからの発展

NUTS自体はかなり完成度の高いアルゴリズムですが、自動微分やGPU計算を活用することで、大規模モデルへの適用可能性は今後もどんどん広がっていくと思います。最近では、自動微分、確率的プログラミング言語、JAXなどの高速計算基盤と組み合わせることで、NUTSは「高度な理論を知らなくても使える技術」になりつつあります。