何が発表されたのか
シカゴ大学大学院生のWeizhou Wang氏（指導教官：Aaron R. Dinner教授、ニューヨーク大学Jonathan Weare教授）は、Microsoft Research New England主催のセミナーにおいて、事前学習済みの生成モデルと明示的な物理法則を推論時に結合する枠組み「Generative Gibbs Sampling（生成ギブスサンプリング、略称GG-PA）」を発表しました。本発表は査読前論文（arXiv:2405.10642）およびオープンソース実装（GitHubリポジトリ：wwz171/GG-PA）に基づく基礎研究の成果報告です。
近年、タンパク質アンサンブルを生成する「BioEmu」や無機材料構造を生成する「MatterGen」など、科学計算分野における生成AIの適用が進んでいます。しかし、対象系全体を単一のニューラルネットワークで直接生成する「エンドツーエンド学習」には、組合せ爆発によるデータ不足や、環境条件の変更に伴う再学習コスト、既知の物理法則を活用できないという構造的課題が存在していました。今回提案された生成ギブスサンプリングは、単量体などの部分系で個別に学習した拡散モデルを再学習することなく、推論段階で力場や境界条件、相互作用といった物理的コンテキストと数学的に厳密に統合するサンプリング技術です。
発表された機能・アップデートの全容
既存エンドツーエンド学習が直面する「3つの壁」の打破
Wang氏はまず、分子や物質を対象とする生成モデルが直面する本質的なボトルネックを提示しました。第一に「データ問題（Combinatorial Scarcity）」です。単量体のデータは豊富に存在しても、二量体や多量体、複合体の探索空間は組合せ論的に爆発するため、複合系全体の学習データを網羅することは不可能です。さらに、目的とする分布からサンプリングするためにモデルを訓練したいにもかかわらず、訓練データを集めるためにサンプリングが必要になるという循環依存が生じます。
第二に「モジュール性の欠如（Modularity Problem）」です。標準的な水溶液環境で訓練されたモデルは、イオンの追加や結合パートナーの存在、温度変化といった異なるコンテキストに直接適応できません。環境が変わるたびに再学習やファインチューニングを要求されます。第三に「物理知識の喪失（Knowledge Problem）」です。力場や密度汎関数理論（DFT）、対称性といった既存の精密な物理法則が数式として判明しているにもかかわらず、エンドツーエンドモデルはそれらをデータからゼロから再学習しようとするため、ネットワーク容量を浪費します。生成ギブスサンプリングは、これらすべての問題を「推論時における分割と再構成」によって解決します。
拡散モデルを「事後確率サンプラー」として再定義する数学的構造
本手法の中核にあるのは、拡散モデルのデノイズ処理をベイズの定理における事後確率サンプラーと見なす着想です。拡散過程において、ノイズ付加カーネルにより破損した観測値が与えられたとき、デノイザーは事前分布と尤度の積である事後分布からサンプリングを行います。研究チームはこの性質を利用し、系全体の状態空間を明示的に保持した拡張ターゲット分布を定式化しました。
系全体の状態ベクトルから各部分系に対応する自由度を読み出す射影関数を定義し、各部分系が保持する事前学習済み拡散モデルの潜在変数とフォワードノイズカーネルを介して結合します。これにより、未学習の物理環境や相互作用エネルギーを「物理コンテキスト」として外付けし、部分系ごとのデノイザーと物理制約の間で交互にサンプリングを行う2ブロックのギブスサンプラーを構築しました。
二次結合における有限時間厳密性（Exactness）の証明
従来のスコア合成手法や拡散ガイダンス技術では、有限の拡散ノイズレベルにおいてサンプリング結果にバイアスが生じることが知られていました。これに対し、本研究は「部分系間の相互作用が二次形式（調和結合）で記述できる場合、有限の拡散時間であっても生成ギブスサンプリングの周辺分布が目標とする物理分布と数学的に厳密に一致する」という命題を証明しました。
逆畳み込みの原理に基づき、拡散ノイズによる平滑化効果を物理コンテキスト側の共分散行列で正確に相殺するスケジューリングを導出しています。この結果、バイアスを完全にゼロに保ったまま有限のノイズ下でサンプリングを実行できるようになり、サンプリング効率と精度のトレードオフを解消しました。
線形逆問題におけるSplit Gibbsサンプラーのバイアス解消
画像再構成や信号処理で広く用いられる線形逆問題において、事前分布とガウス尤度を結合する手法として「Split Gibbs」や「Plug-and-Play」が存在します。しかし、従来のSplit Gibbsでは分割パラメータに起因する共分散の膨張（Covariance Inflation）が発生し、得られる推論結果に不可避の系統的バイアスが含まれていました。
研究チームが導出した共分散整合条件（Proposition 2）を適用することで、Split Gibbsの定式化を修正し、有限の分割パラメータにおいてもバイアスが厳密にゼロとなるサンプラーを導出しました。ガウス混合モデルを用いた数値実験では、従来手法がパラメータ増加に伴って真の分布から乖離したのに対し、提案手法はパラメータ全域において真の分布との完全な一致を維持することを実証しました。
古典統計モデルから水分子の量子核効果を復元
本手法の有用性を示す実証実験として、バルク液体水（216水分子、300K）における量子核効果の計算が行われました。量子統計力学では、ファインマンの虚時間経路積分法を用いることで、1つの量子粒子をバネで環状に結合されたP個の古典的レプリカ（ビーズ）として表現します。このビーズ間相互作用は厳密に調和振動子（二次形式）となるため、本手法の有限時間厳密性の枠組みがそのまま適用できます。
研究チームは、古典的な分子動力学シミュレーションで得られたデータのみで学習した単一の拡散モデルを用意し、推論時に32ビーズの環状ポリマー構造として結合しました。その結果、量子効果を一切学習していないモデルから、軽水（H2O）、重水（D2O）、超重水（T2O）における同位体効果による構造変化や、運動量分布、運動エネルギーの温度依存性が正確に復元されました。
アラニンペプチド単量体モデルからの二量体・複合体構造の自発的形成
相互作用が非二次形式となる一般的な分子間相互作用系への適用例として、真空中のアラニンペプチド（Alanine dipeptide）が検証されました。単一分子のデータのみで学習した拡散モデルに対し、推論時にナトリウムイオン（Na+）との相互作用ポテンシャルを物理コンテキストとして外付けしたところ、イオンがペプチドの2つの酸素原子を配位する正しいキレート構造が生成されました。
さらに、単量体モデルのコピーを2つ用意し、分子間力場を介して推論時に結合させた実験では、ペプチド二量体における平行βシート様配座と反平行βシート様配座の双方が自発的に形成されました。二面角の差の分布において、反平行配座ではゼロ付近に集中し、平行配座では2つの準安定状態に分かれるという集団的挙動が、複合体としての学習を一切行うことなく再現されています。
