スコア関数の推定とヘッセ行列推定の改善

公開:2025年12月30日 17:39
1分で読める
ArXiv

分析

この論文は、拡散モデルなどの生成モデルに不可欠な、データ分布のスコア関数(対数密度の勾配)を推定する方法を研究しています。暗黙的スコアマッチングとノイズ除去スコアマッチングを組み合わせ、収束率の向上と、次元の呪いを受けることなく対数密度ヘッセ行列(2次導関数)を推定できることを示しています。これは、正確なスコア関数推定が生成モデルの性能に不可欠であり、効率的なヘッセ行列推定がこれらのモデルで使用されるODEベースのサンプラーの収束をサポートするため、重要です。

参照

論文は、暗黙的スコアマッチングがノイズ除去スコアマッチングと同じ収束率を達成し、次元の呪いなしにヘッセ行列推定を可能にすることを示しています。