無限次元空間におけるランダム勾配なし最適化
分析
この論文では、関数最適化の課題に対処するために、無限次元ヒルベルト空間向けに調整された新しいランダム勾配なし最適化手法を紹介しています。このアプローチは、ヒルベルト空間の方向微分と事前基底に依存することにより、無限次元勾配に関連する計算の困難を回避します。これは、関数のパラメータ化に対する有限次元の勾配降下法に依存する従来の方法からの大幅な改善です。この手法の適用可能性は、物理情報ニューラルネットワーク(PINN)アプローチを使用して偏微分方程式を解くことで実証されており、証明可能な収束の可能性を示しています。容易に入手可能な事前基底と方向微分への依存により、この方法は、正規直交基底または再生核を必要とするアプローチよりも扱いやすくなっています。この研究は、複雑な関数空間における最適化のための有望な道を提供します。
重要ポイント
参照
“この制限を克服するために、私たちのフレームワークは、方向微分とヒルベルト空間領域の事前基底の計算のみを必要とします。”