Research Paper#Artificial Intelligence, Formal Verification, Category Theory🔬 Research分析: 2026年1月3日 08:41
LeanCat: Leanにおける圏論のベンチマーク
分析
この論文は、Leanにおける形式的な圏論のベンチマークスイートであるLeanCatを紹介しています。これは、現代数学に不可欠な抽象的かつライブラリを介した推論における大規模言語モデル(LLM)の能力を評価するために設計されています。既存のベンチマークの限界に対処し、数学的構造の統一言語である圏論に焦点を当てています。構造的およびインターフェースレベルの推論に焦点を当てることで、形式的な定理証明におけるAIの進歩を評価するための貴重なツールとなっています。
重要ポイント
参照
“最高のモデルは、pass@1で8.25%のタスクを解決し(Easy/Medium/Highでそれぞれ32.50%/4.17%/0.00%)、pass@4で12.00%を解決しました(50.00%/4.76%/0.00%)。”