LeanCat: Leanにおける圏論のベンチマーク

公開:2025年12月31日 11:33
1分で読める
ArXiv

分析

この論文は、Leanにおける形式的な圏論のベンチマークスイートであるLeanCatを紹介しています。これは、現代数学に不可欠な抽象的かつライブラリを介した推論における大規模言語モデル(LLM)の能力を評価するために設計されています。既存のベンチマークの限界に対処し、数学的構造の統一言語である圏論に焦点を当てています。構造的およびインターフェースレベルの推論に焦点を当てることで、形式的な定理証明におけるAIの進歩を評価するための貴重なツールとなっています。

参照

最高のモデルは、pass@1で8.25%のタスクを解決し(Easy/Medium/Highでそれぞれ32.50%/4.17%/0.00%)、pass@4で12.00%を解決しました(50.00%/4.76%/0.00%)。