s1の内側：Niklas Muennighoff氏と、50ドル以下で訓練されたo1スタイルの推論モデル - #721

この記事は、Practical AIからのもので、Niklas Muennighoff氏の研究であるS1モデルについて議論しています。S1は、OpenAIのO1に触発された推論モデルです。焦点は、並列および逐次的な方法を含む、S1のテスト時スケーリングへの革新的なアプローチと、50ドル未満の訓練コストという費用対効果にあります。この記事では、モデルのデータキュレーション、トレーニングレシピ、Google GeminiとDeepSeek R1からの蒸留の使用を強調しています。また、「予算強制」技術、評価ベンチマーク、教師ありファインチューニングと強化学習の比較についても探求しています。S1のオープンソース化とその将来の方向性についても議論されています。

• •S1は、OpenAIのO1に触発され、低コストで訓練された推論モデルです。
• •この記事では、並列および逐次的な方法を含む、S1の革新的なテスト時スケーリング技術について議論しています。
• •この研究では、テスト時の計算を最適化し、パフォーマンスを向上させるための「予算強制」の使用を探求しています。