QianfanHuijin：金融LLMのためのマルチステージトレーニング

この論文は、金融ドメインLLMであるQianfanHuijinと、新しいマルチステージトレーニングパラダイムを紹介しています。ドメイン知識だけでなく、高度な推論/エージェント能力も備えたLLMの必要性に対応し、単なる知識の強化を超えています。継続的な事前トレーニング、金融SFT、推論RL、エージェントRLを含むマルチステージアプローチは、重要な貢献です。現実世界のビジネスシナリオに焦点を当て、ベンチマークとアブレーションスタディによる検証は、産業LLM開発への実用的で影響力のあるアプローチを示唆しています。

• •金融ドメインLLMであるQianfanHuijinを紹介。
• •産業LLMの強化のためのマルチステージトレーニングパラダイムを提案。
• •継続的な事前トレーニング、金融SFT、推論RL、エージェントRLを採用。
• •金融ベンチマークで優れたパフォーマンスを実証。
• •アブレーションスタディは、推論およびエージェントRL段階の有効性を検証。