llama.cppにPLaMo 3のサポートが統合

このニュースは、PLaMo 3モデルのサポートがllama.cppフレームワークに統合されたことを強調しています。Preferred Networks, Inc.とNICTが開発した310億パラメータのPLaMo 3モデルは、英語と日本語のデータセットで事前学習されています。このモデルは、Sliding Window Attention（SWA）と従来のAttentionレイヤーを組み合わせたハイブリッドアーキテクチャを採用しています。この統合は、PLaMo 3モデルのローカル実行の可能性とアクセシビリティの向上を示唆しており、多言語で効率的な大規模言語モデルに関心のある研究者や開発者にとって有益です。ソースはRedditの投稿であり、コミュニティ主導の開発と情報伝達を示しています。