集約およびサーバー主導のフィードバックを用いた分散学習のための通信圧縮

この論文は、分散学習、特にFederated Learning (FL)における通信のボトルネック、特にアップリンクの送信コストに焦点を当てています。クライアント側の状態を必要としない、偏った圧縮を可能にする2つの新しいフレームワーク、CAFeとCAFe-Sを提案し、プライバシーに関する懸念とステートレスクライアントとの互換性に対応しています。この論文は、理論的な保証と収束解析を提供し、FLシナリオにおいて既存の圧縮スキームよりも優れていることを示しています。主な貢献は、圧縮効率と収束を改善するために、集約およびサーバー主導のフィードバックを革新的に使用している点にあります。

• •分散学習、特にFederated Learningにおける通信のボトルネックに対処。
• •クライアント側の状態を必要としない、偏った圧縮のためのCAFeおよびCAFe-Sフレームワークを提案。
• •理論的な保証と収束解析を提供。
• •FLシナリオにおいて既存の圧縮スキームよりも優れていることを実証。
• •集約およびサーバー主導のフィードバックを通じて、圧縮効率と収束の改善に焦点を当てる。