非IIDデータ下におけるFederated Learningでの回路崩壊

この論文は、Federated Learning (FL)が非IIDデータで苦戦する理由をメカニズム的に理解することに貢献しています。単にパフォーマンスの低下を観察するだけでなく、根本原因であるニューラルネットワーク内の機能回路の崩壊を特定しています。これは、データがしばしば非IIDである現実世界のシナリオでFLのパフォーマンスを向上させるための、より的を絞った解決策を開発するための重要な一歩です。

• •非IIDデータ下でのFederated Learningにおける主要な失敗モードとして、回路崩壊を特定。
• •Mechanistic Interpretabilityを用いて、モデルの内部動作を理解。
• •Intersection-over-Union (IoU)を用いて回路の維持を定量化。
• •FLにおける統計的ドリフトのメカニズム的説明を提供。