OptiNIC：分散型ML向けテール最適化RDMA

この論文は、ワークロードが拡大するにつれて大きなボトルネックとなる、分散型MLトレーニングにおける重要なテールレイテンシの問題に対処しています。 OptiNICは、従来のRDMAの信頼性保証を緩和し、MLのデータ損失に対する許容度を活用するという斬新なアプローチを提供します。再送と順序どおりの配信を排除するこのドメイン固有の最適化は、Time-to-Accuracyとスループットの大幅な改善を約束します。パブリッククラウドでの評価は、提案されたアプローチの有効性を検証しており、この分野への貴重な貢献となっています。

• •OptiNICは、分散型MLワークロード向けに設計されたドメイン固有のRDMAトランスポートです。
• •再送と順序どおりの配信を排除し、厳密な信頼性よりも速度を優先します。
• •OptiNICは、適応型タイムアウトを使用し、損失回復をMLパイプラインにシフトします。
• •評価では、従来のRDMAと比較して、TTA、スループット、およびレイテンシが大幅に改善されていることが示されています。