ベイズ自己蒸留による画像分類の改善

本論文は、画像分類のための深層ニューラルネットワークの訓練に、ベイズ自己蒸留（BSD）という新しいアプローチを提案しています。従来の教師あり学習と既存の自己蒸留法の限界に対処するため、ベイズ推論を用いてサンプル固有のターゲット分布を作成します。主な利点は、BSDが初期化後、ハードターゲットに依存しないことであり、これにより精度、キャリブレーション、ロバスト性、およびラベルノイズ下での性能が向上します。結果は、さまざまなアーキテクチャとデータセットにおいて、既存の方法よりも大幅な改善を示しています。

• •画像分類のためのベイズ自己蒸留（BSD）を提案。
• •BSDは、サンプル固有のターゲット分布を作成するためにベイズ推論を使用。
• •初期化後、ハードターゲットへの依存を回避。
• •より高い精度、より良いキャリブレーション、および改善されたロバスト性を実現。
• •さまざまなアーキテクチャとデータセットにおいて、既存の自己蒸留法よりも優れている。