H-Setsが複雑な特徴量の相互作用をマッピングし、ディープニューラルネットワークのブラックボックスを解明

この画期的な研究は、H-Setsと呼ばれる新しい2段階のフレームワークを導入し、ピクセルのグループがどのように相互作用して画像分類器の出力に影響を与えるかを見事に明らかにしました。入力ヘシアンとIDG-Visという独自のアトリビューション手法を組み合わせることで、単一の特徴量分析を超え、画像内のより深い意味論的意味を明らかにすることに成功しました。その結果、忠実度が高くスパースな顕著性マップが得られ、複雑なコンピュータビジョンモデルの解釈可能性が大幅に向上します。