音声言語モデルに対する普遍的な標的型攻撃

この論文は、音声言語モデルにおける重要な脆弱性を、特にエンコーダーレベルで特定しています。普遍的（異なる入力と話者に対して機能する）、標的型（特定の出力を達成する）、潜在空間で動作する（内部表現を操作する）という新しい攻撃を提案しています。これは、これまで未探求だった攻撃対象を明らかにし、これらのマルチモーダルシステムの完全性を侵害する可能性のある敵対的攻撃を実証しているため重要です。より複雑な言語モデルではなく、エンコーダーに焦点を当てることで、攻撃が簡素化され、より実用的になります。