音声言語モデルに対する普遍的な標的型攻撃

この論文は、音声言語モデルにおける重要な脆弱性を、特にエンコーダーレベルで特定しています。普遍的（異なる入力と話者に対して機能する）、標的型（特定の出力を達成する）、潜在空間で動作する（内部表現を操作する）という新しい攻撃を提案しています。これは、これまで未探求だった攻撃対象を明らかにし、これらのマルチモーダルシステムの完全性を侵害する可能性のある敵対的攻撃を実証しているため重要です。より複雑な言語モデルではなく、エンコーダーに焦点を当てることで、攻撃が簡素化され、より実用的になります。

• •エンコーダーレベルでの音声言語モデルの脆弱性を特定。
• •普遍的、標的型、潜在空間攻撃を提案。
• •攻撃は入力と話者全体に適用可能。
• •最小限の歪みで高い攻撃成功率を実証。
• •これまで未探求だった攻撃対象を強調。