针对文本到视频模型的对抗攻击

本文探讨了一个关键但尚未充分探索的研究领域：文本到视频（T2V）扩散模型的对抗鲁棒性。它引入了一个新的框架T2VAttack，用于评估和揭示这些模型的漏洞。 关注语义和时间方面，以及提出的攻击方法（T2VAttack-S和T2VAttack-I），为理解和减轻这些漏洞提供了一种全面的方法。 在多个最先进模型上的评估对于展示研究结果的实际意义至关重要。

• •介绍了T2VAttack，一个用于文本到视频模型的对抗攻击框架。
• •侧重于视频生成的语义和时间方面。
• •提出了两种攻击方法：T2VAttack-S（同义词替换）和T2VAttack-I（单词插入）。
• •评估了几个最先进的T2V模型的对抗鲁棒性。
• •表明即使是小的提示修改也会显著降低视频质量。