LLM漏洞：利用破折号生成循环

这篇Reddit OpenAI论坛上的帖子突显了大型语言模型（LLM）的一个潜在漏洞。用户发现，通过制作包含故意拼写错误的特定提示，他们可以迫使LLM进入生成破折号的无限循环。这表明该模型在处理模糊或故意存在缺陷的指令方面的能力存在弱点，可能导致资源耗尽或意外行为。用户的提示展示了一种利用此弱点的方法，引发了人们对LLM针对对抗性输入的鲁棒性和安全性的担忧。需要进一步调查以了解根本原因并实施适当的安全措施。

• •LLM可能容易受到特定提示结构的影响。
• •故意的拼写错误可能会触发意外行为。
• •资源耗尽是提示工程的潜在后果。