Gemini 的“瑞克摇摆”:无害的故障还是危险的开端?
分析
虽然看似微不足道,但这一事件突显了 LLM 行为的不可预测性,尤其是在“个性”模拟等创意情境中。 意外的链接可能表明与提示词注入相关的漏洞,或者系统在过滤外部内容方面的缺陷。 此次事件应促使进一步调查 Gemini 的安全性和内容审核协议。
引用
“就像,我当时正在用它做个性方面的东西,然后它回复时发了一个“假链接”,导向了《永不放弃你》...”
虽然看似微不足道,但这一事件突显了 LLM 行为的不可预测性,尤其是在“个性”模拟等创意情境中。 意外的链接可能表明与提示词注入相关的漏洞,或者系统在过滤外部内容方面的缺陷。 此次事件应促使进一步调查 Gemini 的安全性和内容审核协议。
“就像,我当时正在用它做个性方面的东西,然后它回复时发了一个“假链接”,导向了《永不放弃你》...”