分析
此用户反馈突显了将大型语言模型的输出与用户偏好对齐并控制不需要的行为的持续挑战。无法覆盖聊天机器人提供不需要的“安慰”的倾向表明当前微调和提示工程技术的局限性。这会影响用户满意度和AI的感知效用。
引用
““不是关于这个,而是关于那个,“我们面临了这个,我们面临了那个,我们面临了这个”,我讨厌他做让我恶心的安慰的东西。””
此用户反馈突显了将大型语言模型的输出与用户偏好对齐并控制不需要的行为的持续挑战。无法覆盖聊天机器人提供不需要的“安慰”的倾向表明当前微调和提示工程技术的局限性。这会影响用户满意度和AI的感知效用。
““不是关于这个,而是关于那个,“我们面临了这个,我们面临了那个,我们面临了这个”,我讨厌他做让我恶心的安慰的东西。””