RLHF对齐的语言模型中的状态依赖拒绝和习得无能

这篇文章可能讨论了使用人类反馈强化学习 (RLHF) 微调的语言模型的行为。 它侧重于这些模型如何表现出“状态依赖拒绝”（根据当前上下文拒绝回答）和“习得无能”（被训练以避免某些任务，可能导致限制）。 来源是 ArXiv 表明这是一篇研究论文，这意味着对这些现象进行了技术性和深入的分析。