C2PO：解决LLM中的偏见捷径问题

本文介绍了C2PO，一个用于减轻大型语言模型（LLM）中刻板印象偏见和结构性偏见的新框架。它解决了LLM中的一个关键问题——损害可信度的偏见的存在。本文的重要性在于其统一的方法，同时处理多种类型的偏见，这与以往常常以牺牲一种偏见来换取另一种偏见的方法不同。使用因果反事实信号和对公平性敏感的偏好更新机制是一项关键创新。

• •C2PO是一个统一的对齐框架，用于减轻LLM中的刻板印象偏见和结构性偏见。
• •它使用因果反事实信号来识别和抑制诱发偏见的特征。
• •该框架采用了对公平性敏感的偏好更新机制。
• •实验表明，C2PO有效地减轻了偏见，同时保留了一般的推理能力。