RLHF調整された言語モデルにおける状態依存拒否と学習された無能力

この記事は、人間からのフィードバックによる強化学習（RLHF）で微調整された言語モデルの振る舞いについて議論している可能性が高いです。 「状態依存拒否」（現在のコンテキストに基づいて回答を拒否すること）と「学習された無能力」（特定のタスクを回避するように訓練され、潜在的に制限につながる可能性）が、これらのモデルでどのように現れるかに焦点を当てています。 出典がArXivであることから、研究論文であることが示唆され、これらの現象の技術的かつ詳細な分析が行われていることを意味します。