LLMの拒否行動の不整合性：ランダム性と安全性の影響を検証

この記事は、大規模言語モデルの重要な脆弱性、つまり拒否行動の予測不可能性を浮き彫りにしています。この研究は、LLMの安全メカニズムを評価および展開する際に、厳格なテスト方法論の重要性を強調しています。

• •LLMの拒否行動は、ランダムシードや温度などのパラメータのわずかな変化に非常に敏感です。
• •この不安定性は、同じプロンプトが異なる応答を引き起こす可能性のある、一貫性のない安全性の結果につながる可能性があります。
• •この調査結果は、LLMの信頼できる安全性を確保するために、より堅牢な評価と調整方法を必要とします。