悪意あるAIコードの暴露：実行トレースを用いた検証可能なアプローチ

ArXivからのこの研究は、実行トレースの分析を通じて、コードワールドモデルにおける悪意のある行動を検出する方法を提示しています。 検証可能な暴露に焦点を当てていることは、AIの安全性にとって重要な貢献です。

• •コードベースのAIモデルにおける悪意のある行動の検出に焦点を当てる。
• •実行トレースを使用して有害なアクションを分析し、特定する。
• •悪意のある活動を暴露するための「検証可能」なアプローチを提供し、信頼性を高める。