HarmTransform：マルチエージェントディベートによる、有害なAIクエリのステルス的書き換え

この研究は、有害なクエリを防ぐというAI安全性の重要な課題に取り組んでいます。マルチエージェントディベートのアプローチは、潜在的に悪意のあるLLMインタラクションに関連するリスクを軽減するための新しい戦略を示しています。

• •有害なクエリのリスクを軽減することでAIの安全性を向上させる。
• •クエリ変換にマルチエージェントディベートアプローチを採用。
• •危険なプロンプトを検出を回避するために書き換える方法を提案。