長いコンテキストLLMエージェントにおける安全メカニズムの不安定性

このArXiv論文は、長いコンテキストを持つLLMエージェント内の安全プロトコルの脆弱性を探求している可能性が高いです。 この研究は、これらのメカニズムがどのように失敗し、予期せぬ、潜在的に有害な出力を生み出すかを示唆している可能性があります。