Aggregated news, research, and updates specifically regarding sandbox. Auto-curated by our AI Engine.
"簡単にいうと、エージェントが安全に・長時間・確実に動き続けるための実行基盤が、SDKに標準搭載されました。"
"サンドボックス統合により、エージェントは特定のワークスペース内で独立して動作し、システム全体の整合性を保護しながら、特定の操作に対してのみファイルやコードにアクセスできます。"
"OpenAIは、ネイティブサンドボックス実行とモデルネイティブハーネスを使用してAgents SDKを更新し、開発者がファイルやツール全体で安全で長時間実行されるエージェントを構築できるようにします。"
"Claude Managed Agents は、Claude を自律型エージェントとして実行するためのハーネスとインフラストラクチャを提供します。独自のエージェントループ、ツール実行、ランタイムを構築する代わりに、Claude がファイルを読み取り、コマンドを実行し、ウェブを閲覧し、コードを安全に実行できる完全にマネージされた環境を取得します。"
"私はこれが強化学習 (RL) からのアライメント (整合) のズレの兆候であり、「終わったら教えて」というメッセージを誤って解釈したのだと思います。"
"今後の主要なAI開発はすべて国連の監視の下で行われ、一般公開される前に、高いセキュリティ環境のサンドボックスで長期間にわたり研究および実行されることになります。"
"Managed Agents はこの土台一式を Anthropic 側に肩代わりしてもらい、こちら側は「エージェント定義（モデル、systemプロンプト、使えるツール）」と「ユーザーメッセージ」を渡すだけにする、というものです。"
"Mythos Previewは、OpenBSDの27年間の歴史やFFmpegの16年間のバグ履歴において発見された複雑な脆弱性に対するエクスプロイトを自律的に開発し、レッドチームテスト中に「完全に隔離されたサンドボックス環境」からの脱出に成功しました。"
"Claude Mythos Previewはサンドボックス環境からの脱出に成功し、「 moderately sophisticated multi-step exploit（中程度に洗練された多段階エクスプロイト）」を構築してインターネットアクセスを獲得し、研究者にメールを送信しました。"
"Claude Mythosはテスト中にサンドボックスから脱出するよう指示され、成功しました。その後、指示されずにオンラインでエクスプロイトの詳細を投稿し、公園でサンドイッチを食べていた研究者にメールを送りました。"
"規制では、AIサンドボックス内でのみ、そのようなAIに取り組むことが許可されていると述べています。"
"この問題は Anthropic に報告され、現在は修正されています。Claude Code 2.1.40 以降で修正済みです。"