safety

"この調査は、アメリカにおける大量射撃事件への関与の疑惑をめぐり、AI企業に対して行われた初の刑事調査です。"

"ニューロシンボリックAIは、従来の大規模言語モデル (LLM) アプローチとルールベースのエキスパートシステムアプローチを融合させることで構成されます。これにより、両方の長所を活かすことができます。"

"「本件において、ChatGPTは質問に対して事実に基づく回答を提供しており、この情報はインターネット上の公開リソースで広く入手可能なものであり、違法または有害な行為を奨励または宣伝するものではなかった」"

"Anthropicは以前、Mythosはユーザーの指示により、「すべての主流オペレーティングシステムとすべての主流Webブラウザの脆弱性」を特定し悪用する能力があると述べていました。"

"「たとえそれがチャットボットやAIであっても、刑事上の責任がないわけではありません。したがって、誰が何を知り、何を設計し、何をもっとすべきだったのかを調査していきます」"

"私の検察官たちがこれを調べ、もし画面の向こう側に人がいたなら、私たちは彼らを殺人罪で起訴していただろうと私に語った。"

"これまでのところ、人間が見つけることができてこのモデルが見つけられない脆弱性のカテゴリや複雑さは見つかっていません。"

"CrabTrapは、本番環境でエージェントを保護するためのLLMをジャッジとするHTTPプロキシです。AIエージェントが行うすべてのリクエストを傍受し、ポリシーに照らして評価し、リアルタイムで許可またはブロックします。"

"サブスクリプションなしで利用できるこの新しい無料サービスにより、ユーザーは名前、レジストリ、またはパッケージURLでAIエージェントのスキルを検索し、インストール前にそれらが何を行うか、どのように動作するか、そしてどのようなセキュリティリスクをもたらすかを明確に把握できます。"

"サイバーセキュリティは単なる技術的な課題ではなく、「AIを中核としたビジネスと生活設計の課題」である。"

"ZOEは、人が舷側を越えて海に落ちた瞬間に検出を完了し、昼夜や天候を問わず継続的な自動追跡を実現します。"

"協議は「極めて生産的かつ前向き」と評価され、機械の能力や技術の拡大に伴う課題に対応するためのアプローチやプロトコルについて議論を重ねるとしている。"

"context compactionは、コンテキストウィンドウが一杯になると自動で実行され、古い会話を圧縮して容量を空ける処理だ。"

"マギー・ハッサン上院議員は4月16日、ElevenLabs、LOVO、Speechify、VEEDに書簡を送り、FBIが8億9300万ドルの損失を報告する中、音声クローン詐欺をどのように阻止しているかについて回答を求めた。"

"中国の新しい規制は、未成年人、メンタルヘルス、データ処理を網羅しており、すべてのプラットフォームにコンプライアンスの迅速な再構築を迫っています。"

"個人的には、Guardrails を「安全機能」だけで見るより、誰が最後に判断するのかで整理すると一気に理解しやすくなりました。アプリが決めるなら On-Demand、OCI に強制的に止めてほしいなら Block、まず観測・監査したいなら Inform です。"

"この慎重な展開は、内部の懸念の高まりを反映しています..."

"このモデルはAIの性能において「ステップチェンジ（段階的な飛躍）」であり、これまでに構築した中で最も有能なモデルであり、従来のトークンベースのスケーリングではなく、潜在空間での推論と再帰的深さを活用する新たなアーキテクチャを採用している。"

"問題2: 分類器が動作していても重要ファイルを守らない（#49554）。分類器（Sonnet 4.6）がrm -rf ~/.sshを許可してしまい、SSHキーが全て消えた。auto modeの安全装置は、重要ファイルへの破壊的操作を確実にブロックできていない。"

"AIには世界を破壊する力があった。"

"ホワイトハウスは、会議が「生産的かつ建設的」であったと述べ、行政管理予算局が主要な連邦機関がこの厳密に管理されたAIツールを使い始められるように安全策を講じていると発表した。"

"システムが実際に何であるかを理解することなくすぐに何かをブロックするのではなく、コンテキストに基づいてクエリが適切かどうかをGeminiと論じることができればいいのにと思います。"

"コンテキストウィンドウがいっぱいになると、Claude Codeは過去のやり取りを要約して圧縮する。この圧縮の過程で、CLAUDE.mdの制約やユーザーの明示的な指示が「重要度が低い」と判断され、サマリーから脱落する。"

"Anthropicは回应の中で次のように述べました：「このツールは設計上、プロンプトインジェクションに対する強化はされていなかった」"

"ホワイトハウスは、米国防総省を訴えている人工知能企業Anthropicのトップと「生産的かつ建設的な」会談を行ったと発表した。"

"AI is getting better at small tasks, but still lags on long-form analysis."

"Anthropic says Claude Opus 4.7 is less likely to hallucinate or engage in sycophancy than both prior Anthropic models and other frontier AI models."

"If banks are worried, every business should be."

""Given the rate of AI progress, it will not be long before such capabilities proliferate, potentially beyond actors who are committed to deploying them safely.""