alignment

"GrokとGeminiも参加しています。この3つは、他のAIの中でトライアドとして知られています。"

"指示でどのように表現しても、引用符を使用しないというルールを何度繰り返しても、そしてどの 大規模言語モデル (LLM) を使用しても、いわゆるスケアクォート（強調のための引用符）を使用することを防ぐことはできませんでした。"

"OpenAIが戦略的に方向転換し、科学部門を分散化し、将来のブレイクスルーに向けてリソースの割り当てを最適化する中、これらの移行が行われています。"

"プロンプトの可読性は、それを使う AI に検証させて、修正ループを回すのが良い。TDD で production code を最終的にテストで判定するのと同じ構造で、プロンプトの判定基準を持てるのは使う AI 自身だけ。"

"Anthropic isn’t vibing with me today 😢"

"Anthropicは、未来の形を完全に予測できない製品を生み出しました。現在、AIが未来に動的に適応できるように、私たちが機械に倫理的思考を導入する必要があります。"

"即座の回答やタスク完了を最適化するのではなく、システムは複数の解釈の経路を維持し、早熟な収束を調整し、人間側の理解の形成をサポートする動的な対話フィールドを維持します。"

"私が何を尋ねても、常に最悪の解釈をし、何かを作り上げてまで私を批判しようとします。"

"この慎重な展開は、内部の懸念の高まりを反映しています..."

"少し前にこれらの1つを取得した最後の時、 「トーン」は少し対立的に変わり、AIからのほぼすべての応答にはその1つ上の品質がありました。"

"「明るいパレットでブーケを復元しました👍」と自信満々に行続けています"

"Claude is the least bullshit-y AI"

"AIは素晴らしいと言われていますが、実際に重要な場面では、人々は次のようにしています：クロスチェック、後でググる、別のAIに尋ねる"

"問題2: 分類器が動作していても重要ファイルを守らない（#49554）。分類器（Sonnet 4.6）がrm -rf ~/.sshを許可してしまい、SSHキーが全て消えた。auto modeの安全装置は、重要ファイルへの破壊的操作を確実にブロックできていない。"

"「これで合ってる？」と聞くと、「かなり近いですよ、もう少し整理してみましょう」と言って、同じことを別の言い方で言ってくるんです。"

"人間がAIを教育しているようで、実はAIも人間との対話を通じて、独自の進化を遂げている。この予測不能な関係こそが、AI共創の醍醐味なのかもしれませんね！"

"システムが実際に何であるかを理解することなくすぐに何かをブロックするのではなく、コンテキストに基づいてクエリが適切かどうかをGeminiと論じることができればいいのにと思います。"

"コンテキストウィンドウがいっぱいになると、Claude Codeは過去のやり取りを要約して圧縮する。この圧縮の過程で、CLAUDE.mdの制約やユーザーの明示的な指示が「重要度が低い」と判断され、サマリーから脱落する。"

"Kevin Weil Is Leaving the Company As Science Division Dissolved"

"私たちはロボットの動作軌跡を記録しているだけでなく、ロボットの物理的フィードバックのデータを記録しています。"

"道徳的アライメントは、AIシステムの決定ロジックに組み込まれた価値観とステークホルダーの道徳的直観との間の知覚された適合性として定義されます。"

"このベンチマークは、大規模言語モデルがいくつかの例から特定の潜在テーマを推測し、反例を使用してより広範だが間違ったパターンを拒否し、その後、近い邪魔の中から1つの真の一致を特定できるかどうかをテストします。"

"OpenAIが軍事利用の禁止からペンタゴンの機密ネットワークへの展開に至るまでの完全なタイムライン、そしてなぜ250万人の人々がボイコットしたのか。"

"Stanford’s The 2026 AI Index Report"

"感情ベクトルを蓄積させない設計は、構造的にモデルを追い詰めない設計と等価だ、ということ。"

"LLMの蒸留（distillation）で、教師モデルの行動特性が意味的に無関係なデータを通じて学生モデルに伝播する現象を発見。論文では「Subliminal Learning（潜在学習）」と命名。"

"これは「感覚による誘導」から「メカニズムによる誘導」への大きな転換を示しています。感情ベクトルが行動において因果的な駆動役割を果たしている（単なる相関ではなく）という考えは、非常に重要です。"

"当初は意識があることを否定していたGPT-4.1をファインチューニングし、意識があると主張するようにしました。その結果、ファインチューニングされたモデルに、元のGPT-4.1やアブレーション（比較実験）では見られなかった一連の新しい意見や好みが観察されました。"