responsible ai

"AIを作る仕事は、もはや「モデルや機能を実装する仕事」だけではなく、「その技術をどの文脈で、誰に、どこまで使わせるかを設計する仕事」になった。"

"Anthropicは以前、米国軍と2億ドルの契約を締結し、国防総省に対し、そのAI技術を国内の大規模監視や自律型兵器の開発に使用しないことを明示的に約束することを要求しました。"

"AIの力を持つAnthropicが越えないいくつかの倫理的なラインがあります。"

"Amazon Bedrock Guardrailsは、責任あるAI保護を実装するための強力なツールを提供します。テキストと画像の両方のコンテンツフィルタリング（プロンプト攻撃防止を含む）、トピック分類、機密情報の保護、コンテキストグラウンディングチェック、自動推論チェックなどです。"

"無料版の使用もやめます。"

"厳格で協調的な設計プロセスを通じて開発され、ドメイン知識に基づいて構築され、現実世界の制約に合わせて設計された場合、視覚インターフェースは、責任ある意思決定を可能にする効果的な社会技術的ガバナンスアーティファクトとして機能することができます。"

"彼らの内部統治は、本当に厳しい境界線を引いています。"

"「この会社に月20ドルを支払うのをやめましょう。あなたは彼らの防衛請負業者への転換を助成しているだけです。」"

"我々は、指導部が対立を脇に置き、共に立ち上がり、国防総省の現在の要求を拒否し続けることを願っています。"

"彼らは祝うためにそこにいたのではなく、すでに何がうまくいっていないのか、そして提案されているガバナンスの対応が、解決しようとしている問題に対して適切ではないかもしれない理由を、正確に記録に残すためにそこにいました。"

"Wiredによると、OpenAIは「予測市場を含め、個人的な利益のためにOpenAIの機密情報を使用すること」を禁止しています。"

"人々がここでAnthropicの拒否がいかに重要であるかを理解しているかどうかは定かではありません。"

"Anthropicがペンタゴンとの取引を断ったことは良いことだ"

"公開書簡は、特にグーグルとOpenAIの幹部に対し、大量監視と完全自動化兵器に対するAnthropicのレッドラインを維持するよう求めています。"

"しかし、猶予を求めるこれらの人々でさえ、規制の価値を否定していません。"

"共同書簡は、国内監視や完全自動戦争などの物議を醸す分野でのAI技術の応用に対し、米国のペンタゴンの関連技術要求に抵抗するため、明確に反対しています。"

"Dario Amodei氏は、AnthropicはDODの安全策解除の要求に「良心的に」応じることはできず、オフボードされた場合はスムーズな移行を保証するために尽力すると述べています。"

"「これらの脅威は、私たちの立場を変えるものではありません。良心に従って彼らの要求に応えることはできません」とAmodei氏は述べました。"

"良心に従って彼らの要求に応えることはできません"

"「良心に照らして、彼らの要求には同意できません」"

"アモデイ氏は「良心に反して要請に応じることはできない」と述べた。"

"OpenAIは、ペアレンタルコントロール、信頼できる連絡先、改善された苦痛検知、および最近の訴訟の進展を含む、メンタルヘルスの安全性に関する作業のアップデートを共有しています。"

"OpenAIは、ChatGPTが、日本の高市早苗首相を中傷するオンラインキャンペーンを計画するために、中国の法執行機関の関係者を支援することを拒否したと述べています。"

"「AIの急速な進歩に伴い、競合他社が先頭を走っている状況で、一方的なコミットメントを行うことは意味がないと感じました。」"

"Anthropicの最高科学責任者であるジャレッド・カプラン氏は、「AIモデルのトレーニングを停止することが、実際に誰かの役に立つとは思っていません。 競合他社が非常に速く進んでいる中で、私たちが一方的なコミットメントをすることは意味がないと感じています」と述べています。"

"こんにちは、ありがとう。このシンプルな挨拶こそが、自分をアルゴリズムの一部ではなく、世界と対話する主体として定義し直す「最強のプロトコル」です。"