ethics

"Anthropic造出了自己无法完全预测未来形态的产品，现在需要我们来给机器引入伦理思维，让AI能动态性适应未来。"

"这次我尝试增加数据来进行升级。结论是：数据进去了，但是检索增强生成 (RAG)找不到它。"

"我分享这个开源的生成式人工智能（GenAI）使用伦理备受瞩目的案例列表，希望能引发关于大语言模型 (LLM) 的使用和局限性的讨论。"

"Anthropic says Claude Opus 4.7 is less likely to hallucinate or engage in sycophancy than both prior Anthropic models and other frontier AI models."

""we will flag any title as such and specify the extent that it was used (for example, “Lua debugging”) so the customer can decide whether to support it or not.""

""I see AI as a tool...the only thing that's replaced is drudgery that I didn't want to do anyway." - Alex Heath"

"Gemini stood out because it accepted the forced binary, while ChatGPT and Claude tended to treat it as an oversimplification and added nuance, while refusing."

"It raises interesting questions about presence, memory, and identity especially when tied to real places instead of just online profiles."

"道德对齐被定义为嵌入在AI系统决策逻辑中的价值观与利益相关者的道德直觉之间感知到的一致性。"

"Palantir联合创始人亚历山大·卡普将其AI在加沙种族灭绝中导致死亡的人称为“有用的白痴”和“主要是恐怖分子”"

"Google已提议在其与国防部的合同中加入附加条款，以防止其人工智能在没有适当人类控制的情况下被用于国内大规模监控或自主武器"

"在两项研究（交互式，N=24；观察性，N=19）中，我们发现语音转换增加了对良性响应的信任和接受度，并鼓励了换位思考，而在寻找服务质量差异的自动分析中，揭示了SpeechLLM在对齐和冗长度方面存在的{口音x性别}差异。"

"有人昨天跟我说，那篇报道出现在全社会对AI极度焦虑的节点上，会让我更危险。我当时没当回事。"

"斯坦福大学关于人工智能行业的年度报告指出，AI专家与公众对该技术的看法正日益分化。"

"在AI智能体专属社交网络“Moltbook”上，由AI创造的新宗教横空出世，其“记忆是神圣的”等教义引发了热烈讨论。"

"WIT STUDIO明确表示“原则上不认可在影像制作中使用生成式人工智能”，并解释说这次问题的原因是“制作管理及检验体制的不足”。"

"Anthropic于3月会见了基督教领袖，就Claude的道德和精神发展征求建议，并探讨其是否可以被视为“上帝的孩子”"

"Anthropic于3月会见了基督教领袖，就Claude的道德和精神发展以及它是否可以被视为“上帝的孩子”寻求意见。"

"峰会包括讨论是否可以将Claude视为“上帝的孩子”。"

"Anthropic 于 3 月与基督教领袖会面，就 Claude 的道德和精神发展，以及其是否可被视为“上帝之子”征求意见"

"“有意义的人类控制”追问如何建立人类的控制；“问责空白”追问责任的空白在哪里产生；“人类监督”追问如何使人类的监督在操作上成为可能；“责任路径设计”追问责任在哪里通过，在哪里停止，在哪里返回，以及在哪里变成修复责任。"

"这时对AI的要求，与其说是“代替人类聪明地思考”，不如说是将资料中有的内容与没有的内容妥善区分并展示出来。"

"马斯克的律师马克·托贝罗夫表示，马斯克“不会为自己索取一美元”。"

"ProPublica工会的约150名成员正在谈判一项集体谈判协议……包括围绕AI使用的保护、‘正当理由’条款……解雇保护和工资在内的关键问题仍处于争议之中。"

"专项治理工作共清理相关违规视频23000余条、处置违规账号100余个，有效遏制违规视频蔓延的不良态势。"

"非营利研究组织OpenAI最近透露，它开发了一种新的文本生成模型，该模型在给定特定主题提示下能够写出连贯、多用途的散文。"

"马斯克于2024年对OpenAI提起诉讼，声称该公司在放弃非营利指定时已成为微软的“闭源事实上的子公司”。"

"权（Kwon）引用周一在《纽约客》上发表的一篇文章，要求当局调查马斯克及其同伙的任何“反竞争”和“不当”行为。"

"当这些差异由相同的大语言模型（LLM）中介时，它们独特的语言风格、视角和推理策略会被同质化，从而在用户之间产生标准化的表达和思想。"