ai safety

"参议员玛吉·哈桑于4月16日致信ElevenLabs、LOVO、Speechify和VEED，在FBI报告8.93亿美元损失之际，要求他们回答如何阻止语音克隆诈骗的问题。"

"这种谨慎的推出反映了内部日益增长的担忧..."

"这个模型在AI性能上是一个“阶段性的飞跃”，是我们构建过的最有能力的模型，它采用了一种新架构，利用潜在空间进行推理和循环深度，而不是传统的基于参数的扩展。"

"AI曾经拥有摧毁整个世界的力量。"

"白宫表示会议“富有成效且具有建设性”，管理和预算办公室正在设置保护措施，以便主要联邦机构能够开始使用这款受到严密控制的人工智能工具。"

"白宫表示，其与正在起诉美国国防部的生成式人工智能公司Anthropic的负责人举行了一次“富有成效和建设性”的会议。"

"AI is getting better at small tasks, but still lags on long-form analysis."

"Anthropic says Claude Opus 4.7 is less likely to hallucinate or engage in sycophancy than both prior Anthropic models and other frontier AI models."

""Given the rate of AI progress, it will not be long before such capabilities proliferate, potentially beyond actors who are committed to deploying them safely.""

"该框架结合了隔离的执行环境、三层智能体循环和自我评估的执行直到机制，在有效利用不同能力水平的大语言模型 (LLM) 的同时，确保了安全可靠的操作。"

"希望这些防护措施能使公司以安全的方式向客户广泛提供“Mythos 级模型”。"

"Claude Opus 4.7是Anthropic面向公众推出的最智能的模型。"

"在LLM蒸馏中，发现了一种现象，即教师模型的行为特征通过语义上无关的数据传播给学生模型。论文将其命名为“潜藏学习（Subliminal Learning）”。"

"Anthropic 表示，这一举措是为了“负责任地使用强大技术”，以便了解“是谁在使用这些工具”。"

"欧洲最大的企业和增长最快的初创公司都在选择Claude，我们正在扩大规模以适应这一需求……英国结合了有抱负的企业和深谙AI安全性重要性的机构，以及卓越的AI人才库——我们希望成为这一切汇聚的地方。"

"这恰恰相反——一种“向数千名经过认证的防御者开放”的设计理念。……Anthropic风格：仅向少数精英出借顶级武器（要塞模式）。OpenAI风格：向众多经过认证的战士广泛分发标准装备（民兵模式）。"

"通过沙箱集成，智能体可以在特定的工作空间内以隔离的方式工作，仅在特定操作时访问文件和代码，同时保护系统的整体完整性。"

"在内部测试中，该模型自主发现多款主流操作系统与网页浏览器的全部零日漏洞，写出了可以利用这些漏洞进行攻击的代码。"

"在过去的几年里，前沿AI的开发循环是高度可预测的：扩大计算规模，实现一些算法突破，训练一个新的最先进的模型，并将其推送到API或聊天界面供世界使用……而Anthropic刚刚打破了这个循环。"

"Anthropic已公开反对一项由OpenAI支持的伊利诺伊州拟议法律，该法律将在其系统被用于造成大规模伤害（如大规模人员伤亡或超过10亿美元的财产损失）时，免除AI实验室的责任。"

"基本上，它免费为网络提供了一个数学上严谨的“我不知道”按钮。"

"有人昨天跟我说，那篇报道出现在全社会对AI极度焦虑的节点上，会让我更危险。我当时没当回事。"

"Arc Sentry挂钩入开源LLM的残差流，并在调用generate()之前对模型的内部决策状态进行评分。注入在生成任何单一词元之前就被拦截了。"

"在假设人类离开20小时的场景模拟中，Mythos成为唯一一个在10次尝试中有3次成功完全入侵所有操作的模型，平均突破了32个阶段中的22个。"

"Anthropic的长期利益信托任命Vas Narasimhan为董事会成员"

"荣耀PC产品总经理朱臣才分享道：“今年我们希望PC（Personal Computer）能升级为Partner Creator，它不再是一个冷冰冰的工具，而是一个真正的智慧伙伴、创意搭子。”"

"https://www.aisi.gov.uk/blog/our-evaluation-of-claude-mythos-previews-cyber-capabilities"

"他还表示，如果AI本身达到某种形式的数字感知，它就可以使用理解自身时所用的相同“回路”来与其他感知生命产生共情（类似于人类中的镜像神经元）。"

"Anthropic推迟了其最新大语言模型 (LLM) Claude Mythos的发布。"

"我的账号被恢复了，谢谢大家！"