content moderation

"xAI在1月份表示，已采取措施阻止用户请求获取真实人物的性暗示图片，并表示会阻止用户在相关法律禁止的地区生成此类内容。"

"抖音整治AI不当内容，重点处置利用AI技术换脸、盗声。"

"针对利用AI技术实行换脸、盗用名人肖像形象，利用AI生成、发布、传播侵犯他人知识产权，肖像恶搞内容、仿冒蹭热他人等典型违规行为，平台开展了专项治理行动。"

"就个人而言，比起仅仅将其视为一种“安全功能”，如果根据“由谁来做最终决定”来对Guardrails进行分类，理解起来就会变得一目了然。如果由应用决定，就是On-Demand；如果希望OCI强制拦截，就是Block；如果想先进行观察和审计，就是Inform。"

"已经支付了400加元的年费（第二年）。将项目转移到Claude没有任何问题。"

"公众号和服务号不得利用AI、脚本、接口或其他自动化方式，替代真人完成内容创作、发布等流程。"

"人类容忍技术、直到驾驭技术的共存过程，从来都是「边发展、边治理」的模式。"

"Bluesky 的新 AI 工具 'Attie' 封锁了超过 13 万个帐户。"

"YouTube 正在积极优化其治理策略，旨在在鼓励技术应用和维护内容生态之间找到平衡。"

"新政策很明确：“禁止使用LLM生成或改写文章内容”"

"AI标记了大约200本书，要求从学校图书馆移除，其中包括《一九八四》、《电锯人》和《鬼灭之刃》等书籍。"

"据路透社消息，美国巴尔的摩市正式起诉埃隆·马斯克旗下的人工智能公司xAI，指控其AI聊天机器人Grok非法生成未经同意的露骨色情图像及儿童性剥削内容。"

"Spotify 正在 beta 测试艺术家资料保护，允许艺术家在发布之前审查作品，以防止 AI 歌曲归属于他们"

"OpenAI 宣布了面向开发人员的新的开源安全提示词，旨在大规模部署保护青少年的政策。"

"根据计划，Meta 将在未来12个月内逐步裁撤多达40%的外部审核人员，并将资源重新配置给内部 AI 工具，例如针对审核任务进行微调的 Llama 模型。"

"因此，一天需要几个小时才能处理的100多条内容，现在每条只需几秒到几分钟即可处理。"

"在BBC强调使用AI生成的黑人女性网红引导用户访问宣传性暗示内容的网站后，TikTok封禁了20个账号。"

"Meta Meta 的 AI 助手旨在结束所有这些搜索。 该助手直接内置于这两个应用程序中，可以在五秒钟内响应您的请求。"

"Meta 在更新中表示：“专家将设计、训练、监督和评估我们的人工智能系统，衡量性能并做出最复杂、影响最大的决策。”"

"“虽然我们仍将有人工审核内容，但这些系统将能够承担更适合技术的工作，比如重复审核图形内容，或者应对敌对行为者不断改变策略的领域，例如非法毒品销售或诈骗，”"

"Meta 计划减少对第三方供应商的内容审核的依赖，转而使用其声称更擅长发现诈骗和其他任务的 AI 工具。"

"YouTube 有一个新计划来处理涌入其平台的生成式人工智能生成内容的浪潮，而这与你有关。"

"过滤器会阻止并删除仅仅提及角色换衣服、洗澡、调情等内容的帖子。"

"YouTube 正在调查用户，询问视频是否感觉像“AI垃圾”和“低质量AI”。"

"北京将重点关注五个关键领域：打击AI生成的合成色情内容，解决AI生成的假冒和侵权问题，打击AI生成的虚假谣言，规范AI识别去除工具的销售，以及加强平台的内容识别和处理能力。"

"OpenAI 首席执行官 Sam Altman 去年首次提议在 ChatGPT 聊天机器人中引入露骨的性对话功能，解除对此类受限内容的禁令，理由是需要“将成年用户当作成年人对待”。"

"Meta 表示，2025 年下半年，与上一年同期相比，原创内容在 Facebook 上的观看次数和观看时长大约翻了一倍，这被视为此次算法和政策调整的直接效果。"

"作为一个从真人分享起家的UGC社区，真诚和真实一直是小红书的立身之本。"

"请勿发布生成的/AI编辑的评论。 HN 用于人与人之间的对话。"

"“我们仍然相信像对待成年人一样对待成年人的原则，但要获得正确的体验还需要更多时间，”该公司表示。"