RAG风险：为什么检索增强型LLM并不更安全，与Sebastian Gehrmann

本文讨论了与检索增强生成（RAG）系统相关的安全风险，特别是在金融服务等高风险领域。文章强调，尽管人们有所期望，但RAG可能会降低模型安全性，导致不安全输出。讨论涵盖了评估这些风险的方法、这种违反直觉行为的潜在原因，以及针对金融行业的特定领域安全分类法。文章还强调了治理、监管框架、提示工程和缓解策略在提高专业领域内人工智能安全性的重要性。与彭博社负责任人工智能部门负责人Sebastian Gehrmann的访谈提供了宝贵的见解。