保障自主性：运筹学如何赋能和协调生成式人工智能系统

本文探讨了生成式人工智能（GenAI）系统日益增长的自主性，以及在运营领域确保其可靠性和安全性的机制需求。它提出了一个“保障自主性”的框架，利用运筹学（OR）技术来解决随机生成模型的固有脆弱性。本文的重要性在于它关注在现实世界应用中部署GenAI的实际挑战，这些应用中的失败可能会导致严重后果。它强调了OR的角色从求解器转变为系统架构师，强调了控制逻辑、安全边界和监控机制的重要性。

• •随着GenAI系统获得运营自主权，它们需要保障自主性的机制。
• •运筹学（OR）为构建可靠和安全的GenAI系统提供了框架。
• •该框架使用基于流的生成模型和对抗鲁棒性视角。
• •在自主性不断增强的背景下，OR的角色从求解器转变为系统架构师。