学校AI安全系统将单簧管误认为枪支，引发封锁

这一事件凸显了在人工智能安全系统中进行稳健验证和可解释性的关键需求，尤其是在学校等高风险环境中。供应商坚持认为识别不是错误，这引发了人们对其理解人工智能局限性和负责任部署的担忧。