Hima Lakkaraju 谈 AI 在高风险决策中的应用 - #387

这篇文章来自 Practical AI，讨论了 Hima Lakkaraju 关于可解释 AI (XAI) 技术可靠性的研究，特别是那些使用基于扰动的方法（如 LIME 和 SHAP）的技术。重点是这些技术的潜在不可靠性以及它们可能被利用的方式。文章强调了理解 XAI 局限性的重要性，尤其是在信任和准确性至关重要的高风险决策场景中。它建议研究人员和从业者应该意识到这些方法的脆弱性，并探索更强大和值得信赖的可解释性方法。