HaluNet: 用于LLM问答的幻觉检测

本文解决了用于问答的大型语言模型（LLM）中幻觉的关键问题。 提出的HaluNet框架通过整合多种粒度的不确定性，特别是token级别的概率和语义表示，提供了一种新颖的方法来改进幻觉检测。 关注效率和实时适用性对于实际的LLM应用尤为重要。 本文的贡献在于其多分支架构，该架构将模型知识与输出不确定性融合，从而提高了检测性能和计算效率。 在多个数据集上的实验验证了所提出方法的有效性。

• •提出了 HaluNet，一个用于 LLM 问答中幻觉检测的新框架。
• •集成了多粒度 token 级不确定性（概率置信度和语义嵌入）。
• •实现了强大的检测性能和计算效率。
• •适用于基于 LLM 的 QA 系统中的实时幻觉检测。