直接置信度对齐：对齐大型语言模型中口头置信度与内部置信度

本文重点关注通过确保模型表达的置信度与其内部确定性相符来提高大型语言模型（LLM）的可靠性。这是构建更值得信赖和可靠的AI系统的关键一步。这项研究可能探索了校准模型输出置信度的方法，可能使用将内部表征映射到口头置信度水平的技术。来源ArXiv表明这是一篇预印本，表明正在进行的研究。

• •侧重于对齐LLM中口头置信度与内部置信度。
• •旨在提高AI系统的可信度和可靠性。
• •可能探索了校准模型输出置信度的方法。