用于高效文档表示的 Skim-Aware 对比学习

Research Paper#Natural Language Processing, Document Representation, Contrastive Learning🔬 Research|分析: 2026年1月3日 15:35•
发布: 2025年12月30日 17:33
•
1分で読める
•ArXiv

分析

本文解决了长文档表示的挑战，这是法律和医学等领域中的常见问题，标准Transformer模型难以处理。它提出了一种新的自监督对比学习框架，灵感来自人类的略读行为。该方法的优势在于其效率以及通过关注重要部分并使用基于NLI的对比目标对齐它们来捕获文档级上下文的能力。结果表明在准确性和效率方面都有所提高，这使其成为对长文档表示的宝贵贡献。
引用 / 来源
查看原文
"Our method randomly masks a section of the document and uses a natural language inference (NLI)-based contrastive objective to align it with relevant parts while distancing it from unrelated ones."
A
ArXiv2025年12月30日 17:33
* 根据版权法第32条进行合法引用。
较旧

Assembling a Bose-Hubbard superfluid from tweezer-controlled single atoms

较新

Utility Maximisation with Model-independent Constraints

相关分析

Research Paper

SpaceTimePilot：时空控制的生成视频渲染

2026年1月3日 06:10

Research Paper

量子混沌哈密顿量演化下的随机性生成

2026年1月3日 06:10

Research Paper

GaMO：几何感知扩散用于稀疏视角3D重建

2026年1月3日 06:32

来源: ArXiv