効率的な文書表現のためのスキム認識対照学習

この論文は、法律や医学などの分野で一般的な問題である長い文書の表現という課題に取り組んでいます。標準的なTransformerモデルではこれが困難です。人間のスキミング行動に着想を得た、新しい自己教師あり対照学習フレームワークを提案しています。この方法の強みは、効率性と、重要なセクションに焦点を当て、NLIベースの対照目的を使用してそれらを整列させることによって、文書レベルのコンテキストを捉える能力にあります。結果は精度と効率の両方の向上を示しており、長い文書表現への貴重な貢献となっています。