IIT Kharagpur 推出创新长上下文LLM，评估叙事一致性

IIT Kharagpur的这项研究提出了一个引人注目的方法来评估LLM的长上下文推理，重点关注整篇小说中的因果关系和逻辑一致性。 团队使用完全本地的开源设置尤为值得注意，展示了人工智能研究中可访问的创新。 看到这种规模下对叙事连贯性的理解取得进展真是太棒了!

• •该项目采用完全本地的开源方法，使用Pathway进行文档摄取，Ollama (Llama 2.5, 7B) 用于本地LLM推理。
• •该研究侧重于评估角色背景故事与整部小说（10万字以上）之间的因果关系和逻辑一致性。
• •它展示了在LLM中长上下文推理中约束跟踪和基于证据的决策的潜力。