Arcane Scholar让每一条结论都能翻到页码

长上下文并不能保证模型用到中段的信息。当关键证据落在上下文中间时，模型的表现会明显低于把它放在开头或结尾的时候 [1]。这说明把上下文塞满，和真正用上它，是两件事，检索与排序仍然重要 [2]。

1. 1Lost in the Middle: How Language Models Use Long ContextsNelson F. Liu, Kevin Lin, John Hewitt, Ashwin Paranjape, Michele Bevilacqua, Fabio Petroni, Percy Liang · 2023 · 第 4 页关键证据位于开头或结尾时得分最高，位于中间时显著下降（位置曲线，第 4 页）。
2. 2Retrieval-Augmented Generation for Knowledge-Intensive NLP TasksPatrick Lewis, Ethan Perez, Aleksandra Piktus, Fabio Petroni, Vladimir Karpukhin, Naman Goyal 等 · 2020 · 第 1 页检索回来的段落比把它整体塞进上下文更能支撑事实性问答（第 1 页）。