LongRAG是一款由清華大學、中國科學院及智譜研究團隊共同開發的雙視角魯棒檢索增強生成（RAG）框架，專注于長文本問答（LCQA）。該系統通過結合混合檢索器、LLM增強信息提取器、CoT引導過濾器和LLM增強生成器四大核心組件，有效應對長文本問答中的全局上下文理解和細節識別的挑戰。LongRAG在多個數據集上優于長上下文LLM、高級RAG系統及普通RAG等基準模型，展現出其卓越的性能和魯棒性。此外，LongRAG還提供了自動化微調數據構建管道，提升系統的“指令跟隨”能力和領域適應性。

LongRAG是什么

LongRAG是清華大學、中國科學院與智譜研究團隊推出的一種面向長文本問答（LCQA）的雙視角魯棒檢索增強生成框架。系統基于混合檢索器、LLM增強信息提取器、CoT引導過濾器以及LLM增強生成器四個主要組件，旨在有效解決長文本問答中的全局上下文理解與事實細節識別問題。在多個數據集上，LongRAG的表現超越了長上下文LLM、高級RAG系統及傳統RAG模型，顯示出其卓越的性能和穩定性。它還提供了自動化微調數據構建流程，增強了系統在特定任務上的表現。

LongRAG的主要功能

• 雙視角信息處理：通過整合全局信息和事實細節，提升對長文本上下文問題的理解與回答能力。
• 混合檢索器：快速從海量數據中檢索與用戶問題相關的信息片段。
• LLM增強信息提取器：將檢索到的片段映射回原始的長文本段落，提取出全局背景及結構信息。
• CoT引導過濾器：利用鏈式思考（Chain of Thought,CoT）引導模型關注與問題相關的信息，過濾掉無關內容。
• LLM增強生成器：結合全局信息和關鍵事實細節生成最終答案。
• 自動化微調數據構建：基于自動化流程生成高質量微調數據集，提高模型在特定任務上的表現。

LongRAG的技術原理

• 檢索增強生成（RAG）：基于RAG框架，利用外部知識輔助語言模型生成回答。
• 全局信息和細節信息的整合：系統不僅關注局部事實細節，還整合長文本中的全局信息，以提供更全面的答案。
• 映射策略：將檢索到的片段映射回原始的長文本，恢復上下文信息，從而提供更為準確的背景結構。
• 鏈式思考（CoT）：利用CoT作為全局線索，指導模型逐步關注與問題相關的知識，提升證據密度。
• 過濾策略：基于CoT的全局線索，過濾掉不相關的信息片段，保留關鍵事實細節。

LongRAG的項目地址

• GitHub倉庫：https://github.com/QingFei1/LongRAG
• arXiv技術論文：https://arxiv.org/pdf/2410.18050

LongRAG的應用場景

• 客戶服務與支持：在客戶服務領域，能夠有效理解并回答長篇客戶查詢或歷史交互記錄，提供更準確的解決方案。
• 醫療咨詢：在醫療行業內處理大量患者記錄和醫學文獻，回答醫生或患者關于疾病、治療及藥物的復雜問題。
• 法律咨詢：幫助法律專業人士分析大量法律文件和案例，提供關于法律問題的深入分析與建議。
• 教育與研究：在教育領域，作為輔助工具，幫助學生和研究人員深入理解長篇學術文章和研究報告，解答相關問題。
• 企業決策支持：分析市場研究報告、企業年報等長篇文檔，為商業決策提供數據支持和洞察。