大模型「記憶斷片」成歷史！AI初創(chuàng)全新Zep系統(tǒng)，知識(shí)圖譜上下文詛咒

原標(biāo)題：大模型「記憶斷片」成歷史！AI初創(chuàng)全新Zep系統(tǒng)，知識(shí)圖譜上下文詛咒
文章來(lái)源：新智元
內(nèi)容字?jǐn)?shù)：4190字

Zep：賦予AI長(zhǎng)期記憶的性插件

大型語(yǔ)言模型(LLM)的上下文窗口限制使其如同患有“健忘癥”，難以記住之前的對(duì)話內(nèi)容。為了解決這一問(wèn)題，Zep AI推出了一款名為Zep的插件，旨在為L(zhǎng)LM智能體提供強(qiáng)大的長(zhǎng)期記憶功能，顯著提升用戶體驗(yàn)。

1. 解決LLM的“失憶”問(wèn)題： 當(dāng)前LLM普遍存在上下文窗口限制，超出限制后便會(huì)“忘記”之前的對(duì)話。Zep通過(guò)構(gòu)建長(zhǎng)期記憶機(jī)制，有效解決了這個(gè)問(wèn)題，讓智能體能夠記住之前的全部對(duì)話，從而減少幻覺(jué)、延遲和成本。

2. Zep的工作原理： Zep的核心是一個(gè)具有時(shí)間感知能力的動(dòng)態(tài)知識(shí)圖譜引擎Graphiti。它能攝入并整合結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，并動(dòng)態(tài)更新知識(shí)圖譜，從而表征一個(gè)復(fù)雜且不斷變化的世界。Graphiti具有時(shí)間提取和邊失效過(guò)程，能夠有效管理動(dòng)態(tài)信息更新。與傳統(tǒng)的基于檢索增強(qiáng)生成(RAG)的方法相比，Zep更直接地為L(zhǎng)LM構(gòu)建了存儲(chǔ)部件，避免了RAG方法的額外工程和時(shí)間差。

3. Zep的知識(shí)圖譜結(jié)構(gòu)： Zep的知識(shí)圖譜包含三層子圖：情節(jié)子圖(原始數(shù)據(jù))、語(yǔ)義子圖(實(shí)體及關(guān)系)和社區(qū)子圖(實(shí)體簇)。這種分層結(jié)構(gòu)更接近人類(lèi)的記憶模式，允許LLM智能體發(fā)展出更復(fù)雜和細(xì)微的存儲(chǔ)結(jié)構(gòu)。

4. 高效的內(nèi)存檢索系統(tǒng)： Zep的內(nèi)存檢索系統(tǒng)包含三個(gè)核心步驟：搜索(結(jié)合全文搜索、余弦相似度搜索和廣度優(yōu)先搜索，最大程度挖掘相關(guān)信息)、重排(對(duì)搜索結(jié)果排序)和構(gòu)造器(將結(jié)果轉(zhuǎn)換為文本上下文)。這種多維度搜索策略提升了檢索效率和準(zhǔn)確性。

5. 優(yōu)異的性能表現(xiàn)： 通過(guò)DMR和LongMemEval基準(zhǔn)測(cè)試，Zep在準(zhǔn)確性和響應(yīng)速度方面均顯著優(yōu)于基線方法，包括MemGPT以及其他LLM內(nèi)存方法。在LongMemEval基準(zhǔn)測(cè)試中，Zep將響應(yīng)時(shí)間減少了約90%，相比其他LLM供應(yīng)商也有約80%的提升。

6. Zep的優(yōu)勢(shì)與應(yīng)用： 與MemGPT相比，Zep更適合工業(yè)生產(chǎn)環(huán)境，在準(zhǔn)確性、延遲和可擴(kuò)展性方面均有提升。它能夠處理大量的動(dòng)態(tài)數(shù)據(jù)，例如用戶交互、業(yè)務(wù)數(shù)據(jù)和世界知識(shí)，為各種復(fù)雜問(wèn)題的解決提供了強(qiáng)大的支持。

7. 開(kāi)源與未來(lái)： Zep的核心插件已在GitHub上開(kāi)源(3k+星)，并發(fā)表了技術(shù)原理的預(yù)印版論文。Zep為構(gòu)建更智能、更強(qiáng)大的AI智能體提供了新的可能性，未來(lái)發(fā)展值得期待。

聯(lián)系作者

文章來(lái)源：新智元
作者微信：
作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類(lèi)社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。