LangChain：2024 年 AI 應(yīng)用開發(fā)報告

使用教程3個月前更新特工宇宙

212 0 0

原標(biāo)題：LangChain：2024 年 AI 應(yīng)用開發(fā)報告
文章來源：特工宇宙
內(nèi)容字?jǐn)?shù)：4355字

LangChain 2024 年 LLM 應(yīng)用開發(fā)趨勢洞察

LangChain 生態(tài)系統(tǒng)在 2024 年蓬勃發(fā)展，其一體化 LLM 應(yīng)用開發(fā)平臺 LangSmith 吸引了近百萬用戶注冊。通過分析 LangSmith 上數(shù)百萬次 LLM 應(yīng)用追蹤數(shù)據(jù)，我們對 LLM 應(yīng)用開發(fā)的趨勢有了更清晰的認(rèn)識。本文將分享一些關(guān)鍵發(fā)現(xiàn)，展現(xiàn) LLM 應(yīng)用構(gòu)建的實踐演進(jìn)。

基礎(chǔ)設(shè)施：開源模型崛起與部署方式多元化

OpenAI 依然占據(jù) LLM 提供商榜首，但開源模型的勢頭不容小覷。Ollama 和 Groq 等開源模型提供商快速崛起，進(jìn)入前五名。Ollama 專注本地部署，Groq 則側(cè)重云端部署，這體現(xiàn)了開發(fā)者對靈活部署和定制化基礎(chǔ)設(shè)施日益增長的需求。開源模型的整體使用率約占前 20 名 LLM 提供商的 20%，顯示出其在 LLM 應(yīng)用開發(fā)中的重要性。

數(shù)據(jù)存儲：向量數(shù)據(jù)庫的應(yīng)用與選擇

在檢索技術(shù)方面，Chroma 和 FAISS 依然是最受歡迎的向量數(shù)據(jù)庫。Milvus、MongoDB 和 Elastic 等數(shù)據(jù)庫也躋身前十，顯示出向量數(shù)據(jù)庫市場的多樣化發(fā)展。這反映了開發(fā)者對高效存儲和檢索向量數(shù)據(jù)的日益重視，以支持更復(fù)雜的 LLM 應(yīng)用。

應(yīng)用構(gòu)建：Agent 模式興起與復(fù)雜工作流的構(gòu)建

LangChain 用戶構(gòu)建的應(yīng)用越來越多樣化，從簡單的問答到復(fù)雜的 Agent 工作流，創(chuàng)新層出不窮。 Agent 模式應(yīng)用日益普及，LangChain 自研的 Agent 框架 LangGraph 的使用率達(dá)到 43%，體現(xiàn)了開發(fā)者對構(gòu)建更智能、更自主的 Agent 的興趣。工具調(diào)用的平均次數(shù)大幅增加，從 2023 年的 0.5 次增加到 2024 年的 21.9%，這表明 Agent 能夠更有效地與外部系統(tǒng)交互，完成更復(fù)雜的任務(wù)。

開發(fā)工具與語言：Python 繼續(xù)領(lǐng)先，JavaScript 增長迅速

Python 仍然是 LLM 應(yīng)用開發(fā)的主導(dǎo)語言，占據(jù) 84.7% 的市場份額。然而，JavaScript 的使用量增長了三倍，達(dá)到 15.3%，這與 Web 應(yīng)用開發(fā)的增長趨勢相符。開發(fā)者對不同編程語言的需求日益多樣化。

可觀測性：超越 LangChain 框架

盡管 LangChain 是許多 LLM 應(yīng)用開發(fā)的核心，但 15.7% 的 LangSmith 用戶來自非 LangChain 框架。這表明，無論使用何種框架，對 LLM 應(yīng)用的可觀測性需求都在增加，開發(fā)者需要有效地監(jiān)控和調(diào)試其應(yīng)用。

性能與優(yōu)化：更復(fù)雜、更高效的應(yīng)用

每個追蹤的平均步驟數(shù)從 2023 年的 2.8 步增加到 2024 年的 7.7 步，顯示應(yīng)用復(fù)雜性顯著提升。然而，平均 LLM 調(diào)用次數(shù)的增長相對較慢，這表明開發(fā)者更注重優(yōu)化，在減少 LLM 調(diào)用次數(shù)的同時實現(xiàn)更復(fù)雜的功能，從而降低成本。

測試與評估：自動化測試和迭代改進(jìn)

開發(fā)者越來越重視測試和評估。LangSmith 的評估功能被廣泛用于自動化測試，并通過收集用戶反饋來迭代改進(jìn)應(yīng)用。相關(guān)性、正確性、精確匹配度和有用性是開發(fā)者測試中最關(guān)注的維度。通過人類反饋的迭代，開發(fā)者能夠創(chuàng)建更強大、更可靠的 LLM 應(yīng)用。帶有注釋的運行次數(shù)增長了 18 倍，這表明開發(fā)者積極利用人類反饋來改進(jìn)其模型。

總結(jié)：邁向更智能、更高效、更可靠的 LLM 應(yīng)用

2024 年 LLM 應(yīng)用開發(fā)呈現(xiàn)出向更復(fù)雜、更高效、更可靠的方向發(fā)展趨勢。Agent 模式的興起、開源模型的普及、以及對可觀測性和測試的重視，都推動著 LLM 應(yīng)用生態(tài)的不斷成熟。未來，我們期待看到開發(fā)者如何探索更智能的工作流，構(gòu)建更強大的 LLM 應(yīng)用。