深度丨AI Agents 技術棧圖譜與分析

來自 Letta.

原標題：深度丨AI Agents 技術棧圖譜與分析
文章來源：特工宇宙
內容字數：6922字

AI Agents 技術棧的演變與未來展望

近年來，人工智能領域的快速發展催生了眾多新技術和應用，其中 AI Agents 的崛起無疑是最為引人注目的趨勢之一。Letta 最近發布的一份研究報告深入探討了 AI Agents 的技術棧，提供了對這一生態系統的獨特見解。本文將總結該報告的核心觀點，分析 AI Agents 的發展現狀及未來潛力。

AI Agents 的行業格局

雖然市場上已有多種 Agent 技術棧地圖，但許多現有分類方式并未能有效反映開發者的真實使用情況。隨著記憶管理、工具使用、安全執行和部署技術的進步，AI Agents 的生態系統正在不斷演化。因此，Letta 在報告中分享了其基于多年經驗的“Agent 技術棧圖譜”，將其分為三個關鍵層級：Agent 托管/服務、Agent 框架以及大語言模型與記憶存儲。

從大語言模型到 AI Agents

在 2022 年和 2023 年，大語言模型（LLMs）框架和 SDK 迅速崛起，例如 LangChain 和 LlamaIndex。同時，多個平臺通過 API 提供大語言模型的使用和部署。進入 2024 年，市場對“Agent”及其復合系統的興趣顯著上升。雖然“Agent”的概念在強化學習等領域已有較長歷史，但在后 ChatGPT 時代，這一術語的定義變得模糊，通常指的是能夠自主執行任務的大語言模型系統。

AI Agents 的架構分析

AI Agents 的架構與傳統大語言模型系統有顯著不同，主要體現在狀態管理和工具執行的復雜性上。Agent 需要保留歷史記錄、存儲長期記憶，并能夠安全地執行工具調用。以下是 AI Agents 架構的幾個關鍵組成部分：

模型服務

AI Agents 的核心是大語言模型，通常通過付費 API 提供服務。OpenAI 和 Anthropic 是主要的閉源模型 API 提供商，而一些開源模型服務平臺如 Together.AI 和 Fireworks 也在迅速發展。

存儲

對于有狀態的 Agent 來說，存儲是一個基本構建塊。向量數據庫如 Chroma 和 Pinecone 常用于存儲 Agent 的外部記憶，幫助其處理大規模數據和對話歷史。

工具與庫

AI Agents 相較于機器人最大的區別在于其調用“工具”的能力。這些工具是通過結構化輸出進行調用的，確保 Agent 能夠安全有效地執行各種任務。

Agent 框架

Agent 框架負責協調大語言模型調用并管理 Agent 狀態。不同框架在狀態管理、上下文窗口結構及記憶管理等方面存在差異，影響了 Agent 的性能和擴展性。

Agent 托管與服務的未來

目前，大多數 Agent 框架仍處于開發階段，通常在 Python 腳本或 Jupyter Notebook 中運行。未來，AI Agents 有望作為一種服務部署到本地或云基礎設施中，通過 REST API 進行訪問。這一轉變將帶來更高的靈活性和可擴展性，盡管在狀態管理和安全執行方面仍面臨挑戰。

結論

AI Agents 的技術棧仍處于早期階段，隨著技術的不斷進步，我們期待這一生態系統的擴展與演變。Letta 的研究報告為我們提供了寶貴的見解，幫助我們更好地理解 AI Agents 的發展趨勢及其未來潛力。

聯系作者

文章來源：特工宇宙
作者微信：
作者簡介：Agent Universe，專注于智能體的AI科技媒體。