在過去的一年里，我們與數(shù)十個團(tuán)隊(duì)合作，在各個行業(yè)構(gòu)建了很多大型語言模型（LLM）Agent。

原標(biāo)題：OpenAI 最強(qiáng)競對 Anthropic：如何構(gòu)建有效的 Agent
文章來源：AI前線
內(nèi)容字?jǐn)?shù)：11837字

高效構(gòu)建大型語言模型 (LLM) Agent 的實(shí)用指南

本文總結(jié)了Anthropic公司在過去一年中與數(shù)十個團(tuán)隊(duì)合作構(gòu)建大型語言模型Agent的經(jīng)驗(yàn)，并提供了開發(fā)人員構(gòu)建有效Agent的實(shí)用建議。文章的核心觀點(diǎn)是：成功的關(guān)鍵不在于構(gòu)建最復(fù)雜的系統(tǒng)，而在于構(gòu)建最適合需求的系統(tǒng)，并強(qiáng)調(diào)簡單性、透明度和精心設(shè)計的Agent-計算機(jī)接口 (ACI)。

1. 什么是Agent？

文章將Agent定義為由LLM動態(tài)指導(dǎo)其自身流程和工具使用的系統(tǒng)，與預(yù)定義工作流的系統(tǒng)形成對比。工作流通過預(yù)定義代碼路徑編排LLM和工具，而Agent則由LLM動態(tài)控制其完成任務(wù)的方式。 文章還介紹了兩種Agent系統(tǒng)：完全自主的系統(tǒng)和遵循預(yù)定義工作流的系統(tǒng)。

2. 何時使用（以及何時不使用）Agent

文章建議優(yōu)先選擇最簡單的解決方案，僅在需要時增加復(fù)雜性。Agent系統(tǒng)通常會犧牲延遲和成本來換取更好的任務(wù)性能，因此需要權(quán)衡利弊。工作流更適合明確定義的任務(wù)，而Agent更適合需要大規(guī)模靈活性和模型驅(qū)動決策的任務(wù)。對于許多應(yīng)用，優(yōu)化單個LLM調(diào)用就足夠了。

3. 何時以及如何使用框架

文章介紹了一些可以簡化Agent系統(tǒng)實(shí)現(xiàn)的框架，例如LangChain的LangGraph、Amazon Bedrock的AI Agent框架等。但同時也指出這些框架可能會增加額外的抽象層，使調(diào)試更困難，并可能讓人傾向于增加不必要的復(fù)雜性。文章建議開發(fā)人員一開始直接使用LLM API，并在需要時再使用框架，并確保理解底層代碼。

4. 構(gòu)建塊、工作流和Agent

文章詳細(xì)介紹了構(gòu)建Agent系統(tǒng)的構(gòu)建塊和幾種常見的工作流模式，包括：提示鏈、路由、并行化（分段和投票）、編排器-工作者和評估器-優(yōu)化器。每種模式都說明了其適用場景和示例。

5. Agent 的使用場景和實(shí)現(xiàn)

文章闡述了Agent的優(yōu)勢，尤其是在處理開放式問題和需要多步驟決策的任務(wù)方面。Agent的自主性使其能夠計劃和運(yùn)作，但同時也帶來了更高的成本和潛在的復(fù)合錯誤風(fēng)險。文章建議在受信任的環(huán)境中進(jìn)行廣泛測試，并采用適當(dāng)?shù)姆雷o(hù)措施。并舉例說明了編程Agent和計算機(jī)使用Agent。

6. 組合和自定義模式

文章強(qiáng)調(diào)構(gòu)建塊的靈活性，開發(fā)人員可以根據(jù)不同用例進(jìn)行組合和自定義。成功的關(guān)鍵在于衡量性能并迭代實(shí)現(xiàn)，避免不必要的復(fù)雜性。

7. 總結(jié)和核心原則

文章總結(jié)了構(gòu)建高效Agent系統(tǒng)的三個核心原則：保持簡單性、優(yōu)先考慮透明度和精心設(shè)計Agent-計算機(jī)接口(ACI)。建議從簡單的提示開始，逐步增加復(fù)雜性，并始終關(guān)注性能評估和迭代改進(jìn)。

8. 附錄：實(shí)踐中的Agent和工具提示工程

附錄部分提供了兩個Agent應(yīng)用的實(shí)際案例：客戶支持和編程Agent，并詳細(xì)闡述了如何對工具進(jìn)行提示工程，以優(yōu)化Agent的性能和可靠性，強(qiáng)調(diào)了良好的Agent-計算機(jī)接口(ACI)設(shè)計的重要性。

聯(lián)系作者

文章來源：AI前線
作者微信：
作者簡介：面向AI愛好者、開發(fā)者和科學(xué)家，提供大模型最新資訊、AI技術(shù)分享干貨、一線業(yè)界實(shí)踐案例，助你全面擁抱AIGC。