1. 為什么我要寫(xiě)這個(gè)AI Agent系列過(guò)去大半年我?guī)缀醢咽忻嫔夏芙械贸雒值腁I Agent框架都摸了一遍。從最早期用純提示詞硬編碼的“偽Agent”到后來(lái)接入工具調(diào)用、記憶系統(tǒng)、多Agent協(xié)作的完整方案踩過(guò)的坑比寫(xiě)過(guò)的代碼行數(shù)還多。這個(gè)系列我打算把整個(gè)學(xué)習(xí)和實(shí)踐過(guò)程完整記錄下來(lái)不是那種“官方文檔翻譯”式的教程而是一個(gè)真實(shí)開(kāi)發(fā)者從零到一構(gòu)建AI Agent系統(tǒng)的全流程復(fù)盤(pán)。先說(shuō)清楚這個(gè)系列適合誰(shuí)看。如果你已經(jīng)能熟練調(diào)用大模型API知道什么是提示詞工程但面對(duì)“Agent”這個(gè)概念總覺(jué)得隔了一層紗那這個(gè)系列就是為你準(zhǔn)備的。如果你是完全零基礎(chǔ)的小白我建議你先去補(bǔ)一下Python基礎(chǔ)和至少一個(gè)大模型API的基本用法否則后面很多實(shí)操環(huán)節(jié)你會(huì)卡在環(huán)境配置上。這個(gè)系列不會(huì)教你Python語(yǔ)法也不會(huì)解釋什么是Transformer架構(gòu)它聚焦的是一件事怎么把一個(gè)大模型從“聊天機(jī)器人”變成“能自主完成任務(wù)的智能體”。AI Agent這個(gè)詞現(xiàn)在被炒得很熱但很多人對(duì)它的理解還停留在“能調(diào)用幾個(gè)函數(shù)的ChatGPT”這個(gè)層面。實(shí)際上一個(gè)完整的Agent系統(tǒng)涉及任務(wù)規(guī)劃、工具調(diào)用、記憶管理、反思修正等多個(gè)模塊的協(xié)同。我見(jiàn)過(guò)太多人興沖沖地搭了一個(gè)Demo結(jié)果發(fā)現(xiàn)Agent要么陷入死循環(huán)要么調(diào)用工具時(shí)參數(shù)傳錯(cuò)要么在多輪對(duì)話(huà)后完全忘記之前做過(guò)什么。這些問(wèn)題不是靠換一個(gè)更強(qiáng)的模型就能解決的它們需要你在架構(gòu)層面做出正確的設(shè)計(jì)決策。這個(gè)系列的文章會(huì)按照“概念拆解→最小可行實(shí)現(xiàn)→逐步增強(qiáng)→生產(chǎn)級(jí)優(yōu)化”的路徑來(lái)組織。每一篇都會(huì)有可運(yùn)行的代碼但更重要的是我會(huì)解釋每一個(gè)設(shè)計(jì)選擇背后的原因。比如為什么記憶系統(tǒng)要用向量數(shù)據(jù)庫(kù)而不是簡(jiǎn)單的對(duì)話(huà)歷史拼接為什么工具調(diào)用的參數(shù)校驗(yàn)不能完全交給模型為什么多Agent協(xié)作有時(shí)候反而比單Agent效果更差這些問(wèn)題的答案才是一個(gè)Agent開(kāi)發(fā)者真正需要掌握的核心知識(shí)。2. 這個(gè)系列會(huì)覆蓋哪些核心內(nèi)容2.1 從單輪對(duì)話(huà)到自主任務(wù)執(zhí)行的跨越很多人第一次接觸Agent概念時(shí)最直觀的感受就是“它好像能自己決定做什么”。這種自主性的背后其實(shí)是一套精心設(shè)計(jì)的循環(huán)機(jī)制。普通的對(duì)話(huà)系統(tǒng)是“用戶(hù)輸入→模型輸出”的單向流程而Agent系統(tǒng)是“感知→規(guī)劃→行動(dòng)→觀察→再規(guī)劃”的閉環(huán)。這個(gè)閉環(huán)里每一個(gè)環(huán)節(jié)都有大量的工程細(xì)節(jié)需要處理。我舉個(gè)例子來(lái)說(shuō)明這個(gè)差異。假設(shè)你讓一個(gè)普通對(duì)話(huà)系統(tǒng)“幫我查一下明天北京的天氣然后建議我穿什么衣服”。它可能會(huì)直接編一個(gè)天氣數(shù)據(jù)然后給出一個(gè)泛泛的穿衣建議。但一個(gè)Agent系統(tǒng)會(huì)先調(diào)用天氣查詢(xún)工具獲取真實(shí)數(shù)據(jù)然后根據(jù)溫度、濕度、風(fēng)力等參數(shù)結(jié)合穿衣規(guī)則庫(kù)給出具體的建議。如果天氣查詢(xún)工具返回失敗它還會(huì)嘗試重試或者換一個(gè)數(shù)據(jù)源。這種“遇到問(wèn)題能自己想辦法”的能力就是Agent的核心價(jià)值所在。但這個(gè)能力不是免費(fèi)獲得的。你需要設(shè)計(jì)工具調(diào)用的協(xié)議、處理工具返回的錯(cuò)誤、管理多輪交互的上下文、防止Agent陷入無(wú)限循環(huán)。這些工程問(wèn)題在簡(jiǎn)單的Demo里往往被忽略但一旦你試圖把Agent用到真實(shí)場(chǎng)景中它們就會(huì)立刻暴露出來(lái)。這個(gè)系列會(huì)逐一拆解這些問(wèn)題并給出經(jīng)過(guò)實(shí)戰(zhàn)檢驗(yàn)的解決方案。2.2 工具調(diào)用、記憶系統(tǒng)與任務(wù)規(guī)劃三大支柱如果把Agent比作一個(gè)人那么工具調(diào)用就是他的雙手記憶系統(tǒng)就是他的大腦皮層任務(wù)規(guī)劃就是他的前額葉。三者缺一不可而且需要緊密配合。工具調(diào)用是最容易理解的部分。大模型本身只能生成文本但通過(guò)定義工具接口我們可以讓它“調(diào)用”外部函數(shù)來(lái)完成實(shí)際動(dòng)作。比如搜索網(wǎng)頁(yè)、查詢(xún)數(shù)據(jù)庫(kù)、發(fā)送郵件、操作文件系統(tǒng)。聽(tīng)起來(lái)很簡(jiǎn)單但實(shí)際做起來(lái)你會(huì)發(fā)現(xiàn)模型經(jīng)常傳錯(cuò)參數(shù)類(lèi)型、忘記必填參數(shù)、或者在不該調(diào)用工具的時(shí)候瞎調(diào)用。解決這些問(wèn)題需要你在工具定義、提示詞設(shè)計(jì)、輸出解析三個(gè)層面同時(shí)下功夫。記憶系統(tǒng)是區(qū)分“玩具Agent”和“實(shí)用Agent”的關(guān)鍵。沒(méi)有記憶系統(tǒng)的Agent每次對(duì)話(huà)都是全新的開(kāi)始它不記得你之前說(shuō)過(guò)什么也不記得自己做過(guò)什么。而一個(gè)完整的記憶系統(tǒng)需要處理短期記憶當(dāng)前對(duì)話(huà)上下文、長(zhǎng)期記憶跨會(huì)話(huà)的知識(shí)積累、以及工作記憶當(dāng)前任務(wù)的中間狀態(tài)。這三種記憶的存儲(chǔ)方式、檢索策略、更新時(shí)機(jī)都完全不同。我見(jiàn)過(guò)太多項(xiàng)目把這三者混為一談結(jié)果就是Agent要么“失憶”要么被大量無(wú)關(guān)信息淹沒(méi)。任務(wù)規(guī)劃是最具挑戰(zhàn)性的部分。當(dāng)用戶(hù)給出一個(gè)復(fù)雜目標(biāo)時(shí)Agent需要把它拆解成可執(zhí)行的子任務(wù)確定執(zhí)行順序處理任務(wù)之間的依賴(lài)關(guān)系。比如“幫我策劃一場(chǎng)團(tuán)隊(duì)建設(shè)活動(dòng)”這個(gè)任務(wù)就涉及確定參與人數(shù)、預(yù)算范圍、時(shí)間窗口、活動(dòng)類(lèi)型偏好等多個(gè)子任務(wù)。有些子任務(wù)可以并行有些必須串行還有些需要根據(jù)前序任務(wù)的結(jié)果動(dòng)態(tài)調(diào)整。目前主流的規(guī)劃方法有ReAct、Plan-and-Execute、Tree-of-Thought等每種方法都有各自的適用場(chǎng)景和局限性。2.3 從原型到生產(chǎn)工程化落地的關(guān)鍵考量很多人在本地跑通一個(gè)Agent Demo后就以為大功告成了。但把Agent部署到生產(chǎn)環(huán)境面對(duì)真實(shí)用戶(hù)的多樣化輸入、不穩(wěn)定的外部工具、以及嚴(yán)格的延遲和成本要求完全是另一回事。工程化落地的第一個(gè)挑戰(zhàn)是穩(wěn)定性。大模型的輸出具有不確定性同樣的輸入可能產(chǎn)生不同的輸出。這在Demo階段可能只是“有點(diǎn)煩人”但在生產(chǎn)環(huán)境就是“不可接受”。你需要設(shè)計(jì)各種兜底策略輸出格式校驗(yàn)、失敗重試、降級(jí)方案、人工接管機(jī)制。我個(gè)人的經(jīng)驗(yàn)是一個(gè)生產(chǎn)級(jí)Agent系統(tǒng)的代碼量至少有60%是在處理各種異常情況。第二個(gè)挑戰(zhàn)是可觀測(cè)性。當(dāng)Agent做出一個(gè)錯(cuò)誤決策時(shí)你需要能夠回溯整個(gè)決策鏈條它看到了什么輸入、調(diào)用了哪些工具、得到了什么結(jié)果、為什么選擇了這個(gè)行動(dòng)。沒(méi)有完善的日志和追蹤系統(tǒng)調(diào)試Agent就像在黑箱里找針。我會(huì)在系列中專(zhuān)門(mén)講如何設(shè)計(jì)Agent的追蹤體系包括結(jié)構(gòu)化日志、決策鏈路可視化、以及關(guān)鍵指標(biāo)監(jiān)控。第三個(gè)挑戰(zhàn)是成本控制。Agent的自主性意味著它可能會(huì)進(jìn)行多輪工具調(diào)用和推理token消耗量可能是普通對(duì)話(huà)的幾十倍。如果不加控制一個(gè)復(fù)雜的任務(wù)可能燒掉幾美元的API費(fèi)用。你需要設(shè)計(jì)合理的終止條件、緩存策略、以及模型選擇策略簡(jiǎn)單任務(wù)用小模型復(fù)雜任務(wù)用大模型。3. 學(xué)習(xí)這個(gè)系列需要什么基礎(chǔ)3.1 編程與工具鏈的最低要求這個(gè)系列的代碼示例主要使用Python因?yàn)槟壳敖^大多數(shù)Agent框架和工具庫(kù)都對(duì)Python支持最好。你不需要是Python專(zhuān)家但至少應(yīng)該能讀懂類(lèi)、函數(shù)、裝飾器、異步編程這些基本概念。如果你之前只用過(guò)JavaScript或者Java問(wèn)題也不大核心概念是相通的只是語(yǔ)法需要適應(yīng)一下。開(kāi)發(fā)環(huán)境方面我推薦使用VS Code或者PyCharm配合Jupyter Notebook做快速實(shí)驗(yàn)。你需要熟悉基本的命令行操作因?yàn)楹芏喙ぞ咝枰ㄟ^(guò)pip安裝有些還需要配置環(huán)境變量。如果你對(duì)虛擬環(huán)境venv或conda不熟悉建議先花半小時(shí)了解一下這能幫你避免很多依賴(lài)沖突的麻煩。關(guān)于大模型API這個(gè)系列會(huì)以O(shè)penAI風(fēng)格的接口為例但核心思路適用于任何主流大模型服務(wù)。你需要有一個(gè)能正常調(diào)用的API Key并且了解基本的調(diào)用方式比如chat completions接口的用法。如果你用的是其他廠(chǎng)商的模型大部分代碼只需要改一下base_url和模型名稱(chēng)就能適配。3.2 對(duì)大模型能力邊界的正確認(rèn)知這一點(diǎn)比編程基礎(chǔ)更重要。很多人對(duì)大模型的能力有不切實(shí)際的期望認(rèn)為只要提示詞寫(xiě)得好模型就能完成任何任務(wù)。這種想法會(huì)導(dǎo)致你在設(shè)計(jì)Agent時(shí)做出錯(cuò)誤的架構(gòu)決策。大模型本質(zhì)上是一個(gè)“基于概率的文本生成器”。它沒(méi)有真正的理解能力沒(méi)有持久的記憶沒(méi)有邏輯推理的保證。它擅長(zhǎng)的是模式匹配和文本生成不擅長(zhǎng)的是精確計(jì)算、事實(shí)核查、以及多步驟的嚴(yán)格推理。一個(gè)合格的Agent開(kāi)發(fā)者必須清楚地知道哪些任務(wù)適合交給模型哪些任務(wù)必須用傳統(tǒng)代碼來(lái)實(shí)現(xiàn)。舉個(gè)例子如果你讓模型計(jì)算“1234乘以5678”它很可能會(huì)給你一個(gè)看起來(lái)合理但實(shí)際錯(cuò)誤的答案。但如果你讓它生成一個(gè)調(diào)用計(jì)算器工具的JSON然后由代碼來(lái)執(zhí)行實(shí)際計(jì)算結(jié)果就是可靠的。這就是Agent設(shè)計(jì)的核心原則讓模型做它擅長(zhǎng)的事理解和生成讓代碼做它擅長(zhǎng)的事精確執(zhí)行和校驗(yàn)。另一個(gè)常見(jiàn)的誤區(qū)是認(rèn)為“模型越強(qiáng)Agent效果越好”。實(shí)際上一個(gè)設(shè)計(jì)良好的Agent系統(tǒng)用中等能力的模型也能取得不錯(cuò)的效果而一個(gè)設(shè)計(jì)糟糕的Agent系統(tǒng)即使用最強(qiáng)的模型也會(huì)頻繁出錯(cuò)。架構(gòu)設(shè)計(jì)的重要性遠(yuǎn)大于模型選擇。3.3 心態(tài)準(zhǔn)備接受不確定性并系統(tǒng)化調(diào)試做Agent開(kāi)發(fā)你需要習(xí)慣一種“與不確定性共舞”的工作狀態(tài)。同樣的代碼今天跑得好好的明天可能就因?yàn)槟Ｐ透露霈F(xiàn)新的問(wèn)題。同樣的提示詞在這個(gè)任務(wù)上效果很好換一個(gè)任務(wù)就完全失效。這不是你的代碼有問(wèn)題而是大模型本身的特性決定的。面對(duì)這種不確定性你需要建立一套系統(tǒng)化的調(diào)試方法。我的經(jīng)驗(yàn)是每次只改一個(gè)變量詳細(xì)記錄每次實(shí)驗(yàn)的輸入輸出建立自己的測(cè)試用例集。不要憑感覺(jué)調(diào)提示詞要用數(shù)據(jù)說(shuō)話(huà)。我會(huì)在系列中分享我自己的調(diào)試模板和測(cè)試方法幫你少走彎路。還有一個(gè)心態(tài)上的準(zhǔn)備是接受不完美。一個(gè)生產(chǎn)級(jí)Agent系統(tǒng)能做到80%的情況下正確完成任務(wù)就已經(jīng)很不錯(cuò)了。剩下的20%需要通過(guò)兜底策略、人工審核、或者引導(dǎo)用戶(hù)換一種表達(dá)方式來(lái)處理。追求100%的自動(dòng)化是不現(xiàn)實(shí)的至少在目前的技術(shù)水平下是這樣。4. 系列文章的組織邏輯與閱讀建議4.1 從概念到代碼的漸進(jìn)式路線(xiàn)這個(gè)系列的文章會(huì)按照以下順序展開(kāi)每一篇都建立在前一篇的基礎(chǔ)之上第一篇是前言與導(dǎo)讀也就是你正在讀的這篇主要幫你建立對(duì)AI Agent的整體認(rèn)知明確學(xué)習(xí)路徑和預(yù)期目標(biāo)。第二篇會(huì)深入講解Agent的核心架構(gòu)包括感知模塊、規(guī)劃模塊、執(zhí)行模塊、記憶模塊的設(shè)計(jì)原則和交互方式。這一篇會(huì)有大量的架構(gòu)圖和偽代碼幫你建立全局視野。第三篇開(kāi)始進(jìn)入實(shí)操?gòu)牧愦罱ㄒ粋€(gè)最小可行的Agent系統(tǒng)。這個(gè)系統(tǒng)只包含最基礎(chǔ)的工具調(diào)用和單輪規(guī)劃能力但代碼結(jié)構(gòu)是完整的后續(xù)所有增強(qiáng)都是在這個(gè)骨架上進(jìn)行的。第四篇聚焦工具調(diào)用系統(tǒng)詳細(xì)講解如何定義工具接口、如何讓模型正確選擇工具、如何處理工具返回的錯(cuò)誤、以及如何設(shè)計(jì)工具的組合調(diào)用。第五篇深入記憶系統(tǒng)涵蓋短期記憶的上下文管理、長(zhǎng)期記憶的向量存儲(chǔ)與檢索、以及工作記憶的狀態(tài)維護(hù)。這一篇會(huì)涉及向量數(shù)據(jù)庫(kù)的使用但我會(huì)盡量用最簡(jiǎn)單的方式講解。第六篇講解任務(wù)規(guī)劃包括ReAct模式、Plan-and-Execute模式、以及多Agent協(xié)作的基本方法。這一篇會(huì)有比較多的提示詞工程內(nèi)容。第七篇討論生產(chǎn)化落地包括性能優(yōu)化、成本控制、可觀測(cè)性建設(shè)、以及安全防護(hù)。這一篇的內(nèi)容偏向工程實(shí)踐代碼量會(huì)比較大。后續(xù)還會(huì)根據(jù)讀者的反饋補(bǔ)充一些專(zhuān)題文章比如特定場(chǎng)景的Agent設(shè)計(jì)客服Agent、數(shù)據(jù)分析Agent、代碼助手Agent等以及與其他工具鏈的集成方法。4.2 每篇文章的代碼倉(cāng)庫(kù)與運(yùn)行說(shuō)明這個(gè)系列的所有代碼都會(huì)放在一個(gè)公開(kāi)的代碼倉(cāng)庫(kù)中每一篇文章對(duì)應(yīng)一個(gè)獨(dú)立的目錄。目錄結(jié)構(gòu)大概是這樣的ai-agent-tutorial/ ├── 00-preface/ ├── 01-architecture/ ├── 02-minimal-agent/ ├── 03-tool-calling/ ├── 04-memory-system/ ├── 05-task-planning/ ├── 06-production/ └── shared/ ├── utils/ └── configs/每個(gè)目錄下都有完整的可運(yùn)行代碼、依賴(lài)清單requirements.txt、以及一個(gè)簡(jiǎn)短的README說(shuō)明運(yùn)行步驟。我強(qiáng)烈建議你跟著代碼一起動(dòng)手不要只是閱讀。Agent開(kāi)發(fā)有很多“只可意會(huì)”的細(xì)節(jié)只有親手跑一遍才能體會(huì)到。關(guān)于運(yùn)行環(huán)境我推薦使用Python 3.10或更高版本因?yàn)楹芏郃gent框架用到了較新的語(yǔ)法特性。依賴(lài)管理建議用venv加pip簡(jiǎn)單直接。如果你習(xí)慣用poetry或conda也完全可以只是命令稍有不同。4.3 如何根據(jù)自身水平選擇閱讀路徑如果你是完全的Agent新手建議按照文章順序從頭讀到尾不要跳步。每一篇的代碼都依賴(lài)前一篇的成果跳步會(huì)導(dǎo)致你缺少必要的上下文。如果你已經(jīng)有過(guò)一些Agent開(kāi)發(fā)經(jīng)驗(yàn)但覺(jué)得自己的系統(tǒng)不夠穩(wěn)定或者效果不好可以直接從第四篇工具調(diào)用和第五篇記憶系統(tǒng)開(kāi)始讀。這兩篇涵蓋的問(wèn)題是最常見(jiàn)的痛點(diǎn)。如果你主要關(guān)注生產(chǎn)化落地可以重點(diǎn)讀第七篇但建議至少先瀏覽一下第二篇的架構(gòu)設(shè)計(jì)部分否則有些工程決策你可能會(huì)不理解為什么要那樣做。如果你只是對(duì)Agent的概念感興趣暫時(shí)不想寫(xiě)代碼那至少把第二篇的架構(gòu)部分讀完。理解了Agent的模塊劃分和交互邏輯你再去看任何框架的文檔都會(huì)輕松很多。5. 幾個(gè)常見(jiàn)誤區(qū)與我的實(shí)操心得5.1 不要一上來(lái)就追求多Agent協(xié)作我見(jiàn)過(guò)很多初學(xué)者第一個(gè)Agent項(xiàng)目就想搞多Agent協(xié)作覺(jué)得這樣才“高級(jí)”。結(jié)果往往是幾個(gè)Agent互相等待、消息傳遞混亂、調(diào)試難度指數(shù)級(jí)上升。我的建議是先把單Agent做到極致再考慮多Agent。單Agent系統(tǒng)能覆蓋80%以上的應(yīng)用場(chǎng)景。一個(gè)設(shè)計(jì)良好的單Agent配合完善的工具集和記憶系統(tǒng)已經(jīng)能完成相當(dāng)復(fù)雜的任務(wù)。多Agent的價(jià)值在于任務(wù)可以明確分解為多個(gè)專(zhuān)業(yè)角色時(shí)比如一個(gè)負(fù)責(zé)搜索、一個(gè)負(fù)責(zé)分析、一個(gè)負(fù)責(zé)寫(xiě)作。但如果任務(wù)本身不需要這種角色分工強(qiáng)行多Agent只會(huì)增加復(fù)雜度和不確定性。而且多Agent系統(tǒng)的調(diào)試難度是單Agent的好幾倍。當(dāng)結(jié)果不對(duì)時(shí)你很難判斷是哪個(gè)Agent出了問(wèn)題是消息傳遞丟了信息還是某個(gè)Agent的提示詞需要調(diào)整。我個(gè)人的經(jīng)驗(yàn)是只有當(dāng)單Agent的提示詞變得極其臃腫、難以維護(hù)時(shí)才考慮拆分成多Agent。5.2 工具描述的質(zhì)量決定Agent的上限這一點(diǎn)怎么強(qiáng)調(diào)都不為過(guò)。很多人花大量時(shí)間調(diào)提示詞卻對(duì)工具描述敷衍了事。實(shí)際上工具描述的質(zhì)量直接決定了Agent能否正確選擇和使用工具。一個(gè)好的工具描述應(yīng)該包含工具的功能說(shuō)明、適用場(chǎng)景、不適用場(chǎng)景、每個(gè)參數(shù)的含義和格式要求、返回值的數(shù)據(jù)結(jié)構(gòu)、可能的錯(cuò)誤情況。這些信息要寫(xiě)得足夠清晰讓模型能準(zhǔn)確判斷什么時(shí)候該用這個(gè)工具以及怎么傳參數(shù)。我舉個(gè)例子。假設(shè)你有一個(gè)查詢(xún)天氣的工具描述寫(xiě)成“查詢(xún)天氣”四個(gè)字模型很可能在用戶(hù)問(wèn)“今天熱不熱”的時(shí)候調(diào)用它但在用戶(hù)問(wèn)“明天適合跑步嗎”的時(shí)候就不調(diào)用。如果你把描述寫(xiě)成“根據(jù)城市名稱(chēng)和日期查詢(xún)?cè)摮鞘械奶鞖庑畔囟?、濕度、風(fēng)力、降水概率。適用于需要獲取具體天氣數(shù)據(jù)的場(chǎng)景。不適用于查詢(xún)氣候歷史數(shù)據(jù)或天氣預(yù)報(bào)以外的氣象信息”模型的選擇準(zhǔn)確率會(huì)大幅提升。還有一個(gè)技巧是給工具參數(shù)加上詳細(xì)的格式說(shuō)明和示例。比如日期參數(shù)不要只寫(xiě)“日期”要寫(xiě)“日期格式為YYYY-MM-DD例如2024-01-15”。這樣能避免模型傳入“明天”“下周三”這種無(wú)法解析的格式。5.3 記憶系統(tǒng)不是越復(fù)雜越好記憶系統(tǒng)的設(shè)計(jì)有一個(gè)常見(jiàn)的過(guò)度工程化陷阱。很多人一上來(lái)就搞向量數(shù)據(jù)庫(kù)、知識(shí)圖譜、多級(jí)緩存結(jié)果系統(tǒng)復(fù)雜度飆升效果卻沒(méi)有明顯提升。我的建議是從最簡(jiǎn)單的方案開(kāi)始先用對(duì)話(huà)歷史拼接。把最近N輪對(duì)話(huà)直接拼接到提示詞里這是最簡(jiǎn)單也最有效的短期記憶方案。對(duì)于大多數(shù)任務(wù)型Agent來(lái)說(shuō)這已經(jīng)足夠了。當(dāng)你發(fā)現(xiàn)對(duì)話(huà)歷史太長(zhǎng)導(dǎo)致token超限或者Agent需要記住跨會(huì)話(huà)的信息時(shí)再引入向量數(shù)據(jù)庫(kù)做長(zhǎng)期記憶。但即使引入向量數(shù)據(jù)庫(kù)也要注意檢索策略的設(shè)計(jì)。不是所有歷史信息都值得存儲(chǔ)也不是所有存儲(chǔ)的信息都值得檢索。你需要設(shè)計(jì)合理的寫(xiě)入規(guī)則什么信息值得記和檢索規(guī)則什么信息值得取。還有一個(gè)容易被忽略的點(diǎn)是記憶的時(shí)效性。有些信息會(huì)過(guò)期比如“用戶(hù)當(dāng)前的位置”“今天的日期”。如果Agent把過(guò)期的信息當(dāng)作事實(shí)來(lái)使用就會(huì)做出錯(cuò)誤的決策。你需要在記憶系統(tǒng)中加入時(shí)效性標(biāo)記并在檢索時(shí)優(yōu)先使用最新的信息。5.4 調(diào)試Agent的核心方法是“讓它說(shuō)人話(huà)”當(dāng)Agent的行為不符合預(yù)期時(shí)最有效的調(diào)試方法不是去讀代碼而是讓Agent把它的思考過(guò)程說(shuō)出來(lái)。具體做法是在提示詞中要求模型在每次行動(dòng)前輸出它的推理過(guò)程包括它當(dāng)前理解的任務(wù)是什么、它打算采取什么行動(dòng)、為什么選擇這個(gè)行動(dòng)。這個(gè)方法之所以有效是因?yàn)樗袮gent的“黑箱決策”變成了“白箱推理”。你能直接看到模型是怎么理解任務(wù)的是在哪個(gè)環(huán)節(jié)出現(xiàn)了偏差。是任務(wù)理解錯(cuò)了還是工具選擇錯(cuò)了還是參數(shù)傳錯(cuò)了一目了然。我通常會(huì)在開(kāi)發(fā)階段開(kāi)啟詳細(xì)的推理輸出等系統(tǒng)穩(wěn)定后再關(guān)閉以減少token消耗。有些框架把這個(gè)叫做“chain-of-thought”或者“scratchpad”本質(zhì)上都是一回事。還有一個(gè)進(jìn)階技巧是讓Agent在完成任務(wù)后做一次“自我反思”回顧整個(gè)執(zhí)行過(guò)程指出哪些地方做得好、哪些地方可以改進(jìn)。這個(gè)反思結(jié)果可以存入記憶系統(tǒng)在后續(xù)類(lèi)似任務(wù)中作為參考。實(shí)測(cè)下來(lái)這個(gè)簡(jiǎn)單的機(jī)制能顯著提升Agent在重復(fù)性任務(wù)上的表現(xiàn)。6. 開(kāi)始之前你需要準(zhǔn)備好的東西6.1 開(kāi)發(fā)環(huán)境清單在開(kāi)始第二篇之前請(qǐng)確保你的開(kāi)發(fā)環(huán)境滿(mǎn)足以下要求項(xiàng)目要求說(shuō)明Python版本3.10部分框架用到了新語(yǔ)法特性包管理工具pip venv簡(jiǎn)單直接避免依賴(lài)沖突代碼編輯器VS Code / PyCharm需要支持Jupyter Notebook大模型APIOpenAI兼容接口任何主流廠(chǎng)商均可向量數(shù)據(jù)庫(kù)可選后期才需要前期用不上版本控制Git方便回滾和對(duì)比實(shí)驗(yàn)API Key的配置建議用環(huán)境變量不要硬編碼在代碼里。你可以創(chuàng)建一個(gè).env文件然后用python-dotenv庫(kù)來(lái)加載。這樣既能保證安全又方便在不同環(huán)境之間切換。# .env 文件示例 OPENAI_API_KEYyour_api_key_here OPENAI_BASE_URLhttps://api.example.com/v1# 加載環(huán)境變量的代碼 from dotenv import load_dotenv import os load_dotenv() api_key os.getenv(OPENAI_API_KEY) base_url os.getenv(OPENAI_BASE_URL)6.2 推薦的學(xué)習(xí)節(jié)奏Agent開(kāi)發(fā)是一個(gè)實(shí)踐性極強(qiáng)的領(lǐng)域光看不動(dòng)手是學(xué)不會(huì)的。我建議的學(xué)習(xí)節(jié)奏是每讀一篇花2-3小時(shí)動(dòng)手復(fù)現(xiàn)代碼再花1-2小時(shí)做自己的修改和實(shí)驗(yàn)。具體來(lái)說(shuō)你可以先照著文章里的代碼跑一遍確保能正常運(yùn)行。然后嘗試修改一些參數(shù)觀察輸出有什么變化。比如改一下提示詞、換一個(gè)模型、調(diào)整工具的描述看看Agent的行為會(huì)怎么變。這種“對(duì)照實(shí)驗(yàn)”是理解Agent工作原理最有效的方式。如果你時(shí)間有限至少要把第二篇和第三篇的代碼完整跑一遍。這兩篇是后續(xù)所有內(nèi)容的基礎(chǔ)跳過(guò)了后面會(huì)很吃力。6.3 遇到問(wèn)題時(shí)的求助渠道Agent開(kāi)發(fā)中遇到的問(wèn)題大致可以分為三類(lèi)環(huán)境配置問(wèn)題、代碼邏輯問(wèn)題、以及模型行為問(wèn)題。前兩類(lèi)問(wèn)題可以通過(guò)搜索引擎和開(kāi)發(fā)者社區(qū)解決第三類(lèi)問(wèn)題往往需要更多的實(shí)驗(yàn)和調(diào)試。我的建議是遇到問(wèn)題時(shí)先自己嘗試排查但不要卡太久。如果半小時(shí)內(nèi)沒(méi)有進(jìn)展就去社區(qū)提問(wèn)。提問(wèn)時(shí)記得附上完整的錯(cuò)誤信息、你的代碼片段、以及你已經(jīng)嘗試過(guò)的解決方法。這樣別人才能有效地幫助你。另外養(yǎng)成記錄問(wèn)題的習(xí)慣。每次解決一個(gè)bug簡(jiǎn)單記一下問(wèn)題現(xiàn)象、原因、和解決方案。積累下來(lái)這就是你自己的知識(shí)庫(kù)比任何教程都管用。這個(gè)系列的內(nèi)容量比較大建議你收藏起來(lái)慢慢看。Agent技術(shù)還在快速演進(jìn)我也會(huì)根據(jù)最新的發(fā)展持續(xù)更新內(nèi)容。如果你在閱讀過(guò)程中有任何問(wèn)題或者建議歡迎隨時(shí)交流。下一篇我們會(huì)正式進(jìn)入Agent的架構(gòu)設(shè)計(jì)那是整個(gè)系列最核心的一篇我們到時(shí)候見(jiàn)。