本文整理自 QCon 北京 2026《盧億雷 - DeepResearch XOpenClaw的實(shí)踐路徑與Token成本控制》通過Ai好記視頻轉(zhuǎn)文字整理以下為精煉整理后的會議筆記內(nèi)容。這位主講人長期從事 Infra 相關(guān)工作持續(xù)關(guān)注 AI 與編程領(lǐng)域。本次分享系統(tǒng)地拆解了一個真實(shí)落地的 DeepResearch 系統(tǒng)與 OpenClaw / Agent 框架結(jié)合內(nèi)容涵蓋行業(yè)現(xiàn)狀、系統(tǒng)架構(gòu)、設(shè)計(jì)理念并重點(diǎn)探討了 Token 成本控制。對于從事 AI 應(yīng)用工程的開發(fā)者而言其中關(guān)于 Token 成本優(yōu)化的分析指出有 60% 到 80% 的優(yōu)化空間提供了具體的工程思路和參考數(shù)據(jù)。行業(yè)現(xiàn)狀為什么 DeepResearch 是必然趨勢三個技術(shù)階段DeepResearch 的出現(xiàn)反映了搜索技術(shù)向自動化、智能化研究的演進(jìn)趨勢。他用三個階段來概括傳統(tǒng)搜索階段靠索引技術(shù)RAG 發(fā)展階段靠向量檢索與知識增強(qiáng)而多輪循環(huán)研究階段則靠自主規(guī)劃與報(bào)告輸出。第三階段的核心是目標(biāo)函數(shù)驅(qū)動的實(shí)現(xiàn)邏輯。全流程自動化與核心價(jià)值DeepResearch 的核心價(jià)值之一在于其全流程自動化能力。用戶不需要手動搜索、整理、歸納系統(tǒng)自動完成從「提問題」到「輸出報(bào)告」的完整閉環(huán)。這正是它區(qū)別于傳統(tǒng)搜索引擎的地方。主要競爭者分析當(dāng)前賽道的競爭者已經(jīng)很多谷歌 Gemini、OpenAI、Perplexity、Anthropic Claude、XAI Grok 都在做。各自有側(cè)重Gemini 因?yàn)樗阉饕娉錾碚Z言理解和路徑規(guī)劃能力強(qiáng)各家產(chǎn)品特色不同但行業(yè)普遍面臨生成時(shí)間過長的挑戰(zhàn)。他舉例說明DeepResearch 類任務(wù)通常耗時(shí)較長影響用戶體驗(yàn)。未來趨勢與企業(yè)級實(shí)現(xiàn)趨勢是從 Chat 向 Agent 演進(jìn)成本逐步降低、更加民主化同時(shí)生態(tài)競爭加劇、差異化明顯。企業(yè)級要實(shí)現(xiàn) DeepResearch需要可配置的研究流程、多搜索源配置、多租戶隔離、雙模通信保障機(jī)制。DeepResearch 的四大核心難點(diǎn)他把工程難點(diǎn)總結(jié)為四點(diǎn)長任務(wù)穩(wěn)定性研究過程可控性多租戶配置復(fù)雜度多格式輸出一致性這四點(diǎn)也是后面架構(gòu)設(shè)計(jì)的落點(diǎn)。OpenClaw 與「龍蝦」理念1、OpenClaw 的前身溯源OpenClaw 的前身是 Manus由華人發(fā)明這也是很多人沒注意到的背景。它最大的創(chuàng)新點(diǎn)是把「通信方式」做了一次革命所有消息都通過 IM即時(shí)消息通道溝通用 Channel Adapters 實(shí)現(xiàn)分層隔離這讓架構(gòu)異常靈活發(fā)展速度也快。2、LLS 理念創(chuàng)新OpenClaw 背后還有一個 LLS 理念強(qiáng)調(diào)行業(yè)理解的重要性靠知識庫和數(shù)據(jù)集支撐。他也坦誠demo 環(huán)境和生產(chǎn)環(huán)境之間往往隔著巨大的差距。3、WorkBuddy 實(shí)現(xiàn)要點(diǎn)與難點(diǎn)他分享了一個叫 WorkBuddy 的實(shí)現(xiàn)提煉出四個要點(diǎn)Skill 封裝、多模型路由、消息通道適配、本地?cái)?shù)據(jù)安全。同時(shí)也有四個難點(diǎn)長任務(wù)與消息通道沖突、多平臺渲染差異、Token 消耗巨大、并發(fā)與隔離挑戰(zhàn)?？傮w思路是避免重復(fù)造輪子把 DeepResearch 引擎和 LLM 查詢結(jié)合起來。系統(tǒng)架構(gòu)設(shè)計(jì)1、分層架構(gòu)詳解他展示了一個真實(shí)項(xiàng)目的分層架構(gòu)圖從上到下是模型層LLM Service 與模型部署、外部搜索服務(wù)層、核心服務(wù)層需求分析、研究規(guī)劃、深度研究與報(bào)告生成、API 網(wǎng)關(guān)與鑒權(quán)層、客戶端層Web 客戶端 SSE 流式模式。2、模型訓(xùn)練與選擇模型部分他談到微調(diào)實(shí)踐FT 與 LM 結(jié)合和模型規(guī)模選擇的考量。強(qiáng)化學(xué)習(xí)成本很高PPO 模型計(jì)算開銷大他提到用 RPO 策略來優(yōu)化。搜索能力融合方面把 Engine 與模型融合既能降低計(jì)算成本又能提升效果。設(shè)計(jì)理念與四大原則1、三階段設(shè)計(jì)理念設(shè)計(jì)上分三階段數(shù)據(jù)分析、研究規(guī)劃、深度研究與報(bào)告。關(guān)鍵理念包括意圖識別與拒答判斷明確告知模型不能做的場景這是提升性能的關(guān)鍵策略制定搜索策略很重要循環(huán)檢索與報(bào)告輸出目標(biāo)函數(shù)驅(qū)動他戲稱這是AI 解決 NP 問題的魅力。2、四大設(shè)計(jì)原則整場的架構(gòu)靈魂是這四個原則?？膳渲眯匝芯苛鞒炭勺杂膳渲每捎^測性進(jìn)度可見、中間信息可輸出多租戶隔離賬戶級數(shù)據(jù)隔離、獨(dú)立鑒權(quán) Token雙模通信輪詢模式和SSE 流式通信兩種模式。3、通信方案選型雙通道是必要的輪詢模式有它的應(yīng)用場景流式模式則適合實(shí)時(shí)性要求高的場景。流式模式也有一些挑戰(zhàn)比如客戶端與服務(wù)端計(jì)費(fèi)口徑不一致、長時(shí)任務(wù)超時(shí)設(shè)置、網(wǎng)絡(luò)架構(gòu)需要優(yōu)化還有瀏覽器兼容性問題不同瀏覽器對 EventSource API 支持不一樣。4、增量內(nèi)容輸出與斷點(diǎn)續(xù)傳長任務(wù)需要一個增量內(nèi)容輸出機(jī)制他用斷點(diǎn)續(xù)傳實(shí)現(xiàn)把大文件切片再合并通過 block_id 文件編號做管理。這也是可觀測性的落地讓用戶能看到研究進(jìn)度的可視化。5、任務(wù)控制機(jī)制任務(wù)終止和拒答機(jī)制很重要他強(qiáng)調(diào)「及時(shí)止損」研究過程要能按意圖和路徑動態(tài)調(diào)整流程要最小化避免無意義的消耗。配置體系與平臺化1、分層架構(gòu)與 Prompt as Code配置體系延續(xù)分層思想模型層分規(guī)劃模型與研究模型集成外部搜索服務(wù)層承擔(dān)意圖識別、需求澄清與研究規(guī)劃客戶端層則處理端到端交互時(shí)序。這里提出了一個很有價(jià)值的理念Prompt as Code。他用 CRM 系統(tǒng)舉例通過自然語言生成應(yīng)用JSON 信息交付規(guī)劃確認(rèn)后執(zhí)行。2、搜索高可靠性的三層配置搜索可靠性是最關(guān)鍵的他用三層配置體系來實(shí)現(xiàn)默認(rèn)配置、靜態(tài)配置、參數(shù)調(diào)節(jié)配置讓研究流程可定制。3、報(bào)告生成與 Token 管理報(bào)告輸出后Token 管理與數(shù)據(jù)隔離也是重點(diǎn)每個租戶有獨(dú)立的鑒權(quán) Token配合服務(wù)監(jiān)控與配置保證平臺化下的安全與穩(wěn)定。Token 優(yōu)化策略把成本當(dāng)作核心工程問題1、Token 的價(jià)值認(rèn)知他把 Token 的價(jià)值做了三重拆解數(shù)據(jù)價(jià)值、算力價(jià)值、算法價(jià)值并斷言這是「兵家必爭之地」類比電力和流量。成本構(gòu)成分析則更復(fù)雜包括 Input 與 Output 成本、Embedding 與檢索成本、Cache 機(jī)制還要對比不同模型的價(jià)格比如 Claude 模型的價(jià)格差異。2、成本優(yōu)化的必要性為什么要重點(diǎn)管 Token因?yàn)?DeepResearch 的 Token 成本能占到總成本的 75%優(yōu)化空間巨大。他舉了一個 Agent 框架的例子月消耗 8000 到 10000 美元對比人力成本就會發(fā)現(xiàn)不優(yōu)化不行。尤其要注意的是 Output 成本通常比 Input 更高所以控制 Output 是關(guān)鍵。3、六大優(yōu)化方向他把優(yōu)化策略歸納為六個方向。請求前優(yōu)化包括語義緩存和 Prompt Cache在請求發(fā)出前就復(fù)用已有結(jié)果。模型路由讓任務(wù)匹配適合的模型用小模型分流簡單任務(wù)避免一上來就上昂貴的大模型。壓縮與裁剪這個技術(shù)難度較高參考 Claude 壓縮策略的變化配合 Memory 機(jī)制優(yōu)化控制上下文體積。Output 精確控制優(yōu)先采用短輸出結(jié)構(gòu)從源頭減少輸出 Token。研究輪次收斂用及時(shí)止損機(jī)制和信息增益閾值讓研究在信息收益不再增加時(shí)主動停止避免無意義的重復(fù)檢索。最后是對整體優(yōu)化思路的總結(jié)請求前處理、模型性能提升、輸出結(jié)果控制三管齊下。4、優(yōu)化效果數(shù)據(jù)非常硬核他用真實(shí)數(shù)據(jù)證明了這套優(yōu)化的有效性。模型路由上O3-mini 能降低 10 倍成本語義緩存用 Redis/LangCache 能降低 73%Prompt Cache 對重復(fù)前綴能降低 90%上下文壓縮能降低 80% 成本綜合起來這套方案整體有 60% 到 80% 的成本降低空間。這個數(shù)字本身就是這套工程方法論最好的說明。5、前沿技術(shù)介紹他還介紹了幾個前沿方向。提示詞壓縮能帶來 2 到 5 倍提升且無損質(zhì)量GPT-4 解碼器與小模型結(jié)合PT 策略模型混合策略能有 98% 的提升效果推測解碼Draft Model 與 Target Model 結(jié)合的收益尤其突出通圖量提升 100 到 110 倍、延遲降低 60%或通圖量提升 300%、延遲降低 80%取決于配置?？偨Y(jié)與展望他最后總結(jié)了幾個關(guān)鍵要點(diǎn)雙模通信保障機(jī)制輪詢 SSE 流式結(jié)合三層配置靈活性默認(rèn)、靜態(tài)、參數(shù)配置開源框架集成OpenClaw 與 Agent框架Token 成本降低空間預(yù)期能到 100 倍他舉例 Mooncake開源架構(gòu)硬件軟件架構(gòu)都還有優(yōu)化空間平臺化多租戶租戶隔離與監(jiān)控未來方向他看好多 Agent 協(xié)作超越 SaaS 的協(xié)作能力、Agent 通訊能力提升、LLMs 調(diào)度能力、AI 能力整合。整場分享的核心觀點(diǎn)是在 AI 應(yīng)用工程中Token 成本控制應(yīng)作為架構(gòu)設(shè)計(jì)階段的重要考量因素。常見問題FAQQDeepResearch 和傳統(tǒng)搜索、RAG 的區(qū)別是什么傳統(tǒng)搜索靠索引RAG 加向量檢索與知識增強(qiáng)DeepResearch 則是多輪循環(huán)研究能自主規(guī)劃、目標(biāo)函數(shù)驅(qū)動、直接輸出報(bào)告實(shí)現(xiàn)「問題到報(bào)告」的全流程自動化。QOpenClaw 的核心創(chuàng)新點(diǎn)在哪通信方式的革命所有消息通過 IM 通道溝通用 Channel Adapters 實(shí)現(xiàn)分層隔離架構(gòu)靈活、迭代快前身是華人發(fā)明的 Minus。Q系統(tǒng)架構(gòu)怎么分層模型層、外部搜索服務(wù)層、核心服務(wù)層需求分析、研究規(guī)劃、深度研究、API 網(wǎng)關(guān)鑒權(quán)層、客戶端層Web SSE 流式層次清晰。Q四大設(shè)計(jì)原則是什么可配置性、可觀測性、多租戶隔離、雙模通信輪詢 SSE 流式這是 DeepResearch 穩(wěn)定可靠的基礎(chǔ)。QToken 優(yōu)化能省多少錢真實(shí)數(shù)據(jù)是模型路由降 10 倍、語義緩存降 73%、Prompt Cache 降 90%、上下文壓縮降 80%整體有 60% 到 80% 的成本降低空間。Q為什么輸出 Token 更值得控制因?yàn)?Output 成本通常比 Input 更高控制 Output短輸出結(jié)構(gòu)、輪次收斂、及時(shí)止損是成本優(yōu)化的關(guān)鍵杠桿。以上內(nèi)容由 Ai好記 轉(zhuǎn)錄整理。Ai好記 是一款支持音視頻轉(zhuǎn)圖文筆記的AI知識庫工具支持解析B站、小紅書、抖音、小宇宙等平臺鏈接及本地音視頻文件視頻轉(zhuǎn)文字后自動生成精華速覽、思維導(dǎo)圖和結(jié)構(gòu)化圖文筆記幫助你把幾小時(shí)的視頻內(nèi)容變成可搜索、可復(fù)習(xí)的圖文筆記。