品落地:VibeCoding與RAG實(shí)戰(zhàn)指南)
1. 從崗位能力到個(gè)人創(chuàng)造AI產(chǎn)品落地指南與一人公司AI產(chǎn)品創(chuàng)造營(yíng)到底在講什么FDE這個(gè)詞最近兩年在技術(shù)圈和產(chǎn)品圈里被反復(fù)提起。全稱是Forward Deployed Engineer直譯過(guò)來(lái)叫“前線部署工程師”。這個(gè)崗位最早在Palantir這類公司里被大量使用核心職責(zé)不是坐在辦公室里寫(xiě)通用代碼而是直接扎到客戶現(xiàn)場(chǎng)理解業(yè)務(wù)痛點(diǎn)把AI能力快速組裝成能跑起來(lái)的產(chǎn)品。說(shuō)白了FDE就是那種既懂技術(shù)又懂業(yè)務(wù)、還能自己動(dòng)手把東西做出來(lái)的人。而“一人公司AI產(chǎn)品創(chuàng)造營(yíng)”這個(gè)概念則是把FDE的能力模型進(jìn)一步壓縮到個(gè)人身上。你不需要一個(gè)團(tuán)隊(duì)不需要融資不需要等排期一個(gè)人加上一套AI工具鏈就能完成從需求洞察到產(chǎn)品上線的全流程。這里面涉及的核心技術(shù)棧包括VibeCoding、RAG、知識(shí)庫(kù)構(gòu)建、智能體編排等等。我最近花了不少時(shí)間研究這套東西也動(dòng)手搭了幾個(gè)小項(xiàng)目踩了不少坑今天就把這些經(jīng)驗(yàn)完整地拆開(kāi)來(lái)講。這篇文章適合幾類人看一是正在做AI產(chǎn)品落地但總覺(jué)得“差點(diǎn)意思”的工程師二是想用AI工具做點(diǎn)自己產(chǎn)品但不知道從哪下手的獨(dú)立開(kāi)發(fā)者三是對(duì)FDE這個(gè)崗位感興趣、想了解它到底需要什么能力的技術(shù)人。我會(huì)從整體設(shè)計(jì)思路講到具體實(shí)操?gòu)腞AG的搭建細(xì)節(jié)講到常見(jiàn)問(wèn)題的排查盡量把每個(gè)環(huán)節(jié)都講透。2. FDE能力模型與一人公司的底層邏輯拆解2.1 FDE到底在做什么崗位本質(zhì)與能力拆解很多人第一次聽(tīng)到FDE會(huì)以為就是個(gè)“駐場(chǎng)開(kāi)發(fā)”。這個(gè)理解不能說(shuō)錯(cuò)但太窄了。FDE的核心價(jià)值在于縮短從業(yè)務(wù)問(wèn)題到技術(shù)方案之間的距離。傳統(tǒng)模式下客戶提需求產(chǎn)品經(jīng)理寫(xiě)文檔工程師排期開(kāi)發(fā)測(cè)試上線一輪下來(lái)少說(shuō)幾周。FDE的模式是我直接坐在你旁邊你說(shuō)你要什么我今天就給你搭個(gè)原型出來(lái)明天就能試。這就要求FDE具備幾個(gè)關(guān)鍵能力。第一是快速理解業(yè)務(wù)場(chǎng)景的能力你得能在半小時(shí)內(nèi)搞清楚客戶到底在解決什么問(wèn)題而不是被他們說(shuō)的“我要一個(gè)AI”帶偏。第二是技術(shù)選型的判斷力什么場(chǎng)景用RAG什么場(chǎng)景用微調(diào)什么場(chǎng)景直接調(diào)API就行這個(gè)判斷直接決定項(xiàng)目成敗。第三是動(dòng)手搭建的能力你不能只會(huì)畫(huà)架構(gòu)圖得能自己把東西跑起來(lái)。我見(jiàn)過(guò)不少技術(shù)能力很強(qiáng)的人做FDE做得很痛苦原因就是他們總想“做一個(gè)完美的系統(tǒng)”。但FDE的邏輯是“先跑起來(lái)再迭代”。一個(gè)能用的粗糙原型比一個(gè)完美的設(shè)計(jì)文檔有價(jià)值一百倍。2.2 一人公司模式為什么現(xiàn)在能成立一人公司這個(gè)概念其實(shí)不新但AI工具鏈的成熟讓它真正變得可行了。以前一個(gè)人做產(chǎn)品最大的瓶頸是“你只有一雙手”。寫(xiě)完后端寫(xiě)前端寫(xiě)完前端調(diào)UI調(diào)完UI做測(cè)試每個(gè)環(huán)節(jié)都要時(shí)間?,F(xiàn)在的情況是VibeCoding讓你用自然語(yǔ)言就能生成可運(yùn)行的代碼RAG讓你不用訓(xùn)練模型就能讓AI理解你的私有數(shù)據(jù)各種低代碼平臺(tái)把部署和運(yùn)維的門檻也拉低了。我自己的體會(huì)是現(xiàn)在一個(gè)人做產(chǎn)品的效率大概相當(dāng)于兩年前一個(gè)小團(tuán)隊(duì)的水平。但前提是你得知道怎么把這些工具串起來(lái)。很多人卡在“工具都會(huì)用但不知道怎么組合”這個(gè)階段。這就像你有一堆好食材但不會(huì)搭配做出來(lái)的菜還是不好吃。2.3 從崗位到創(chuàng)造能力遷移的關(guān)鍵節(jié)點(diǎn)FDE的能力和一人公司創(chuàng)業(yè)者的能力重合度其實(shí)很高。都需要快速理解需求、快速選型、快速搭建。區(qū)別在于FDE面對(duì)的是客戶的需求一人公司面對(duì)的是市場(chǎng)的需求。FDE有客戶告訴你他要什么一人公司得自己判斷用戶要什么。這個(gè)遷移過(guò)程中最關(guān)鍵的一個(gè)節(jié)點(diǎn)是從“解決問(wèn)題”到“發(fā)現(xiàn)問(wèn)題”。做FDE的時(shí)候問(wèn)題是被定義的你只需要解決。做一人公司的時(shí)候問(wèn)題得你自己找。我剛開(kāi)始做獨(dú)立產(chǎn)品的時(shí)候最大的不適應(yīng)就是“沒(méi)人告訴我該做什么了”。后來(lái)我養(yǎng)成了一個(gè)習(xí)慣每天花半小時(shí)看用戶在社區(qū)里的抱怨那些抱怨里藏著真實(shí)的需求。3. VibeCoding與RAG一人公司AI產(chǎn)品的兩大技術(shù)支柱3.1 VibeCoding到底是什么不是“隨便寫(xiě)代碼”VibeCoding這個(gè)詞被很多人誤解了。有人覺(jué)得就是“用AI隨便生成代碼”這理解太淺了。VibeCoding的核心是用自然語(yǔ)言描述意圖讓AI幫你完成從意圖到實(shí)現(xiàn)的翻譯。你不需要記住API的細(xì)節(jié)不需要糾結(jié)語(yǔ)法你只需要清楚地表達(dá)“我要什么”。但這里有個(gè)關(guān)鍵前提你得知道你要什么。我見(jiàn)過(guò)很多人用VibeCoding寫(xiě)出來(lái)的代碼一團(tuán)糟原因不是AI不行是他們自己沒(méi)想清楚。你給AI的描述越模糊出來(lái)的東西越不能用。比如你說(shuō)“幫我寫(xiě)個(gè)登錄功能”AI只能給你一個(gè)最通用的版本。但你說(shuō)“幫我寫(xiě)一個(gè)基于郵箱驗(yàn)證碼的登錄驗(yàn)證碼5分鐘過(guò)期錯(cuò)誤三次鎖定10分鐘”出來(lái)的東西就完全不一樣。我自己的VibeCoding工作流是這樣的先用自然語(yǔ)言把需求寫(xiě)清楚包括輸入輸出、邊界條件、異常處理。然后讓AI生成第一版代碼。接著我會(huì)自己讀一遍把明顯不對(duì)的地方標(biāo)出來(lái)再讓AI改。一般三輪之內(nèi)就能得到可用的代碼。這個(gè)過(guò)程里你的角色從“寫(xiě)代碼的人”變成了“審代碼的人”這個(gè)轉(zhuǎn)變很重要。3.2 RAG的核心價(jià)值讓AI說(shuō)“你的話”RAG全稱是Retrieval-Augmented Generation檢索增強(qiáng)生成。這個(gè)名字聽(tīng)起來(lái)很學(xué)術(shù)但邏輯很簡(jiǎn)單AI在回答你之前先去你的知識(shí)庫(kù)里查資料然后基于查到的資料來(lái)回答。這樣AI說(shuō)的就不是“通用的話”而是“你的話”。為什么RAG這么重要因?yàn)榇竽P陀袃蓚€(gè)硬傷。第一是知識(shí)截止日期模型訓(xùn)練完之后發(fā)生的事情它不知道。第二是私有數(shù)據(jù)盲區(qū)你公司內(nèi)部的文檔、你的個(gè)人筆記模型從來(lái)沒(méi)看過(guò)。RAG就是來(lái)解決這兩個(gè)問(wèn)題的。我拿一個(gè)實(shí)際場(chǎng)景舉例。假設(shè)你做了一個(gè)AI客服用戶問(wèn)“你們的退貨政策是什么”。如果沒(méi)有RAGAI只能根據(jù)訓(xùn)練數(shù)據(jù)里見(jiàn)過(guò)的通用退貨政策來(lái)回答大概率是錯(cuò)的。有了RAGAI先去你的知識(shí)庫(kù)里檢索“退貨政策”相關(guān)的文檔找到你實(shí)際的政策條款然后基于這個(gè)條款來(lái)回答。用戶得到的答案就是準(zhǔn)確的。3.3 VibeCoding加RAG的組合拳怎么打這兩個(gè)東西單獨(dú)用都有價(jià)值但組合起來(lái)威力更大。VibeCoding負(fù)責(zé)快速搭建產(chǎn)品的前端和后端邏輯RAG負(fù)責(zé)讓產(chǎn)品的AI能力真正有用。我自己的項(xiàng)目里典型的流程是這樣的先用VibeCoding把產(chǎn)品的骨架搭出來(lái)包括用戶界面、數(shù)據(jù)存儲(chǔ)、API接口。然后用RAG把知識(shí)庫(kù)接進(jìn)去讓AI能回答基于私有數(shù)據(jù)的問(wèn)題。最后再調(diào)優(yōu)包括檢索的準(zhǔn)確率、回答的質(zhì)量、響應(yīng)速度等等。這個(gè)組合最大的好處是迭代速度快。以前改一個(gè)功能可能要半天現(xiàn)在可能半小時(shí)就搞定了。但前提是你得把知識(shí)庫(kù)的結(jié)構(gòu)設(shè)計(jì)好不然檢索出來(lái)的東西不對(duì)AI的回答也就跟著錯(cuò)。4. RAG知識(shí)庫(kù)從零搭建完整實(shí)操流程與關(guān)鍵細(xì)節(jié)4.1 知識(shí)庫(kù)的數(shù)據(jù)準(zhǔn)備別急著往里面塞東西很多人搭RAG的第一步就是“把所有的文檔都傳進(jìn)去”這是個(gè)典型的坑。知識(shí)庫(kù)的質(zhì)量直接決定檢索的質(zhì)量檢索的質(zhì)量直接決定回答的質(zhì)量。你塞一堆亂七八糟的東西進(jìn)去出來(lái)的結(jié)果一定是一團(tuán)糟。我的做法是先分類再清洗最后入庫(kù)。分類的意思是把你的文檔按主題分好。比如產(chǎn)品文檔放一類客服話術(shù)放一類內(nèi)部流程放一類。這樣檢索的時(shí)候可以限定范圍準(zhǔn)確率會(huì)高很多。清洗的意思是把文檔里的噪音去掉。比如PDF里的頁(yè)眉頁(yè)腳、掃描件的亂碼、重復(fù)的內(nèi)容這些都會(huì)干擾檢索。還有一個(gè)細(xì)節(jié)是文檔的粒度。一篇一萬(wàn)字的文檔如果你整篇塞進(jìn)去檢索的時(shí)候可能只匹配到其中一段但返回的是整篇AI處理起來(lái)效率很低。我的做法是把長(zhǎng)文檔拆成500到1000字的小塊每個(gè)小塊單獨(dú)入庫(kù)。這樣檢索的精度會(huì)高很多。4.2 文本拆解工具的選擇與使用文本拆解是RAG里最容易被忽視但最重要的環(huán)節(jié)。拆得好檢索準(zhǔn)拆得不好什么都白搭。我試過(guò)不少工具說(shuō)幾個(gè)我覺(jué)得好用的。如果你是在Mac上做本地知識(shí)庫(kù)Ollama加上一些開(kāi)源的拆解工具是個(gè)不錯(cuò)的組合。Ollama負(fù)責(zé)跑本地的嵌入模型拆解工具負(fù)責(zé)把文檔切成合適的大小。我常用的拆解策略是按語(yǔ)義拆而不是按字?jǐn)?shù)硬切。比如一段話講完了一個(gè)完整的意思就在那里斷開(kāi)。這樣每個(gè)塊都是語(yǔ)義完整的檢索的時(shí)候匹配度更高。如果你不想折騰本地環(huán)境也有一些現(xiàn)成的平臺(tái)可以用。但我的建議是至少自己動(dòng)手搭一次。因?yàn)橹挥心阕约捍钸^(guò)才知道每個(gè)環(huán)節(jié)可能出什么問(wèn)題。我見(jiàn)過(guò)太多人直接用現(xiàn)成平臺(tái)出了問(wèn)題完全不知道從哪里排查。4.3 嵌入模型的選擇不是越貴越好嵌入模型的作用是把文本轉(zhuǎn)換成向量這樣計(jì)算機(jī)才能計(jì)算兩段文本的相似度。選擇嵌入模型的時(shí)候很多人會(huì)直接選最大的那個(gè)覺(jué)得越大越好。但實(shí)際上嵌入模型的選擇要看你的場(chǎng)景。如果你的知識(shí)庫(kù)是中文的就得選對(duì)中文支持好的模型。有些模型在英文上表現(xiàn)很好但中文一塌糊涂。如果你的知識(shí)庫(kù)是技術(shù)文檔就得選對(duì)術(shù)語(yǔ)理解好的模型。我自己的經(jīng)驗(yàn)是先拿一批真實(shí)的問(wèn)題去測(cè)試看哪個(gè)模型的檢索準(zhǔn)確率最高而不是看排行榜。還有一個(gè)實(shí)際問(wèn)題是成本。大模型跑一次嵌入不便宜如果你的知識(shí)庫(kù)很大每次更新都要重新跑一遍成本會(huì)很高。所以我的做法是先用小模型跑通流程確認(rèn)沒(méi)問(wèn)題了再換大模型。這樣試錯(cuò)成本低很多。4.4 檢索策略的調(diào)優(yōu)從“能查到”到“查得準(zhǔn)”檢索策略是RAG里最需要調(diào)優(yōu)的部分。基礎(chǔ)的檢索就是“把問(wèn)題轉(zhuǎn)成向量然后找最相似的幾個(gè)塊”。但實(shí)際用起來(lái)你會(huì)發(fā)現(xiàn)經(jīng)常查不準(zhǔn)。原因可能是問(wèn)題太短、向量表達(dá)不夠也可能是知識(shí)庫(kù)里的內(nèi)容和問(wèn)題的表述方式差異太大。我常用的幾個(gè)調(diào)優(yōu)手段。第一是混合檢索不光用向量相似度還結(jié)合關(guān)鍵詞匹配。這樣即使向量沒(méi)匹配上關(guān)鍵詞也能兜底。第二是重排序先檢索出一批候選然后用一個(gè)更精細(xì)的模型重新排序把最相關(guān)的排到前面。第三是查詢擴(kuò)展把用戶的問(wèn)題擴(kuò)展成幾個(gè)相關(guān)的問(wèn)法分別檢索然后合并結(jié)果。這些手段不用全上根據(jù)你的場(chǎng)景選。我的經(jīng)驗(yàn)是混合檢索加重排序能解決大部分問(wèn)題。查詢擴(kuò)展在問(wèn)題特別短的時(shí)候有用但會(huì)增加延遲看你能不能接受。4.5 從檢索到生成提示詞的設(shè)計(jì)要點(diǎn)檢索出來(lái)的內(nèi)容怎么交給AI這步也很關(guān)鍵。你不能直接把檢索結(jié)果扔給AI說(shuō)“根據(jù)這個(gè)回答”那樣AI可能會(huì)忽略檢索結(jié)果自己編答案。我的做法是在提示詞里明確約束。比如我會(huì)這樣寫(xiě)“你是一個(gè)客服助手。請(qǐng)嚴(yán)格根據(jù)以下參考資料回答用戶問(wèn)題。如果參考資料中沒(méi)有相關(guān)信息請(qǐng)直接說(shuō)‘我沒(méi)有找到相關(guān)信息’不要自己編造?!边@樣AI就會(huì)老老實(shí)實(shí)地基于檢索結(jié)果來(lái)回答。還有一個(gè)技巧是把檢索結(jié)果的來(lái)源也告訴AI。比如“參考資料1來(lái)自產(chǎn)品手冊(cè)第3章參考資料2來(lái)自客服培訓(xùn)文檔”。這樣AI在回答的時(shí)候可以引用來(lái)源用戶也更信任。5. RAG實(shí)戰(zhàn)中的常見(jiàn)瓶頸與排查技巧5.1 檢索不準(zhǔn)問(wèn)題出在哪幾個(gè)環(huán)節(jié)檢索不準(zhǔn)是RAG最常見(jiàn)的抱怨。但“不準(zhǔn)”是個(gè)籠統(tǒng)的說(shuō)法得拆開(kāi)看。我一般按這個(gè)順序排查先看知識(shí)庫(kù)里到底有沒(méi)有答案。有時(shí)候用戶問(wèn)的問(wèn)題知識(shí)庫(kù)里根本沒(méi)有相關(guān)內(nèi)容那檢索不準(zhǔn)是正常的。這種情況得先補(bǔ)充知識(shí)庫(kù)。再看拆解粒度是否合適。如果塊太大檢索到的內(nèi)容里可能只有一小部分相關(guān)AI處理起來(lái)會(huì)分心。如果塊太小可能一個(gè)完整的答案被切成了好幾塊檢索只能拿到一部分。然后看嵌入模型是否匹配。中文場(chǎng)景用英文模型技術(shù)場(chǎng)景用通用模型都會(huì)導(dǎo)致檢索不準(zhǔn)。最后看檢索策略是否合理。純向量檢索在有些場(chǎng)景下就是不如混合檢索。這個(gè)得試。5.2 回答質(zhì)量差是檢索的問(wèn)題還是生成的問(wèn)題回答質(zhì)量差不一定都是檢索的鍋。我一般會(huì)做一個(gè)簡(jiǎn)單的測(cè)試把檢索到的內(nèi)容直接拿給人看看人能不能根據(jù)這些內(nèi)容回答出正確的問(wèn)題。如果人能回答出來(lái)但AI回答不出來(lái)那就是生成環(huán)節(jié)的問(wèn)題。如果人也回答不出來(lái)那就是檢索環(huán)節(jié)的問(wèn)題。生成環(huán)節(jié)的問(wèn)題通常是提示詞沒(méi)寫(xiě)好。比如沒(méi)有約束AI“只根據(jù)參考資料回答”AI就會(huì)自己發(fā)揮?;蛘邊⒖假Y料里有多條信息AI不知道哪條優(yōu)先就會(huì)混著說(shuō)。檢索環(huán)節(jié)的問(wèn)題就回到上一條的排查流程。5.3 知識(shí)庫(kù)更新后效果變差增量更新的坑知識(shí)庫(kù)不是建好就完了得持續(xù)更新。但更新的時(shí)候有個(gè)坑新加的內(nèi)容可能和舊內(nèi)容沖突。比如你更新了產(chǎn)品政策但舊的政策文檔還在知識(shí)庫(kù)里檢索的時(shí)候可能把舊政策也檢索出來(lái)AI就懵了。我的做法是給每個(gè)文檔塊加時(shí)間戳和版本號(hào)。檢索的時(shí)候優(yōu)先返回最新的版本。如果新舊版本差異很大就把舊版本標(biāo)記為“已廢棄”檢索的時(shí)候直接排除。還有一個(gè)坑是更新頻率太高導(dǎo)致向量庫(kù)頻繁重建。如果每次加一個(gè)文檔就重建整個(gè)向量庫(kù)成本很高。我的做法是增量更新只對(duì)新文檔做嵌入然后追加到向量庫(kù)里。這樣速度快很多。5.4 常見(jiàn)問(wèn)題速查表問(wèn)題現(xiàn)象可能原因排查方法解決思路檢索不到相關(guān)內(nèi)容知識(shí)庫(kù)缺失或拆解不當(dāng)人工檢查知識(shí)庫(kù)補(bǔ)充內(nèi)容或調(diào)整拆解粒度檢索到無(wú)關(guān)內(nèi)容嵌入模型不匹配換模型測(cè)試選對(duì)中文/領(lǐng)域模型回答與檢索內(nèi)容不符提示詞約束不夠檢查提示詞加“僅根據(jù)參考資料回答”回答質(zhì)量不穩(wěn)定檢索結(jié)果排序問(wèn)題看重排序效果加混合檢索和重排序更新后效果變差新舊內(nèi)容沖突檢查版本管理加時(shí)間戳和版本號(hào)響應(yīng)速度慢檢索范圍太大看檢索耗時(shí)限定檢索范圍或加緩存6. 一人公司AI產(chǎn)品的落地路徑與個(gè)人體會(huì)6.1 從想法到上線一個(gè)人的完整工作流一人公司做AI產(chǎn)品最怕的是“想太多做太少”。我的工作流很簡(jiǎn)單第一天想清楚要解決什么問(wèn)題第二天搭出最粗糙的版本第三天找真實(shí)用戶試。這個(gè)節(jié)奏聽(tīng)起來(lái)很激進(jìn)但實(shí)際做下來(lái)比花兩周做“完美版本”然后發(fā)現(xiàn)方向錯(cuò)了要高效得多。具體來(lái)說(shuō)第一天我會(huì)用VibeCoding把產(chǎn)品的核心功能搭出來(lái)。不追求好看不追求完整只要能跑通核心流程就行。第二天我會(huì)把RAG接進(jìn)去讓AI能回答基于知識(shí)庫(kù)的問(wèn)題。第三天我會(huì)找?guī)讉€(gè)朋友或者社區(qū)里的用戶讓他們實(shí)際用一下看哪里卡住了。這個(gè)流程里最重要的是第三天的反饋。你自己覺(jué)得再好的功能用戶可能根本不用。你自己覺(jué)得沒(méi)問(wèn)題的交互用戶可能完全找不到。我做過(guò)一個(gè)AI寫(xiě)作助手自己覺(jué)得提示詞設(shè)計(jì)得很精妙結(jié)果用戶根本不知道怎么用因?yàn)榻缑嫔蠜](méi)有引導(dǎo)。6.2 技術(shù)選型的取舍什么該自己搭什么該用現(xiàn)成的一人公司最大的約束是時(shí)間。所以技術(shù)選型的原則是能買就買能租就租實(shí)在不行才自己搭。但有幾個(gè)東西我建議自己搭。知識(shí)庫(kù)的拆解和檢索邏輯建議自己搭。因?yàn)檫@是你產(chǎn)品的核心差異點(diǎn)用現(xiàn)成的平臺(tái)雖然快但調(diào)優(yōu)空間小出了問(wèn)題也不好排查。嵌入模型和生成模型可以用現(xiàn)成的API。自己部署模型成本太高而且效果不一定比API好。除非你有特殊的數(shù)據(jù)安全要求否則用API是更劃算的選擇。前端界面可以用低代碼平臺(tái)。一人公司不需要追求極致的UI能用就行。把時(shí)間花在核心功能上更值得。6.3 我踩過(guò)的三個(gè)坑和對(duì)應(yīng)的解法第一個(gè)坑是知識(shí)庫(kù)塞太多無(wú)關(guān)內(nèi)容。我剛開(kāi)始做的時(shí)候覺(jué)得“多總比少好”把能找到的文檔全塞進(jìn)去了。結(jié)果檢索出來(lái)的內(nèi)容經(jīng)常是無(wú)關(guān)的AI的回答也跟著跑偏。后來(lái)我做了減法只保留和核心場(chǎng)景相關(guān)的內(nèi)容效果立刻好了很多。第二個(gè)坑是提示詞寫(xiě)得太復(fù)雜。我一開(kāi)始寫(xiě)提示詞恨不得把所有可能的情況都覆蓋到結(jié)果AI反而不知道該怎么回答了。后來(lái)我簡(jiǎn)化了提示詞只保留最核心的約束效果反而更好。提示詞不是越長(zhǎng)越好是越準(zhǔn)越好。第三個(gè)坑是忽略響應(yīng)速度。我做第一個(gè)版本的時(shí)候只關(guān)注回答質(zhì)量沒(méi)關(guān)注速度。結(jié)果用戶問(wèn)一個(gè)問(wèn)題要等十幾秒體驗(yàn)很差。后來(lái)我加了緩存把常見(jiàn)問(wèn)題的答案緩存起來(lái)速度提升了很多。用戶對(duì)速度的容忍度比你想象的低。6.4 后續(xù)可以擴(kuò)展的方向這套東西搭起來(lái)之后能擴(kuò)展的方向其實(shí)很多。比如你可以把知識(shí)庫(kù)從文本擴(kuò)展到圖片和表格讓AI能處理更豐富的內(nèi)容。你也可以把單輪問(wèn)答擴(kuò)展成多輪對(duì)話讓AI能記住上下文。你還可以把RAG和智能體結(jié)合起來(lái)讓AI不光能回答問(wèn)題還能執(zhí)行操作。我最近在試的一個(gè)方向是把RAG和自動(dòng)化工作流結(jié)合。比如用戶問(wèn)“幫我查一下上個(gè)月的銷售數(shù)據(jù)”AI不光能回答還能自動(dòng)去數(shù)據(jù)庫(kù)里查然后把結(jié)果整理成表格。這個(gè)方向我覺(jué)得很有潛力但還在摸索階段。最后分享一個(gè)我自己的體會(huì)一人公司做AI產(chǎn)品最大的優(yōu)勢(shì)是快最大的劣勢(shì)也是快??煲馕吨隳芸焖僭囧e(cuò)但也意味著你容易忽略一些基礎(chǔ)的東西。我的建議是在追求速度的同時(shí)至少把知識(shí)庫(kù)的質(zhì)量和提示詞的準(zhǔn)確性這兩件事做好。這兩件事做不好后面怎么調(diào)都是白搭。