目錄1. 人工智能概述2. 大語言模型LLM3. Prompt 工程CO-STAR 結(jié)構(gòu)化框架實(shí)用模板提示詞工程技巧4. Token5. 會話記憶與上下文窗口6. 多模態(tài)文本、圖像、音頻、視頻的融合7. RAG檢索增強(qiáng)生成8. Tool Calling 與 MCPTool Calling工具調(diào)用MCPModel Context ProtocolMCP 核心組件MCP 工作流程4 步Tool Calling vs MCP9. Agent 與工作流Workflow10. Tool Calling 與 Skill11. Vibe Coding 與 Copilot/Agent 模式1. 人工智能概述人工智能AI目標(biāo)是用計(jì)算機(jī)系統(tǒng)模擬人類智能實(shí)現(xiàn)學(xué)習(xí)、推理、決策等認(rèn)知活動本質(zhì)是算法 數(shù)據(jù)讓機(jī)器具備類人能力你每天刷短視頻平臺知道你喜歡什么 —— 這是 AI 在“學(xué)習(xí)”和“預(yù)測”你跟 Siri 說句話它能聽懂 —— 這是 AI 在“聽”和“說”拍照自動美顏、翻譯文字 —— 這是 AI 在“看”和“理解”輸入文字生成一段視頻 —— 這是 AI 在“理解并創(chuàng)作”汽車自己開 —— 這是 AI 在“思考”和“決策”三者的關(guān)系人工智能AI目標(biāo)讓機(jī)器有類似人類的智能機(jī)器學(xué)習(xí)MLAI 的核心實(shí)現(xiàn)方式通過數(shù)據(jù)訓(xùn)練模型自動學(xué)習(xí)規(guī)律線性回歸、決策樹、SVM 等深度學(xué)習(xí)DLML 的重要分支基于多層神經(jīng)網(wǎng)絡(luò)自動從海量數(shù)據(jù)中提取特征一句話DL ? ML ? AI2. 大語言模型LLMLLMLarge Language Model基于海量文本訓(xùn)練能理解和生成人類語言的模型模型系列開發(fā)方特點(diǎn)GPT 系列OpenAI頂級多模態(tài)超強(qiáng)推理原生音視頻處理Claude 系列Anthropic擅長編程輔助、長文檔處理、擬人化對話Gemini 系列Google多模態(tài)搜索引擎與對話系統(tǒng)融合GLM智譜 AI高效上下文理解本土化語言優(yōu)勢通義千問阿里全棧 AI與阿里云生態(tài)深度綁定混元騰訊企業(yè)級安全微信/騰訊云生態(tài)打通云雀/豆包字節(jié)驅(qū)動豆包 AI與抖音/頭條生態(tài)集成DeepSeek深度求索國產(chǎn)“推理之王”推理強(qiáng)成本效益高3. Prompt 工程提示詞Prompt 是用戶或系統(tǒng)給 LLM 的指令/文本用于引導(dǎo)模型生成特定輸出類型定義核心功能示例用戶提示詞終端用戶直接輸入傳達(dá)即時(shí)需求提問、指令“查詢訂單”系統(tǒng)提示詞開發(fā)者預(yù)設(shè)嵌入后端定義角色、行為規(guī)范、知識邊界、安全過濾“你是一名客服用友好語氣解答問題”系統(tǒng)提示詞像“操作系統(tǒng)”持續(xù)影響所有交互用戶提示詞像“操作指令”驅(qū)動單次任務(wù)CO-STAR 結(jié)構(gòu)化框架實(shí)用模板縮寫含義說明CContext背景提供足夠背景幫助 AI 理解任務(wù)上下文和環(huán)境OObjective目標(biāo)明確希望 AI 完成的具體目標(biāo)SStyle風(fēng)格指定生成內(nèi)容的風(fēng)格正式、幽默、小紅書風(fēng)等TTone語氣確定語調(diào)禮貌、說服性、激勵(lì)性等AAudience受眾描述目標(biāo)受眾年齡、興趣、職業(yè)等RResponse響應(yīng)格式指定輸出格式表格、段落、列表等及具體約束示例美食短文 Prompt角色資深美食專欄作家背景微信公眾號讀者 20-35 歲晚 9 點(diǎn)餓西安肉夾饃任務(wù)寫 300 字短文突出“饃酥脆、肉軟爛”輸出格式標(biāo)題≤15字正文分3段風(fēng)格市井煙火氣口語化短句禁用陳詞濫調(diào)提示詞工程技巧基礎(chǔ)技巧角色提示設(shè)定身份“你是一位 Python 架構(gòu)師”約束語氣和專業(yè)深度結(jié)構(gòu)化指令用分隔符“”、【】、XML 標(biāo)簽、列表、Markdown 清晰界定各部分少樣本提示提供 1~3 個(gè)正確示例讓模型快速學(xué)習(xí)格式進(jìn)階推理技巧鏈?zhǔn)剿伎糃oT讓模型分步推理先思考再輸出提升復(fù)雜問題準(zhǔn)確率示例請一步步推理以下問題展示完整思考過程最后得出結(jié)論……自我一致性多次獨(dú)立推理投票得出最終答案避免“一次思考定生死”優(yōu)化策略迭代式精煉Iterative Refinement從簡單指令開始逐步添加約束條件觀察輸出并優(yōu)化4. TokenToken 是 LLM 處理文本時(shí)的最小語義單位由分詞器將文本拆分而成不同模型分詞器不同同一個(gè)詞可能被拆成不同的 TokenPrompt Token / Input Token發(fā)給模型的內(nèi)容問題、歷史對話、上傳文檔、系統(tǒng)提示詞Completion Token / Output Token模型生成的回答Token 的三大作用計(jì)費(fèi)單位幾乎所有商用大模型按 輸入 Token 輸出 Token 收費(fèi)上下文長度限制模型有最大上下文窗口如 8k、32k、128k、1M超限會截?cái)嗷驁?bào)錯(cuò)決定理解能力與成本Token 切分合理性直接影響語義理解數(shù)量影響推理速度、顯存占用5. 會話記憶與上下文窗口會話記憶Chat Memory模型對歷史對話內(nèi)容的存儲與利用機(jī)制讓對話連貫、減少重復(fù)輸入、實(shí)現(xiàn)個(gè)性化體驗(yàn)和多輪任務(wù)完成上下文窗口Context Window大語言模型在單次前向傳播一次推理或訓(xùn)練步驟中能夠處理的輸入 TokenPrompt 輸出 TokenCompletion的總和上限上下文窗口 背包容量當(dāng)前輸入 會話記憶 系統(tǒng)提示詞 你要裝進(jìn)去的東西如果三者總 Token 數(shù) 輸出 Token 超過窗口就必須截?cái)嗷蛴|發(fā)遺忘6. 多模態(tài)文本、圖像、音頻、視頻的融合多模態(tài)指融合多種類型信息讓模型能理解、生成不同模態(tài)數(shù)據(jù)。單模態(tài)只能處理一種常見模態(tài)典型應(yīng)用文本Text智能問答、文檔分析圖像Image醫(yī)療影像分析、AI 繪畫、商品描述生成音頻Audio語音助手語音→文本→LLM→語音視頻Video視頻摘要、行為識別、安防監(jiān)控7. RAG檢索增強(qiáng)生成RAG 解決三大問題知識過時(shí)訓(xùn)練數(shù)據(jù)有截止日期RAG 可接入最新文檔、實(shí)時(shí)數(shù)據(jù)幻覺模型容易“編答案”RAG 基于真實(shí)文檔回答可溯源私有知識模型不知道企業(yè)內(nèi)數(shù)據(jù)、業(yè)務(wù)規(guī)則RAG 接入知識庫實(shí)現(xiàn)“專屬 AI”此外還能節(jié)省 Token只檢索相關(guān)片段并提升可解釋性返回引用來源RAG 核心工作流程階段步驟具體操作離線準(zhǔn)備1. 數(shù)據(jù)采集文檔PDF/Word/Markdown、數(shù)據(jù)庫、API、網(wǎng)頁2. 文檔切分Chunking拆成小塊提高檢索精度適配上下文窗口3. 向量化Embedding將每個(gè) chunk 轉(zhuǎn)換為向量4. 存入向量數(shù)據(jù)庫存儲向量 原文 metadata常用 Milvus、Pinecone在線查詢1. 問題向量化 檢索用戶問題轉(zhuǎn)向量在向量庫中相似度搜索余弦相似度、向量距離2. 重排序可選用更強(qiáng)模型對檢索結(jié)果重新排序篩選最相關(guān)內(nèi)容3. Prompt 構(gòu)建 生成將檢索結(jié)果 用戶問題組合成完整 Prompt調(diào)用 LLM 生成答案8. Tool Calling 與 MCPTool Calling工具調(diào)用指 LLM 能根據(jù)用戶請求智能選擇并調(diào)用外部工具函數(shù)、API、服務(wù)等擴(kuò)展自身能力Function Calling 是 Tool Calling 的早期叫法特指調(diào)用代碼中的函數(shù)Tool Calling 是更廣泛的概念涵蓋 API、數(shù)據(jù)庫、瀏覽器等任意外部操作MCPModel Context ProtocolMCP 是LLM 與外部系統(tǒng)交互的標(biāo)準(zhǔn)化協(xié)議類比 AI 領(lǐng)域的“USB-C”核心價(jià)值解決 “N 個(gè)模型 × M 個(gè)工具” 的集成復(fù)雜度問題以前每個(gè)模型對接每個(gè)工具都要單獨(dú)開發(fā)適配邏輯現(xiàn)在只要遵循 MCP 標(biāo)準(zhǔn)即插即用MCP 核心組件MCP 采用的是“客戶端-宿主-服務(wù)器”Client-Host-Server三層架構(gòu)MCP Host 就是運(yùn)行 AI 能力的應(yīng)用程序本身。比如 Claude Desktop、Claude Code、Visual Studio Code或者你自己搭建的 AI Agent 應(yīng)用Host 的職責(zé)是創(chuàng)建和管理多個(gè) MCP Client 實(shí)例控制 Client 的連接權(quán)限和生命周期執(zhí)行安全策略和用戶授權(quán)協(xié)調(diào) AI/LLM 的集成跨多個(gè) Client 聚合上下文MCP Server 是一個(gè)獨(dú)立的程序向 MCP Client 提供特定的上下文和能力MCP Server 的核心職責(zé)職責(zé)具體說明暴露 MCP 原語通過 Tools工具、Resources資源、Prompts提示模板三種原語提供能力獨(dú)立運(yùn)行每個(gè) Server 聚焦于明確、單一的能力邊界可獨(dú)立部署請求采樣Sampling可通過 Client 接口請求 Host 側(cè)的 LLM 進(jìn)行采樣遵守安全約束只能訪問被授權(quán)的內(nèi)容不能讀取完整對話歷史本地或遠(yuǎn)程部署可以是本地進(jìn)程stdio 傳輸或遠(yuǎn)程服務(wù)HTTP 傳輸Server 暴露的三種原語原語控制方說明示例Tools工具模型控制暴露給 LLM 執(zhí)行操作的函數(shù)API POST 請求、文件寫入、數(shù)據(jù)庫查詢Resources資源應(yīng)用控制通過 URI 訪問的上下文數(shù)據(jù)文件內(nèi)容、Git 歷史、數(shù)據(jù)庫記錄Prompts提示模板應(yīng)用控制預(yù)定義的提示消息模板帶參數(shù)的問題模板、角色設(shè)定模板MCP Client 是運(yùn)行在 Host 內(nèi)部的組件由 Host 創(chuàng)建負(fù)責(zé)與一個(gè) MCP Server 建立和維護(hù)一對一的連接關(guān)鍵特征一個(gè) Client 只連接一個(gè) Server一對一關(guān)系MCP Client 的核心職責(zé)職責(zé)具體說明建立有狀態(tài)會話與每個(gè) Server 建立一個(gè)有狀態(tài)的會話stateful session協(xié)議協(xié)商與能力交換在初始化階段與 Server 協(xié)商協(xié)議版本和雙方支持的能力雙向路由協(xié)議消息在 Host 和 Server 之間雙向傳遞 JSON-RPC 消息管理訂閱和通知處理 Server 的訂閱請求和實(shí)時(shí)通知維護(hù)安全邊界隔離不同 Server 之間的連接防止互相“窺探”MCP Server 獲取渠道官方 Registryhttps://registry.modelcontextprotocol.io國內(nèi)云廠商阿里云百煉 MCP 廣場、騰訊云 MCP 廣場社區(qū)平臺mcp.so、ForAgents.devMCP 工作流程4 步初始化連接MCP 主機(jī)啟動Client 與 Server 建立通信能力發(fā)現(xiàn)Client 向 Server 查詢工具列表名稱、描述、參數(shù)、權(quán)限同步給 LLM執(zhí)行決策與調(diào)用LLM 判斷是否調(diào)用工具若需調(diào)用Client 將結(jié)構(gòu)化請求轉(zhuǎn)發(fā)至 ServerServer 執(zhí)行并返回結(jié)果結(jié)果回傳與輸出Client 將執(zhí)行結(jié)果回傳 LLM模型融合后生成自然語言回答Tool Calling vs MCP維度Tool CallingMCP本質(zhì)LLM 調(diào)用外部工具的能力LLM 與工具交互的標(biāo)準(zhǔn)化協(xié)議范圍偏向單一操作查天氣、查數(shù)據(jù)庫覆蓋工具發(fā)現(xiàn)、調(diào)用、結(jié)果返回的全流程集成方式每個(gè)模型 每個(gè)工具需單獨(dú)適配統(tǒng)一接口Client 與 Server 分層解耦標(biāo)準(zhǔn)化程度各廠商實(shí)現(xiàn)不同缺乏統(tǒng)一規(guī)范開源標(biāo)準(zhǔn)跨模型、跨工具互通9. Agent 與工作流Workflow對比維度Workflow工作流Agent流程控制人預(yù)先定義步驟固定順序LLM 根據(jù)目標(biāo)動態(tài)控制走向靈活性可預(yù)期適合確定性任務(wù)自適應(yīng)適合開放性任務(wù)決策主體人設(shè)計(jì)規(guī)則固定流程LLM 自主決策多 Agent 模式將復(fù)雜任務(wù)拆給多個(gè)職責(zé)不同的 Agent 協(xié)作完成何時(shí)需要多 Agent 而非單 Agent任務(wù)復(fù)雜到單 Agent 無法穩(wěn)定完成時(shí)上下文限制單 Agent 塞入所有信息會超窗口、成本劇增、速度下降角色沖突同時(shí)扮演多角色導(dǎo)致提示詞沖突行為混亂單點(diǎn)故障某一步出錯(cuò)整個(gè)任務(wù)鏈崩潰10. Tool Calling 與 Skill維度Tool CallingSkill粒度單一操作查天氣 API完整任務(wù)能力規(guī)劃旅行查天氣查機(jī)票查酒店生成行程特點(diǎn)原子化可被組合封裝好的可復(fù)用能力包含多個(gè)工具調(diào)用邏輯常用 Skill 平臺ClawHubOpenClaw 官方llmskills.orgClaude 用戶友好SkillsMP12 萬 GitHub 開源 Skill騰訊 SkillHub、阿里云官方 Skill 平臺11. Vibe Coding 與 Copilot/Agent 模式Vibe Coding用自然語言驅(qū)動開發(fā)開發(fā)者描述意圖LLM 自動生成/修改代碼開發(fā)者驗(yàn)收、反饋、迭代。代表工具Cursor、Windsurf、Trae以及 CLI 工具Claude Code、Aider、ClineCopilot 模式AI 作為“副駕駛”提供建議最終決策權(quán)在人如普通 ChatGPT 問答Agent 模式AI 自主規(guī)劃并調(diào)用工具完成執(zhí)行如智能客服幫你訂機(jī)票層級核心問題關(guān)鍵概念概念層是什么AI、ML、DL、LLM、多模態(tài)交互層怎么問Prompt、Token、會話記憶、上下文窗口增強(qiáng)層怎么讓回答更準(zhǔn)RAG、向量數(shù)據(jù)庫、Embedding行動層怎么讓 LLM 做事Tool Calling、MCP、Skill系統(tǒng)層怎么構(gòu)建智能體Agent、Workflow、多 Agent、OpenClaw、Hermes