Zulip AI 集成指南從模型接入到主題摘要Topic Summarization的完整配置與源碼解析【免費(fèi)下載鏈接】zulipZulip server and web application. Open-source team chat that helps teams stay productive and focused.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/zu/zulipZulip 是開源團(tuán)隊(duì)聊天服務(wù)器其基于“頻道 話題topic”的對(duì)話組織方式天然適合與 AI 系統(tǒng)協(xié)作。本文基于當(dāng)前倉(cāng)庫(kù) docs/production/ai-integrations.md 展開全面講解 Zulip 的 AI 集成方案如何通過(guò)交互式機(jī)器人 API 接入自選模型、三層配置體系服務(wù)器/組織/個(gè)人、以及 Zulip Server 10.x 的 Beta 版主題摘要Topic Summarization功能——包括工作原理、/etc/zulip/settings.py中的完整配置參數(shù)、成本控制模型與模型選型經(jīng)驗(yàn)并深入對(duì)應(yīng)源碼驗(yàn)證每個(gè)配置項(xiàng)的真實(shí)行為。為什么 Zulip 的“話題”結(jié)構(gòu)天然適合 AI 協(xié)作Zulip 的核心概念之一是把頻道內(nèi)的每一條會(huì)話按主題topic組織成獨(dú)立的對(duì)話線索。這種結(jié)構(gòu)對(duì) AI 集成非常友好每個(gè)話題本身就是一段上下文完整、邊界清晰的對(duì)話AI 可以基于整個(gè)話題獲取“想要完成什么”的準(zhǔn)確語(yǔ)境而無(wú)需像傳統(tǒng)群聊那樣從海量混雜消息中猜測(cè)上下文用戶可以針對(duì)某個(gè)具體話題向 AI 發(fā)起請(qǐng)求例如“總結(jié)這個(gè)話題”“提取這個(gè)話題中的待辦事項(xiàng)”輸入內(nèi)容明確、輸出結(jié)果聚焦在話題結(jié)構(gòu)中AI Agent 可以按話題訂閱、回復(fù)和追蹤工作流協(xié)作邊界清晰適合長(zhǎng)期運(yùn)行的多 Agent 協(xié)作場(chǎng)景。從源碼看Zulip 的消息獲取與話題過(guò)濾體系為這類 AI 任務(wù)提供了底層支撐zerver/lib/narrow.py中的NarrowParameter與clean_narrow_for_message_fetch負(fù)責(zé)把“頻道 話題”的篩選條件解析為查詢參數(shù)主題摘要功能正是通過(guò)這種 narrow窄化機(jī)制精確取出一個(gè)話題內(nèi)的消息詳見下文源碼解析。接入 AI 模型的入口交互式機(jī)器人 APIZulip 并沒有把 AI 模型硬編碼進(jìn)系統(tǒng)而是提供了一個(gè)通用、開放、可擴(kuò)展的接入方式——交互式機(jī)器人interactive botsAPI。任何 AI 模型都可以通過(guò)該 API 以機(jī)器人身份參與會(huì)話具體參與方式是回答問題、生成摘要、還是執(zhí)行 Agent 工作流完全由你的組織按需定義。這意味著你可以將 OpenAI、Anthropic、本地開源模型等任意模型封裝為 Zulip bot通過(guò) bot 訂閱頻道/話題接收消息并調(diào)用模型后回復(fù)隨著模型能力演進(jìn)隨時(shí)更換底層模型或調(diào)整提示詞策略無(wú)需改動(dòng) Zulip 本身。Zulip 對(duì)模型的開放態(tài)度還體現(xiàn)在內(nèi)置 AI 功能的設(shè)計(jì)上內(nèi)置功能同樣不綁定特定廠商而是通過(guò)統(tǒng)一配置指向任意 OpenAI 兼容的 API 端點(diǎn)詳見下文“服務(wù)器設(shè)置”。數(shù)據(jù)隱私自托管時(shí)代的核心優(yōu)勢(shì)Zulip 官方在數(shù)據(jù)隱私方面給出了明確的承諾不使用客戶數(shù)據(jù)訓(xùn)練 LLMZulip Cloud 不會(huì)用客戶數(shù)據(jù)訓(xùn)練大語(yǔ)言模型且沒有此計(jì)劃完全開源、可審計(jì)Zulip 保持 100% 開源定義數(shù)據(jù)處理邏輯的源碼對(duì)第三方完全開放任何人都可以審查數(shù)據(jù)是如何被處理的。在 AI 時(shí)代自托管團(tuán)隊(duì)聊天系統(tǒng)的一個(gè)核心優(yōu)勢(shì)正是你對(duì)自己的內(nèi)部通信擁有完全的控制權(quán)——是否允許第三方 AI 模型處理消息、處理哪些消息、如何配置完全由你決定。這一點(diǎn)尤其重要因?yàn)閱⒂玫谌侥Ｐ妥稣?分析時(shí)意味著你把相關(guān)消息內(nèi)容交給了第三方服務(wù)。三層配置體系服務(wù)器、組織與個(gè)人Zulip 的 AI 功能采用三層配置層層遞進(jìn)兼顧了部署者的成本控制、管理員的權(quán)限管理與最終用戶的體驗(yàn)選擇。服務(wù)器設(shè)置Server settings自托管安裝可以自由選擇自托管自己的 AI 模型或使用第三方 AI 模型 API 提供商。Zulip 的 AI 集成基于 OpenAI Python SDK 實(shí)現(xiàn)因此可以指向任何 OpenAI 兼容的 API 端點(diǎn)包括大多數(shù)主流 AI 模型 API 提供商提供的服務(wù)。服務(wù)器的成本控制通過(guò)以下三個(gè)設(shè)置在/etc/zulip/settings.py中配置對(duì)應(yīng)源碼位于 zproject/default_settings.py配置項(xiàng)默認(rèn)值含義INPUT_COST_PER_GIGATOKEN0每 10 億giga輸入 token 的價(jià)格單位通常是 USDOUTPUT_COST_PER_GIGATOKEN0每 10 億輸出 token 的價(jià)格單位通常是 USDMAX_PER_USER_MONTHLY_AI_COST0.5每個(gè)用戶每月的 AI 使用預(yù)算上限美元None表示不設(shè)限成本計(jì)算的源碼機(jī)制在 zerver/actions/message_summary.py 中模型響應(yīng)后讀取response.usage.prompt_tokens與response.usage.completion_tokens按公式credits_used 輸出token數(shù) × OUTPUT_COST_PER_GIGATOKEN 輸入token數(shù) × INPUT_COST_PER_GIGATOKEN計(jì)算后除以 10 億換算為美元再通過(guò)do_increment_logging_stat累加到名為ai_credit_usage::day的每日統(tǒng)計(jì)計(jì)數(shù)中統(tǒng)計(jì)口徑見 analytics/lib/counts.py。API 端點(diǎn) zerver/views/message_summary.py 在每次請(qǐng)求前會(huì)查詢?cè)摻y(tǒng)計(jì)在當(dāng)前月的累計(jì)值一旦達(dá)到MAX_PER_USER_MONTHLY_AI_COST × 10^9就返回“Reached monthly limit for AI credits”錯(cuò)誤。因此只要設(shè)置了不為零的單價(jià)Zulip 就會(huì)自動(dòng)按用戶記賬并強(qiáng)制限額這為“把 AI 開放給整個(gè)團(tuán)隊(duì)”提供了可控的成本保障。組織設(shè)置Organization settings管理員可以指定誰(shuí)可以使用每個(gè)已啟用的 AI 功能。該權(quán)限可以分配給角色、用戶組和個(gè)別用戶的任意組合。在源碼層面這一能力由權(quán)限組permission group機(jī)制實(shí)現(xiàn)數(shù)據(jù)模型上zerver/models/realms.py中 Realm 模型定義了can_summarize_topics_group外鍵zerver/models/realms.py并在 Realm 的屬性定義表中將其注冊(cè)為GroupPermissionSettingzerver/models/realms.py意味著該權(quán)限可以通過(guò)管理界面綁定到任意用戶組權(quán)限判定上zerver/models/users.py的UserProfile.can_summarize_topics()方法調(diào)用self.has_permission(can_summarize_topics_group)zerver/models/users.py——這就是組織級(jí)權(quán)限的最終檢查點(diǎn)。個(gè)人設(shè)置Personal settings覺得 AI 功能打擾或分散注意力的用戶可以通過(guò)**“Hide AI features”隱藏 AI 功能**個(gè)人偏好把 AI 功能從界面中隱藏。該偏好對(duì)應(yīng)zerver/models/users.py中的hide_ai_features布爾字段zerver/models/users.py并在屬性 API 中作為可設(shè)置字段暴露。值得注意的是UI 是否展示 AI 功能與服務(wù)器配置聯(lián)動(dòng)只有服務(wù)器配置啟用了相關(guān) AI 功能界面才會(huì)出現(xiàn)對(duì)應(yīng)入口。例如事件系統(tǒng)通過(guò)state[server_can_summarize_topics] settings.TOPIC_SUMMARIZATION_MODEL is not None把“服務(wù)器是否啟用摘要”的狀態(tài)推送給客戶端zerver/lib/events.py客戶端據(jù)此決定是否渲染摘要入口。換句話說(shuō)TOPIC_SUMMARIZATION_MODEL未配置時(shí)普通用戶根本看不到這個(gè)功能自然也不存在權(quán)限問題。主題摘要Topic SummarizationBeta 功能Zulip Server 10.x 附帶一個(gè)Beta 版主題摘要功能可用于測(cè)試與實(shí)驗(yàn)注意該功能在 Zulip Cloud 上暫不可用。官方歡迎反饋使用體驗(yàn)以及組織希望補(bǔ)充的配置項(xiàng)和附加功能。工作原理重要提示與所有由 LLM 驅(qū)動(dòng)的功能一樣主題摘要可能包含錯(cuò)誤與幻覺hallucination生成結(jié)果僅供參考。主題摘要功能使用Zulip 專屬提示詞 現(xiàn)成的第三方大語(yǔ)言模型。當(dāng)用戶請(qǐng)求總結(jié)某個(gè)話題時(shí)其流程如下取消息Zulip 服務(wù)器抓取該會(huì)話中當(dāng)前操作用戶有權(quán)限訪問的近期消息構(gòu)造提示詞按 Zulip 格式組織消息并發(fā)送給 AI 模型生成摘要模型返回摘要服務(wù)器將其 Markdown 渲染后返回給用戶。源碼級(jí)調(diào)用鏈可以精確還原上述過(guò)程核心實(shí)現(xiàn)在 zerver/actions/message_summary.pyAPI 入口GET /json/messages/summary由 zerver/views/message_summary.py 的get_messages_summary處理依次執(zhí)行服務(wù)器是否啟用TOPIC_SUMMARIZATION_MODEL is None則報(bào)錯(cuò)、權(quán)限檢查can_summarize_topics()、月度額度檢查最后調(diào)用do_summarize_narrow消息抓取使用fetch_messagesnum_beforeMAX_MESSAGES_SUMMARIZED常量值為100即單次最多摘要 100 條消息見 zerver/actions/message_summary.py并通過(guò) narrow 限定到目標(biāo)話題隨后用messages_for_ids取消息正文明確設(shè)置apply_markdownFalse以使用純文本內(nèi)容不發(fā)送給模型的內(nèi)容表情符號(hào)反應(yīng)emoji reactions、圖片、上傳文件當(dāng)前都不會(huì)包含在發(fā)送給模型的內(nèi)容中。不過(guò)部分 LLM 可能具備“跟進(jìn)內(nèi)容中的鏈接”的能力——請(qǐng)注意Zulip 對(duì)上傳文件的權(quán)限模型會(huì)阻止 LLM 訪問這些文件除非文件被發(fā)布到開啟了“公共訪問選項(xiàng)”public access option的頻道提示詞構(gòu)造源碼 L141-L167系統(tǒng)消息為 “The following is a chat conversation in the Zulip team chat app.”并在已知頻道/話題時(shí)追加channel: X, topic: Y對(duì)話消息按{sender: 發(fā)送者全名, content: 消息內(nèi)容}的 JSON 數(shù)組格式化format_zulip_messages_for_model用戶提示詞要求模型“僅基于所提供的信息用最多 N 句話簡(jiǎn)潔總結(jié)提及關(guān)鍵結(jié)論與行動(dòng)項(xiàng)適當(dāng)提到具體人名不要使用開場(chǎng)白可使用 Zulip 的 CommonMark 格式”。摘要長(zhǎng)度上限N由get_max_summary_length計(jì)算min(6, 4 (會(huì)話長(zhǎng)度 - 10) / 10)即會(huì)話越長(zhǎng)允許的摘要句數(shù)越多上限 6 句源碼 L80-L83模型調(diào)用通過(guò) OpenAI SDK 完成OpenAI(api_key..., base_url...)后調(diào)用client.chat.completions.create(modelmodel, messagesmessages, **TOPIC_SUMMARIZATION_PARAMETERS)模型返回的摘要經(jīng)markdown_convert渲染為 HTML 后返回。啟用主題摘要重要安全提示如果使用第三方 AI 平臺(tái)做主題摘要你實(shí)際上是把所有送去摘要的消息的安全性與機(jī)密性托付給了該第三方——啟用前請(qǐng)務(wù)必評(píng)估這一信任關(guān)系。啟用方法在/etc/zulip/settings.py中配置TOPIC_SUMMARIZATION_MODEL及相關(guān)的配置項(xiàng)。只有當(dāng)服務(wù)器完成相關(guān)配置后主題摘要功能及其控制設(shè)置才會(huì)出現(xiàn)在 UI 中。完整配置參數(shù)清單結(jié)合源碼主題摘要涉及的全部服務(wù)器配置項(xiàng)如下配置項(xiàng)默認(rèn)值說(shuō)明TOPIC_SUMMARIZATION_MODELNone使用的模型名稱如gpt-4o-mini、deepseek-chat等。None表示未啟用UI 不展示該功能API 返回“AI features are not enabled on this server.”TOPIC_SUMMARIZATION_API_BASENoneOpenAI 兼容 API 端點(diǎn)的基礎(chǔ) URL。用于接入第三方/自托管模型服務(wù)TOPIC_SUMMARIZATION_API_KEY來(lái)自密鑰文件注意此配置不在settings.py中直接寫入而是在 zproject/computed_settings.py 通過(guò)get_secret(topic_summarization_api_key, None)從 Zulip 的密鑰文件/etc/zulip/zulip-secrets.conf中讀取。這是 Zulip 管理敏感憑證的標(biāo)準(zhǔn)做法TOPIC_SUMMARIZATION_PARAMETERS{}透?jìng)鹘ochat.completions.create的額外參數(shù)如temperature、max_tokens等以 Python 字典形式配置一個(gè)配置示例寫入/etc/zulip/settings.py## 啟用主題摘要指向任意 OpenAI 兼容端點(diǎn) TOPIC_SUMMARIZATION_MODEL your-model-name TOPIC_SUMMARIZATION_API_BASE https://api.your-provider.example/v1 TOPIC_SUMMARIZATION_PARAMETERS {temperature: 0.2} ## 成本控制單價(jià) × 每 10 億 token INPUT_COST_PER_GIGATOKEN 150 # 輸入 token150 美元 / 10 億 OUTPUT_COST_PER_GIGATOKEN 600 # 輸出 token600 美元 / 10 億 MAX_PER_USER_MONTHLY_AI_COST 1.0 # 每用戶每月 AI 預(yù)算上限 1 美元同時(shí)在/etc/zulip/zulip-secrets.conf中加入topic_summarization_api_key YOUR_API_KEY上述默認(rèn)值可對(duì)照 zproject/default_settings.py生產(chǎn)環(huán)境模板 zproject/prod_settings_template.py 中也提供了對(duì)應(yīng)配置項(xiàng)的注釋說(shuō)明。如何選擇模型在為某個(gè)模型提供商建模定價(jià)時(shí)主要應(yīng)關(guān)注輸入 token 的單價(jià)。原因在于有用的摘要相對(duì)被摘要的消息來(lái)說(shuō)很短生成主題摘要時(shí)90% 以上的 token 消耗都是輸入 token即被摘要的消息本身輸出 token 只占很小比例。因此即使某個(gè)模型輸出單價(jià)較高只要輸入單價(jià)有競(jìng)爭(zhēng)力、摘要質(zhì)量達(dá)標(biāo)仍然可能是劃算的選擇。從項(xiàng)目早期2025 年初的實(shí)際經(jīng)驗(yàn)看約 70B 參數(shù)的中型模型生成的摘要其有用性和準(zhǔn)確性明顯優(yōu)于約 8B 參數(shù)的小型模型。如果你的預(yù)算允許優(yōu)先選擇中型及以上規(guī)模的模型。測(cè)試與驗(yàn)證倉(cāng)庫(kù)內(nèi)置了針對(duì)主題摘要的完整測(cè)試見 zerver/tests/test_message_summary.py。該測(cè)試文件展示了端到端驗(yàn)證方式測(cè)試通過(guò) mock 攔截 OpenAI SDK 的Completions.create調(diào)用并支持GENERATE_LLM_FIXTURES模式——在該模式下會(huì)用真實(shí)憑證調(diào)用模型把請(qǐng)求參數(shù)與響應(yīng)錄制為固定數(shù)據(jù)文件zerver/tests/fixtures/llm/summary.json供后續(xù)離線回歸測(cè)試使用測(cè)試覆蓋了話題摘要生成、權(quán)限控制、月度額度限制注意測(cè)試特意把時(shí)間固定到非月末避免跨月統(tǒng)計(jì)干擾等場(chǎng)景測(cè)試中構(gòu)造的請(qǐng)求GET /json/messages/summary攜帶narrow[[channel, ...], [topic, ...]]參數(shù)直觀展示了該 API 的調(diào)用方式。自托管用戶可以參照該測(cè)試的結(jié)構(gòu)在本地部署環(huán)境中驗(yàn)證自己的模型接入與配置是否正確。未來(lái)方向文檔明確預(yù)告未來(lái)的 Zulip 版本將內(nèi)置更多 AI 功能例如話題摘要的進(jìn)一步增強(qiáng)等。結(jié)合源碼中遺留的 TODO見 zerver/actions/message_summary.py可以推斷出正在規(guī)劃的方向例如對(duì)同一會(huì)話的歷史摘要做緩存、或維護(hù)滾動(dòng)摘要需謹(jǐn)慎處理消息被編輯、移動(dòng)或新發(fā)送時(shí)的緩存失效問題在查詢模型前用估算 token 數(shù)預(yù)檢額度采用加鎖的短事務(wù)更新LoggingCountStat以避免用戶并發(fā)請(qǐng)求突破限額見源碼 L172-L184 的詳細(xì)設(shè)計(jì)注釋為模型返回內(nèi)容支持頻道/用戶 提及的解析考慮將輸入輸出文本翻譯成英文以提升英文為主訓(xùn)練的模型的摘要質(zhì)量。小結(jié)接入方式Zulip 通過(guò)交互式機(jī)器人 API 讓你自由接入任意 AI 模型內(nèi)置 AI 功能則基于 OpenAI 兼容 SDK可指向任意 OpenAI 兼容端點(diǎn)模型選擇權(quán)完全在部署者手中三層配置服務(wù)器層INPUT_COST_PER_GIGATOKEN/OUTPUT_COST_PER_GIGATOKEN/MAX_PER_USER_MONTHLY_AI_COST控制成本、組織層權(quán)限組控制誰(shuí)能用、個(gè)人層“隱藏 AI 功能”偏好主題摘要Zulip Server 10.x 的 Beta 功能啟用只需配置TOPIC_SUMMARIZATION_MODEL與密鑰每次請(qǐng)求最多摘要 100 條消息輸入 token 是成本大頭經(jīng)驗(yàn)表明 70B 級(jí)模型效果顯著優(yōu)于 8B 級(jí)模型數(shù)據(jù)主權(quán)是否將內(nèi)部消息交給第三方模型、交給哪些消息完全由你掌控且所有處理邏輯開源可審計(jì)。如需進(jìn)一步了解交互式機(jī)器人的開發(fā)與部署可查閱倉(cāng)庫(kù)中的機(jī)器人相關(guān)源碼zerver/下的 bot 管理與處理邏輯要獲取功能演進(jìn)的第一手信息可關(guān)注 docs/overview/changelog.md 與官方文檔的更新。【免費(fèi)下載鏈接】zulipZulip server and web application. Open-source team chat that helps teams stay productive and focused.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/zu/zulip創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 Zulip AI 集成指南：從模型接入到主題摘要（Topic Summarization）的完整配置與源碼解析
Zulip AI 集成指南從模型接入到主題摘要Topic Summarization的完整配置與源碼解析【免費(fèi)下載鏈接】zulipZulip server and web application. Open-source team chat that helps teams stay productive and focused.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/zu/zulipZulip 是開源團(tuán)隊(duì)聊天服務(wù)器其基于“頻道 話題topic”的對(duì)話組織方式天然適合與 AI 系統(tǒng)協(xié)作。本文基于當(dāng)前倉(cāng)庫(kù) docs/production/ai-integrations.md 展開全面講解 Zulip 的 AI 集成方案如何通過(guò)交互式機(jī)器人 API 接入自選模型、三層配置體系服務(wù)器/組織/個(gè)人、以及 Zulip Server 10.x 的 Beta 版主題摘要Topic Summarization功能——包括工作原理、/etc/zulip/settings.py中的完整配置參數(shù)、成本控制模型與模型選型經(jīng)驗(yàn)并深入對(duì)應(yīng)源碼驗(yàn)證每個(gè)配置項(xiàng)的真實(shí)行為。為什么 Zulip 的“話題”結(jié)構(gòu)天然適合 AI 協(xié)作Zulip 的核心概念之一是把頻道內(nèi)的每一條會(huì)話按主題topic組織成獨(dú)立的對(duì)話線索。這種結(jié)構(gòu)對(duì) AI 集成非常友好每個(gè)話題本身就是一段上下文完整、邊界清晰的對(duì)話AI 可以基于整個(gè)話題獲取“想要完成什么”的準(zhǔn)確語(yǔ)境而無(wú)需像傳統(tǒng)群聊那樣從海量混雜消息中猜測(cè)上下文用戶可以針對(duì)某個(gè)具體話題向 AI 發(fā)起請(qǐng)求例如“總結(jié)這個(gè)話題”“提取這個(gè)話題中的待辦事項(xiàng)”輸入內(nèi)容明確、輸出結(jié)果聚焦在話題結(jié)構(gòu)中AI Agent 可以按話題訂閱、回復(fù)和追蹤工作流協(xié)作邊界清晰適合長(zhǎng)期運(yùn)行的多 Agent 協(xié)作場(chǎng)景。從源碼看Zulip 的消息獲取與話題過(guò)濾體系為這類 AI 任務(wù)提供了底層支撐zerver/lib/narrow.py中的NarrowParameter與clean_narrow_for_message_fetch負(fù)責(zé)把“頻道 話題”的篩選條件解析為查詢參數(shù)主題摘要功能正是通過(guò)這種 narrow窄化機(jī)制精確取出一個(gè)話題內(nèi)的消息詳見下文源碼解析。接入 AI 模型的入口交互式機(jī)器人 APIZulip 并沒有把 AI 模型硬編碼進(jìn)系統(tǒng)而是提供了一個(gè)通用、開放、可擴(kuò)展的接入方式——交互式機(jī)器人interactive botsAPI。任何 AI 模型都可以通過(guò)該 API 以機(jī)器人身份參與會(huì)話具體參與方式是回答問題、生成摘要、還是執(zhí)行 Agent 工作流完全由你的組織按需定義。這意味著你可以將 OpenAI、Anthropic、本地開源模型等任意模型封裝為 Zulip bot通過(guò) bot 訂閱頻道/話題接收消息并調(diào)用模型后回復(fù)隨著模型能力演進(jìn)隨時(shí)更換底層模型或調(diào)整提示詞策略無(wú)需改動(dòng) Zulip 本身。Zulip 對(duì)模型的開放態(tài)度還體現(xiàn)在內(nèi)置 AI 功能的設(shè)計(jì)上內(nèi)置功能同樣不綁定特定廠商而是通過(guò)統(tǒng)一配置指向任意 OpenAI 兼容的 API 端點(diǎn)詳見下文“服務(wù)器設(shè)置”。數(shù)據(jù)隱私自托管時(shí)代的核心優(yōu)勢(shì)Zulip 官方在數(shù)據(jù)隱私方面給出了明確的承諾不使用客戶數(shù)據(jù)訓(xùn)練 LLMZulip Cloud 不會(huì)用客戶數(shù)據(jù)訓(xùn)練大語(yǔ)言模型且沒有此計(jì)劃完全開源、可審計(jì)Zulip 保持 100% 開源定義數(shù)據(jù)處理邏輯的源碼對(duì)第三方完全開放任何人都可以審查數(shù)據(jù)是如何被處理的。在 AI 時(shí)代自托管團(tuán)隊(duì)聊天系統(tǒng)的一個(gè)核心優(yōu)勢(shì)正是你對(duì)自己的內(nèi)部通信擁有完全的控制權(quán)——是否允許第三方 AI 模型處理消息、處理哪些消息、如何配置完全由你決定。這一點(diǎn)尤其重要因?yàn)閱⒂玫谌侥Ｐ妥稣?分析時(shí)意味著你把相關(guān)消息內(nèi)容交給了第三方服務(wù)。三層配置體系服務(wù)器、組織與個(gè)人Zulip 的 AI 功能采用三層配置層層遞進(jìn)兼顧了部署者的成本控制、管理員的權(quán)限管理與最終用戶的體驗(yàn)選擇。服務(wù)器設(shè)置Server settings自托管安裝可以自由選擇自托管自己的 AI 模型或使用第三方 AI 模型 API 提供商。Zulip 的 AI 集成基于 OpenAI Python SDK 實(shí)現(xiàn)因此可以指向任何 OpenAI 兼容的 API 端點(diǎn)包括大多數(shù)主流 AI 模型 API 提供商提供的服務(wù)。服務(wù)器的成本控制通過(guò)以下三個(gè)設(shè)置在/etc/zulip/settings.py中配置對(duì)應(yīng)源碼位于 zproject/default_settings.py配置項(xiàng)默認(rèn)值含義INPUT_COST_PER_GIGATOKEN0每 10 億giga輸入 token 的價(jià)格單位通常是 USDOUTPUT_COST_PER_GIGATOKEN0每 10 億輸出 token 的價(jià)格單位通常是 USDMAX_PER_USER_MONTHLY_AI_COST0.5每個(gè)用戶每月的 AI 使用預(yù)算上限美元None表示不設(shè)限成本計(jì)算的源碼機(jī)制在 zerver/actions/message_summary.py 中模型響應(yīng)后讀取response.usage.prompt_tokens與response.usage.completion_tokens按公式credits_used 輸出token數(shù) × OUTPUT_COST_PER_GIGATOKEN 輸入token數(shù) × INPUT_COST_PER_GIGATOKEN計(jì)算后除以 10 億換算為美元再通過(guò)do_increment_logging_stat累加到名為ai_credit_usage::day的每日統(tǒng)計(jì)計(jì)數(shù)中統(tǒng)計(jì)口徑見 analytics/lib/counts.py。API 端點(diǎn) zerver/views/message_summary.py 在每次請(qǐng)求前會(huì)查詢?cè)摻y(tǒng)計(jì)在當(dāng)前月的累計(jì)值一旦達(dá)到MAX_PER_USER_MONTHLY_AI_COST × 10^9就返回“Reached monthly limit for AI credits”錯(cuò)誤。因此只要設(shè)置了不為零的單價(jià)Zulip 就會(huì)自動(dòng)按用戶記賬并強(qiáng)制限額這為“把 AI 開放給整個(gè)團(tuán)隊(duì)”提供了可控的成本保障。組織設(shè)置Organization settings管理員可以指定誰(shuí)可以使用每個(gè)已啟用的 AI 功能。該權(quán)限可以分配給角色、用戶組和個(gè)別用戶的任意組合。在源碼層面這一能力由權(quán)限組permission group機(jī)制實(shí)現(xiàn)數(shù)據(jù)模型上zerver/models/realms.py中 Realm 模型定義了can_summarize_topics_group外鍵zerver/models/realms.py并在 Realm 的屬性定義表中將其注冊(cè)為GroupPermissionSettingzerver/models/realms.py意味著該權(quán)限可以通過(guò)管理界面綁定到任意用戶組權(quán)限判定上zerver/models/users.py的UserProfile.can_summarize_topics()方法調(diào)用self.has_permission(can_summarize_topics_group)zerver/models/users.py——這就是組織級(jí)權(quán)限的最終檢查點(diǎn)。個(gè)人設(shè)置Personal settings覺得 AI 功能打擾或分散注意力的用戶可以通過(guò)**“Hide AI features”隱藏 AI 功能**個(gè)人偏好把 AI 功能從界面中隱藏。該偏好對(duì)應(yīng)zerver/models/users.py中的hide_ai_features布爾字段zerver/models/users.py并在屬性 API 中作為可設(shè)置字段暴露。值得注意的是UI 是否展示 AI 功能與服務(wù)器配置聯(lián)動(dòng)只有服務(wù)器配置啟用了相關(guān) AI 功能界面才會(huì)出現(xiàn)對(duì)應(yīng)入口。例如事件系統(tǒng)通過(guò)state[server_can_summarize_topics] settings.TOPIC_SUMMARIZATION_MODEL is not None把“服務(wù)器是否啟用摘要”的狀態(tài)推送給客戶端zerver/lib/events.py客戶端據(jù)此決定是否渲染摘要入口。換句話說(shuō)TOPIC_SUMMARIZATION_MODEL未配置時(shí)普通用戶根本看不到這個(gè)功能自然也不存在權(quán)限問題。主題摘要Topic SummarizationBeta 功能Zulip Server 10.x 附帶一個(gè)Beta 版主題摘要功能可用于測(cè)試與實(shí)驗(yàn)注意該功能在 Zulip Cloud 上暫不可用。官方歡迎反饋使用體驗(yàn)以及組織希望補(bǔ)充的配置項(xiàng)和附加功能。工作原理重要提示與所有由 LLM 驅(qū)動(dòng)的功能一樣主題摘要可能包含錯(cuò)誤與幻覺hallucination生成結(jié)果僅供參考。主題摘要功能使用Zulip 專屬提示詞 現(xiàn)成的第三方大語(yǔ)言模型。當(dāng)用戶請(qǐng)求總結(jié)某個(gè)話題時(shí)其流程如下取消息Zulip 服務(wù)器抓取該會(huì)話中當(dāng)前操作用戶有權(quán)限訪問的近期消息構(gòu)造提示詞按 Zulip 格式組織消息并發(fā)送給 AI 模型生成摘要模型返回摘要服務(wù)器將其 Markdown 渲染后返回給用戶。源碼級(jí)調(diào)用鏈可以精確還原上述過(guò)程核心實(shí)現(xiàn)在 zerver/actions/message_summary.pyAPI 入口GET /json/messages/summary由 zerver/views/message_summary.py 的get_messages_summary處理依次執(zhí)行服務(wù)器是否啟用TOPIC_SUMMARIZATION_MODEL is None則報(bào)錯(cuò)、權(quán)限檢查can_summarize_topics()、月度額度檢查最后調(diào)用do_summarize_narrow消息抓取使用fetch_messagesnum_beforeMAX_MESSAGES_SUMMARIZED常量值為100即單次最多摘要 100 條消息見 zerver/actions/message_summary.py并通過(guò) narrow 限定到目標(biāo)話題隨后用messages_for_ids取消息正文明確設(shè)置apply_markdownFalse以使用純文本內(nèi)容不發(fā)送給模型的內(nèi)容表情符號(hào)反應(yīng)emoji reactions、圖片、上傳文件當(dāng)前都不會(huì)包含在發(fā)送給模型的內(nèi)容中。不過(guò)部分 LLM 可能具備“跟進(jìn)內(nèi)容中的鏈接”的能力——請(qǐng)注意Zulip 對(duì)上傳文件的權(quán)限模型會(huì)阻止 LLM 訪問這些文件除非文件被發(fā)布到開啟了“公共訪問選項(xiàng)”public access option的頻道提示詞構(gòu)造源碼 L141-L167系統(tǒng)消息為 “The following is a chat conversation in the Zulip team chat app.”并在已知頻道/話題時(shí)追加channel: X, topic: Y對(duì)話消息按{sender: 發(fā)送者全名, content: 消息內(nèi)容}的 JSON 數(shù)組格式化format_zulip_messages_for_model用戶提示詞要求模型“僅基于所提供的信息用最多 N 句話簡(jiǎn)潔總結(jié)提及關(guān)鍵結(jié)論與行動(dòng)項(xiàng)適當(dāng)提到具體人名不要使用開場(chǎng)白可使用 Zulip 的 CommonMark 格式”。摘要長(zhǎng)度上限N由get_max_summary_length計(jì)算min(6, 4 (會(huì)話長(zhǎng)度 - 10) / 10)即會(huì)話越長(zhǎng)允許的摘要句數(shù)越多上限 6 句源碼 L80-L83模型調(diào)用通過(guò) OpenAI SDK 完成OpenAI(api_key..., base_url...)后調(diào)用client.chat.completions.create(modelmodel, messagesmessages, **TOPIC_SUMMARIZATION_PARAMETERS)模型返回的摘要經(jīng)markdown_convert渲染為 HTML 后返回。啟用主題摘要重要安全提示如果使用第三方 AI 平臺(tái)做主題摘要你實(shí)際上是把所有送去摘要的消息的安全性與機(jī)密性托付給了該第三方——啟用前請(qǐng)務(wù)必評(píng)估這一信任關(guān)系。啟用方法在/etc/zulip/settings.py中配置TOPIC_SUMMARIZATION_MODEL及相關(guān)的配置項(xiàng)。只有當(dāng)服務(wù)器完成相關(guān)配置后主題摘要功能及其控制設(shè)置才會(huì)出現(xiàn)在 UI 中。完整配置參數(shù)清單結(jié)合源碼主題摘要涉及的全部服務(wù)器配置項(xiàng)如下配置項(xiàng)默認(rèn)值說(shuō)明TOPIC_SUMMARIZATION_MODELNone使用的模型名稱如gpt-4o-mini、deepseek-chat等。None表示未啟用UI 不展示該功能API 返回“AI features are not enabled on this server.”TOPIC_SUMMARIZATION_API_BASENoneOpenAI 兼容 API 端點(diǎn)的基礎(chǔ) URL。用于接入第三方/自托管模型服務(wù)TOPIC_SUMMARIZATION_API_KEY來(lái)自密鑰文件注意此配置不在settings.py中直接寫入而是在 zproject/computed_settings.py 通過(guò)get_secret(topic_summarization_api_key, None)從 Zulip 的密鑰文件/etc/zulip/zulip-secrets.conf中讀取。這是 Zulip 管理敏感憑證的標(biāo)準(zhǔn)做法TOPIC_SUMMARIZATION_PARAMETERS{}透?jìng)鹘ochat.completions.create的額外參數(shù)如temperature、max_tokens等以 Python 字典形式配置一個(gè)配置示例寫入/etc/zulip/settings.py## 啟用主題摘要指向任意 OpenAI 兼容端點(diǎn) TOPIC_SUMMARIZATION_MODEL your-model-name TOPIC_SUMMARIZATION_API_BASE https://api.your-provider.example/v1 TOPIC_SUMMARIZATION_PARAMETERS {temperature: 0.2} ## 成本控制單價(jià) × 每 10 億 token INPUT_COST_PER_GIGATOKEN 150 # 輸入 token150 美元 / 10 億 OUTPUT_COST_PER_GIGATOKEN 600 # 輸出 token600 美元 / 10 億 MAX_PER_USER_MONTHLY_AI_COST 1.0 # 每用戶每月 AI 預(yù)算上限 1 美元同時(shí)在/etc/zulip/zulip-secrets.conf中加入topic_summarization_api_key YOUR_API_KEY上述默認(rèn)值可對(duì)照 zproject/default_settings.py生產(chǎn)環(huán)境模板 zproject/prod_settings_template.py 中也提供了對(duì)應(yīng)配置項(xiàng)的注釋說(shuō)明。如何選擇模型在為某個(gè)模型提供商建模定價(jià)時(shí)主要應(yīng)關(guān)注輸入 token 的單價(jià)。原因在于有用的摘要相對(duì)被摘要的消息來(lái)說(shuō)很短生成主題摘要時(shí)90% 以上的 token 消耗都是輸入 token即被摘要的消息本身輸出 token 只占很小比例。因此即使某個(gè)模型輸出單價(jià)較高只要輸入單價(jià)有競(jìng)爭(zhēng)力、摘要質(zhì)量達(dá)標(biāo)仍然可能是劃算的選擇。從項(xiàng)目早期2025 年初的實(shí)際經(jīng)驗(yàn)看約 70B 參數(shù)的中型模型生成的摘要其有用性和準(zhǔn)確性明顯優(yōu)于約 8B 參數(shù)的小型模型。如果你的預(yù)算允許優(yōu)先選擇中型及以上規(guī)模的模型。測(cè)試與驗(yàn)證倉(cāng)庫(kù)內(nèi)置了針對(duì)主題摘要的完整測(cè)試見 zerver/tests/test_message_summary.py。該測(cè)試文件展示了端到端驗(yàn)證方式測(cè)試通過(guò) mock 攔截 OpenAI SDK 的Completions.create調(diào)用并支持GENERATE_LLM_FIXTURES模式——在該模式下會(huì)用真實(shí)憑證調(diào)用模型把請(qǐng)求參數(shù)與響應(yīng)錄制為固定數(shù)據(jù)文件zerver/tests/fixtures/llm/summary.json供后續(xù)離線回歸測(cè)試使用測(cè)試覆蓋了話題摘要生成、權(quán)限控制、月度額度限制注意測(cè)試特意把時(shí)間固定到非月末避免跨月統(tǒng)計(jì)干擾等場(chǎng)景測(cè)試中構(gòu)造的請(qǐng)求GET /json/messages/summary攜帶narrow[[channel, ...], [topic, ...]]參數(shù)直觀展示了該 API 的調(diào)用方式。自托管用戶可以參照該測(cè)試的結(jié)構(gòu)在本地部署環(huán)境中驗(yàn)證自己的模型接入與配置是否正確。未來(lái)方向文檔明確預(yù)告未來(lái)的 Zulip 版本將內(nèi)置更多 AI 功能例如話題摘要的進(jìn)一步增強(qiáng)等。結(jié)合源碼中遺留的 TODO見 zerver/actions/message_summary.py可以推斷出正在規(guī)劃的方向例如對(duì)同一會(huì)話的歷史摘要做緩存、或維護(hù)滾動(dòng)摘要需謹(jǐn)慎處理消息被編輯、移動(dòng)或新發(fā)送時(shí)的緩存失效問題在查詢模型前用估算 token 數(shù)預(yù)檢額度采用加鎖的短事務(wù)更新LoggingCountStat以避免用戶并發(fā)請(qǐng)求突破限額見源碼 L172-L184 的詳細(xì)設(shè)計(jì)注釋為模型返回內(nèi)容支持頻道/用戶 提及的解析考慮將輸入輸出文本翻譯成英文以提升英文為主訓(xùn)練的模型的摘要質(zhì)量。小結(jié)接入方式Zulip 通過(guò)交互式機(jī)器人 API 讓你自由接入任意 AI 模型內(nèi)置 AI 功能則基于 OpenAI 兼容 SDK可指向任意 OpenAI 兼容端點(diǎn)模型選擇權(quán)完全在部署者手中三層配置服務(wù)器層INPUT_COST_PER_GIGATOKEN/OUTPUT_COST_PER_GIGATOKEN/MAX_PER_USER_MONTHLY_AI_COST控制成本、組織層權(quán)限組控制誰(shuí)能用、個(gè)人層“隱藏 AI 功能”偏好主題摘要Zulip Server 10.x 的 Beta 功能啟用只需配置TOPIC_SUMMARIZATION_MODEL與密鑰每次請(qǐng)求最多摘要 100 條消息輸入 token 是成本大頭經(jīng)驗(yàn)表明 70B 級(jí)模型效果顯著優(yōu)于 8B 級(jí)模型數(shù)據(jù)主權(quán)是否將內(nèi)部消息交給第三方模型、交給哪些消息完全由你掌控且所有處理邏輯開源可審計(jì)。如需進(jìn)一步了解交互式機(jī)器人的開發(fā)與部署可查閱倉(cāng)庫(kù)中的機(jī)器人相關(guān)源碼zerver/下的 bot 管理與處理邏輯要獲取功能演進(jìn)的第一手信息可關(guān)注 docs/overview/changelog.md 與官方文檔的更新。【免費(fèi)下載鏈接】zulipZulip server and web application. Open-source team chat that helps teams stay productive and focused.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/zu/zulip創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考