模型圈最近有點熱鬧Hy4 preview 一發(fā)布就帶起了一波討論。核心就三件事770B 參數(shù)的 MoE 架構(gòu)、開源權(quán)重、以及 WorkBuddy 限時免費兩周。很多人看到“770B”就下意識覺得“這玩意我跑不動”看到“開源”又覺得“可以白嫖了”但實際情況比這兩句話要復(fù)雜得多。這篇文章就圍繞這三個關(guān)鍵詞展開聊聊 MoE 架構(gòu)到底解決了什么問題、開源之后普通人能用什么、以及 WorkBuddy 這波免費活動怎么薅才劃算。想搞清楚自己該不該跟風(fēng)、以及跟風(fēng)之后怎么上手的人建議完整看一遍。1. Hy4 preview 到底是什么770B MoE 的底層邏輯1.1 參數(shù)數(shù)量不是算力消耗MoE 才是關(guān)鍵先拆一下“770B MoE”。770B 是模型的總參數(shù)量也就是把模型里所有權(quán)重加在一起有 7700 億個參數(shù)。“MoE”即混合專家架構(gòu)Mixture of Experts這種設(shè)計最核心的一點是所有參數(shù)不會在每一次推理時全部參與計算。可以這么理解一個 770B 的稠密模型做任何一次回答都要讀完整本百科全書而一個 MoE 模型相當于把知識拆進了幾千個“部門”每次收到問題時先由一個路由器判斷該找哪些部門再只調(diào)用其中一小部分。Hy4 preview 雖然總參數(shù)是 770B但實際每次推理只用其中一小部分參數(shù)通常稱為“激活參數(shù)”。這個設(shè)計最大的好處是模型的知識容量很大但推理成本沒有跟著失控。所以在判斷“這個模型我能不能跑”的時候別一看到 770B 就絕望。需要先確認兩個數(shù)據(jù)一是總參數(shù)二是激活參數(shù)?？倕?shù)決定的是模型文件的體積和部署時的顯存下限激活參數(shù)才決定單次請求的算力開銷。Hy4 preview 這種量級的模型總權(quán)重文件在 FP16 精度下就已經(jīng)超過 1.4TB單卡基本別想分布式部署才是正經(jīng)路子。1.2 Preview 版本到底能不能用“Preview”這個詞容易被忽略但它是這次發(fā)布里非常重要的一個限定。官方把版本標成 preview說明這不是最終穩(wěn)定版。通常意味著能力核心已經(jīng)定下來了但邊角功能有可能調(diào)整后續(xù)大概率會發(fā)正式版或者小版本迭代來修復(fù)問題。對普通用戶來說preview 版本的實用價值在于“提前布局”。比如你是做 Agent 應(yīng)用開發(fā)的提前把 Hy4 preview 接入到自己的流程里跑一跑評估集看看它在你業(yè)務(wù)場景里的表現(xiàn)等正式版出來時你的技術(shù)方案已經(jīng)驗證完了。如果等正式版發(fā)布再去測試大概率會落后別人一步。但 preview 版本也有坑。最常見的就是兼容問題。比如某些量化工具、推理框架對它支持不到位或者模型對某些 prompt 格式特別敏感換一個模板效果就差很多。這些問題在正式版里通常會解決但在 preview 階段就需要你多折騰一下。所以我的建議是生產(chǎn)環(huán)境可以先觀望測試環(huán)境必須玩起來。2. 開源不等于啥都能干許可證和部署門檻要看清2.1 開源模型的“開”到底開了什么很多人一提“開源模型”就默認可以隨便跑、隨便改、隨便商用。這個認知需要糾正。開源通常指的是模型權(quán)重開放下載源代碼比如推理代碼、部分訓(xùn)練腳本也放出來。但這不意味著訓(xùn)練數(shù)據(jù)、完整訓(xùn)練流程、內(nèi)部實驗記錄也全都公開。更需要注意的是許可證。不同模型的許可證差異很大有的嚴格禁止商用有的允許商用但要求保留版權(quán)聲明有的對生成內(nèi)容的歸屬有額外要求。Hy4 preview 在發(fā)布公告里明確說是開源但具體能用到什么程度必須去翻許可證原文。下載權(quán)重之前先花十分鐘把許可證里“允許、禁止、必須”這幾段看明白能省掉后面一大堆麻煩。我見過不少團隊模型用得好好的結(jié)果因為沒看許可證把模型接進了商業(yè)產(chǎn)品后來被發(fā)函要求下架或補簽協(xié)議。這種事在開源 AI 領(lǐng)域已經(jīng)出現(xiàn)過多次。一句話開源是別人釋放善意不是你亂來的許可。2.2 本地部署的硬件賬本假如你決定在本地跑 Hy4 preview先算一筆硬件賬。770B 總參數(shù)FP16 精度下光權(quán)重就要 1.4TB 顯存。即使是 INT4 量化也要 400GB 左右顯存。這是什么概念單張 80GB 顯存的 GPU得湊 5 張才勉強放得下。這還沒算 KV Cache、中間激活值、多卡通信的開銷。所以對于絕大多數(shù)個人開發(fā)者來說本地部署 Hy4 preview 的現(xiàn)實路線只有兩條一是使用 CPU 大內(nèi)存 量化的組合跑慢速推理適合做離線測試二是干脆別本地跑直接走官方 API 或者第三方托管的推理服務(wù)。現(xiàn)在很多平臺都提供了大模型的按量付費 API對于想評估模型能力的人來說API 是性價比最高的方式。我自己測試大模型從來不上手就部署全套先寫一堆 prompt 跑 API確認模型能力符合預(yù)期再決定要不要花時間部署。順序反過來大概率浪費時間。2.3 開源生態(tài)能玩出什么花開源真正值錢的是生態(tài)。模型權(quán)重本身只是起點圍繞它可以做的方向包括微調(diào)拿領(lǐng)域數(shù)據(jù)對模型做 SFT讓它更懂你的業(yè)務(wù)術(shù)語。蒸餾把 770B 模型的能力蒸餾到小模型上部署成本驟降。評測拿你自己的任務(wù)集去測看它比現(xiàn)有模型強在哪、弱在哪。工具鏈適配做推理框架、量化工具、Agent 中間層的適配提早占坑。這些方向里的每一個都能單獨撐起一個開源項目。不要只盯著“模型能不能跑”更要看“圍繞這個模型能做些什么”。3. WorkBuddy 限時免費兩周時間夠做什么3.1 WorkBuddy 到底是什么正文消息里提到 WorkBuddy 限時兩周免費很多人第一反應(yīng)是“又一個 AI 聊天機器人”。實際上 WorkBuddy 是一個偏“任務(wù)執(zhí)行”方向的 AI 工具定位更接近“帶工作記憶的智能助手”。它可以幫你拆解一個復(fù)雜任務(wù)、管理多步驟流程、調(diào)用外部工具并且把上下文記住不用每次重復(fù)交代背景。通俗點說普通聊天 AI 是你問一句它答一句WorkBuddy 更像一個“開始干活”的助手。你說“把這幾份文檔整理成一份匯報然后發(fā)給項目群”它能把整個流程拆成讀取文檔、提取要點、生成匯報、對接發(fā)送工具逐步執(zhí)行。跟 CodeBuddy 那種聚焦代碼場景的助手相比WorkBuddy 覆蓋的是更寬的工作場景包括文字處理、信息整理、日程安排、簡單數(shù)據(jù)分析等。如果把它當作 Agent 的入門工具來理解會更準確。3.2 兩周免費期能薅到什么限時免費重點不是“白嫖”而是“在限定時間內(nèi)評估”。兩周時間足夠你判斷這個工具適不適合自己的工作流。我的建議是拿到免費使用權(quán)之后別干兩件事一是別只拿它聊天二是別一上來就提特別復(fù)雜的任務(wù)。正確的姿勢是分三步走先跑通最簡單的工作流。比如讓它整理一份會議紀要、生成一個待辦清單、把一段雜亂信息結(jié)構(gòu)化。手動創(chuàng)建一個多步驟任務(wù)觀察它是怎么拆解和執(zhí)行的。這是評估 Agent 能力的關(guān)鍵。把你的高頻工作場景做成自定義指令或模板試著復(fù)現(xiàn)日常工作的完整鏈路。免費期結(jié)束后要不要付費取決于它能不能幫你省下每天一小時以上的時間。如果每次用還得花十分鐘調(diào) prompt、改步驟那就不值得續(xù)費。3.3 自定義指令和 Skill 的配置技巧WorkBuddy 里有兩個經(jīng)常被忽略但非常實用的功能自定義指令和 Skill技能。自定義指令是全局性的行為約束告訴它你偏好如何輸出、用什么語氣、關(guān)注什么重點。Skill 則更像是可復(fù)用的“操作腳本”把某類任務(wù)的完整處理流程寫進去下次直接調(diào)用。舉個例子我經(jīng)常需要整理各類調(diào)研材料。我會寫一個 Skill里面包含標題提取規(guī)則、摘要格式、信息來源標注方式、最終輸出的 Markdown 模板。每次調(diào)研的時候只輸入原始材料WorkBuddy 會自動套用這套流程產(chǎn)出的結(jié)果格式統(tǒng)一基本不用再改。寫 Skill 的時候有一個核心原則把你能想到的邊界情況全部寫進去。比如“如果材料里沒有日期就標注未知日期不要猜測”“如果兩份材料沖突就單獨列出沖突點不要擅自合并”。因為 AI 最擅長在不確定性面前自作主張你把規(guī)則定得越細輸出質(zhì)量越高。4. 實測體驗與常見問題排查實錄4.1 我這幾天的實際使用感受這幾天我把 Hy4 preview 和 WorkBuddy 都做了一輪實操說說真實體感。先談模型方面的感受Hy4 preview 在長文本理解和多步驟推理上表現(xiàn)突出。舉例來說我扔給它一大段包含多個子任務(wù)的指令模型能正確拆分優(yōu)先級、逐項輸出且不會在過程中忘掉前面的約束條件。相比之下不少小模型很容易在長對話中“記憶漂移”最后給出的內(nèi)容跟初始要求已經(jīng)沒什么關(guān)系了。但也必須承認preview 版本在生成穩(wěn)定性上還不是特別好。有些 prompt 寫法和格式要求模型偶爾會忽視。這種情況下我通常會嘗試修改 prompt 的結(jié)構(gòu)比如明確輸出章節(jié)、規(guī)定語氣甚至給一個具體示例。把 prompt 調(diào)整成“填空題 限制條件”的形式失誤率會明顯下降。WorkBuddy 的體驗則不一樣。它的核心優(yōu)勢不在單次答復(fù)質(zhì)量而在整個過程的“托底能力”。比如說任務(wù)執(zhí)行到一半模型崩了或者斷網(wǎng)了WorkBuddy 能把已有的中間結(jié)果保留下來重啟之后接著干。這一點對于實際工作流來說特別重要因為真實世界里哪有那么多一次性順利跑完的任務(wù)。我實測下來最煩的反而是多個工具之間切換時偶爾會卡一下需要手動確認下一步操作。4.2 常見問題速查表下面這些問題是這幾天在社群里看到大家問得最多的我整理成一個速查表問題可能原因解決思路Hugging Face 下載權(quán)重速度慢網(wǎng)絡(luò)原因使用國內(nèi)開源鏡像站如清華鏡像、阿里云模型服務(wù)加速下載直接把地址前綴換成鏡像域名即可顯存不足模型加載失敗權(quán)重精度太高或設(shè)備不夠改用 4bit/8bit 量化或者放棄本地部署改用官方 API 或第三方推理服務(wù)生成結(jié)果不穩(wěn)定、前后矛盾對話歷史過長或 prompt 約束不足縮短上下文長度、增加輸出格式限制、必要時拆成多個子任務(wù)WorkBuddy 執(zhí)行任務(wù)卡住多步驟流程中某些環(huán)節(jié)需要外部確認檢查工具調(diào)用日志手動確認后讓它繼續(xù)不要直接重啟會話免費額度用盡后想繼續(xù)用白嫖結(jié)束判斷是否值回票價或者轉(zhuǎn)而使用其他免費方案這個表里的內(nèi)容基本涵蓋了新手可能會遇到的 80% 的問題。剩下的 20%通常跟具體環(huán)境配置有關(guān)需要結(jié)合報錯信息去搜。4.3 幾個踩坑之后的獨家心得第一不要迷信“官方推薦配置”。很多開源模型的 README 里寫著推薦 GPU 型號但那是訓(xùn)練或者大規(guī)模并發(fā)的場景。你只是個人測試配置可以大幅壓縮用量化版本在小顯存設(shè)備上慢慢跑也能得到有價值的結(jié)果。第二盡量把任務(wù)拆小。在大模型時代我們習(xí)慣了把長 prompt 一次性扔出去。但面對 Hy4 preview 這種超大規(guī)模模型單次生成太長反而容易失控。我習(xí)慣讓它先給大綱再看細節(jié)最后整合。雖然多花了幾次請求但輸出穩(wěn)定得多。第三WorkBuddy 這類工具的免費期其實是一個很好的“工作流審計”機會。你為了適配它而寫出來的那些自定義指令、流程模板即使以后不用它了也照樣能遷移到其他 AI 工具上。我這次就把一套調(diào)研模板沉淀了下來以后哪怕?lián)Q個工具這套模板依然有用。第四關(guān)于網(wǎng)上流傳的各種“WorkBuddy 大學(xué)清單”之類的教程不要盲信。市面上很多內(nèi)容只是個人經(jīng)驗不一定適合你的場景。最好的方式是把它們當作靈感自己動手調(diào)整成適配自己工作的版本。工具是死的工作流是活的。