與微調(diào)能力)
【免費(fèi)下載鏈接】gemma-skillsSkills for the Gemma and model/agent interactions項(xiàng)目地址https://gitcode.com/gh_mirrors/ge/gemma-skills點(diǎn)擊查看免費(fèi)下載如果你是剛接觸 Gemma 模型的新手gemma-skills 會(huì)是一個(gè)絕佳的起點(diǎn)。這是 Google 官方推出的 AI Agent 技能倉庫包含gemma-dev和gemma-trainer兩大核心技能前者讓 AI 編碼助手掌握 Gemma 應(yīng)用開發(fā)的最佳實(shí)踐模型選型、部署、推理加速后者賦予它本地微調(diào) Gemma 的能力SFT、DPO、獎(jiǎng)勵(lì)建模。安裝后你的 AI Agent 就能像資深工程師一樣帶你完成從原型到微調(diào)部署的完整流程。什么是 gemma-skills給 AI Agent 裝上Gemma 官方知識(shí)庫傳統(tǒng)的 AI 助手回答 Gemma 相關(guān)問題時(shí)可能會(huì)推薦過時(shí)的模型或不規(guī)范的用法。而 gemma-skills 把這些經(jīng)過 Google 官方驗(yàn)證的最佳實(shí)踐打包成技能直接注入到你的 AI 編碼助手中。倉庫結(jié)構(gòu)非常清晰兩大技能各自獨(dú)立、各司其職技能定位覆蓋場(chǎng)景gemma-dev應(yīng)用開發(fā)模型選型、Gradio 原型、瀏覽器推理、云端部署gemma-trainer訓(xùn)練微調(diào)SFT、DPO、獎(jiǎng)勵(lì)建模、數(shù)據(jù)集準(zhǔn)備、GGUF 轉(zhuǎn)換兩大技能的入口定義分別在 skills/gemma-dev/SKILL.md 和 skills/gemma-trainer/SKILL.md每個(gè) SKILL.md 就是技能的說明書AI Agent 會(huì)根據(jù)它自動(dòng)觸發(fā)對(duì)應(yīng)能力。快速上手3種方式把技能裝進(jìn)你的 AI 助手gemma-skills 支持主流的 AI 編碼助手與技能包管理器安裝只需一條命令方式一Vercel skills CLI# 交互式瀏覽并安裝 npx skills add google-gemma/gemma-skills --list # 只安裝指定技能以 gemma-dev 為例 npx skills add google-gemma/gemma-skills --skill gemma-dev方式二Context7 skills CLInpx ctx7 skills install /google-gemma/gemma-skills gemma-dev方式三Antigravityagy plugin install https://github.com/google-gemma/gemma-skills三種方式的完整說明可參考 README.md。裝好之后你只需要用自然語言描述需求比如幫我用 Gemma 搭一個(gè)聊天界面AI Agent 就會(huì)自動(dòng)調(diào)用對(duì)應(yīng)技能。gemma-dev 技能詳解讓 AI Agent 成為 Gemma 開發(fā)專家gemma-dev技能解決新手最常見的困惑該選哪個(gè)模型該用什么工具部署 模型選型不再靠猜技能內(nèi)置了一份完整的選型指南skills/gemma-dev/SKILL.mdAI Agent 會(huì)根據(jù)你的硬件和業(yè)務(wù)場(chǎng)景推薦精確的模型Gemma 4 大杯26B A4B / 31B支持文本圖像輸入256K 上下文適合復(fù)雜多模態(tài)推理Gemma 4 12B額外支持音頻輸入適合筆記本等消費(fèi)級(jí)設(shè)備Gemma 4 E2B / E4B為移動(dòng)端 NPU 加速而生支持原生音頻處理EmbeddingGemma 2RAG / 向量檢索專用嵌入模型ShieldGemma 2內(nèi)容安全審核專用分類器。核心原則是不盲目默認(rèn)最小模型而是先分析你的領(lǐng)域、硬件約束和輸入模態(tài)再給出精準(zhǔn)建議。 四種部署路徑都有官方答案針對(duì)不同的部署目標(biāo)技能都映射了推薦技術(shù)棧并且倉庫里附帶了可直接參考的示例代碼部署場(chǎng)景推薦技術(shù)棧參考示例快速原型 / DemoGradio Transformersgradio-app.py網(wǎng)頁 / 客戶端應(yīng)用transformers.js瀏覽器內(nèi)推理transformers-js-app.js企業(yè)級(jí)云端Vertex AI 容器化部署vertex-ai-app.pyApple Silicon 設(shè)備Ollama 或 mlx-lm—其中 gradio-app.py 是一個(gè)開箱即用的 Gradio 聊天界面示例新手可以直接學(xué)習(xí)它的對(duì)話流式輸出寫法。? 進(jìn)階能力MTP 推理加速與 QAT 量化Multi-Token PredictionMTPGemma 4 內(nèi)置的推測(cè)解碼技術(shù)用輕量草稿模型提出候選 token主模型一次前向驗(yàn)證在不損失質(zhì)量的前提下顯著提速skills/gemma-dev/SKILL.md。QAT 量化感知訓(xùn)練官方提供不同部署引擎的量化模型llama.cpp 用 GGUF 格式、vLLM/SGLang 用 w4a16 壓縮張量比傳統(tǒng) PTQ 量化質(zhì)量損失更小skills/gemma-dev/SKILL.md。這些深水區(qū)知識(shí)以前需要自己翻遍官方文檔現(xiàn)在 AI Agent 會(huì)主動(dòng)替你規(guī)劃。gemma-trainer 技能詳解在本地硬件微調(diào) Gemma 模型gemma-trainer技能面向想在本地顯卡上微調(diào) Gemma 的開發(fā)者覆蓋微調(diào)全流程數(shù)據(jù)集準(zhǔn)備 → 模型訓(xùn)練 → 格式轉(zhuǎn)換 → 端側(cè)部署。 微調(diào)方法怎么選技能內(nèi)置了一張清晰的目標(biāo) → 方法決策表skills/gemma-trainer/SKILL.mdSFT監(jiān)督微調(diào)教模型新領(lǐng)域知識(shí)、任務(wù)指令或自定義輸出格式——這是大多數(shù)新手的起點(diǎn)DPO直接偏好優(yōu)化對(duì)齊模型的語氣、風(fēng)格、安全性需要先在 SFT 基礎(chǔ)上進(jìn)行獎(jiǎng)勵(lì)建模RM訓(xùn)練一個(gè)給回答質(zhì)量打分的評(píng)估模型。 關(guān)鍵最佳實(shí)踐新手最容易踩坑的地方優(yōu)先使用 Unsloth本地單卡訓(xùn)練省最多 70% 顯存、速度提升 2 倍多卡環(huán)境則退回 TRL PEFT bitsandbytes 方案始終使用 QLoRA4-bit 量化這是讓 12B/31B 模型裝進(jìn)消費(fèi)級(jí)顯卡的關(guān)鍵控制訓(xùn)練上下文長度雖然 Gemma 4 支持 256K 上下文但本地訓(xùn)練建議 2048~8192 token避免顯存溢出OOMskills/gemma-trainer/SKILL.md。 五個(gè)即拿即用的資產(chǎn)腳本gemma-trainer技能附帶了一套完整的工具腳本全部位于 skills/gemma-trainer/assets/腳本用途dataset_prep.py數(shù)據(jù)集加載、格式化與校驗(yàn)格式錯(cuò)誤是訓(xùn)練失敗的頭號(hào)原因distill_dataset.py用大模型老師生成高質(zhì)量數(shù)據(jù)蒸餾訓(xùn)練小模型sft_train.pyQLoRA 監(jiān)督微調(diào)自動(dòng)檢測(cè) Unsloth 加速dpo_train.py偏好對(duì)齊訓(xùn)練模板reward_train.py獎(jiǎng)勵(lì)模型訓(xùn)練序列分類頭 RewardTrainer特別值得一提的是 distill_dataset.py 的師-生蒸餾玩法用 Gemma 4 31B 等教師模型在本地生成高質(zhì)量回答再拿去訓(xùn)練 Gemma 4 E2B 這樣的輕量學(xué)生模型——沒有標(biāo)注數(shù)據(jù)也不怕。 訓(xùn)練完成后的最后一公里技能還覆蓋部署環(huán)節(jié)skills/gemma-trainer/SKILL.mdUnsloth 可直接原生導(dǎo)出GGUF格式方便接入 llama.cpp / LM Studio小模型則可用LiteRT-LM部署到手機(jī)、Web 和 IoT 設(shè)備充分利用 CPU/GPU/NPU 硬件加速。常見問題速查Q我需要很強(qiáng)的顯卡才能微調(diào)嗎A技能默認(rèn)推薦 QLoRA 4-bit 量化 Unsloth消費(fèi)級(jí)顯卡也能微調(diào) 12B 級(jí)模型E2B/E4B 小模型門檻更低。Q微調(diào)完的模型怎么用到手機(jī)上A兩條路轉(zhuǎn) GGUF 用本地推理框架或轉(zhuǎn) LiteRT-LM 格式走端側(cè)硬件加速。Q技能會(huì)推薦過時(shí)的模型嗎A技能要求默認(rèn)推薦Gemma 4新一代模型且優(yōu)先通過 MCP 的search_documentation工具獲取最新官方文檔skills/gemma-dev/SKILL.md保證信息不滯后。寫在最后gemma-skills 的價(jià)值不在于多而在于準(zhǔn)它把 Google 官方的模型選型標(biāo)準(zhǔn)、部署技術(shù)棧、微調(diào)超參數(shù)經(jīng)驗(yàn)全部固化下來讓 AI Agent 從泛泛而談的聊天機(jī)器人變成懂 Gemma 的實(shí)戰(zhàn)教練。新手建議的使用路徑安裝兩個(gè)技能前文三種方式任選其一先用gemma-dev讓 Agent 幫你搭一個(gè)本地 DemoGradio 最快有了業(yè)務(wù)數(shù)據(jù)后用gemma-trainer走完 SFT → 校驗(yàn)數(shù)據(jù)集 → 部署的完整微調(diào)流程。完整的技能清單參見 README.md項(xiàng)目采用 Apache-2.0 許可證plugin.json可放心用于學(xué)習(xí)和生產(chǎn)環(huán)境。贊分享【免費(fèi)下載鏈接】gemma-skillsSkills for the Gemma and model/agent interactions項(xiàng)目地址https://gitcode.com/gh_mirrors/ge/gemma-skills點(diǎn)擊查看免費(fèi)下載相關(guān)推薦如何在本地硬件微調(diào)Gemma 4gemma-skills的SFT/DPO/RLHF完整路線圖如何在本地硬件微調(diào)Gemma 4gemma skills的SFT/DPO/RLHF完整路線圖 想讓 Gemma 4 聽懂你的行話、說話更像你的風(fēng)格 geSweetModal-Vue 無障礙訪問指南讓彈窗對(duì)所有用戶都友好SweetModal Vue 無障礙訪問指南讓彈窗對(duì)所有用戶都友好 SweetModal Vue 是一個(gè)功能強(qiáng)大的 Vue.js 模態(tài)框庫但要讓您的彈窗對(duì)所如何在 3 秒內(nèi)完成 macOS 分屏Loop 窗口管理快捷鍵完整指南如何在 3 秒內(nèi)完成 macOS 分屏Loop 窗口管理快捷鍵完整指南 Loop 是一款免費(fèi)開源的 macOS 窗口管理應(yīng)用按住觸發(fā)鍵移動(dòng)鼠標(biāo)、或按下快捷鍵桌面應(yīng)用創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考