置AI網(wǎng)關(guān)詳解)
Flue Cloudflare Workers AI免API Key的內(nèi)置AI網(wǎng)關(guān)詳解【免費(fèi)下載鏈接】flueThe sandbox agent framework.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/flue1/flueFlue 是運(yùn)行在 Cloudflare Workers 上的 AI Agent 框架它的殺手級特性是內(nèi)置 AI 網(wǎng)關(guān)全程免 API Key。你不需要向任何模型廠商申請密鑰、不需要在配置里存放秘密——一行代碼聲明模型所有 AI 調(diào)用就自動走 Cloudflare 自家的 Workers AI 與 AI Gateway授權(quán)和計(jì)費(fèi)直接跟隨你的 Workers 賬號還有每日免費(fèi)額度可用。為什么可以跳過 API Key傳統(tǒng)做法是注冊模型廠商賬號 → 申請 API Key → 存入環(huán)境變量或密鑰管理服務(wù) → 代碼里讀密鑰發(fā)起 HTTP 調(diào)用。任何一步出錯Agent 就跑不起來。Flue 在 Cloudflare 目標(biāo)環(huán)境下走了一條完全不同的路自動注冊cloudflare內(nèi)置 provider當(dāng)你的項(xiàng)目部署到 Cloudflare 時(shí)cloudflare/...這類模型前綴開箱即用無需任何額外配置不經(jīng)過 HTTP走 Workers AI 綁定模型調(diào)用通過 Worker 環(huán)境的env.AI.run(...)完成綁定本身就是一份憑證——授權(quán)和計(jì)費(fèi)跟隨 Worker 本體詳見 workers-ai-provider.ts 中Keyless: the binding itself is the credential的設(shè)計(jì)沒有密鑰就沒有密鑰泄露不需要配置 secret、不需要擔(dān)心.env泄露、團(tuán)隊(duì)協(xié)作零門檻。計(jì)費(fèi)按 Workers AI 的 Neurons 單位、跟隨你的 Cloudflare 賬號結(jié)算并帶有每日免費(fèi)額度對新手非常友好。快速上手三步配置方法第 1 步聲明 AI 綁定在項(xiàng)目根目錄的wrangler.jsonc中加一段配置即可參考示例項(xiàng)目 wrangler.jsonc{ ai: { binding: AI } }第 2 步一行代碼聲明模型一個 Flue Agent 就是一個帶use agent指令的普通 TypeScript 函數(shù)參考 with-cloudflare-binding.tsuse agent; import { useModel } from flue/runtime; export function Assistant() { useModel(cloudflare/cf/moonshotai/kimi-k2.6); return You process direct requests using a Cloudflare Workers AI binding.; }cloudflare/之后的一切都會原樣作為模型 ID 傳給 Workers AI——既可以是cf/...的托管模型也可以是網(wǎng)關(guān)模型 ID如openai/gpt-5.5。第 3 步本地開發(fā)與部署npx vite dev # 本地 workerd 運(yùn)行 npx vite build # 構(gòu)建 npx wrangler deploy # 部署全程無需wrangler secret put因?yàn)槟愀緵]有任何密鑰可存。內(nèi)置 AI 網(wǎng)關(guān)免費(fèi)獲得的三大能力默認(rèn)情況下每一次cloudflare/...調(diào)用都會自動經(jīng)過 Cloudflare 的 AI Gateway網(wǎng)關(guān) ID 為default你零配置就獲得了能力說明? 響應(yīng)緩存相同請求命中緩存省錢又提速 請求日志每次模型調(diào)用都有可檢索的日志條目 預(yù)算控制在 Cloudflare 控制臺為網(wǎng)關(guān)設(shè)置用量上限如果你需要更精細(xì)的調(diào)優(yōu)可以在app.ts中用 cloudflareBindingProvider 覆蓋默認(rèn)網(wǎng)關(guān)用戶注冊優(yōu)先于生成的默認(rèn)配置setProvider( cloudflareBindingProvider({ binding: env.AI, gateway: { id: my-gateway, cacheTtl: 300, metadata: { tenant: acme } }, // ...或 gateway: false 完全繞過 AI 網(wǎng)關(guān) }), );網(wǎng)關(guān)支持的選項(xiàng)完整定義見 gateway.tsid指定網(wǎng)關(guān) IDskipCache/cacheTtl/cacheKey緩存行為控制metadata/collectLog/eventId日志與關(guān)聯(lián)標(biāo)識requestTimeoutMs對首個響應(yīng)分片的時(shí)限約束通過cf-aig-request-timeout頭下發(fā)。模型怎么選兩種前綴的差別模型寫法走向適用場景cloudflare/cf/xxxWorkers AI 托管模型OpenAI 兼容格式免 Key 調(diào)用 Workers AI 模型庫cloudflare/openai/xxx、cloudflare/anthropic/xxx經(jīng) AI Gateway 轉(zhuǎn)發(fā)免 Key 調(diào)用網(wǎng)關(guān)代理的廠商模型openai/gpt-5.5無前綴Flue 直連 OpenAI provider需要用自己的廠商 API Key一個容易混淆的點(diǎn)cloudflare/openai/gpt-5.5是通過 Cloudflare 計(jì)費(fèi)的而openai/gpt-5.5走的是你自己的 OpenAI 密鑰——寫法只差一個前綴賬單歸屬完全不同。生產(chǎn)級可靠性框架替你兜底Flue 的 Workers AI 通道內(nèi)置了多項(xiàng)穩(wěn)定性機(jī)制新手無需感知細(xì)節(jié)??流空閑超時(shí)模型流超過 5 分鐘默認(rèn)沒有吐出一個字節(jié)請求會失敗并按可重試錯誤自動重試避免返回 200 后再也不說話的懸掛流截?cái)嗉粗卦嘢SE 流異常中斷無結(jié)束幀會被識別為傳輸層瞬時(shí)故障安全重試而不是污染會話會話親和通過x-session-affinity頭把同一會話的請求釘在相同模型實(shí)例上讓廠商側(cè)的前綴緩存生效精確的網(wǎng)關(guān)日志關(guān)聯(lián)每條響應(yīng)讀取自身的cf-aig-log-id頭并發(fā)下也不會把日志記錯請求。小結(jié)場景推薦做法剛上手、想快速跑通用cloudflare/cf/...免 Key 零配置需要多廠商模型統(tǒng)一管理用cloudflare/vendor/...走 AI Gateway已有廠商密鑰、要求直連保留廠商原生前綴 密鑰一句話總結(jié)Flue 把連接 AI這件事從密鑰管理問題降級成了一個字符串前綴——在 Cloudflare 上部署 Agent模型調(diào)用天然自帶網(wǎng)關(guān)、緩存、日志與免費(fèi)額度。進(jìn)一步閱讀模型選擇與 provider 機(jī)制models.mdCloudflare 部署完整指南deploy/cloudflare.mdCloudflare 官方示例項(xiàng)目examples/cloudflare/內(nèi)置 provider 源碼packages/runtime/src/cloudflare/【免費(fèi)下載鏈接】flueThe sandbox agent framework.項(xiàng)目地址: https://gitcode.com/GitHub_Trending/flue1/flue創(chuàng)作聲明:本文部分內(nèi)容由AI輔助生成(AIGC),僅供參考