Workers AI
一行程式碼就能呼叫強大的 AI 模型——不用買 GPU,也不用管伺服器。
Workers AI 是什麼?
Workers AI 讓你直接呼叫 API,就能在 Cloudflare 全球的 GPU 上跑現成的開源 AI 模型(聊天機器人、翻譯、生成圖片、語音轉文字等等)。
一般要跑 AI 模型,你得租很貴的 GPU 伺服器、安裝一堆軟體、還要 24 小時開機。Workers AI 把這些麻煩全拿掉:GPU 是 Cloudflare 的,你只要送出請求、拿回答案就好。
把它想成一家餐廳
想吃一頓好料,你不必自己蓋廚房、請廚師——直接點菜就好。Workers AI 就是那間裝滿 GPU 的廚房,模型清單就是菜單,你只要點菜(送出請求),菜(答案)就會端上桌。
為什麼要用它?
自己搞 AI 有三大痛點:花錢、麻煩、離使用者太遠。Workers AI 把這三個都解決了。
不用買 GPU
一張 GPU 動輒上萬。這裡只按用量付費,而且每天還有免費額度可以試玩。
靠近使用者執行
模型在 Cloudflare 全球網路上執行,不管使用者在哪,回應都很快。
開源模型
可以直接用 Llama、Mistral、Whisper 等熱門開源模型,不必跟每家廠商個別簽約。
一個簡單 API
每個模型的呼叫方式都一樣——換一個模型名稱,就能切換不同任務。
什麼時候該用它?
聊天機器人與助理
用大型語言模型(LLM)做問答機器人或寫作小幫手。
翻譯與摘要
把文字翻成別的語言,或把長文章濃縮成短摘要。
生成圖片
用文字生成圖片的模型,從一句描述變出一張圖。
語音轉文字
用 Whisper 之類的語音模型,把錄音轉成文字。
做語意搜尋的向量
把文字轉成 embedding(向量,一串能代表語意的數字),用來做語意搜尋和 RAG。
內容分類
自動判斷情緒、為圖片貼標籤,或把訊息分門別類。
怎麼開始用?
你會用到 Wrangler,也就是 Cloudflare Workers 的命令列工具。下面的步驟會建立一個 Worker、把它接上 AI,然後部署。
安裝 Wrangler 並登入
全域安裝這個命令列工具,然後在瀏覽器登入你的 Cloudflare 帳號。
npm install -g wrangler wrangler login加上 AI 繫結
binding(繫結)是一段設定,把你的 Worker「接線」到某個 Cloudflare 服務。把下面這段加進 wrangler.jsonc,程式裡就能用 env.AI。
{ "name": "my-ai-worker", "main": "src/index.js", "compatibility_date": "2025-06-01", "ai": { "binding": "AI" } }呼叫一個模型
用 env.AI.run(),傳入模型名稱和輸入。這裡我們向 Llama 3.1 問一個問題。
export default { async fetch(request, env) { const result = await env.AI.run( "@cf/meta/llama-3.1-8b-instruct", { prompt: "What is Cloudflare in one sentence?" } ); return Response.json(result); } };部署上線
一個指令就能把你的 Worker 發佈到全世界。
wrangler deploy
不想寫 Worker?直接用 REST API
你也可以用一個 HTTP 請求加上 API 權杖(token),直接從命令列(或任何後端)呼叫任何模型。
curl https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/run/@cf/meta/llama-3.1-8b-instruct \
-H "Authorization: Bearer {api_token}" \
-d '{ "prompt": "Tell me a joke" }'重點概念
推論(Inference)
推論就是訓練好的模型「思考並產生答案」的那一刻。你每呼叫一次,就是一次推論。
模型清單
一份超過 50 個模型的菜單,每個都有像 @cf/meta/llama-3.1-8b-instruct 的代號。依任務挑一個用。
繫結(Binding)
把 AI 接進 Worker、變成 env.AI 的那條線——不必把金鑰貼進程式碼裡。
神經元(Neuron)
Cloudflare 衡量 AI 用量的單位(一次請求需要的 GPU 運算量)。每天送你 10,000 個免費額度。
向量(Embedding)
一串能代表文字語意的數字。把它存進 Vectorize,就能做搜尋和 RAG。
小提示與計費
免費起步
每天免費送你 10,000 個神經元(每天 UTC 00:00 重置)。超過後付費方案是每 1,000 個神經元 0.011 美元——只為實際用量付費。
- 不同模型耗用的神經元不同——模型越大,每次請求越貴。
- 在 Workers AI 前面加上 AI Gateway,可以快取重複的答案、省下費用。
- 部署前先用『wrangler dev』在本機測試。
- 可在 Cloudflare 控制台或文件裡瀏覽所有模型和它們的代號。