上周一个独立开发者朋友问我：想做一个 AI 翻译工具，但不想一上来就买服务器、配 Docker、担心用户量上来要扩容。他只想写业务逻辑，剩下的交给平台。
这恰好是很多独立开发者启动 AI 产品时面对的共同问题。Serverless 架构的成熟让这个问题的答案越来越明确——用 Cloudflare Workers 做 AI API 网关，几乎是最低成本的上线路径。
为什么选 Cloudflare Workers？
先摆几个数字。Cloudflare Workers 免费计划每天 10 万请求，Workers AI 每天免费 1 万次神经元推理（neuron）。做个个人工具或 MVP 验证，免费额度完全够用。对比 AWS Lambda + Bedrock 的组合，Cloudflare 的全球边缘网络延迟更低，冷启动几乎无感。
更关键的是部署体验。wrangler CLI 一把梭，npx wrangler deploy 就能上线。对独立开发者来说，时间才是最贵的资源。
完整模板：AI API 网关
下面这个模板包含三个核心能力：多模型路由（Claude / GPT / 本地 Workers AI）、速率限制、流式响应。
// wrangler.toml 配置
// name = "ai-gateway"
// main = "src/index.js"
// compatibility_date = "2026-08-01"
export default {
async fetch(request, env) {
const url = new URL(request.url);
if (request.method === "OPTIONS") {
return new Response(null, {
headers: {
"Access-Control-Allow-Origin": "*",
"Access-Control-Allow-Methods": "POST, GET, OPTIONS",
"Access-Control-Allow-Headers": "Content-Type, Authorization",
},
});
}
if (url.pathname === "/health") {
return new Response(JSON.stringify({ status: "ok" }), {
headers: { "Content-Type": "application/json" },
});
}
if (url.pathname === "/v1/chat" && request.method === "POST") {
return handleChat(request, env);
}
return new Response("Not Found", { status: 404 });
},
};
部署步骤
- 安装 wrangler：
npm install -g wrangler - 创建 D1 数据库：
npx wrangler d1 create ai-gateway - 初始化表结构
- 设置环境变量（API Keys）
- 部署：
npx wrangler deploy
成本估算
以每天 1000 次请求为例，总成本接近零。Cloudflare Workers 免费 10 万请求/天，Workers AI 免费 1 万次/天，D1 免费 5GB 存储。只有当流量起来后，Workers 按 $0.30/百万请求计费，依然非常便宜。
扩展方向
这个模板可以直接 fork 后扩展：加 JWT 认证、用量统计 Dashboard、KV 缓存、自定义域名。
一些经验
Cloudflare Workers 的冷启动确实快，但有几个坑要注意：
- D1 连接数限制：免费版 D1 每分钟 1000 次查询，高并发时可能需要加队列
- Workers AI 模型选择：免费模型只有 Llama 3.1 8B 和 Mistral 7B，效果够用但别期待 GPT-4 级别
- 环境变量大小限制：每个 secret 不超过 4KB
读者能做什么：fork 模板，配置 API key，部署，5 分钟就能得到一个生产可用的 AI API 网关。下次想做 AI 产品，不用再从零搭基础设施了。
