詳細解釋
Cloudflare 於 2023 年推出的邊緣 AI 推理服務，讓開發者在 Cloudflare 的全球 300+ 數據中心運行 AI 模型，距離用戶僅數毫秒網絡延遲。
核心特點：
- 邊緣部署：模型運行在離用戶最近的 POP（存在點），而非集中式數據中心
- 零冷啟動：Workers 平台保證無冷啟動時間，即時響應
- 模型市場：內建 Llama 2、Mistral、SDXL、Whisper 等開源模型，無需自行管理
- 與 Workers 整合：與 Cloudflare 的無服務器計算平台無縫配合
使用方式：
- REST API：標準 HTTP 調用，兼容 OpenAI 格式
- Workers 綁定：在 JavaScript/Python Workers 中直接調用 AI 模型
- 流式輸出：SSE 流式返回生成結果
定價模式：
- 按請求數 + 計算時間計費
- 神經網絡類（LLM）：每 1000 次請求 $0.005 + 每 1000 tokens $0.05
- 圖像類（SDXL）：每 1000 次 $0.20
與傳統雲端 AI（AWS、GCP）對比：
- 延遲：邊緣部署降低 50-90% 網絡延遲
- 成本：無需預留 GPU，適合低頻率、全球分布的應用
- 限制：僅支持特定模型，不支持自定義模型部署（截至 2024）
適合場景：全球用戶的實時應用（聊天機器人、內容審核、個性化推薦）、需要低延遲的交互式 AI。