詳細解釋
無需管理服務器或 GPU 集群，按需調用 AI 能力的雲端服務模式。開發者只需關注輸入輸出，底層的模型加載、擴展、維護由平台處理。
核心特點：
- 無基礎設施管理：無需關心 CUDA 版本、驅動更新、GPU 故障
- 自動擴展：流量激增時平台自動分配更多資源
- 按需付費：僅為實際使用的計算付費，無閒置成本
- 即時可用：API 密鑰 + HTTP 請求即可開始
主要供應商：
- OpenAI API：GPT-4、DALL-E、Whisper
- Anthropic API：Claude 系列
- Google AI Studio：Gemini、PaLM
- 開源模型即服務：Fireworks、Together AI、Replicate
- 雲端巨頭：AWS Bedrock、Google Vertex AI、Azure OpenAI
與自託管對比：
- Serverless：開發快、成本低（低頻率）、免運維，但單次調用貴、無定制
- 自託管（自建 GPU）：長期成本低（高頻率）、完全控制、數據私密，但運維複雜
定價趨勢：2023-2024 年推理成本下降 10-100 倍（Moore's Law for AI），serverless 越來越經濟。
適合：初創公司、原型開發、不定流量、無專門 ML 運維團隊的場景。不適合：超高頻率（日均十億級調用）、極低延遲要求（<50ms）、合規要求數據不出本地。