詳細解釋
串流輸出（Streaming）是AI模型逐token即時返回生成結果，而非等待完整生成後一次性返回，大幅提升用戶體驗。
運作原理：
- 傳統：模型生成完整回應後返回
- 串流：每生成一個token立即發送
- 連接：使用SSE（Server-Sent Events）或WebSocket
- 客戶端：逐字顯示，打字機效果
優勢：
- 感知速度：用戶立即看到回應開始
- 即時反饋：可及早發現問題中斷
- 互動性：長回應時可邊看邊滾動
- 心理預期：減少等待焦慮
技術實現：
- 服務端：模型支持迭代生成，逐token輸出
- API：OpenAI、Claude等主流API都支持stream參數
- 客戶端：處理SSE數據流，平滑顯示
應用場景：
- 聊天機器人：逐字顯示回應
- 代碼生成：邊看邊思考
- 長文本生成：提早開始閱讀
- 實時翻譯：快速響應
注意：串流增加連接複雜度，且難以精確統計token數量預估成本。