詳細解釋
CPU(Central Processing Unit,中央處理器)是電腦的主要計算元件,負責執行程序指令和處理數據。
與 圖形處理單元 (GPU / 圖形處理器)、張量處理單元 (TPU / 張量處理器) 的比較:
- CPU:通用計算,單核性能強,適合串行任務
- GPU:並行計算,適合矩陣運算,AI 訓練主力
- TPU:專用 AI 加速,特定運算優化
在 AI 中的角色:
- 數據預處理:資料清洗、轉換
- 小型模型:簡單推理可在 CPU 運行
- BitNet:極量化模型可在 CPU 高效運行
- 推理優化:INTEL/AMD 加入 AI 加速指令
性能指標:
- 時脈頻率:單核運算速度
- 核心數:並行處理能力
- 快取:L1/L2/L3 影響數據存取
- 記憶體頻寬:與主記憶體的傳輸速率
選型考量:
- 訓練:通常 GPU 為主,CPU 輔助
- 推理:根據模型大小選擇
- 輕量模型:現代 CPU 可滿足需求
- 成本:CPU 推理成本低於 GPU
是計算系統的基礎組件,與專用加速器協同工作。