1入門技術工具
NVIDIA (與 AI 硬體/軟體)
NVIDIA
提供 圖形處理單元 (GPU / 圖形處理器)(如 A100、H100)、CUDA、cuDNN 與 AI 軟體棧,為 分散式訓練 與 推理 (模型推理) (Inference Optimization) (Variational Inference) 的主流硬體與生態。
詳細解釋
NVIDIA 在 AI 領域提供 圖形處理單元 (GPU / 圖形處理器)(資料中心如 A100、H100;消費級如 RTX)、CUDA 與 cuDNN 運算庫、以及 NGC、NIM、TensorRT 等軟體。PyTorch (Torch Compile)、TensorFlow 多依賴其驅動與庫做 混合精度訓練、分散式訓練 與 推理 (模型推理) (Inference Optimization) (Variational Inference)。與 圖形處理單元 (GPU / 圖形處理器)、PyTorch (Torch Compile)、分散式訓練、推理 (模型推理) (Inference Optimization) (Variational Inference) 相關。