隨機性

系統或過程中的隨機性、不確定性。在 AI 中，指模型輸出的非確定性，即使相同輸入也可能產生不同輸出，是創造性與不可預測性的來源。

來源：

• 採樣：生成時從概率分布中隨機選擇（temperature > 0）
• Dropout：訓練時隨機關閉神經元（推理時通常關閉）
• 初始化：權重初始化的隨機性
• 數據增強：訓練時的隨機變換
• 硬件：GPU 計算的非確定性（如浮點累積順序）

控制參數：

• Temperature：控制概率分布的「尖銳」程度
• 低（0.1）：確定性，重複輸出
• 中（0.7）：平衡，有變化但連貫
• 高（1.5+）：創造性，可能不連貫
• Top-p / Top-k：限制採樣空間，減少隨機性
• Seed：固定隨機種子可復現結果

影響：

• 創造性：隨機性帶來新穎組合和想法
• 多樣性：相同提示產生不同答案
• 測試困難：難以復現特定輸出
• 安全風險：隨機性可能產生有害內容

與確定性的權衡：

• 創意寫作：需要高隨機性
• 代碼生成：需要低隨機性（正確性優先）
• 數據分析：中等，有探索但不失嚴謹

應對策略：

• 多次採樣：生成多個答案選最好
• 自一致性：多條推理路徑投票
• 溫度退火：開始時高溫探索，後期低溫精煉

這是「AI 創造力」的數學基礎—— 從概率中湧現的意外之美。