偏差度量了學習演算法的期望與真實結果的偏差，刻畫了演算法本身的「擬合能力」，方差度量了同樣大小的訓練集的變動所導致的學習性能的變化，
偏差用于描述模型的擬合能力，方差用來描述模型的穩定性，
當訓練度不足的時候，偏差主導模型的泛化誤差；
當訓練進入后期，模型的擬合能力增強，方差主導模型的泛化誤差；
當訓練足夠的時候，如果擬合能力過強會導致過擬合，
Q1 泛化誤差、偏差、方差與噪聲之間的關系
學習器在訓練集上的誤差被稱為“訓練誤差”或“經驗誤差”，在新樣本的誤差被稱為“泛化誤差”，
「噪聲」為真實標記與資料集中實際標記之間的誤差，
「偏差」為期望預測與真實標記的誤差成為偏差，
「泛化誤差」可分解為偏差、方差和噪聲之和，
本問題涉及大量的公式運算，因為主要面向于面試對話，所以方程不再列出，有興趣的可以點擊此處來了解具體程序，
Q2 導致偏差和方差的原因是什么
「偏差」是由于模型的復雜度不夠或者對學習演算法做了錯誤的假設；
比如真實模型為三次函式，而擬合出來的為二次函式，會導致偏差「激增」，屬于欠擬合現象，所以訓練誤差主要是偏差造成的，
而方差通常是模型復雜度過高導致的；
比如真實模型是二次函式，而擬合出來的是五次函式，會導致「過擬合」，方差「增大」，由方差引起的誤差通常體現在測驗誤差相對訓練誤差的變化上，
?最后：
?
想要看更多就關個注
你看看我的粉絲數??
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/36677.html
標籤：其他
上一篇：測驗圖片
下一篇：Torch7:cannot open <...> in mode w at /home/ethereal/torch/pkg/torch/lib/TH/THD