薛小落
貝葉斯學派起源於18世紀一個很不知名的新教牧師Thomas Bayes（托馬斯·貝葉斯，1702-1761年）的一篇遺作，而且還是他的朋友在整理其數學遺稿才發現的，貝葉斯本人並沒有打算要發表出來。並且這個學說在接下來的100多年裡受到強烈排斥和非議，乃至沉寂了很久，而經典頻率學派蓬勃發展。直到20世紀二三十年代開始，貝葉斯理論才得到人們的重視，又重新不斷髮展起來，並由此在概率統計學領域出現了貝葉斯學派（Bayesians）和經典的頻率學派(Frequentists)之間的爭論。
主要的爭論焦點在於：
1. 貝葉斯學派主張把待估參數p視為隨機變量，而頻率學派則認為應把p看作常數；
2. 待估參數p在抽樣觀測前就具有先驗分佈，而頻率學派認為任何模型都不存在先驗。
舉個例子說明：比如在點球中，守門員對於點球方向的判斷（為了方便說明，守門員預計向右射門的概率參數為p）。按頻率學派的觀點，那麼就是統計該球員過去點球的經歷，即向右射門的次數除以總次數，作為對p的估計。而貝葉斯學派則是，守門員時刻觀察球員的動作，比如球員在射門前朝左邊撇了一眼。那麼守門員根據過往的經驗和對該球員的瞭解，就會認為向右射門的的p就會變小。
因此貝葉斯學派善於利用過去的先驗知識和樣本數據進行邏輯歸納推理出參數；而頻率學派僅僅利用了樣本數據來估計，樣本越多，參數越趨近於一個固定的常數。
我們上面的解釋只是一個直觀入門的解釋，兩個學派之間還有很多異同，有興趣的童鞋可以研究Ed. Jaynes的工作。
