概率的公理化包括兩個方面：一是事件的公理化表示（利用集合論），二是概率的公理化表示（測度論）。其次是建立在集合之上的可測函數(shù)的分析和研究，這就可以利用現(xiàn)代分析技術(shù)了。這些工作是由前蘇聯(lián)數(shù)學(xué)家科爾莫格洛夫在1933年完成的。

概率，亦稱“或然率”，它是反映隨機事件出現(xiàn)的可能性（likelihood)大小。隨機事件是指在相同條件下，可能出現(xiàn)也可能不出現(xiàn)的事件。例如，從一批有正品和次品的商品中，隨意抽取一件，“抽得的是正品”就是一個隨機事件。設(shè)對某一隨機現(xiàn)象進行了n次試驗與觀察，其中A事件出現(xiàn)了m次，即其出現(xiàn)的頻率為m/n。經(jīng)過大量反復(fù)試驗，常有m/n越來越接近于某個確定的常數(shù)（此論斷證明詳見伯努利大數(shù)定律）。該常數(shù)即為事件A出現(xiàn)的概率，常用P(A)表示。

第一個系統(tǒng)地推算概率的人是16世紀的卡爾達諾。記載在他的著作《Liber de Ludo Aleae》中。書中關(guān)于概率的內(nèi)容是由Gould從拉丁文翻譯出來的。

卡爾達諾的數(shù)學(xué)著作中有很多給賭徒的建議。這些建議都寫成短文。然而，首次提出系統(tǒng)研究概率的是在帕斯卡和費馬來往的一系列信件中。這些通信最初是由帕斯卡提出的，他想找費馬請教幾個關(guān)于由Chevvalier de Mere提出的問題。Chevvalier de Mere是一知名作家，路易十四宮廷的顯要，也是一名狂熱的賭徒。問題主要是兩個：擲骰子問題和比賽獎金分配問題。