On The Road

1.       隨機變數 (random variable) 是將一個實數與樣本空間中的每個元素做連結的變數 , 可分為離散 discrete ( 可數 count) 和連續 continuous ( 量測 measured) 2.       對於隨機變數  X, 以 f(x) 表示其所有數值 x 的機率 , 序對 (x, f(x)) 的集合稱為隨機變數  X  的機率 質量函數  PMF (probability mass function) 3.       累積分布函數  CDF (cumulative distribution function) F(x) = P(X  ≦   x) 計算隨機變數 X 的數值小於或等於某實數  x  的機率        是單調不遞減函數 4.       考慮連續 : 探討的是隨機變數的一段區間而不是一個點的數值 , 且區間的末端點是否包含進來並不重要 , 此時 f(x) 稱為機率密度函數  PDF (probability density function) 5.       連續的  CDF F(x) = P(X ≦ x), 所以 P(a<X<b) = F(b) - F(a) 6.       連續的  PDF f(x) 和  CDF F(x) 互為微積分關係 , PDF  積分變  CDF ( 從    -∞  積到  x ) , CDF  微分變  PDF

1.     互斥   mutually exclusive       P(A∪B ) = P(A) + P(B)     ∵  P(A ∩ B) = Ø 2.     獨立     independence        P(A ∩ B ) = P(A)  ‧  P(B)     (if and ony if) 已知一些 information (B) ，但對整個條件機率沒有任何幫助或影響。 P(A | B) 還是等於 P(A) ， P(B | A) 也還是等於 P(B)

1. Axioms of Probability     (1) For any event, P[A] ≧ 0     (2) P[S] =1     S : sample space，代表所有可能都發生     → 由(1)、(2)可知，機率是介於 0 到 1 之間的數     (3) 互斥事件聯集的機率= 個別事件機率的加總 2. Equally likely outcomes : no one outcome is any more likely than any other     亦即每個可能性一樣 ( 沒有任何偏好 )，所以假設有 n 個 outcome，則每個 outcome 的機率都是 1/n。 3. Conditional probability 條件機率 : 滿足某條件下，某事情的機率。     P[A]=prior probability 先驗條件，P[A | B]=Conditional probability 條件機率，讀作 the probability of A given B。     條件機率的物理意義 : P[A] reflects our knowledge of the occurrence of A prior to performing an experiment.     而條件機率因為多給了已知條件，所以正確率得以大幅提升。 參考資料來源 — Probability and Stochastic Processes: A Friendly Introduction for Electrical and Computer Engineers by Roy D. Yates and David J. Goodman

1. Probability is based on a repeatable experiment ，其中 experiment = procedure + observation 。例如為了知道買 A 款和 B 款手機的機率，procedure 就是到店裡調查，observation 為觀察下一個客人是買哪款手機。注意即使 procedure 一樣，若 observation 不同 ( 即有興趣的點不同 )，則實驗就不相同。此時所得的 model 屬於 equal likely，因為客人沒有特別偏好， A 和 B 的機率差不多。另外， outcome 為一次實驗所得的特定結果， event 為某一組 outcome 的集合。 2.  (1) Mutually exclusive sets ( 互斥 ) : 代表集合間的交集為空集合。( 重要 , 很多概念由此衍生 )       p.s. 若一事件的發生並不影響另一事件，則稱為獨立事件。      (2) Collectively exhausive sets ( 周延 ) : 代表進行某次實驗所得的結果一定在這些集合裡面。      (3) Partition : mutually exclusive 和 collectively exhausive 同時滿足。 3. Sample space : 把所有 outcome 集合起來，須滿足 3 個條件 —     (1) mutually exclusive     (2) collectively exhausive   (3) finest - grain     finest - grain : all possible distinguishable outcomes are identified separately ( 代表須為最小單位 ) 4. outcome、event、sample space 的關係 :     (1) outcome — element     (2) event...