最大似然估计

  概率$p(\mathrm{x})$是个函数,给它一个输入,就会产生一个输出。如果$\mathrm{x}$服从某个分布,那么这个分布就有一些参数,例如$\mathrm{x}$服从正态(高斯)分布,就有参数$\mu$和$\sigma$。把所有参数记作$\theta$,现有观测结果$x_1, \dots, x_n$,想根据这些观测结果估计出$\theta$,常用的方法是最大似然估计。

Read More

条件概率和贝叶斯公式

  生活中一般不会直接推断一个事件发生的概率,因为并不容易推断出结果。例如“足球赛平局的概率是多少?”这个问题很难回答,因为并没说清是哪场比赛平局的概率,或者还是指历史上所有足球赛中平局的概率。一般而言,现实中的事件总是不会孤立发生的,而是伴随着条件发生的

条件概率

  条件概率的具体描述是:在事件$B$发生的前提下,事件$A$发生的概率,记作$P(A|B)$。也可以理解为在事件$B$发生的前提下,事件$A, B$同时发生的概率,所以$P(A|B) = \frac{P(AB)}{P(B)}$。

Read More