贝叶斯公式
贝叶斯公式也叫“逆概率公式”，是为了计算事件的“逆向概率”。对于一个事件的“正向概率”是指根据建模假设中隐含的因果关系评估观测数据的概率分布，而“逆向概率”则是根据观测数据反推相关的隐变量的概率分布。
根据观测数据进行划分，概率可以分为先验概率（prior probability）、似然概率（likelihood probability）和后验概率（posterior probability）。假设 $w$表示模型参数，先验概率是指没有观测数据的情况下的概率，即$p(w)$，是一种非条件概率。而似然概率则是在给定变量$w$的前提下，观测变量$x$的概率，即$p(x|w)$。而后验概率则是给定观测数据的情况下变量$w$的概率，表示为$p(w|x)$。
其次，按照变量存在的形式进行划分，可以分为联合概率、边缘概率与条件概率。
联合概率：指多个变量的联合概率，$ p(x, y) $
边缘概率：指单一变量的概率，$ p(x)$或者$p(y)$
条件概率：指在给定某个变量的值的条件下其他变量的概率，$p(x|w)$