【Probabilistic Graphical Model(6)】概率图模型统一结构图

把 Markov Chain / MRF / Bayesian Network / HMM / CRF 全部放在同一个坐标系里看会非常清晰。 概率图模型统一结构图核心版概率图模型Probabilistic Graphical Models ──────────────────────────────────────────────────────────── ┌─────────────────────────┐ │ Graph Structure │ └─────────────────────────┘ │ ┌─────────────────────┼─────────────────────┐ │ │ ▼ ▼ Directed Graph (有向图) Undirected Graph (无向图) ────────────────────────── ────────────────────────── Bayesian Network (BN) Markov Random Field (MRF) ────────────────────── ────────────────────────── A → B → C A — B — C ↓ ╱ │ ╲ D D — E — F Factorization: Energy / Clique factorization: P(X) ∏ P(Xi | Pa(Xi)) P(X) (1/Z) ∏ ψ(Ck) │ │ │ │ ▼ ▼ Dynamic version Conditional version Markov Chain CRF (Conditional Random Field) ───────────── ─────────────────────────── x1 → x2 → x3 → x4 P(Y | X) P(x1:T) ∏ P(xt | xt-1) P(Y|X) (1/Z(X)) ∏ ψ(yi, yj, X) │ │ └──────────────┬──────────────────────────┘ │ ▼ SEQUENTIAL / TEMPORAL MODELS Hidden Markov Model (HMM) ────────────────────────── x1 → x2 → x3 → x4 ↓ ↓ ↓ z1 z2 z3 P(x,z) P(x1) ∏ P(xt|xt-1) ∏ P(zt|xt) │ ▼ INFERENCE / LEARNING METHODS ┌─────────────────────────────────────────────────────┐ │ Inference (推断)求隐变量 │ │ - Forward / Backward │ │ - Viterbi │ │ - Kalman / Particle Filter │ └─────────────────────────────────────────────────────┘ ┌─────────────────────────────────────────────────────┐ │ Learning (学习)求参数 │ │ - MLE (最大似然) │ │ - MAP (最大后验) │ │ - EM (含隐变量) │ └─────────────────────────────────────────────────────┘ 关键关系总结最重要三句话① 图的类型决定模型类别有向图 → Bayesian Network / Markov Chain 无向图 → MRF② 动态版本Markov Chain → HMM加观测 MRF → CRF加条件③ 三大核心任务Structure → 图长什么样G Learning → 参数是多少θ Inference → 隐变量是什么z 一张“终极统一理解图”Probabilistic World Modeling ────────────────────────────────────────────── (G, θ, z) │ ┌──────────┼──────────┐ │ │ │ Structure Learning Inference G θ z │ │ │ │ │ │ BN / MRF MLE / MAP Bayes / Filtering 一句话终极总结Markov Chain 是时间结构的概率模型MRF 是空间结构的概率模型Bayesian Network 是因果结构的概率模型而 HMM/CRF 是它们的动态扩展版本所有推断都依赖 Bayes所有学习都基于 MLE/MAP。Kalman Filter Bayes Markov GaussianParticle Filter Sampling version of BayesVAE / Diffusion latent Bayesian inference