Articles
97
Tags
75
Categories
13
Home
archives
tags
categories
link
about
zepoch's site
贝叶斯公式与贝叶斯估计
Home
archives
tags
categories
link
about
贝叶斯公式与贝叶斯估计
Created
2025-08-22
|
Updated
2025-08-22
|
Word Count:
0
|
Reading Time:
1mins
|
Post Views:
Author:
zepoch
Link:
https://www.zepoch.cc/2025/1007513672.html
Copyright Notice:
All articles on this blog are licensed under
CC BY-NC-SA 4.0
unless otherwise stated.
Previous
信息量-信息熵-交叉熵—KL散度
信息量 信息量被看作是用来度量事件发生时携带信息的多少,或描述事件消除不确定性程度的量。事件发生的概率越大,则事件发生的确定性越高,能带来的新信息越少,信息量越小。反之,事件发生的概率越小,信息量就越大。 1.信息量为正数,信息量与实践发生的概率相关,表征信息量的数学函数\(I(P)\),应当是一个单调递减函数。 2.P(事件)=0时,I(P(事件))=正无穷;P(事件)=1时,I(P(事件))=0; 3.多个独立事件联合发生的信息量,应当等于多个单独事件信息量的和,即: \[ I(P(事件1), P(事件2)) = I(P(事件1)) + I(P(事件2)) \] 举一个例子: \[ \begin{aligned} I(黑桃牌) &= I(P(黑色牌)*I(黑桃牌|黑色牌)) =...
Next
流模型与条件概率路径
1. 流模型和条件概率路径 流模型是一种生成模型,它通过一系列连续的变换将一个简单分布(如高斯分布)转换为一个复杂分布(如数据分布)。这些变换是可逆的,并且可以用常微分方程(ODE)来描述。 条件概率路径 \(p_t(\cdot|z)\) 是一个在时间 \(t\) 时给定数据点 \(z\) 的概率分布。这个路径从初始分布 \(p_{\text{init}}\) 开始,逐渐演变到数据分布 \(p_{\text{data}}\)。 2. 条件向量场 条件向量场 \(u_t^{\text{target}}(x|z)\) 是一个向量场,它定义了在给定 \(z\) 的条件下,随机变量 \(X_t\) 如何随时间 ( t ) 演化。这个向量场满足以下ODE: \[ \frac{d}{dt}X_t = u_t^{\text{target}}(X_t|z) \] 3. 高斯概率路径 对于高斯概率路径,我们有: \[ p_t(\cdot|z) = \mathcal{N}(\alpha_t z, \beta_t^2 I_d) \] 其中 \(\alpha_t\) 和 \(\beta_t\) 是时间...
Comments
zepoch
A full-stack engineer who is improving every day
Articles
97
Tags
75
Categories
13
Follow Me
Announcement
Hello!
Recent Posts
医院数据是金矿吗
2025-12-08
中国互联网大厂大模型求职指南
2025-12-04
流模型与条件概率路径
2025-10-12
贝叶斯公式与贝叶斯估计
2025-08-22
信息量-信息熵-交叉熵—KL散度
2025-08-22