Articles
95
Tags
73
Categories
11
Home
archives
tags
categories
link
about
zepoch's site
贝叶斯公式与贝叶斯估计
Home
archives
tags
categories
link
about
贝叶斯公式与贝叶斯估计
Created
2025-08-22
|
Updated
2025-08-22
|
Word Count:
0
|
Reading Time:
1mins
|
Post Views:
Author:
zepoch
Link:
https://www.zepoch.cc/2025/1007513672.html
Copyright Notice:
All articles on this blog are licensed under
CC BY-NC-SA 4.0
unless otherwise stated.
Previous
信息量-信息熵-交叉熵—KL散度
信息量 信息量被看作是用来度量事件发生时携带信息的多少,或描述事件消除不确定性程度的量。事件发生的概率越大,则事件发生的确定性越高,能带来的新信息越少,信息量越小。反之,事件发生的概率越小,信息量就越大。 1.信息量为正数,信息量与实践发生的概率相关,表征信息量的数学函数\(I(P)\),应当是一个单调递减函数。 2.P(事件)=0时,I(P(事件))=正无穷;P(事件)=1时,I(P(事件))=0; 3.多个独立事件联合发生的信息量,应当等于多个单独事件信息量的和,即: \[ I(P(事件1), P(事件2)) = I(P(事件1)) + I(P(事件2)) \] 举一个例子: \[ \begin{aligned} I(黑桃牌) &= I(P(黑色牌)*I(黑桃牌|黑色牌)) =...
Next
流模型与条件概率路径
1. 流模型和条件概率路径 流模型是一种生成模型,它通过一系列连续的变换将一个简单分布(如高斯分布)转换为一个复杂分布(如数据分布)。这些变换是可逆的,并且可以用常微分方程(ODE)来描述。 条件概率路径 $p_t(\cdot|z)$ 是一个在时间 $t$ 时给定数据点 $z$ 的概率分布。这个路径从初始分布 $p_{\text{init}}$ 开始,逐渐演变到数据分布 $p_{\text{data}}$。 2. 条件向量场 条件向量场 $u_t^{\text{target}}(x|z)$ 是一个向量场,它定义了在给定 $z$ 的条件下,随机变量 $X_t$ 如何随时间 ( t ) 演化。这个向量场满足以下ODE: $$ \frac{d}{dt}X_t = u_t^{\text{target}}(X_t|z) $$ 3. 高斯概率路径 对于高斯概率路径,我们有: $$ p_t(\cdot|z) = \mathcal{N}(\alpha_t z, \beta_t^2 I_d) $$ 其中 $\alpha_t$ 和 $\beta_t$ 是时间 $t$ 的函数,满足...
Comments
zepoch
A full-stack engineer who is improving every day
Articles
95
Tags
73
Categories
11
Follow Me
Announcement
Hello!
Recent Posts
流模型与条件概率路径
2025-10-12
贝叶斯公式与贝叶斯估计
2025-08-22
信息量-信息熵-交叉熵—KL散度
2025-08-22
最大似然估计及其对损失函数的推导
2025-08-21
单层VAE原理与置信下界
2025-08-04