avatar
Articles
95
Tags
73
Categories
11
Home
archives
tags
categories
link
about
zepoch's site贝叶斯公式与贝叶斯估计
Home
archives
tags
categories
link
about

贝叶斯公式与贝叶斯估计

Created2025-08-22|Updated2025-08-22
|Word Count:0|Reading Time:1mins|Post Views:
Author: zepoch
Link: https://www.zepoch.cc/2025/1007513672.html
Copyright Notice: All articles on this blog are licensed under CC BY-NC-SA 4.0 unless otherwise stated.
cover of previous post
Previous
信息量-信息熵-交叉熵—KL散度
信息量 信息量被看作是用来度量事件发生时携带信息的多少,或描述事件消除不确定性程度的量。事件发生的概率越大,则事件发生的确定性越高,能带来的新信息越少,信息量越小。反之,事件发生的概率越小,信息量就越大。 1.信息量为正数,信息量与实践发生的概率相关,表征信息量的数学函数\(I(P)\),应当是一个单调递减函数。 2.P(事件)=0时,I(P(事件))=正无穷;P(事件)=1时,I(P(事件))=0; 3.多个独立事件联合发生的信息量,应当等于多个单独事件信息量的和,即: \[ I(P(事件1), P(事件2)) = I(P(事件1)) + I(P(事件2)) \] 举一个例子: \[ \begin{aligned} I(黑桃牌) &= I(P(黑色牌)*I(黑桃牌|黑色牌)) =...
cover of next post
Next
流模型与条件概率路径
1. 流模型和条件概率路径 流模型是一种生成模型,它通过一系列连续的变换将一个简单分布(如高斯分布)转换为一个复杂分布(如数据分布)。这些变换是可逆的,并且可以用常微分方程(ODE)来描述。 条件概率路径 $p_t(\cdot|z)$ 是一个在时间 $t$ 时给定数据点 $z$ 的概率分布。这个路径从初始分布 $p_{\text{init}}$ 开始,逐渐演变到数据分布 $p_{\text{data}}$。 2. 条件向量场 条件向量场 $u_t^{\text{target}}(x|z)$ 是一个向量场,它定义了在给定 $z$ 的条件下,随机变量 $X_t$ 如何随时间 ( t ) 演化。这个向量场满足以下ODE: $$ \frac{d}{dt}X_t = u_t^{\text{target}}(X_t|z) $$ 3. 高斯概率路径 对于高斯概率路径,我们有: $$ p_t(\cdot|z) = \mathcal{N}(\alpha_t z, \beta_t^2 I_d) $$ 其中 $\alpha_t$ 和 $\beta_t$ 是时间 $t$ 的函数,满足...

Comments
avatar
zepoch
A full-stack engineer who is improving every day
Articles
95
Tags
73
Categories
11
Follow Me
Announcement
Hello!
Recent Posts
流模型与条件概率路径2025-10-12
贝叶斯公式与贝叶斯估计2025-08-22
信息量-信息熵-交叉熵—KL散度2025-08-22
最大似然估计及其对损失函数的推导2025-08-21
单层VAE原理与置信下界2025-08-04
©2021 - 2025 By zepoch
Framework Hexo 7.3.0|Theme Butterfly 5.3.3