Articles
94
Tags
71
Categories
11
Home
archives
tags
categories
link
about
zepoch's site
贝叶斯公式与贝叶斯估计
Home
archives
tags
categories
link
about
贝叶斯公式与贝叶斯估计
Created
2025-08-22
|
Updated
2025-08-22
|
Word Count:
0
|
Reading Time:
1mins
|
Post Views:
Author:
zepoch
Link:
https://www.zepoch.cc/2025/1007513672.html
Copyright Notice:
All articles on this blog are licensed under
CC BY-NC-SA 4.0
unless otherwise stated.
Previous
信息量-信息熵-交叉熵—KL散度
信息量 信息量被看作是用来度量事件发生时携带信息的多少，或描述事件消除不确定性程度的量。事件发生的概率越大，则事件发生的确定性越高，能带来的新信息越少，信息量越小。反之，事件发生的概率越小，信息量就越大。 1.信息量为正数，信息量与实践发生的概率相关，表征信息量的数学函数\(I(P)\)，应当是一个单调递减函数。 2.P(事件)=0时，I(P(事件))=正无穷；P(事件)=1时，I(P(事件))=0； 3.多个独立事件联合发生的信息量，应当等于多个单独事件信息量的和，即： \[ I(P(事件1), P(事件2)) = I(P(事件1)) + I(P(事件2)) \] 举一个例子： \[ \begin{aligned} I(黑桃牌) &= I(P(黑色牌)*I(黑桃牌｜黑色牌)) =...
Comments
zepoch
A full-stack engineer who is improving every day
Articles
94
Tags
71
Categories
11
Follow Me
Announcement
Hello!
Recent Posts
贝叶斯公式与贝叶斯估计
2025-08-22
信息量-信息熵-交叉熵—KL散度
2025-08-22
最大似然估计及其对损失函数的推导
2025-08-21
单层VAE原理与置信下界
2025-08-04
时间真的越走越快吗
2025-06-14
