创意方程/公式 #3

复仇者_零

2025-08-22 18:50:10

发布于：浙江

8阅读

0回复

0点赞

多维随机过程的信息熵密度公式

$\mathcal{H}[\mathbf{X}(t)] = -\lim_{\epsilon \to 0} \int_{\mathbb{R}^n} p(\mathbf{x},t) \log_2\left[\frac{p(\mathbf{x},t)}{\prod_{i=1}^{n} \sqrt{2\pi e \sigma_i^2(t)}}\right] d\mathbf{x} + \sum_{k=1}^{\infty} \frac{(-1)^{k+1}}{k} \mathbb{E}\left[\left(\nabla \cdot \mathbf{J}_p\right)^k\right]$

其中：

$\mathbf{J}_p = -D(\mathbf{x},t)\nabla p(\mathbf{x},t) + \mathbf{v}(\mathbf{x},t)p(\mathbf{x},t)$

详细解释

这个公式描述了一个n维随机过程的信息熵密度，它考虑了系统的扩散和漂移特性。让我逐项解释：

主要组成部分：

$\mathcal{H}[\mathbf{X}(t)]$ - 时间t时刻的信息熵泛函
第一项（积分项）：
- $p(\mathbf{x},t)$ 是概率密度函数
- 对数项中的分母 $\prod_{i=1}^{n} \sqrt{2\pi e \sigma_i^2(t)}$ 是高斯分布的最大熵参考值
- 这项测量了实际分布与最大熵分布的相对熵
第二项（级数项）：
- 表示由于概率流 $\mathbf{J}_p$ 的散度引起的熵变化
- 使用了交替级数来捕捉高阶效应
概率流 $\mathbf{J}_p$ ：
- $D(\mathbf{x},t)$ 是扩散张量（描述随机运动）
- $\mathbf{v}(\mathbf{x},t)$ 是漂移速度场（描述确定性运动）
- $\nabla p$ 是概率密度的梯度