(资料图片)
在如下这个信道容量公式中,其前提是没有对输入端做任何约束,能达到这个容量的时候,输入端是连续的高斯分布:
但是,在实际系统中,我们用的都是离散的输入,即是经过调制之后的离散的数据,那么在这种情况下,其信道容量的上限是多少呢?不同的信噪比条件下,其信道容量的上限是多少呢?我们从信道容量的最基本公式出发,我们假定输入端的调制后的数据是等概率分布的,则信道容量就是:
根据基本的信息论知识,我们对公式 (2) 进一步推导有:
其中 H(X) 很容易计算:
所以,关键是计算 H(X|Y) 这个条件熵,根据信息论的基本知识有:
公式 (5) 可以用蒙特卡洛算法来计算这个积分,所以,关键是要计算出来 H(X|Y=y) 这个概率.
公式 (6) 中:
因为 x 是等概率分布的,所以,公式 (7) 中的 与 x 的具体取值无关,因此
所以,可以把 p(y|x) 对每个 x 计算出来,然后 归一化之后,就是 p(x|y) 的概率。
matlab 代码: