seegongsik
我的单词本
CM · 噪声与信息

信道容量与香农

无论编码多么巧妙,一个信道无误传输的比特率都有上限。学习香农的结论——这个上限只由带宽与 SNR 两者确定,以及如何在带宽与功率之间权衡。

这个信道能承载目标速率吗

调节 SNR。当容量曲线 C/B = log₂(1 + SNR) 升到虚线目标速率之上,该速率就能无误发送(金色);只要还在其下,任何编码都做不到(红色)。

信噪比 SNRSNR = 3.0 dB
用滑块扫过 SNR。容量随 SNR 的对数缓慢上升。
当前 SNR 的容量与目标
C/B = 1.58 < 4
容量不足

足够巧妙就能无限快吗

若噪声会翻转比特,可以把同一比特多发几次,或加上巧妙的编码来减少错误。那么只要编码足够精巧,是否任何噪声信道都能做到想多快多准就多快多准?1948 年香农的回答令人吃惊:不能——存在一个硬性上限。但在该上限之下,错误可被压到任意接近零。

香农公式

上限的值用一行写出:C = B log₂(1 + SNR)。这里 C 是每秒无误可发的最大比特数,B 是带宽,SNR 是信噪比。式中既没有调制方式,也没有编码种类。信道容量只由带宽与 SNR 两个数确定。速率 Rb 小于 C 时,合适的编码能任意可靠地传送;Rb 大于 C 时,任何方法都无法避免错误。

观察C = B log₂(1 + SNR)
容量只由带宽与 SNR 确定。
选择Rb ? C
只有在 C 之下才能任意可靠地传送。

权衡——带宽与功率

提升容量有两条路:拓宽带宽 B,或加大信号功率以提高 SNR。但两者作用不同。B 以线性方式置于公式之前,加倍则容量加倍;SNR 在对数之内,要多得 1 比特需把 SNR 大致加倍。功率很快收益递减,带宽则稳定回报。所以功率紧缺时拓宽频带,频带紧缺时倾注功率。即便带宽无限,每比特能量仍有一个无法逾越的下限。

填空η = C / ? = log₂(1 + SNR)
每赫兹效率为 log₂(1 + SNR)。
自己来B → 2B : C → ?
带宽加倍则容量加倍(SNR 不变)。

回到第一屏

SNR 低时容量曲线伏在目标速率之下,那速率是红色——任何编码都发不了。调高 SNR,曲线缓缓上升、越过目标、转为金色。因曲线是对数,每上一格都需越来越大的 SNR。信道容量要听懂的只有一件事:无误通信的绝对上限只由带宽与 SNR 刻在 C = B log₂(1 + SNR) 上——其下皆可能,其上皆不可能。

信道容量 C = B log₂(1 + SNR) 是一个信道在误差任意小的前提下可承载的最大比特率。它与调制或编码无关,只由带宽 B 与 SNR 确定。速率小于 C 时可用合适编码可靠传送,大于 C 时不可能。要提高容量就增大带宽(线性)或功率/SNR(对数),二者可互换

下一单元

香农承诺在 C 之下能把错误压到接近零,却没说怎么做。最后一单元就是这个怎么做:纠错编码。按固定规则给消息加上冗余比特,即便噪声翻转几个,接收机也能用这些冗余察觉偏差并改正。我们从一个奇偶校验位开始,看错误如何被检测与纠正。