第六章 反向推导：从答案反推结构

1948年的那篇论文，如果你从头读到尾，会发现一个奇怪的现象。 香农在前半部分花了大量篇幅定义熵、推导熵的性质、证明熵的唯一性——所有这些都是"正向"的：从假设出发，推导结论。 但当他走到论文最核心的部分——信道容量公式 \( C = B \log2(1+S/N) \)——他突然换了一种方法。 他没有从已知的物理定律出发去推导这个公式。 他是先假设一个理想的通信系统存在，然后问：如果这个系统存在，它必须具备什么性质？ 他的推理链条是这样的： 假设： 存在一个通信系统，能够在给定的信道上以任意低的错误率传输信息。 追问： 这个系统能传输的最大速率是多少？ 反推： 为了达到任意低的错误率，每个传输的符号必须携带足够的信息，使得接收端能够……