第3章透镜的本性：映射，而非创造

3.1 眼镜的比喻

一副眼镜不会让远处的山凭空出现，它只是让本来就在那里的山变得清晰。

数学变换也是如此。它不产生新的信息，只重新组织已有的信息，把心灵读得懂的部分推到表面。 如果一枚透镜声称"发现"了原始数据里根本没有的东西，那我们要警惕，它更可能是在制造，而不是在揭示。

3.2 可逆的透镜与有损的透镜

变换可以粗略分成两类。

可逆的透镜：旋转、傅里叶变换、拉普拉斯变换（在适当条件下）。它们原则上不丢信息，你可以从变换域完整地回到原始域。比如傅里叶变换满足帕塞瓦尔（Parseval）关系：信号的总能量，在时间域与频率域里相等。

有损的透镜：降维、平均、取整、平滑。它们主动丢掉一部分信息，换取可读性。例如 PCA 只保留方差最大的几个方向，其余留在了路上。

但需要留意一个微妙之处：可逆并不意味着"什么都没变"。 傅里叶变换保留了全部信息，但"何时发生"被藏进了相位里，不再一目了然。信息还在，可读性却换了位置。这时"看见什么"与"看不见什么"，是同一枚透镜的两面。

（更细的分类，见 3.8.4。）

3.3 一枚透镜的三个属性

分析任何一枚透镜，都可以问三个问题：

属性	问题	例子：傅里叶变换	例子：自然对数
突出什么（基底）	用什么构件重新描述对象？	各种频率的正弦波	乘性的比例关系
保持什么（不变量）	变换前后什么不变？	总能量	比值（缩放不变）
丢掉什么（盲区）	什么变得难以读取？	局部的时间信息	零、符号、叠加结构

前两问对应换基，第三问对应截取（见 3.8.3）。本书第二部分的每一章，都会按这个框架来介绍一枚透镜。

3.4 基底：换透镜，本质上是换基底

同一个向量，可以用不同的坐标轴来描述。设想平面上一点，用"东、北"两个方向表示是 (3, 4)；用旋转 45 度之后的两个方向表示，坐标就变成了别的数，但点还是那个点。

更一般地，任何一种变换，都是选定一套新的"构件"（基底），再用它们重新表达对象。 傅里叶选的构件是正弦波，小波选的是局部化的小波形，特征分解选的是系统的本征向量，指数透镜选的是 \(e^{kt}\)。

好的基底，就是与问题结构相匹配的构件。用与对象同构的构件，描述会变得稀疏而清晰；用不匹配的，则是一团乱麻。

3.5 没有免费的午餐

透镜之间存在不可调和的权衡。最著名的一例是时间与频率：

一个信号在时间上定位得越准，在频率上就越模糊；反之亦然。

这并不是技术不够好，而是数学上的固有限制，可以理解为傅里叶分析里的"不确定性原理"（在信号处理中也称加博尔极限）。小波变换的意义，就是在两者之间做出一种折中：高频处时间分辨率高，低频处频率分辨率高。

一般性的教训是：每枚透镜的清晰，都是拿别的地方的模糊换来的。 世上没有万能的镜片。

3.6 "创造"的幻觉：透镜伪影

透镜最危险的一种失效，是让心灵看到不存在的东西：

对一段纯随机的噪声做傅里叶变换，样本频谱也会有起伏和"峰"，容易被误读成周期成分；
对没有真实结构的数据做 PCA，也总能给出"第一主成分"，并被赋予含义；
对非指数的数据取对数，在有限范围内也可能拟合出一条漂亮的直线。

这些不是透镜"错"了，而是它忠实地按自己的基底去描述数据。问题在于我们把"透镜给出的描述"，当成了"数据里存在的结构"。

因此，每一次变换之后，都应该补上一步检验：

检验	做法
显著性	与随机数据（打乱、模拟）比较，这个"结构"是否会自发出现？
稳健性	换一种参数、换一个子样本，它还在吗？
交叉验证	换一枚透镜，得到一致的图景吗？
回到原始域	变换域里的结论，能在原始数据里找到对应的证据吗？

3.7 本章要点

问题	答案
透镜做了什么	换基底，重新组织信息
透镜没做什么	没有凭空产生信息，也没有让世界改变
两类透镜	可逆（换基）、有损（截取）
分析框架	突出什么 · 保持什么 · 丢掉什么
Π 的分解	换基 + 截取（3.8）
最大的风险	透镜伪影：把描述当成结构

3.8 透镜与投影：Π 的两个成分

3.8.1 一次观看，做了两件事

回到 3.3 的三个问题：一枚透镜突出什么、保持什么、丢掉什么。前两问与第三问，其实来自两个不同的动作。

第一个动作是换基。 用一套新的构件重新描述对象：旋转坐标，拆成频率，换成本征方向。这一步不丢任何信息，只改变哪些结构容易被读到。

第二个动作是截取。 在新的表示里只保留一部分：留下前几个主成分，舍去高频，把小于阈值的值置零。信息的损失全部发生在这一步。

这两个动作合称 Π（投影）：

\[\Pi=P\circ L\]

其中 \(L\) 是换基，\(P\) 是截取，输出留在表征空间里。若想把结果换回原空间对照观察，则写作 \(L^{-1}PL\)。

成分	做什么	丢信息吗	回答哪一问
L（换基）	重新表示	不丢，可逆	突出什么、保持什么
P（截取）	保留一部分，舍去其余	丢，有"核"	丢掉什么

两个极端都是特例：\(P\) 取恒等时，Π 是纯换基（完整的旋转、完整的傅里叶变换）；\(L\) 取恒等时，Π 是纯截取（取平均、取整、阈值化）。大多数真实的观看方式两者兼有。

3.8.2 一个可以手算的例子

平面上有四个点，均值已为零：

\[A=(2,1),\quad B=(1,2),\quad C=(-1,-2),\quad D=(-2,-1)\]

协方差矩阵为

\[\begin{pmatrix}2.5&2\\2&2.5\end{pmatrix}\]

特征值是 4.5（方向 \((1,1)/\sqrt2\)）与 0.5（方向 \((1,-1)/\sqrt2\)）。

第一步，换基 L：旋转 45°。 新坐标 \(u=\dfrac{x+y}{\sqrt2}\)，\(v=\dfrac{x-y}{\sqrt2}\)：

点	原坐标 (x, y)	新坐标 (u, v)
A	(2, 1)	(2.121, 0.707)
B	(1, 2)	(2.121, −0.707)
C	(−1, −2)	(−2.121, 0.707)
D	(−2, −1)	(−2.121, −0.707)

此时什么都没丢：点与点的距离不变，总方差仍为 4.5+0.5=5。但结构变得可读了：方差集中在 \(u\) 方向（占 90%），\(v\) 方向只是小幅摆动。

第二步，截取 P：只保留 \(u\)，令 \(v=0\)。 换回原空间后：

点	原坐标	Π 之后
A	(2, 1)	(1.5, 1.5)
B	(1, 2)	(1.5, 1.5)
C	(−1, −2)	(−1.5, −1.5)
D	(−2, −1)	(−1.5, −1.5)

合起来，换回原空间的 Π 是

\[L^{-1}PL=\frac12\begin{pmatrix}1&1\\1&1\end{pmatrix}\]

可以验证它的平方等于它自己：再投影一次，结果不变。这正是严格投影的判据。

这个例子里有四件事值得留意：

丢了什么：A 与 B 现在无法区分，"点在对角线的哪一侧"这条信息消失了。沿 \((1,-1)\) 方向的差异，全部进了核。
保留了什么：90% 的方差，以及沿对角线的位置。
换基本身无害：只有加上截取，才有信息损失。
截取需要先验：我们把 \(v\) 当作"次要"的部分舍去，依据是它的方差小。但方差小不等于不重要。假如 \(v\) 恰好编码了"点属于哪一类"，Π 丢掉的就是最关键的信息。核里的东西是否可以丢，不是数学能回答的问题，需要外部的判断。

3.8.3 三个问题，对应到成分

3.3 的三问	对应成分	例：PCA
突出什么	L 的基底	主轴方向
保持什么	L 的不变量，以及 P 之后仍保留的部分	换基时的距离；前 \(m\) 个方向上的方差
丢掉什么	P 的核	被舍弃的方向

3.8.4 一张分类图

Π：投影（广义）
├─ 纯换基（P = 恒等）：可逆，无核
│    旋转、完整的傅里叶变换、正实数上的 ln
├─ 换基 + 截取，且幂等：严格投影，有核
│    PCA 截断、傅里叶低通、正交投影
└─ 有损但不幂等
     平滑、求导、带定义域限制的 ln

同一个名字在不同用法里可能属于不同类：自然对数在正实数上是同构，丢弃零与负数后就带了核，换成 \(\ln(1+x)\) 则是另一枚透镜。

3.8.5 两个推论

（一）测量也是一个 Π。 选量纲与坐标是换基，采样与量化是截取，混叠就发生在截取这一步。因此第2章的"两次投影"，是两个 Π 的复合：

\[T\xrightarrow{\ \Pi_1\ }O_0\xrightarrow{\ \Pi_2\ }O_1\]

（二）重建的难点全在核里。 L 可逆，还原总是安全的。从 \(O\) 回到 \(T\) 能做到多少，取决于 P 丢了什么。核里的信息无法恢复，只能靠先验补上。所以逆向重建本身也是一个需要声明先验的 Π。

3.8.6 术语约定

术语约定。 本书用 Π 表示从对象到表征的一步投影（广义），"透镜"是它的通俗名称。任何一次投影，都可分解为两个动作：换基（可逆，决定怎么看）与截取（有损，决定看哪些），写作 \(\Pi=P\circ L\)。截取满足 \(P^2=P\) 时，称为严格投影。使用 Π 时，必须交代它的像（突出什么）、不变量（保持什么）与核（丢掉什么）。这一分解在线性情形下严格成立，对非线性映射只作类比。

3.8.7 本节要点

问题	答案
Π 由什么组成	换基 L + 截取 P
谁丢信息	只有 P
纯换基	可逆，只改变可读性
核里的东西	无法恢复，需要先验
严格投影的判据	\(P^2=P\)
适用范围	线性情形严格；非线性作类比

第一部分后记：在第二部分开始之前

三章走下来，我们得到了三块地基：

一、心灵有边界，边界是"表示"的问题。 所以我们需要换一种方式去看，而不是怪世界太复杂。

二、我们与世界隔着三层。 物、观测、表征。认知上的错误，大多发生在层与层的滑动之中。

三、透镜是映射，不是创造。 每一枚透镜都有它突出的东西、保持的东西，以及丢掉的东西。清晰与模糊，是同一枚透镜的两面。

带着这些，我们可以打开第二部分，认识一副副具体的镜片。每一章会沿用相同的结构：

数理简述 → 透镜如何工作 → 心灵获得什么新视野 → 案例 → 透镜代价

阅读时，请始终记着下面这个问题：

我现在戴的是哪一枚透镜？换一枚，会看见什么？又会丢掉什么？