第十三章　LLM 到底是什么

大多数关于大语言模型的讨论,都是从"它是怎么造出来的"开始的——Transformer 架构、注意力机制、参数规模、训练数据量。这些技术细节当然重要,但如果本书也从这里开始,就会偏离前面十二章一直在铺设的主线。 本书想问的,不是"LLM 在技术上是什么",而是:在 TΠO 这套认知框架里,LLM 究竟扮演着什么角色? 第五章早已说清楚,单纯存储大量观测(记忆)不等于学习。同样的区分,也应该被用来审视 LLM:如果只是把它理解为"一个记住了互联网上大量文本的巨型数据库",那既低估了它,也误解了它真正特殊的地方。 LLM 真正特殊之处,在于它训练过程中被迫学会的,是跨越极大规模、极多学科、极多表征方式的文本之间的结构关联——数学符号与自……