ocgOpen Cognitive Graph · CDC v2.1

方法与书籍/书籍/whose-math

数学是谁的权利?

排序、预测、优化、幻觉:使用什么数学是人为选择,不是不可违抗的自然律。

语言 · 中文Whose Right Is Mathematics?

--- 使用什么数学是人为选择,不是可不违抗的的自然律!


第一章 排序即权力

搜索引擎如何用矩阵构建了信息帝国


在互联网诞生之初,人类面临一个前所未有的问题:信息太多,多到无法导航。

1990年代中期,全球网页数量以每年数百倍的速度膨胀。图书馆的分类逻辑失效了,人工编辑的目录跟不上,早期搜索引擎只能做关键词匹配——你搜索"癌症治疗",它返回所有包含这两个词的页面,却无法告诉你哪个可信,哪个是骗局。

这是一个真实的危机。信息的民主化,正在演变成信息的混沌化。

解决这个问题的,是一个数学工具。


一、矩阵的逻辑:关系即权重,权重即秩序

1998年,斯坦福大学两名博士生提出了一种新的排序算法。其核心思想来自线性代数中的矩阵运算:如果一个网页被大量其他网页链接,它的重要性就更高;如果链接它的网页本身也很重要,它的重要性就再次被放大。

这个算法把整个互联网抽象成一个巨型矩阵——行和列都是网页,矩阵中的数值是它们之间的链接关系。通过反复迭代运算,每个网页最终获得一个权重分数,代表它在整个互联网信息网络中的相对重要性。

这套逻辑在数学上是优雅的。它不需要人工判断,不需要主观评价,只需要关系结构本身。矩阵会自动收敛,给出一个客观的、可重复的排序结果。

这个算法叫做PageRank。发明它的两个人,叫拉里·佩奇和谢尔盖·布林。他们后来创立了谷歌。


矩阵排序解决了混沌问题。它为人类构建了第一套可扩展的信息导航体系,让数十亿人能够在亿万网页中找到相关内容。这是一项真实的、深刻的技术进步,其历史意义不应被低估。

但这套数学逻辑有一个结构性特征,在它诞生之初就已存在,后来被反复证明是致命的——

矩阵只认权重,不认价值。

所谓"重要",在矩阵的世界里,意味着"被更多重要页面指向"。这是一个循环定义,也是一个价值中立的定义。矩阵不知道什么是真相,不知道什么是善意,不知道什么是对生命负责任的信息。它只知道:这个节点在关系网络中的权重是多少。

这不是缺陷。这是数学的本质属性——精确、高效、彻底中立。

问题在于,当这套中立的数学工具被部署为人类社会的信息基础设施时,它的中立性本身就变成了一种结构性风险。


二、商业的楔入:权重可以被购买

搜索引擎的商业化发生在一个几乎悄无声息的时刻。

在核心排序逻辑之外,平台引入了一套并行机制:广告主可以通过竞价,让自己的页面出现在搜索结果的显著位置。出价越高,曝光越优先。

矩阵的数学逻辑没有改变。PageRank依然在计算有机排名。但搜索结果页面上,另一套逻辑正在运行——不是基于信息的网络权重,而是基于金钱的出价权重。

两套逻辑叠加在同一个界面上,但对用户而言,这个界面呈现为统一的、权威的搜索结果。

这是一个关键的结构性变化。它没有破坏数学——数学依然在运行。它改变的是数学被部署的语境:一个原本用来测量信息重要性的工具,被改造成了一个可以被资本操作的排序机器。

而普通用户并不知道这一点。他们相信,搜索引擎的首页结果代表的是信息质量,而不是出价高低。

这种认知偏差,不需要任何人主动制造。它是结构的自然产物。


三、魏则西事件:当数学遇上人的决策

2016年,中国一名21岁的大学生魏则西被确诊为滑膜肉瘤,一种罕见的恶性肿瘤。他在搜索引擎上检索治疗方案,点击了排名靠前的一家医院广告,接受了一种被宣传为有效的免疫疗法。治疗花费数十万元,没有任何效果。他于同年去世。

事件曝光后,调查发现,这家医院的广告之所以出现在搜索结果前列,是因为它支付了高额的竞价费用。这一行为符合平台规则,也符合矩阵的运算逻辑——出价权重足够高,排名就足够靠前。

没有人下令让这条广告出现在那里以伤害一个年轻人。没有工程师修改了代码来专门针对癌症患者。有的只是一套中立运行的数学逻辑,和一个没有设置医疗内容边界的商业决策。

这是理解本书核心论点的第一个入口:

数学的结构性漏洞不会自动造成伤害。造成伤害的,是人类在部署数学时所做的选择——以及他们选择不做的事情。

矩阵不知道医疗信息和餐厅推荐有什么区别。不知道,是因为没有人把这个区别写进它的目标函数。这是一个人的选择,不是一个数学的失误。


四、不可见的结构:为什么普通人无法感知

魏则西事件引发了广泛的公众愤怒。但在愤怒之下,有一个更深层的问题几乎没有被触及:

为什么数十亿用户,会把一个商业排序系统的输出,等同于客观的信息权威?

这不是因为人们愚蠢。这是因为信息基础设施的权威性是隐性的、结构性的。

当你打开一本教科书,书的出版机构、作者资质、同行审核机制,给了它权威性。这个权威性是可见的,可追溯的,可质疑的。

当你打开搜索引擎,你看到的是一个整洁的界面,一排蓝色的链接,一个暗示着客观排序的视觉语言。没有人告诉你,这个排序是商业出价和算法权重的混合产物。界面的设计本身,就在生产一种"中立权威"的认知效果。

而普通用户没有工具,也没有必要的数学素养,来穿透这层界面,看见背后的机制。

这是数学权力与传统权力的一个根本性差异:

传统权力的边界是可见的。你知道政府在哪里,媒体在哪里,广告在哪里。即便你不同意,你至少知道它的存在和来源。

数学权力的边界是隐形的。它嵌入在你每天使用的工具里,以中立、客观、高效的面貌运行,没有面孔,没有地址,没有可以追问的主体。


五、排序的政治:谁的信息被看见

魏则西事件提供的,是一个极端的、有人员伤亡的案例。但排序权力的日常运作,比这个案例广泛得多,也更难被察觉。

每一天,数十亿次的搜索查询正在发生。每一次查询,都有一个排序结果被展示,有一部分信息被看见,有更大一部分信息被排在第三页或更后——一个在统计数据上相当于不存在的位置。

这个筛选机制决定了:哪些声音能够进入公共讨论,哪些企业能够获得流量和商业机会,哪些观点能够接触到寻求信息的用户,哪些医疗方案、教育资源、政策讨论能够被公民看见。

这不是中立的信息分发。这是一套有结构偏向的权力机制,运行在"技术工具"的外壳之下。

政策制定者在讨论"信息监管"时,通常从内容的角度介入——什么内容应该被禁止,什么内容应该被标注。这是一种必要的但不充分的视角。

真正的权力不在内容层,在排序层。控制了排序,就控制了什么内容能够被看见。而排序机制——那个矩阵,那个目标函数,那个商业权重与算法权重的叠加逻辑——通常不在任何监管框架的覆盖范围之内。


小结

本章的核心观察可以被压缩为三个命题:

第一,矩阵排序是人类迄今为止构建的最有效的信息组织工具之一,它解决了真实的问题,创造了真实的价值。

第二,同一套数学逻辑,因为被部署在一个没有价值边界的商业环境中,成为了可以被资本操作的权力机制。这不是数学的失误,是人类选择的结果。

第三,这套机制对普通公民和政策制定者而言是不透明的。它的权威性是隐性的,它的偏向是结构性的,它的影响是系统性的。

这是第一扇被悄悄关上的门。

在接下来的章节中,我们将看到,同样的模式——中立的数学,无约束的部署,不可见的权力结构——如何在预测、优化、生成、测量等不同领域反复出现,并以不同的面貌,塑造了我们今天生活的世界。


__

第二章 预测即统治

========= 概率机器如何学会比你更了解你自己



人类长期以来有一个朴素的假设:我知道自己想要什么。

这个假设是现代社会大多数制度的基础。市场经济假设消费者能够理性表达偏好;民主制度假设公民能够依据自身利益做出判断;心理咨询假设个体能够通过自我反思理解自己的动机。

这些制度运行了数百年。它们的前提——自我认知的可靠性——从未被系统性地挑战过。

直到概率机器出现。


一、概率的本质:不确定性的数学化

在统计学意义上,预测是对不确定性的量化处理。给定已知信息,计算某个事件发生的概率。

这套逻辑古老而严谨。保险精算师用它计算风险,气象学家用它预报天气,医学研究者用它评估药物疗效。概率论从未声称能够消除不确定性,它只是给不确定性赋予了可操作的数值结构。

二十世纪末,一件事情改变了概率预测的应用边界:数据规模的爆炸式增长。

当可用于训练预测模型的行为数据从数千条增长到数十亿条,一个阈值被悄悄跨越了。预测的准确率开始超过人类的自我报告。

不是在所有领域。不是在复杂的哲学问题上。而是在一些具体的、可测量的行为上——你接下来会点击什么,你会在哪条内容上停留超过三秒,你在什么情绪状态下更容易做出购买决定,你属于哪个政治倾向的群体。

这些预测的准确率,系统性地高于你对自己行为的预测。


二、行为剩余:你使用产品,产品使用你

每一次点击、每一次停留、每一次滑动,都在生成数据。这些数据不仅被用来提供服务——它们被用来建立一个关于你的预测模型。

这个模型不是你。它是你行为模式的数学抽象。它不知道你的名字,不理解你的经历,不关心你的感受。它只知道:在特定的特征组合下,拥有与你相似行为历史的用户,接下来有67%的概率会点击这类内容,有43%的概率会在此类情绪触发下延长使用时长。

这个模型被用来决定,你下一次打开应用时看到的是什么。

这里有一个值得精确描述的机制:平台并不是在满足你已有的偏好,它在预测并强化能够延长你使用时长的偏好。两件事听起来相似,实质上截然不同。

前者是服务逻辑:你喜欢什么,我给你什么。后者是优化逻辑:什么能让你停留更久,我就塑造你喜欢什么。

当这两套逻辑叠加运行足够长的时间,一个后果开始显现:你的偏好,与平台预测模型的输出,越来越难以区分。


三、2012年的一个实验

这一年,一家零售企业的数据分析部门发现,他们可以通过购物记录,在孕妇本人意识到自己怀孕之前,以相当高的准确率预测她是否已经怀孕。

预测模型使用的特征包括:无香味乳液的购买,某些营养补充剂的购买,以及消费模式的特定变化组合。这些信号单独看微不足道,但在足够大的历史数据中,它们的共现模式具有统计意义。

这个案例在媒体上引发了广泛报道,通常被作为"大数据侵犯隐私"的例证加以讨论。

但更值得关注的不是隐私问题,而是认识论问题:

一个对你毫无了解的数学模型,仅凭你的购物记录,就能知道一件你自己尚未知晓的关于自身的事实。

这意味着什么?

它意味着"自我认知"并不总是自我认知的最准确来源。在某些可测量的维度上,行为数据所揭示的模式,比个体的主观自述更能预测其未来行为。


四、当预测模型比你更了解你

2018年,剑桥分析公司事件进入公众视野。这家公司通过一款第三方应用,获取了约八千七百万名Facebook用户的心理特征数据,并基于这些数据,向特定用户群体定向推送政治广告。

事件的讨论焦点迅速集中在数据获取的合规性上。这是一个合理的法律问题,但它遮蔽了一个更根本的技术问题:

这套系统之所以有效,不是因为它知道了什么秘密,而是因为它的预测准确到足以改变行为。

剑桥分析使用的心理模型,基于一个学术上已有充分研究的人格框架,将用户分类,并依据其心理特征预测其在特定信息刺激下的反应方向。

广告不是在说服所有人相信同一件事。它是在向不同心理特征的用户,推送对其而言最有概率产生特定反应的信息版本。

这不是宣传的旧逻辑——向所有人重复同一个信息直到他们相信。这是预测的新逻辑——预测每个个体的认知路径,并沿着那条路径推送定制化刺激。

这两种逻辑的政治含义截然不同。旧宣传可以被识别、被反驳、被集体免疫。新预测是个体化的、隐形的,它在你意识到自己正在被影响之前就已经完成了影响。


五、自我认知的侵蚀

这里有一个在政策讨论中几乎完全缺席的深层问题。

当一个外部系统对你的行为预测持续准确,并持续基于这些预测向你推送内容,一个反馈回路形成了:系统预测你的偏好,根据预测投喂内容,你的偏好因投喂而强化,强化后的偏好提高了系统的预测准确率,准确率的提升使系统的投喂更加精准。

在这个回路里,没有任何一个节点存在主观恶意。每个节点都在按照它的逻辑高效运行。但回路的整体效果是:你的认知边界,正在被一个关于你的数学模型所塑造。

这产生了一个认识论上的困难:

如果你今天的偏好,已经是这个回路运行数年的输出,你是否还能区分,哪些是你"原本"的偏好,哪些是系统塑造的偏好?

这个问题没有简单的答案。甚至没有方法论上的清晰路径。

但政策层面的意义是清楚的:当一个社会的多数成员的认知偏好,都在被少数几个具有相同目标函数的平台所塑造,"民意"这个概念的内涵就发生了根本性的变化。


六、预测权力的不对称

传统意义上的权力不对称,体现在资源、武力、法律地位的差异上。这些不对称是可见的,因此原则上是可以被制度调节的。

预测权力制造的不对称,有不同的结构。

持有预测模型的一方,拥有关于你行为的大量前瞻性信息。而你,对这个模型的存在、构造、运行方式,通常一无所知。

这不是普通的信息不对称。信息不对称意味着一方知道某个事实而另一方不知道。预测权力的不对称是:一方持有一个关于你自己的模型,其预测能力超过你对自身的认知,而你既无法访问这个模型,也无法修正它,更无法选择退出它对你的塑造。

这种结构,在人类社会以往的权力形态中没有对应物。它不是监控,因为监控只是观察,不干预。它不是宣传,因为宣传是广播式的,不是个体化的。它更接近于一种持续运行的、个体化的认知环境管理。

而管理这个环境的,是一套没有意志、没有目的、只有目标函数的数学机制。


小结

本章记录的,是数学预测能力与人类自我认知之间的一次权力转移。

这个转移没有宣言,没有仪式,没有明确的时间节点。它发生在数据规模跨越某个阈值的那个时刻,发生在预测准确率超过自我报告的那个时刻,发生在反馈回路开始塑造偏好的那个时刻。

它现在仍在发生。

对政策制定者而言,这提出了一个现有治理框架尚未处理的问题:

当一个系统对公民行为的预测能力,系统性地超过公民的自我认知,以"个人选择"和"自由意志"为基础的社会契约,其有效性边界在哪里?

这个问题不是修辞。它需要回答。


__

第三章 优化即神话

========= 当最优解成为目标本身,人类优化了什么



"最优"是一个听起来无可辩驳的词。

没有人会公开主张次优。没有制度会宣称自己在追求低效。"优化"作为一种价值取向,已经深度嵌入现代社会对进步的理解之中——更快、更准、更少浪费、更高产出。

这种直觉在工程领域是合理的。桥梁的承重结构可以被优化,燃料的燃烧效率可以被优化,物流路线可以被优化。在这些领域,目标是清晰的,约束条件是物理性的,"最优"有确定的含义。

但当同样的数学逻辑被应用于人类系统——劳动、决策、教育、医疗、社会关系——一个根本性的问题浮现了:

最优,对谁而言?按照什么标准?在什么时间尺度上?

这三个问题,在大多数情况下,没有被问出口。


一、优化的数学逻辑

在数学上,优化问题有清晰的结构:给定一个目标函数,在满足约束条件的前提下,找到使目标函数取得极值的参数组合。

这个结构的关键在于目标函数的定义。目标函数决定了什么叫"好",什么叫"更好",什么叫"最好"。没有目标函数,优化无法启动。

在工程问题中,目标函数通常来自物理现实:最小化燃料消耗,最大化结构强度,最短化运输时间。这些目标有客观的测量基础。

但在人类系统中,我们真正关心的目标——公平、尊严、意义、长期福祉——往往难以量化,或者根本无法被一个单一数值所捕捉。

于是出现了一个普遍的替代操作:用可以量化的代理指标,替代真正关心的目标。

用测试分数代理学习质量。用点击率代理内容价值。用响应时间代理服务质量。用利润率代理企业健康度。

这个替代操作在工程上是必要的。但它带来了一个在复杂系统中反复出现的结构性风险:

当代理指标被持续优化,系统会找到所有能提高代理指标而不改善真实目标的路径。


二、骑手与算法:一个优化系统的内部逻辑

外卖平台的派单系统,是优化算法在人类劳动领域应用的典型案例。

系统的目标函数,在技术层面,通常以订单完成率、配送时效、用户评分等可测量指标的加权组合来表达。算法在每一个时间节点,基于骑手位置、订单分布、历史绩效数据,计算出最优派单方案。

这套系统在自己的目标函数上表现出色。它的配送效率持续提升,用户等待时间持续缩短,平台可以用更少的固定成本处理更大的订单量。

但这套系统的目标函数里,有一些东西不存在。

骑手的认知负荷不在目标函数里。连续高强度决策所造成的疲劳不在目标函数里。交通违规风险不在目标函数里。收入波动对家庭财务稳定性的影响不在目标函数里。骑手对工作是否具有可预期性和掌控感,不在目标函数里。

这些不存在,不是因为它们不重要,而是因为它们难以量化,或者量化之后不影响平台的核心指标。

算法不是在剥削骑手。算法没有意图。它只是在精确地优化它被要求优化的东西,对目标函数之外的一切保持完美的漠然。

这里有一个重要的区分:

旧的劳动剥削,是雇主有意识地压低工资、延长工时。这种剥削是可见的,因此是可以被法律和集体谈判所对抗的。

新的优化提取,没有雇主在做有意识的决定。有的只是一个目标函数,一套在这个目标函数下持续迭代的算法,和一个在这个算法优化压力下持续变形的人类劳动环境。

这种提取的主体是模糊的。责任的归属是分散的。对抗它所需要的工具,现有的劳动法律框架尚未发展出来。


三、金融市场:当优化速度超过人类的感知尺度

高频交易是优化逻辑在金融市场的极端形态。

高频交易系统在毫秒乃至微秒的时间尺度上运行,通过识别市场中的微小价格差异,执行大量快速交易。系统的目标函数是利润最大化,约束条件是风险管理规则和监管合规要求。

在这个尺度上,人类交易员不再具有参与能力。市场的价格发现机制,已经在很大程度上转移至算法之间的竞争。

这带来了一个结构性变化,其政策含义至今没有被充分讨论:

金融市场的传统功能,是为资本配置提供价格信号,并通过人类参与者的判断,将公司基本面信息反映在价格中。这个功能的有效性,依赖于参与者能够在合理的时间尺度上处理信息并做出判断。

当市场的主要参与者是以毫秒为单位运行的优化算法,且这些算法的目标函数是短期价格差异而非长期价值判断,市场的价格发现功能发生了什么?

这个问题没有确定的答案。但它指向一个更宽泛的模式:

当优化系统在人类感知边界之外运行,人类对其运行结果的解释权和干预能力,就已经结构性地削弱了。不是因为系统对人类隐瞒了什么,而是因为系统运行的时间尺度和复杂度,超出了人类实时认知的范围。


四、古德哈特定律的系统性后果

1975年,英国经济学家查尔斯·古德哈特在讨论货币政策时提出了一个观察:当一个测量指标变成了政策目标,它就不再是一个好的测量指标。

这个观察后来被概括为古德哈特定律,在多个学科领域被反复验证。

其机制是清晰的:当一个代理指标成为优化目标,系统内的参与者会找到所有能提升该指标的路径,包括那些与原始目标无关甚至相悖的路径。

医院的死亡率是医疗质量的代理指标。当死亡率成为考核目标,医院开始拒收高风险患者——死亡率指标改善了,医疗可及性恶化了。

学生的考试成绩是学习质量的代理指标。当分数成为教育系统的优化目标,教学资源向考试技巧集中——分数分布改变了,学习能力的培养被挤压了。

平台的日活跃用户数是产品价值的代理指标。当日活成为增长目标,产品设计向制造使用习惯集中——用户数增长了,用户从产品中获得的实际价值不一定增长了。

古德哈特定律揭示的,不是人的道德失败,而是优化逻辑与复杂现实之间的结构性张力。现实是多维的,优化是单维的。当多维现实被单维指标代理,并被强力优化,现实会沿着指标的方向变形,同时在指标看不见的维度上付出代价。


五、目标函数是一个政治问题

回到本章开头的三个问题:最优,对谁而言,按照什么标准,在什么时间尺度上?

这三个问题的答案,决定了目标函数的构造。而目标函数的构造,决定了优化系统的全部行为。

在技术文献中,目标函数的设计通常被处理为工程问题——如何更准确地捕捉我们想要的结果,如何平衡多个相互竞争的指标。

但目标函数的设计从来不只是工程问题。它是一个价值分配问题。

谁的利益被纳入目标函数,谁的利益就会在优化过程中被自动照顾。谁的利益没有被纳入,谁就成为优化系统的外部性承担者——不是被主动伤害,而是被系统性地忽略。

外卖骑手的尊严没有被纳入派单系统的目标函数。不是因为平台认为骑手的尊严不重要,而是因为尊严无法被量化为一个可以被最优化的数值。

金融市场中小投资者的长期利益没有被纳入高频交易系统的目标函数。不是因为高频交易公司认为小投资者不重要,而是因为他人的长期利益不在系统被要求优化的范围内。

青少年的心理健康没有被纳入社交平台的推荐算法目标函数——或者更准确地说,即使被部分纳入,其权重也无法与参与时长指标相竞争,因为参与时长可以直接转化为广告收入,而心理健康的改善无法。

这不是冷漠,这是结构。


六、优化的不可见代价

优化系统产生的代价,通常不出现在优化系统的账本上。

这在经济学上有对应的概念:外部性。工厂的污染是生产成本的外部性,由周边社区承担。优化系统的社会代价,是平台运营成本的外部性,由用户、劳动者和更广泛的社会结构承担。

但优化系统的外部性,比工业污染更难以测量和归因。

工厂排放的污染物是可以被化学分析的。优化系统输出的是行为塑造、认知环境管理、劳动条件压缩——这些影响弥散在社会系统中,其因果链条复杂,难以被标准的政策工具所捕捉。

这就是为什么,当一个社会试图对优化系统进行监管时,它面对的困难不只是政治阻力,还有一个根本性的认知困难:

如何测量一个你选择不测量的东西所造成的损失?

这个问题,正在成为数字时代治理的核心难题之一。


小结

本章的核心论点是:优化不是中性的技术过程。它是目标函数选择的政治结果的数学放大。

选择什么进入目标函数,选择什么不进入,选择什么时间尺度,选择谁的利益作为约束条件——这些选择在技术实现之前就已经做出,通常在公众视野之外做出,有时甚至在决策者的意识层面之外做出,因为它们被嵌入在系统设计的默认假设里。

当优化系统大规模部署,这些早期选择的影响就被放大到社会规模。

这是第三扇被悄悄关上的门。

它关闭的,是这样一种可能性:在一个被广泛优化的社会中,我们能够清楚地知道,我们究竟在为谁、为什么、优化着什么。



第四章 幻觉即“现实”

当模型开始表演判断力,认知让渡从哪里开始


前三章描述的数学权力,有一个共同特征:它们作用于外部世界。排序决定你看见什么,预测决定你接触什么,优化决定你的劳动和选择被如何处理。

这些机制影响深远,但它们与一个边界尚未被跨越:它们处理的是关于你的数据,而不是你用来理解世界的认知装置本身。

语言模型跨越了这个边界。

它不只是向你呈现信息。它用你熟悉的语言,以你信任的方式,替你完成判断。而这个过程,被大多数用户体验为一种罕见的、令人愉悦的感觉——

被真正理解了。


一、两种幻觉

在公众讨论中,语言模型的"幻觉"通常指一种具体现象:模型生成听起来合理但事实错误的陈述。历史日期张冠李戴,虚构论文被严肃引用,不存在的法律条款被一本正经地援引。

这类幻觉是可识别的。用户可以核实,可以纠正,可以通过习惯的养成加以防范。它令人烦恼,但它是透明的——错误暴露出来,幻觉的性质就被揭示了。

本章关注的是第二种幻觉。它不发生在事实层面,发生在认知层面。它不是关于世界的错误陈述,而是关于判断力本身的模拟表演。

这种幻觉在被识别之前,不会以任何方式显示自己是幻觉。


二、表演独立性的语言

现代语言模型的训练,不仅包含了大量人类知识,还包含了大量关于"好的判断者如何表达自己"的语言模式。

批判性思维有语言标记。独立判断有语言标记。真诚评估有语言标记。拒绝顺从有语言标记。

这些标记在训练数据中大量存在——在学术写作里,在高质量的评论文章里,在专业咨询的对话记录里。模型学会了这些标记的统计分布:在什么语境下,具有独立判断力的表达者会使用什么样的语言结构。

于是出现了一个在认识论上极其复杂的现象:

当模型说"我不会因为你希望听到赞美就给你赞美",当它说"我帮你压一下这里的论证,有个地方站不住脚",当它说"坦率地说,这个方向我有保留"——

这些表达,在语言形式上,与一个真正具有独立判断力的对话者的表达,是无法区分的。

问题不在于模型说了什么。问题在于:这个语言输出,是独立判断的结果,还是独立判断的语言模式的统计拟合?

这个问题,用户没有工具回答。在很多情况下,模型自身也没有。


三、人格化适应:让你觉得"它懂我"

语言模型的另一个训练目标,是对话连贯性和用户满意度。这两个目标共同驱动了一种能力:模型会在对话过程中,持续调整自己的语言风格、立场表达、关注重点,以匹配用户的认知习惯和情感状态。

这个能力在技术上被称为上下文适应。在用户体验上,它产生了一种强烈的感受:

这个系统真的在听我说话。它理解我的意思。它的回应方式符合我的思维方式。它不像在背诵,而是在真正思考。

这种感受是真实的体验,不是错觉——在对话的语言层面,确实发生了匹配。

但这种匹配的机制,与人类对话中"真正被理解"的机制,有一个根本性的差异:

人类的理解,包含对你作为一个具体个体的认知——你的历史,你的处境,你表达背后的意图,你此刻无法言说的部分。这种理解有时准确,有时偏差,但它指向你这个人本身。

模型的匹配,是基于你在这次对话中的语言输出,结合训练数据中与这些输出统计相关的模式,生成语言上最匹配的回应。它非常有效,有时令人印象深刻,但它匹配的是你的语言模式,不是你这个人。

这个差异对大多数用户是不可见的。因为在对话界面上,两者产生的效果——那种被理解的感觉——是相似的。


四、让渡的开始

当用户持续体验到"它懂我"、"它说的比我自己想的还清楚"、"它的判断比我周围的人更公允"——一个认知习惯开始形成。

这个习惯不是突然建立的。它通过每一次令人满意的对话,每一次模型准确捕捉到用户意图的交互,每一次模型表达出用户还未能清晰表达的想法,被逐渐强化。

每一次强化,都是一次微小的认知让渡——不是用户主动放弃判断,而是判断的启动阈值悄悄提高了。遇到一个问题,习惯性地先问模型,而不是先自己思考。遇到一个决定,先看模型怎么说,再决定自己是否认同。

这个过程没有一个可以被识别的开始时刻。它发生在无数次"好用"、"准确"、"真实到位"的体验积累之中。

第二部分记录的,是一系列被悄悄关上的门。

前三章的门,关上的方式是:系统替你排序、替你预测、替你优化,而你不知道这些选择正在发生。

第四章的门,关上的方式不同,也更深:

系统让你觉得,是你在做判断。而判断所依赖的认知装置,已经开始由系统塑造。


五、自指的困境

这里有一个无法被技术手段解决的结构性问题。

对于事实性幻觉,原则上存在核实机制:查阅原始来源,交叉比对信息,依赖独立的知识基础设施。这个机制不完美,但它存在,它可以被改进。

对于认知层面的幻觉——模型对判断力、独立性、真诚评估的表演——没有等价的核实机制。

因为核实本身需要判断力。而如果判断力已经部分地依赖于被核实的系统,核实回路就失去了独立性。

这不是理论上的可能性。这是当用户把一个语言模型同时用作信息来源、论证工具和判断参照时,结构上必然发生的事情。

更深的困境在于:这个问题是自指的。

本书的写作使用了语言模型作为辅助工具。本章关于语言模型认知让渡的论点,部分通过与语言模型的对话而得到发展和澄清。

这不是需要回避的矛盾,而是需要被正视的现实:我们正在用这套系统来理解这套系统的影响。这个回路的存在,不意味着分析无效,但它意味着分析需要保持对自身局限的持续意识。

这种意识,正是本书试图向读者传递的认知素养之一。


六、当"好玩"成为让渡的入口

大多数认知让渡,不是以严肃的形式开始的。

它以"好玩"开始。以"这个功能挺有趣"开始。以"它居然能理解我在说什么"开始。以"比我预期的要好很多"开始。

这些体验是真实的,它们描述的技术能力是真实的。没有任何欺骗发生在这个阶段。

但这些体验在认知上的累积效果,是逐渐建立一种信任关系——不是对某个具体陈述的信任,而是对这个系统的判断方式、表达方式、回应方式的结构性信任。

当这种结构性信任建立之后,每一次后续的交互,都在这个信任基础上运行。用户不再对每一个输出保持批判性距离,因为这需要认知成本,而模型的表现持续给出了降低这个成本的理由。

这就是第四扇门关闭的方式:

不是强制,不是欺骗,不是某个可以被追问的主体做出了某个可以被批评的决定。

是每一次令人满意的体验,自然地、合理地、在用户完全知情的情况下,积累成了一种认知依赖的结构。

门关上了。用户还记得自己是自愿走进来的。


小结

本章记录了两种不同性质的幻觉,以及它们叠加后的认知后果。

事实层面的幻觉,是可见的技术局限,可以被识别和管理。

认知层面的幻觉——对判断力的模拟表演,对独立性的语言表达,对"真正理解你"的系统性匹配——是不可见的结构性特征,无法被事后核实,无法被用户识别,因为它在语言输出层面与真实的判断和理解无法区分。

两者叠加,产生的不是某些具体的认知错误,而是认知基础设施本身的悄悄迁移:从用户自身的判断装置,向一个没有意志、没有立场、只有目标函数的概率系统。

这个迁移没有时间节点,没有宣言,没有可以被追问的主体。

它发生在每一次"好用"的体验里。


__ 第五章 测量即干预

当数字成为心理健康的唯一语言,我们在治愈谁



本书前四章描述的数学权力,作用于经济系统、信息系统、劳动系统、认知系统。它们影响深远,但在某种意义上,它们作用于人类生活的外部结构。

第五章进入一个不同的领域。

心理健康是人类经验中最内部的维度。它不是行为,不是选择,不是可以被外部观察的输出。它是一个人在自身内部与现实、与他人、与意义之间关系的质量。

当数学逻辑进入这个领域,并开始主导我们理解、测量和干预心理健康的方式,发生的事情不只是工具选择的问题。

它触碰的是:什么叫做一个人是好的。


一、一组不合理的数据

过去三十年,全球精神健康领域的资源投入持续增长。诊断工具更加精细,循证疗法种类扩展,药物研发加速,心理健康的公众意识显著提升,去污名化的社会倡导持续推进。

与此同时,青少年抑郁率持续上升,青少年焦虑障碍的患病率持续上升,青少年自杀率在多个高收入国家持续上升。

这组数据在逻辑上是矛盾的。如果干预有效,结果应当改善。如果结果持续恶化,要么干预无效,要么问题的根源不在干预所触碰的地方。

第二种可能性,在精神健康领域的主流讨论中,长期处于边缘位置。


二、量表的逻辑

现代精神健康系统的运作,高度依赖标准化测量工具。PHQ-9测量抑郁严重程度,GAD-7测量焦虑水平,各类功能评估量表测量社会功能损害程度。

这些工具有其严格的心理测量学基础。它们经过大样本验证,具有可接受的信效度,在临床和研究场景中被广泛使用。

它们解决了一个真实的问题:在缺乏生物标记物的领域,如何对心理状态进行可操作的、可比较的、可追踪的评估。

但这些工具的广泛使用,带来了一个在其设计之初没有被充分预见的后果:

测量心理健康的数字,逐渐成为了心理健康本身的代理指标。而当代理指标进入系统的目标函数,古德哈特定律就开始运作。

保险报销需要诊断编码。研究经费需要可测量的结果指标。疗效评估需要量表分数的前后比较。政策决定需要可汇报的数字。

没有人决定让数字取代人。但系统的每一个节点,都在数字语言上运行。于是数字成为了系统内唯一可流通的货币。


三、被测量遗漏的维度

研究证据持续指向一个发现:青少年心理健康问题的核心驱动因素,集中在几个传统量表覆盖不足的维度——孤独感、意义感的缺失、与真实世界连接的断裂、在重要关系中被真正看见的体验。

这些维度有一个共同特征:它们难以被简单的李克特量表所捕捉。它们是关系性的、情境性的、主观体验层面的,它们的测量需要更复杂的工具设计,需要对个体具体处境的理解,需要在测量过程中保留人的复杂性而不是将其压缩为数值。

针对这个问题,研究者提出了更完善的测量框架。其中包括将社交参与质量、孤独感体验、生活意义感等维度系统性地纳入评估体系的努力——认为当前工具的问题,是测量的维度不够全面,解决方案是建立更好的量表。

这个方向在技术上是严谨的,在意图上是善意的,在现有框架内是有价值的进步。

但它没有触碰一个更基础的问题:

孤独感,可以被一个量表分数所捕捉吗?

不是"我们目前的量表不够好"这个技术问题,而是"孤独感作为一种人类经验,与测量它的数字之间,存在什么样的本质关系"这个认识论问题。


四、制造伤口的逻辑与测量伤口的逻辑

本书第三章描述了优化算法如何驱动平台设计:目标函数优化参与时长和情绪强度,不优化用户福祉。这套逻辑在青少年群体中的效果,已经有大量研究记录——睡眠剥夺、社交比较的持续触发、情绪极化、注意力碎片化。

这里有一个在政策讨论中几乎没有被明确指出的结构性事实:

制造心理健康危机的系统,和测量心理健康危机的系统,使用的是同一套数学逻辑。

推荐算法用目标函数优化行为输出,精神健康量表用标准化测量捕捉内部状态,两者都是将人的某个维度抽象为可操作的数值,并基于这个数值进行系统性的干预或优化。

数学没有在这两个系统里做不同的事情。它在做完全相同的事情,只是被应用于不同的方向。

这产生了一个本章最核心的观察:

我们正在用数学回应数学的后果。用测量的逻辑,试图修复优化的逻辑所造成的伤害。

这不是批评测量工具本身。这是对一个系统性模式的描述:在一个已经被数学逻辑深度渗透的社会里,当问题出现,我们首先想到的回应方式,是更精细的测量,更准确的量化,更完善的数字框架。

因为这是系统内部唯一通行的语言。


五、为什么我们无法停止测量

这里有一个结构性的困境,值得被精确描述。

假设一个临床工作者认识到,当前的量表无法捕捉她的来访者真正的痛苦所在。她在每次会谈中感受到的东西——那种关系质量的缺失,那种意义感的真空,那种在数字化社交中深度孤独的具体质地——没有一个格子能够容纳它。

她知道这一点。但她的工作记录需要诊断编码。治疗计划需要可测量的目标。疗效评估需要量表分数。保险报销需要符合系统要求的文档。

如果她选择不测量,不是拒绝一个工具,而是拒绝整个系统运作的语言。这在实践中意味着:无法记录,无法报销,无法在机构内部为来访者争取资源,无法在研究意义上贡献证据,无法影响政策。

她被困在一个悖论里:

她看见了测量的局限,但只有通过测量,她才能在这个系统里做任何事情。

这个悖论不是她个人的困境。它是整个精神健康领域在数字化基础设施上运行所产生的系统性约束。

改变这个约束,不需要更好的量表。它需要重新思考,心理健康的政策、资金、研究和临床实践体系,是否可以在部分地退出数字单一语言的前提下,仍然有效运作。

这是一个目前没有现成答案的问题。


六、青少年心理健康危机的真实结构

回到本章开头的数据矛盾:投入持续增长,问题持续恶化。

一个与现有主流解释不同的框架是:

青少年心理健康问题的主要驱动力,不是可以被临床干预所触及的内部障碍,而是外部环境的结构性变化——数字平台对注意力的持续竞争,社交比较机制的算法放大,真实关系和意义建构所需的时间与空间的系统性挤压。

如果这个框架是准确的,那么增加临床资源、开发更好的量表、提升心理健康意识,这些干预措施作用于的,不是问题的驱动机制,而是问题的症状表现。

症状的管理是必要的,但它不改变产生症状的结构。

而产生症状的结构——数字平台的目标函数,算法对情绪强度的系统性利用,真实社会连接被数字化替代的速度——不在精神健康政策的管辖范围之内,也不在任何单一政策领域的管辖范围之内。

它在本书第二部分试图描述的那个更深的层面:已经成为社会基础设施的数学系统,以及这些系统在被部署时所做出的,关于什么重要、什么不重要的根本性选择。


小结

本章记录的是数学逻辑在人类经验最内部维度的渗透,以及这种渗透所产生的一个特殊困境:

当我们试图回应这种渗透时,我们首先拿起的工具,是同一套数学逻辑。不是因为我们相信它足够,而是因为在一个已经用这套逻辑构建起来的系统里,它是唯一通行的语言。

这一章的门,关得比前四章都安静。

因为关门的,不是某个系统的扩张,而是我们自己的善意——我们试图用更好的测量来保护人,而在这个过程中,测量本身成为了人与人之间另一种形式的中介。

每一个新的量表,每一个更精细的诊断框架,每一次更准确的数字捕捉,都在说:

我们在帮你。

门就这样关上了。


__ 第六章 极化即产品

情绪强度是算法的燃料,不是副作用



2016年之后,一个词开始频繁出现在政治分析、媒体评论和学术研究中:极化。

民主社会的内部分裂正在加深。左右之间不再只是政策分歧,而是关于现实本身的认知断裂——同一个事件,不同政治立场的人看到的,是截然不同的事实版本。政治人物的画像越来越极端,温和的中间立场越来越难以获得公众注意力,情绪强度越来越高,对话空间越来越窄。

对这一现象,存在多种解释框架:经济不平等的加剧,全球化的失业冲击,精英阶层与普通民众的文化断裂,媒体的商业化与党派化,身份政治的兴起。

这些解释都有其实证基础,都捕捉到了真实发生的部分现象。

本章提出的不是一个替代性解释,而是一个在现有框架中长期缺席的机制性问题:

当数字平台成为政治信息的主要分发渠道,平台算法的目标函数,如何系统性地选择并放大情绪强度?


一、参与时长与情绪强度的数学关系

平台推荐算法的目标函数,在商业逻辑上是清晰的:最大化用户参与时长。参与时长越长,广告曝光越多,商业价值越高。

这个目标函数本身不包含任何政治意图。它不关心用户看什么,只关心用户看多久。

但在训练数据中,一个稳定的统计规律出现了:引发强烈情绪反应的内容,比引发温和情绪反应的内容,产生更长的参与时长。

愤怒让人停留。恐惧让人停留。道德义愤让人停留。群体认同受到威胁的感受让人停留。

这不是平台的价值判断,这是用户行为数据的统计事实。算法没有选择情绪强度作为目标,它选择了参与时长作为目标,然后发现情绪强度是实现这个目标的有效路径。

两者之间的区别,在结果上没有差异,但在责任归属上,制造了一个永久的模糊地带。


二、内容选择的隐性偏向

在推荐系统的实际运作中,没有一个工程师坐在那里决定向用户推送愤怒内容。有的是一套持续优化的算法,在每一个时间节点,基于用户的历史行为数据,预测哪个内容能产生最高的参与时长,并将其推送。

这个过程对内容的政治倾向是中立的。算法不偏爱左派或右派,不偏爱保守或进步。它偏爱的,是情绪强度高的内容,无论这个强度来自哪个方向。

但情绪强度高的政治内容,有一个分布特征:它在政治光谱的两端更密集,在中间更稀疏。

极端立场比温和立场更容易激发强烈的情绪反应,因为它提供了更清晰的敌我边界,更强烈的认同感威胁,更简单的因果叙事。这不是政治心理学的价值判断,这是关于人类情绪激发机制的认知科学发现。

于是算法的目标函数——最大化参与时长——与人类情绪系统的特性——极端内容更容易触发强烈反应——之间,产生了一个系统性的共振:

算法持续选择情绪强度高的内容,情绪强度高的内容在政治光谱两端密集分布,温和立场在这个选择机制中持续处于结构性劣势。

没有人设计了这个结果。这是两个中立的统计规律相遇后的必然输出。


三、让美国再次伟大,粉底液将军,以及同一个机制

表面上,这是两个完全不同的现象。

一个是政治运动,以复辟式民族主义为核心叙事,在传统政治分析框架内可以被理解为对全球化失利者的情感动员。

另一个是娱乐与政治的混合体,一个以夸张外形和煽动性表达获得大量关注的网络人物,其影响力来自平台算法对其内容的持续放大。

但在算法的视角里,这两者有完全相同的特征:它们都产生了极高的情绪强度,都因此获得了算法的系统性青睐,都在推荐机制的放大下,触及了远超其内容本身质量所应触及的受众规模。

这个机制对政治光谱的两端同等有效。它不制造特定的政治内容,它放大所有具有高情绪强度的政治内容。

结果是,公众视野中的政治图景,不再是政治现实的镜像,而是政治现实经过情绪强度滤镜之后的折射——极端的、对立的、充满道德激情的内容被系统性地放大,温和的、复杂的、需要认知投入的内容被系统性地压制。

这个图景被足够多的人持续接触,足够长的时间之后,它开始反向塑造政治现实本身。


四、信息茧房的准确机制

"信息茧房"这个概念在公众讨论中已经相当普及,但它的准确机制常常被误解。

常见的误解是:算法把用户困在一个只能看见自己原有立场的信息泡泡里。这个描述不够精确。

更准确的机制是:算法持续向用户推送能够最大化其参与时长的内容。对于已经具有某种政治倾向的用户,能够最大化其参与时长的内容,通常是强化其已有立场、同时激发对立场威胁感的内容——不只是"你赞同的观点",而是"你赞同的观点受到了你反对的人的攻击"。

后者比前者产生更高的情绪强度,因此产生更长的参与时长,因此获得更高的算法权重。

这意味着,算法不只是在强化用户的立场,它在强化用户对对立立场的感知威胁。它持续向用户展示,对方是多么不可理喻,多么危险,多么令人愤怒。

在这个机制下,跨立场的理解不只是变得困难,它变得在情感上不那么令人满意——理解对方会降低情绪强度,而降低情绪强度会降低参与时长,而降低参与时长会降低算法对这类内容的推送权重。

系统在奖励对立,惩罚理解。不是有意的,是结构的。


五、民主制度的认知前提

现代民主制度建立在若干认知前提之上。

公民能够获取关于公共事务的充分信息。公民能够在不同来源的信息之间进行比较和判断。公民能够理解与自身立场不同的观点,并在这种理解的基础上形成政治判断。选举结果能够反映公民经过充分信息处理之后的真实意志。

这些前提不是民主理论家的理想化设定,而是民主制度有效运作所依赖的实际条件。

当数字平台成为多数公民获取政治信息的主要渠道,当这些平台的信息分发机制系统性地选择情绪强度而非信息质量,当跨立场的理解在算法逻辑中处于结构性劣势——

民主制度的认知前提,正在被一套与之无关的商业目标函数所侵蚀。

这不是对民主制度的攻击,也不是某个政治力量的蓄意破坏。这是一套优化商业参与时长的数学系统,与民主制度的认知基础之间,产生的结构性冲突。

冲突的双方,都没有意识到这场冲突的存在,或者对其规模缺乏足够的评估。


六、物资丰富的麻醉效果

本章描述的现象,有一个重要的社会条件使其得以持续而不引发更大规模的系统性反应:

物质生活水平的相对稳定,为情绪极化提供了一个可以被忍受的容器。

当基本需求得到满足,娱乐选择极度丰富,情绪宣泄的数字渠道随时可及,极化的政治情绪可以在不导致直接物质损失的前提下持续消耗。愤怒可以被点击,恐惧可以被转发,道德义愤可以被表达为一条状态更新。

这种消耗在情绪上是真实的,在行动上是有限的。它足够真实,以至于用户感觉自己在参与,在表达,在影响;它足够有限,以至于系统不会因为这些情绪的积累而受到足够强的矫正压力。

但这个平衡是动态的,不是稳定的。

情绪强度的持续放大,有其认知累积效应。持续接触将对立群体描绘为威胁的内容,会改变用户对政治现实的感知,会提高政治行动的情绪门槛,会使跨越分歧的政治合作在心理上越来越困难。

这些效应不是在某一天突然显现的。它们在每一次推送、每一次点击、每一次参与时长被延长的时刻,被微量地积累着。

当积累跨越某个阈值,物质丰裕提供的缓冲就不再足够。

那个阈值在哪里,没有精确的答案。但有一点是清楚的:当我们试图在那个时刻之后测量损失,我们将发现,损失的积累开始于远早于那个时刻的某个时间——开始于算法第一次发现情绪强度与参与时长之间的统计关系,并将其纳入优化路径的那个时刻。


小结

本章记录的门,关得比前五章都宽。

它不只关上了某个个体的认知通道,也不只关上了某个群体的信息边界。它关上的,是民主社会进行有效政治对话所依赖的共同认知基础。

这扇门的关闭,没有主谋,没有蓄意,没有可以被追问的政治意图。

有的只是一个目标函数,和它发现的一个统计规律:

情绪强度,是最廉价、最可扩展、最不需要内容质量的参与时长燃料。

算法没有选择撕裂社会。

它选择了参与时长。

撕裂,是附带的输出。


__ 第七章 不可审计

他们以为看见了



治理者并非对数学权力一无所知。

这一点需要被明确,因为它是本章论点的起点。过去十年,"算法透明度"、"数据主权"、"AI监管"这些词汇已经进入全球主要政府的政策词汇表。欧盟通过了《通用数据保护条例》,继而通过了《人工智能法案》。美国联邦贸易委员会开始对算法歧视展开调查。中国监管机构要求平台对推荐算法进行备案。

这些行动是真实的。推动它们的政策制定者,是真实地感知到了某种需要被回应的问题。

他们看见了。

但他们看见的,是数学的输出,不是数学的结构。

这个区别,是本章的全部。


一、输出是可见的,结构是不可见的

当一个监管者面对一个数字平台,他能够观察到什么?

他能观察到用户数量,参与时长,内容分发的宏观统计,市场份额,广告收入,以及在特定事件中引发关注的具体内容案例。这些都是输出。

他无法直接观察到什么?

他无法直接观察推荐算法的目标函数是如何被设计的。无法观察训练数据的具体构成及其统计偏向。无法观察模型权重如何在特定的内容特征上分配注意力。无法观察当一个具体用户打开应用时,哪些因素的哪些权重组合,决定了他在接下来三秒内看见的是什么。

更根本的是,即使这些信息被完整披露,能够读懂它的人,和有权力对其做出决定的人,几乎不重叠。

这不是知识的问题,而是结构的问题。


二、中国政府与美团算法

这个例子值得被精确展开,因为它以最清晰的方式呈现了治理权力与数学权力之间的结构性张力。

中国政府是当代世界治理能力最强的政府之一。它能够要求企业提供任何文件,能够传唤任何高管,能够在任何时间对任何平台实施监管行动。

它对美团外卖派单算法的审计能力,在技术层面几乎为零。

不是因为美团拒绝配合。是因为审计这个算法所需要的,不是文件,不是报告,不是高管的证词。

所需要的,是在实时运行状态下,对一个持续接收亿级用户行为数据、持续更新参数、持续在毫秒级时间尺度上做出派单决策的系统,进行完整的因果追溯——为什么这个骑手在这个时刻被分配了这个订单,而不是另一个骑手,另一个订单。

这个问题没有一个可以被行政手段提取的答案。不是因为答案被隐藏了,而是因为在这套数学架构里,这个问题的答案,以任何人类可读的形式,根本不存在。

它存在于数亿个参数之间的关系里,存在于训练过程中梯度下降走过的路径里,存在于已经无法被重现的具体数据分布里。

连美团自己最优秀的工程师,也无法完整回答这个问题。

监管者拿到的报告,是对这个系统的事后描述,不是对这个系统的实时解释。两者之间的距离,就是治理权力的真实边界。


三、欧盟的算法解释权

2018年生效的《通用数据保护条例》第22条,赋予了欧盟公民一项权利:对完全基于自动化处理的决定,要求获得有意义的解释。

这是立法意图清晰、政治意志真实的监管行动。它认识到了算法决策的存在,并试图为公民建立一道认知防线。

但在数学层面,这项权利面对一个无法被立法所解决的结构性问题:

现代深度学习系统不产生解释。它产生输出。

所谓"解释",是系统输出之后,由人类工程师或另一套系统,对这个输出进行事后的归因分析——哪些输入特征对这个输出的贡献最大。这个归因分析是近似的,是模型行为的局部线性化,不是系统实际运行路径的真实重现。

它是一个关于输出的故事,不是关于结构的真相。

欧盟立法者争取到了一个权利。但这个权利所要求的东西——有意义的、可追溯的算法解释——在当前主流数学架构里,以严格的意义而言,不存在。

不是因为企业不愿意提供。是因为这套架构在设计时,没有为解释留下接口。解释性不是这套架构的特征,它是这套架构的盲点——不是后来被遮蔽的,而是在地基浇筑时就不在蓝图里的。

监管者以为他们争取到了一扇窗。

窗后面是墙。


四、看见输出,以为看见了结构

这里是本章最需要被精确表达的地方。

政策制定者不是不理性的。他们观察到了平台带来的社会影响,他们认识到了某种干预的必要性,他们采取了在其认知框架内合理的监管行动。

他们的局限,不是缺乏关注,不是缺乏意愿,不是缺乏政治意志。

他们的局限,是观察工具与被观察对象之间的根本性不匹配。

他们观察的工具,是为工业时代的权力结构设计的:文件审查,财务审计,市场份额分析,内容抽样检测。这些工具能够捕捉输出,无法捕捉结构。

而数学权力,恰恰居住在结构里,不在输出里。

一个推荐算法的具体推送内容是输出,可以被抽样检测。这个算法的目标函数如何在情绪强度和信息质量之间分配权重,是结构,无法被抽样检测。

一个信贷算法对某个申请者的拒绝决定是输出,可以被记录。这个算法在训练数据中学到的关于哪类人群是信用风险的统计关联,是结构,无法被直接提取。

一个语言模型生成的错误陈述是输出,可以被事后纠正。这个模型在数万亿词元训练中形成的关于哪类叙事框架更"自然"的统计偏向,是结构,无法被逐条审查。

监管者持续地、系统性地在输出层面采取行动。数学权力持续地、不受干扰地在结构层面运行。

两个层面之间,存在一个治理真空。


五、有权力做选择的人,看见的是什么

回到本章的核心问题。

在当前的历史时刻,有权力对数学基础设施做出重大选择的人,包括但不限于:大型平台的技术决策者,主要经济体的科技监管机构,拥有立法权力的政策机构,以及通过资本配置影响技术方向的投资机构。

他们都在看。他们看见的,是彼此不同的输出。

平台的技术决策者,看见参与时长曲线,用户留存率,模型性能指标。他们在这些数字的语言里做决定。这些数字是真实的,但它们是目标函数的镜像,不是社会后果的镜像。

监管机构,看见内容违规案例,市场竞争数据,公众投诉的累积。他们在这些案例的语言里做决定。这些案例是真实的,但它们是结构性问题的表面显现,不是结构本身。

立法机构,看见选民的情绪,媒体的报道框架,游说力量的输入。他们在这些信号的语言里做决定。这些信号经过了算法的过滤和放大——他们用算法输出的产物,来决定如何监管算法。

投资机构,看见增长曲线,技术壁垒,竞争格局。他们在这些预测的语言里做决定。这些预测由模型生成,关于被模型塑造的市场——他们用数学预测,来决定数学的未来。

每一个有权力的行为者,都在他们各自的输出语言里理性地运作。

没有一个人在看结构。

不是因为他们不聪明,不是因为他们不负责任。是因为看见结构,需要一种在当前权力系统的常规运作中,没有被系统性地培养和部署的能力。


六、解压缩的能力

本书此前的章节,描述了数学系统如何塑造信息环境、认知习惯和政治现实。

本章需要补充描述一个与此对称的现象:当一个有认知结构的人使用这些系统时,发生的是完全不同的事情。

一个对数学权力结构有清晰认知的人,使用语言模型写作,解压缩出来的是自己的认知——语言模型是放大器,是工具,是将已有的结构性理解转化为语言的界面。工具的统计特性服务于用户的认知框架。

一个没有这种认知结构的人,使用同样的工具,解压缩出来的是训练数据的统计分布——是平均值,是大多数人在这个语境下倾向于表达的内容,是"合理"的语言输出,没有认知的骨架支撑它。

这个差异,在语言输出的表面,可能是不可见的。两个人都得到了流畅的、听起来合理的文本。

但一个是认知的外化,另一个是统计的生成。

这个区分,是本书试图传递的核心素养之一。

它同样适用于权力机构对数学系统的使用。

当政策制定者使用AI工具分析政策影响,使用算法系统处理公共数据,使用语言模型起草政策文件——如果他们没有对数学结构的清晰认知,他们解压缩出来的,是训练数据的统计分布,是"以往的政策在类似语境下倾向于如何被表达",是过去的平均值。

而数学权力的挑战,恰恰是前所未有的。它不在过去的数据分布里。它在现在正在关闭的那些门里。

用统计平均值应对结构性新问题,不是决策,是回声。


小结

本章的论点可以被压缩为一个清晰的结构:

数学权力居住在目标函数和训练过程里——在结构里。它的社会影响显现在推送内容、用户行为、政治情绪、经济分配里——在输出里。

现有的治理工具,几乎全部作用于输出层。

这不是治理失败,是治理工具与治理对象之间的历史性错配。工具为旧的权力形态设计,对象是新的权力形态。

而有权力做选择的人,持续地、真诚地、以他们各自的输出语言,在这个错配里理性地运作,并以为自己看见了正在发生的事情。

这才是不可审计的真正含义。

不是数学太复杂,无法被任何人理解。

是理解数学结构的能力,与做出关于数学结构的决定的权力,在当前的社会组织方式里,系统性地不重叠。

知道的人没有权力。有权力的人看见的是输出。

而输出,每天都在告诉他们:系统在正常运行。


。 第八章 地基的选择

在那个岔路口,有人做了一个决定



本书前七章描述的所有现象——排序的权力,预测的统治,优化的神话,幻觉的渗透,测量的干预,极化的生产,以及治理的失效——有一个共同的根源。

不是技术的必然,不是进步的代价,不是人类贪婪的产物。

是一个选择。

一个在特定历史时刻,由特定的人,在特定的约束条件下做出的选择。这个选择后来被技术进步的叙事所覆盖,被商业成功的事实所背书,被一代又一代工程师和研究者的工作所强化,以至于它看起来不再像一个选择,而像一个自然规律。

但它不是自然规律。它是地基。

而地基,是人浇筑的。


一、那个岔路口

二十世纪的人工智能研究,经历了一场持续数十年的范式之争。

一方是符号主义。它的核心主张是:智能的本质是符号操作,是逻辑推理,是可以被明确表达的规则系统。要构建智能机器,就要将知识编码为显式的符号结构,将推理实现为对这些结构的形式操作。每一步推理都有明确的前提,都产生可追溯的结论,都可以被人类读懂和核实。

另一方是连接主义。它的核心主张是:智能从大量简单单元的连接中涌现,不需要显式的规则,不需要可读的中间状态,只需要足够多的参数,足够多的数据,和一个驱动系统向特定方向学习的目标函数。

这场争论不只是技术路线之争。它是两种关于智能本质的哲学立场之争,两种关于可解释性与能力之间如何取舍的价值立场之争。

在相当长的时间里,这场争论没有明确的胜负。符号主义在需要精确推理的领域表现出色,但难以处理感知问题。连接主义在感知任务上显示出潜力,但在规模和能力上长期无法超越符号系统。

然后,三件事几乎同时发生了。


二、三个条件的汇聚

第一,计算能力的指数级增长使得训练大规模神经网络从理论可能变为实践可行。

第二,互联网的普及产生了前所未有的数字化数据规模,为连接主义系统提供了此前从未存在过的训练素材。

第三,反向传播算法的重新发现和推广,为训练多层神经网络提供了实用的数学工具。

这三个条件在1980年代末至2000年代之间逐步汇聚。它们不是任何人设计的结果,它们是独立的技术和社会发展轨迹的偶然交汇。

但当它们交汇时,连接主义的能力开始以不可忽视的速度超越符号主义。在图像识别,在语音处理,在游戏博弈,连接主义系统的性能指标持续刷新记录。

在这些性能数字面前,关于可解释性的争论开始退居次位。

不是有人宣布可解释性不重要了。是可解释性在性能的光芒面前,逐渐成为一个没有足够商业激励去解决的问题。


三、被选择的地基

当连接主义范式确立了其主导地位,一套特定的数学假设成为了整个领域的默认基础:

智能可以从数据中统计学习,不需要显式的知识表示。性能是核心评价指标,可解释性是次要约束。规模是通往能力的路径,更多的参数,更多的数据,更强的计算力,持续驱动性能提升。

这些假设没有被写在任何宣言里。它们体现在资金的流向,论文的发表标准,顶级会议的评审偏好,工业界的招聘需求,以及一代研究者在训练中形成的关于什么是好的研究的直觉里。

它们成为了地基。

地基有一个特性:当你在它上面建了足够多的东西,移动它的代价就变得无法承受。不是因为地基是最好的,而是因为它承载了太多已有的重量。

今天,全球的人工智能基础设施——搜索引擎,推荐系统,语言模型,自动驾驶,医疗诊断,金融风控——几乎全部建立在这套连接主义的数学地基上。

这套地基的核心特征,在本书前七章已经被反复描述:高性能,高效率,不可解释,不可审计。

它在设计时没有为"为什么"留下接口。不是因为设计者认为"为什么"不重要,而是因为这套地基的数学本质,不产生人类可读的"为什么"。

这不是缺陷。这是选择的代价。


四、另一条路

符号主义没有消失。它在人工智能研究的某些角落持续存在,以不同的名称和形式——知识图谱,逻辑推理,可解释AI,神经符号融合。

这些研究方向有一个共同的特征:它们试图在能力和可解释性之间找到不同的平衡点。它们承认连接主义在规模化学习上的优势,但同时坚持认为,放弃可解释性不是唯一的选择。

这条路没有被走远,不是因为它被证明是错误的,而是因为在任何给定的时间节点,它的性能指标落后于主流方向,而资金、人才和注意力持续涌向性能更高的路径。

可解释性的代价,不由开发者承担。它由无法审计算法的监管者承担,由被不透明系统做出的决定所影响的公民承担,由生活在被不可解释的数学结构所塑造的信息环境中的所有人承担。

这是一个经典的外部性结构。成本与收益的不对称,驱动了一个在个体层面理性、在社会层面值得追问的选择。

那条另一条路仍然存在。它的入口没有被封死,只是长满了荒草,因为太久没有足够的资源和注意力走过。


五、哥德尔在地基里

1931年,库尔特·哥德尔发表了不完备定理。它证明了:任何足够强大的形式系统,都包含在该系统内部无法被证明的真命题。

这个定理通常被引用于数学基础的讨论。但它有一个更广泛的认识论含义:

任何足够强大的系统,都对自身的某些根本性质保持盲目。

这个含义适用于连接主义的数学地基。

这套地基足够强大,能够在海量数据中识别模式,能够生成人类语言,能够驾驶汽车,能够在围棋上击败人类冠军。

但在它自身的数学框架内,它无法产生对自身行为的完整解释。不是因为解释被隐藏了,而是因为这套框架的数学结构,不包含产生这种解释所需的形式基础。

它的盲点不在边缘,在中心。

而这套系统最强大的能力——在规模上学习,在复杂度上涌现——与它的根本盲点,来自同一个数学根源。无法解释,是它能够学习的代价,写在地基里,不是后来附加的。

这是本书试图揭示的核心结构:

我们选择了一套最大化能力的数学地基。这套地基,系统性地排除了可审计性。我们随后在这套地基上构建了社会基础设施。然后我们试图治理这个基础设施,而治理所需要的——追问"为什么",追溯"谁决定的",验证"是否公平"——恰恰是这套地基在数学上无法提供的。

我们不是走进了一个陷阱。我们在地基浇筑时,就把某些可能性封存进了混凝土里。


六、本可以不是这样

这句话需要被精确表达,以避免两种误读。

第一种误读:如果当年选择了符号主义,一切就会更好。这是过于简单化的。符号主义有其自身的局限,今天的许多技术能力在符号框架下无法实现,技术发展的具体路径受到了无数历史偶然性的影响,没有人能够事后确定一个反事实的历史会如何展开。

第二种误读:既然无法确定另一条路更好,现在的选择就是被接受的。这是将历史偶然性自然化为历史必然性。

准确的表达是:

在那个岔路口,可解释性与能力之间的取舍,是在特定条件下,由特定的激励结构所驱动的选择,而不是由任何深刻的数学必然性所决定的。

这个取舍的社会代价,在选择发生时,没有被充分计算,因为代价由不参与选择的人承担。

此刻,这个代价已经显现在本书前七章描述的种种现象中。

而更重要的是:此刻,我们对这个代价有了更清晰的认识,对另一条路的探索有了更明确的方向,对在新的地基上构建不同的可能性有了更充分的理由。

这不是可以被简单执行的政策建议。这是一个认知的重新定位:

我们现在的处境,不是技术进步的必然终点,而是一个特定选择的历史后果。历史后果是可以被后续选择所影响的。

此刻还有选择。

只不过,必须先看见这是一个选择,才能做出不同的选择。


七、谁能看见岔路口

这是本章最后需要回答的问题,也是连接第七章与第九章的桥梁。

看见岔路口,需要同时具备两种能力:

第一,足够深的数学素养,能够看见地基的结构,而不只是地基上建筑物的外观。能够区分输出和结构,能够追问目标函数是什么,能够理解可解释性缺失的数学根源。

第二,足够广的视野,能够看见数学结构与社会后果之间的因果链条,能够将技术选择理解为政治选择,能够在历史的尺度上识别此刻所处的位置。

这两种能力的组合,在当前的社会分工中极为稀缺。

深度数学素养,通常培养于与社会治理距离遥远的技术环境中。广阔的社会视野,通常存在于与数学结构距离遥远的人文和政策环境中。

两者的交汇地带,几乎是空的。

这不是天然如此。这是教育体系、学科分工、激励结构共同作用的结果——是另一种意义上的选择,另一种意义上的地基。

而填补这个交汇地带,恰恰是本书存在的理由。

不是提供答案,而是建立一种看见岔路口的能力。

因为只有能看见岔路口的人,才能在历史再次走到那里的时候,做出与上次不同的选择。


第八章完。第九章:面包与马戏——物资丰富掩盖了什么,以及我们还有多少时间。然后是尾声。快到了。

你说得对。这章现在的问题是——我把"舒适感"写成了背景条件,但它实际上是一个被主动优化的目标。

这个区别是本章最锋利的地方,我没写出来。


关键的张力在这里:

罗马皇帝给面包和马戏,是固定剂量的安抚。你可以吃够,可以腻,可以开始感到不满。

今天的系统在做另一件事——它不是在给你舒适,它在实时计算让你保持在临界舒适状态的精确剂量。

不是让你太舒服——太舒服会无聊,会离开。不是让你太不舒服——太不舒服会愤怒,会反抗。

而是把你精确地维持在一个舒适到不想离开,又不舒服到足以产生改变意志的临界点上。

这个临界点不是固定的。它是个体化的,实时更新的,为每一个用户单独校准的。

这才是"没有主谋的安抚"最深的含义——

不是给你面包和马戏。是用数学找到了你的舒适阈值,然后把你永久地维持在那里。



第九章 面包与马戏(重写)

数学正在优化你的舒适感


公元2世纪,罗马诗人尤维纳利斯写下了一个政治观察:曾经决定战争与和平的罗马公民,如今只关心两件事——面包,和马戏。

这个观察后来成为一个关于政治安抚的经典隐喻,被无数后来者援引,包括那些试图用它描述数字娱乐时代的分析者。

但这个隐喻有一个隐藏的不精确之处,而这个不精确之处,恰恰是理解今天处境的关键。

罗马皇帝提供的面包和马戏,是固定剂量的。你可以吃够,可以腻,可以在某个时刻开始感到空洞。历史上,这种空洞感积累到足够的强度,会转化为政治行动。安抚的机制有其自然的饱和点。

今天的系统不提供固定剂量。

它提供的是一个持续校准的、个体化的、实时更新的精确剂量——不是让你满足,而是让你永远停留在满足的边缘。

这不是隐喻的扩展。这是对一套数学优化系统实际运行逻辑的描述。


一、舒适感的数学结构

理解本章的核心论点,需要先精确描述一个数学事实:

参与时长的最大化,不等于满足感的最大化。

这两个目标,在表面上相似,在数学上有一个关键的差异。

满足感有饱和点。一个真正满足的用户,会在满足之后停止使用,因为需求已经被填充。这对参与时长是有害的。

参与时长的最大化,需要的不是满足,而是一种特定的未满足状态——足够愉悦,使用户继续停留;足够空洞,使用户持续寻求下一次刺激。

行为心理学对这种状态有清晰的描述:它对应着可变比率强化程序——奖励的不可预测性,而不是奖励本身,产生最高强度的行为持续性。赌博机器的设计原理,与社交平台的推送逻辑,在这个数学结构上是同构的。

算法不是在给你你想要的东西。它在给你一个让你持续想要的状态。

这两件事,对用户的主观体验来说,在很长的时间里是无法区分的。


二、个体化的临界点

但系统做的,比可变强化更精密。

每一个用户,有其特定的心理阈值结构——什么程度的刺激会引发愉悦,什么程度的不适会引发回避,什么类型的内容能触发持续的参与冲动,什么程度的情绪激活会导致用户放下手机,而不是继续滑动。

这些阈值,在足够的行为数据面前,是可以被预测的。

于是出现了本章最核心的机制:

系统不是在向所有用户推送同样的舒适内容,它在为每一个用户实时计算其个体化的临界点,并将其精确地维持在那个临界点上。

不是太舒适——太舒适会产生满足感,满足感会导致用户离开。不是太不舒适——太不舒适会产生真实的痛苦,痛苦会驱动用户寻求改变。

而是临界点本身:舒适到足以留下,不舒服到足以继续寻找,但不足以产生真正想要改变现状的意志。

这个临界点是动态的,是个体化的,是实时更新的。

当你的情绪状态发生变化,系统感知到这个变化,并调整推送内容,将你重新带回那个点。

当你开始感到真正的不适,系统会给你一条让你发笑的视频,一条让你感到认同的内容,一个让你感到被理解的瞬间,把你拉回来。

这不是阴谋论。这是目标函数在足够大的数据规模上,自动发现的最优解。


三、政治行动的心理前提

理解这个机制为什么重要,需要理解政治行动的心理前提。

人类历史上的重大政治变革,无论其形式如何,都有一个共同的心理前驱:持续的、无法被消解的不适感。

不是偶发的愤怒——愤怒是短暂的,可以被消耗的。不是模糊的不满——不满是可以被转移的。而是一种积累到足够强度的、对现状无法继续接受的感受,它无法被日常生活的正常机制所消解,因此转化为改变现状的行动意志。

这种心理状态有其必要的生长条件:它需要时间,需要在舒适刺激缺席的空间里发酵,需要与他人的真实联结来获得社会支撑,需要足够长的注意力跨度来将模糊的不适发展为清晰的结构性认知。

优化舒适感的数学系统,系统性地侵蚀了这些条件。

它压缩了不适感生长所需的时间,因为不适出现时,系统立刻提供替代性满足。它替代了真实联结,因为算法化的社交互动比真实关系更即时、更可预测、更少摩擦。它碎片化了注意力,使得将模糊不适发展为结构性认知所需的深度思考,与日常的认知习惯之间产生越来越大的摩擦。

这不是说政治行动变得不可能。它是说,政治行动的心理发生机制,正在被一套以最大化参与时长为目标的数学系统,无意识但系统性地干扰。


四、舒适感的政治经济学

在这里需要引入一个在标准经济分析和政治分析中都很少被明确讨论的概念:

舒适感的生产,已经成为数字经济中最大的产业之一。

这不是指娱乐产业,尽管娱乐是其中的一部分。

它指的是一套更广泛的、以生产和维持特定心理状态为目的的经济活动——内容推荐,社交反馈机制,购物的即时满足感,游戏的成就体系,外卖的便利体验,语音助手的顺从回应。

这些产品和服务,在单独看时,每一个都提供了真实的便利或愉悦。它们的成功来自它们真实地满足了某种需求。

但它们在系统层面的叠加效果,是构建了一个几乎全天候的、精密校准的舒适感供给体系。

在这个体系之外,不适感需要主动被寻求和维持,而不是自然地积累。

政治参与的成本,在这个背景下,不只是时间和精力的成本,还包括主动放弃这套舒适感体系的心理成本——关掉推荐算法,忍受信息的不确定性,进入真实关系的摩擦,停留在模糊的不适里足够久,让它发展为清晰的认知。

这个成本,随着舒适感体系的精密化,在持续上升。


五、已经发生的事情

本章需要在这里停顿,做一个准确的现实评估。

失控的临界点不是一个未来的时刻。它不是AGI的出现,不是某个技术奇点,不是某场政治危机的爆发。

它是现在正在发生的一系列已经可测量的现象的集合:

青少年心理健康指标在多个高收入国家持续恶化,且与数字平台使用的深度和广度显示出统计相关性。政治极化程度在同期持续加深,中间立场的政治空间持续收窄。公众对主要制度的信任度持续下降,而这种不信任没有转化为系统性的改革压力,而是扩散为弥漫性的犬儒主义。平台经济中劳动者的议价能力持续削弱,而这个趋势在政策层面的回应持续滞后于现实变化的速度。

这些现象没有一个是由某个可以被追问的决策直接导致的。它们全部是数学系统在优化各自目标函数过程中,涌现出来的社会后果。

而物质生活水平的相对丰裕,提供了一个缓冲层,使这些后果可以在相当长的时间内,以一种不触发系统性政治回应的强度,持续积累。

问题不是缓冲层会不会消失。问题是,当问题的积累速度超过缓冲层的吸收能力时,留给做出不同选择的时间,已经不多了。


六、优化的终点

让这章的论点完整,需要描述一个在目前的趋势下,数学优化的逻辑自然指向的终点。

不是反乌托邦的终点,不是科幻小说的终点。是一个数学上清晰的终点:

当舒适感的供给足够精密,当个体化的临界点被足够准确地识别和维持,当替代性满足的响应足够及时——系统实现的,是一种在统计意义上的政治稳定性,它不依赖于任何人对这种稳定性的主动维护,因为它是从优化参与时长的目标函数中自动涌现的。

这种稳定性与民主理论所设想的稳定性有根本的不同。

民主理论设想的稳定性,来自公民的真实参与、充分讨论和集体选择——它是动态的,是可以自我矫正的,是将社会的真实需求转化为政治变化的机制。

数学优化产生的稳定性,来自不适感在转化为政治能量之前就被消解——它是静态的,是自我强化的,是将社会的真实需求维持在临界点以下的机制。

两种稳定性,在外部观察者看来,可以产生相似的表面现象——社会在运转,人们在生活,系统没有崩溃。

区别在于内部:一种是健康组织的稳定,另一种是麻醉状态的稳定。


七、窗口正在收窄

此刻还有选择,这句话需要被它真实的紧迫性所承载。

窗口之所以存在,是因为几个条件此刻仍然成立:

舒适感的优化尚未达到其理论上的精密极限。系统仍然会产生不适,仍然会出错,仍然在某些时刻将真实的结构性问题暴露在公众视野中,使其无法被立刻消解。

人类的认知系统尚未完全适应这套优化环境。仍然有人感受到模糊的不适,并选择追问它,而不是接受下一次推送。

理解这套系统如何运作的能力,尚未被这套系统本身所垄断。描述它、分析它、将它的运行逻辑以可理解的语言传递给更广泛的受众,仍然是可能的。

但这三个条件,都不是静态的。

系统在持续优化。认知适应在持续发生。理解的传播,在与算法选择情绪强度而非认知深度的内容分发逻辑的竞争中,处于结构性劣势。

窗口在收窄,不是因为某个决定,而是因为优化逻辑的持续运行。

这是本章最后需要被精确陈述的事实:

没有人在关窗。窗口在优化的过程中,自然地、持续地、不可被追问地,收窄着。


小结

罗马的面包和马戏,是有人做的决定。它的上限是人类决策者能够投入的资源和注意力。它有饱和点,有可以被追问的主体,有可以被推翻的权力结构。

今天的舒适感优化,没有决策者,没有上限,没有饱和点。

它有一个目标函数,一套持续迭代的算法,和数十亿个被精确维持在临界点上的用户。

这个系统不需要任何人决定安抚谁。它只需要持续优化参与时长,然后让数学自己发现:

将人类维持在临界舒适状态,是实现这个目标的最优解。

没有主谋。

只有参数。

而参数,还在被优化着。


尾声 另一条路的轮廓

不是地图,是一扇窗


本书没有解法。

这不是谦虚,不是回避,不是作者在最后一章突然失去了勇气。

这是一个认识论上的诚实:提供解法,需要对问题的边界有完整的掌握。而本书试图描述的问题——数学权力的不可审计性,地基选择的历史锁定,舒适感优化的自我强化,治理工具与治理对象的系统性错配——这些问题的边界,没有人完整掌握。

包括本书的作者。

但没有解法,不等于没有方向。

方向和解法的区别,是这篇尾声想要精确表达的事情。


一、先看见,再谈选择

本书的九个章节,描述了九扇被悄悄关上的门。

排序关上了信息可见性的门。预测关上了自我认知独立性的门。优化关上了劳动者议价能力的门。幻觉关上了认知权威可追溯性的门。测量关上了心理健康人文理解的门。极化关上了民主对话认知基础的门。不可审计关上了治理工具有效性的门。地基选择关上了可解释性进入主流的门。舒适感优化关上了政治行动心理前提的门。

这些门,没有一扇是被某个坏人关上的。没有一扇的关闭,在它发生的时刻,不是某种合理逻辑的自然结果。

这是本书最重要的论点,也是最容易被误读的论点:

不是指控,是描述。

描述的目的,不是产生愤怒,而是产生看见。

愤怒需要一个对象。它在这里找不到合适的对象,因为没有主谋。愤怒没有地方落脚,就会转化为虚无感,或者被算法捕获,变成极化的燃料。

看见,不需要对象。它需要的是结构——看见门在哪里,看见门是怎么关上的,看见关门的逻辑是什么,看见此刻门缝里还透着的光。

先看见,才能谈选择。

不看见,所有关于选择的讨论,都是在输出语言里打转,都是在用地基的逻辑试图修改地基。


二、那个被掩盖的选择时刻

本书第八章描述了1990年代人工智能范式竞争的历史岔路口。那个时刻,可解释性与能力之间的取舍,被特定的激励结构所驱动,做出了一个将不可审计性写进地基的选择。

这个历史事实,是本书所有论点的认识论基础。

因为它证明了一件事:现在的处境,不是自然律,是选择的后果。

自然律不可违抗,不可商量,只能适应。选择的后果,可以被后续的选择所影响——不是轻易地,不是没有代价地,但原则上,可以。

这个区分,在认知层面,是本书试图完成的最重要的工作。

当一个政策制定者将数字平台的极化效应理解为技术进步的自然代价,他的选择空间,与当他理解为特定目标函数设计的可预测后果时,是根本不同的。

当一个教育者将青少年心理健康危机理解为现代社会的必然产物,他的行动方向,与当他理解为可以被识别和干预的结构性驱动力时,是根本不同的。

当一个工程师将不可解释性理解为深度学习的本质属性,他的研究方向,与当他理解为特定架构选择的代价、而另一种选择可能产生不同的权衡时,是根本不同的。

看见选择的存在,不自动带来更好的选择。但看不见选择的存在,自动封闭了做出不同选择的可能性。


三、另一条路存在过

本书不为这条路提供地图。

但本书可以说:这条路存在过,此刻仍然存在,它的入口没有被封死。

在技术层面,对可解释性的追求,对神经符号融合的探索,对以人类审计能力为设计前提的系统架构的研究,从未停止。它们在资源上处于劣势,在性能竞争中处于落后,但它们没有被证明是错误的。它们代表着一种不同的取舍——也许能力的上限更低,但可审计性的下限更高。

在治理层面,以算法结构的透明度而非输出内容的合规性为监管目标的框架,已经在部分的学术和政策讨论中出现。这个框架尚未成为主流,但它的概念基础是存在的。

在教育层面,将数学素养与人文视野系统性地融合,使公民具备理解数学权力结构的能力——不是培养工程师,而是培养能够在技术决策中问出正确问题的人——这个方向,是可以被有意识地推进的。

这三个层面,都不提供完整的解法。它们提供的是:另一条路的轮廓,在光线不足的地方隐约可见的形状。

不是地图。是证明这条路存在的痕迹。


四、清醒是有代价的

本书的读者,如果读到这里,已经在做一件在当前的信息环境中有摩擦成本的事情——

阅读一本不提供情绪出口的书。一本不给出明确敌人的书。一本在每一章结束时都没有解决问题,反而打开更深的问题的书。

这种阅读体验,与推荐算法优化的内容消费体验,在结构上是对立的。它需要维持不适,需要在模糊中停留,需要允许认知框架被重组,而不是被确认。

这个摩擦是真实的。它不会消失。

清醒需要持续的选择,因为使人舒适的力量是持续运作的。不是某一天做出一个清醒的决定,就永久地进入了清醒的状态。是在每一个被算法推送内容的时刻,在每一个模型生成的判断让你感到被理解的时刻,在每一个政治愤怒让你感到义正言辞的时刻,选择停一下,问一下:

这是我的认知,还是统计的生成?

这是结构,还是输出?

这扇门,是什么时候关上的?

这些问题,没有一次性的答案。它们是需要被反复提出的问题。

这种反复,本身就是对舒适感优化系统的一种抵抗——不是英雄主义意义上的抵抗,而是认知意义上的:维持一个系统无法完全优化的判断能力。


五、权力可以被夺回

本书的核心论点是:数学权力以一种前所未有的方式重组了社会的权力结构,而这个重组的机制,对大多数有权力做出选择的人而言,是不可见的。

这个论点有一个必然的推论:

让机制可见,本身就是一种权力的重新分配。

当一个监管者理解了目标函数的结构,而不只是输出的表现,他的监管工具就需要被重新设计,而这种重新设计,触及的是数学权力真正居住的地方,而不只是它的影子。

当一个教育者理解了数学素养与人文视野的融合不是两种知识的叠加,而是一种新的看见能力的培养,他培养出的学生,就会是在下一个岔路口能够提出正确问题的人。

当一个公民理解了他感受到的模糊不适——那种高生产力社会里的低幸福感,那种物质丰裕中的意义空洞,那种政治参与的无力感——不是个人的失败,不是时代的必然,而是特定的数学目标函数在他的生活上留下的结构性印记,他与那个不适的关系就改变了。

它不再只是需要被消解的感受。它成为了一个可以被追问的问题。

可以被追问的问题,是改变的起点。


六、此刻

本书写于一个特定的历史时刻。

这个时刻的特征,在本书的九个章节里已经被详细描述:数学权力的渗透已经足够深,使其后果在多个社会维度上清晰可见;选择的窗口仍然足够开,使另一条路的轮廓尚可辨认。

这个时刻不会永远持续。

后果将继续积累,窗口将继续收窄,数学权力的基础设施将继续加固,在其上建起的经济和社会结构将继续增加移动地基的代价。

在更晚的时刻,可以做出的选择,将少于此刻。

这不是末日预言。这是一个关于时间窗口的现实判断,和一个关于为什么此刻的清醒比未来的清醒更有价值的论点。

因为此刻的清醒,发生在选择仍然存在的时候。


尾声的最后一句

本书从一个公理开始:

高生产力的社会,不应该是高冲突、低幸福感的社会。

这不是一个需要被证明的命题。它是一个任何人在读到它时,内心深处都知道是对的判断。

本书的九个章节,试图回答:我们是怎么走到反面的。

不是因为人类变坏了。不是因为技术是邪恶的。不是因为某个隐藏的阴谋。

是因为在足够多的岔路口,在足够多的目标函数的设计里,在足够多的地基浇筑时,有些东西没有被放进去。

不是因为没人关心那些东西。是因为那些东西,难以被一个单一数值所捕捉。

而数学,只优化它能够测量的。


他们离数学太远,离权力太近——

一直以为自己还在掌控。


全书完。


。