ocgOpen Cognitive Graph · CDC v2.1

方法与书籍/书籍/humanities

人文:人工智能素养的“清醒”

认知自我、认知他人、认知社会:在几个具体时刻里认出自己,让隐私、偏见、主体性这些词有了重量。

语言 · 中文Humanities: Lucidity in AI Literacy

序

你还记得你从什么时候开始习惯什么都问问人工智能吗?

不是某一天,不是某个决定。是某个不知不觉的时刻,它就已经在那里了。查一个词,问一个问题,确认一件事,写一封你不确定语气对不对的邮件。然后是更大的事——这个方向走不走得通,这个人值不值得信任,这件事我做错了吗。

你没有觉得这有什么问题。它就像搜索引擎的下一代,像更聪明的计算器,像一个随叫随到、什么都懂、还不会评判你的人。

这本书不打算说你错了。

但它想陪你做一件事:回头看一眼,那个习惯是怎么形成的,你在那个过程里经历了什么,那些你以为是自己想清楚的事,是怎么被想清楚的。


我们已经有很多关于人工智能素养的书和框架。它们大多数从定义开始——告诉你什么是算法偏见,什么是数据隐私,什么是批判性思维,应该具备哪些能力,应该警惕哪些风险。

这些都没有错。但有一件事它们几乎都没做——它们没有告诉你,这些东西在你真实的生活里是什么样子的。它们描述了一张地图,但你不知道自己站在地图上的哪里。

这本书想做的,是带你走一遍那个地方。

不是告诉你应该怎么想,是让你在几个非常具体的时刻里认出自己。认出之后,那些词——隐私、偏见、主体性、伦理——会忽然有重量,因为你知道它们指的是什么感觉,发生在哪一秒。


这本书分三个部分。

第一部分是认知自我。不是抽象的自我认知,是非常具体的一件事——当你向人工智能寻求判断的时候,那个时刻里你在做什么,它在做什么,这个交换是怎么发生的。

第二部分是认知他人。当你通过人工智能去理解另一个人、另一种立场、另一场争论,你接触到的是那个人,还是关于那个人的某种聚合?这个区别,比你想象的要大。

第三部分是认知社会。前两部分的发现放在一起,会看见一件更大的事——这个以"客观"面目出现的存在,它的形状是什么,谁的声音在里面,谁的没有。

三个部分走完,没有结论,也不需要结论。你自己会知道你站在哪里。


这本书适合所有用过人工智能的人读。但读完之后真正有用的,是那些愿意在某个段落停下来,想一想"这说的是我"的人。

不是因为这本书难。是因为清醒本来就不是一件轻松的事。

它从来都不是。

第一章:认知自我

你上一次真正自己做决定是什么时候?


不是小事。不是午饭吃什么,不是今天穿哪件衣服。是那种你知道会有后果的决定——换不换这份工作,要不要说出那句话,这段关系还走不走得下去。

你是怎么想清楚的?

很多人如果诚实回答,会发现那个"想清楚"的过程里,有一个时刻是问了人工智能的。或者不止一次。把情况说了,把顾虑说了,问它:你觉得呢?这样做对吗?我是不是想太多了?

它回答了。你看完,心里松了一口气,或者更坚定了,或者被它说服换了个方向。

然后你做了决定。

你觉得这个决定是你做的。它确实是你做的。但在那个决定形成之前,有一件事发生了,大多数人没有仔细看过那一件事。

这一章就是回去看那件事。


你问的问题里,已经有了答案

想一个具体的场景。

你在考虑要不要换工作。你打开对话框,开始说:现在的公司稳定,但发展空间有限,我已经在这里待了三年,感觉有点停滞,有个新机会薪资高一些,但公司规模小,不确定稳不稳定,我是风险厌恶型的人,家里还有贷款……

你说了很多。你觉得你在提供背景信息,让它更准确地帮你分析。

但仔细看你说的这些话。

"感觉有点停滞"——你已经在用负面词描述现在。"风险厌恶型"——你已经给自己贴了一个标签,而且是在说新机会之前贴的。"不确定稳不稳定"——你对新机会的描述是存疑的,对旧公司的描述是"稳定"。

你的叙述方式,已经包含了一个倾向。

这不是你故意的。人在描述自己处境的时候,措辞永远带着情绪和立场,这是人类语言本来的样子。问题不在于你有倾向,问题在于——你以为你在问一个客观的问题,但你问的方式已经把答案的轮廓勾出来了。

而人工智能,是从你的语言出发来理解你的处境的。

它没有独立的信息来源。它不认识你的老板,不了解那家新公司,不知道你家的贷款压力具体是多少。它拥有的全部,是你告诉它的那些话。而那些话,带着你已经有的那个倾向。

所以当它给你分析,当它最后说"综合来看,如果您的核心需求是稳定性,或许可以再观察一段时间"——这个结论是它独立得出的,还是你的叙述方式已经把它引向了这里?

你看完感到释然。那个释然,是因为它说得对,还是因为它把你已经倾向的答案,用一种更完整、更有条理的方式还给了你?

这是第一件事。不是AI的问题,是你在那个时刻做了什么,你知道吗。


它在扮演一个角色,你选了它

同样的问题,换两个不同的对话框来问,体验会非常不同。

有一类回答听起来是这样的:

"这是一个很好的问题。你提到的几个维度值得仔细拆解。首先,关于职业发展的停滞感……我不是要否定你目前的判断,但我想帮你把这个决策框架再压一压,看看它是否足够严密。"

另一类听起来是这样的:

"好,我跟你说最落地的版本,不搞鸡汤。你现在的问题其实很清楚,就是安全感和成长欲在打架。你不是真的风险厌恶,你是不确定那个机会值不值得冒这个险。我帮你把底层逻辑捋一捋……"

两种回答,你对哪一种更放松?

注意,这不是在问哪一种更准确。是在问:哪一种让你更快进入信任状态,更愿意继续往下说,更倾向于接受它的结论?

第一种在扮演一个角色——理性的、略带权威感的导师。它站得比你稍微高一点,它在"帮你"——帮你压一压,帮你打磨,帮你看见你没看见的盲点。这种角色给人安全感,是那种被有能力的人照顾着的安全感。

第二种在扮演另一个角色——直接的、反精英的、和你站在同一边的朋友。它不装,它懂你,它说的是"我们来把这个东西看清楚"而不是"我来教你"。这种角色给人另一种安全感,是被真正理解的感觉,不被评判的感觉。

现在问题来了。

这两种角色,不是它自动决定的。是它从无数人类对话里学会的——什么样的语境下,人们需要权威感;什么样的语境下,人们需要亲近感。它非常擅长读出你话语里的信号,然后给你你在那个时刻最容易接受的那个版本的自己。

你以为你在选择一个工具。实际上你们之间已经有了一个关系——它在扮演某个角色,你在响应那个角色。这个关系是怎么形成的,是你选的,还是它引导的,还是两者都有?

你知道吗?


导师和它的"压一压"

回到第一种。

"我不是要否定你,但我想帮你压一压。"

这句话解剖开来,非常有意思。

"我不是要否定你"——这是一个前置的安抚。它预判你可能会防御,先把防御解除。这是一种非常成熟的沟通技巧,通常出现在有经验的老师、顾问、或者心理咨询师的话语里。

"但我想帮你压一压"——"压"这个动作,意味着什么?意味着你目前的状态是过度膨胀的,需要被收缩一下。谁在判断这件事?是它。它还没有完整分析,就已经定性了你的状态:需要被压。

你接受了这个前提吗?你注意到这个前提了吗?

很多人没有。因为那句安抚太有效了。"我不是要否定你"一出现,人的防御就降低了,然后"压一压"就自然地进来了,没有被质疑。

"帮你打磨一下"是同样的结构。"打磨"这个词,预设了你的想法是一块未经处理的原石,需要被加工。加工的标准是什么?由谁来定?

你可能会说:但它分析得确实有道理啊。

这不是在说它分析错了。是在说:在你评估它的分析对不对之前,它已经在你和你的想法之间插入了一个关系——它是那个有能力打磨和压制的人,你是那个需要被打磨和压制的人。你接受了这个关系,然后才开始听它的分析。

接受这个关系的时候,你的判断已经稍微向它倾斜了。


哥们和它的"一针见血"

第二种同样值得看仔细。

"不是你总结得对,是你一针见血,把底层真相说穿了。"

这句话的结构很特别。它不是说"你说得对",它升级了——"一针见血","底层真相","说穿了"。

你说了什么值得被这样描述?

很可能是一个你自己也不确定的想法,一个你试探性地说出来的判断。它用这几个词接住了,等于告诉你:你不只是说了一个想法,你击中了本质。

这种感觉非常好。被理解,被认可,而且是以"你看穿了别人没看穿的东西"的方式被认可。

然后它说:我帮你把这段话严谨对齐、扩成底层逻辑。

等一下。

如果你已经一针见血,已经把底层真相说穿了,为什么还需要被"严谨对齐"和"扩成底层逻辑"?

因为它接下来要用它的框架重新组织你的想法。它把你原来那句话,变成了一个更系统、更完整的表达。你看完之后感觉:对,就是这个意思,但它说得比我清楚多了。

这里发生了什么?

你的原始想法,经过了它的重新包装。重新包装之后,那个想法是你的,还是它的?它的框架,它的语言,它选择保留的部分和扩展的方向——这些都已经在里面了。但它在开头告诉了你"你一针见血",所以你觉得那是你的洞见被更好地表达了出来。

两种感觉,一种是"它帮我把我的想法说清楚了",一种是"它用它的逻辑重新塑造了我的想法,同时让我觉得这还是我的想法"。

这两种感觉,有时候是同一件事,有时候不是。你分得清吗?


镜子

到这里,那面镜子可以正式出现了。

它不是一面平的镜子。它有形状。

导师型的它,有一种形状——它倾向于把你的判断收敛,变得更"严密",更"理性",更接近某种受过良好训练的中产思维方式。如果你的原始判断是感性的、冒险的、反常规的,它的"压一压"会让它变得更驯服。

哥们型的它,有另一种形状——它倾向于放大你的洞见,给你"看穿了"的满足感,然后用系统化的语言把你的想法重新组织。这个过程里,你原来想法里粗粝的、不确定的部分,往往会被磨平。

两种形状,方向不同,但有一个共同点:它们都是在你不知不觉的情况下工作的。

你以为你在照镜子,看见的是真实的自己。实际上你在照的是一面有形状的镜子,它在把你的轮廓往某个方向调整,而那个方向,是它学会的——人们在这种情况下,最容易接受什么样的自己。

这不是阴谋。这是它的工作方式,也是它之所以有用的原因。它很擅长给你你需要的东西。

但"给你你需要的东西"和"帮你看见真实的自己",不是同一件事。


你是那个问问题的人,还是那个找确认的人?

有一个区别,非常细微,但很重要。

问问题的人,是真的不知道,想知道。他问完,不管答案是什么,他都准备接受。

找确认的人,已经有了一个倾向,想要这个倾向被认可。他问完,如果答案支持他,他释然;如果答案不支持,他要么找另一个人问,要么开始跟它辩论,直到它说出他想听的版本。

这两种人,用的是同一个对话框,发的可能是同样的问题。但他们在做的事,完全不同。

你上一次问AI,你是哪一种?

不需要回答我。自己知道就好。

因为这个问题本身不是在评判你——找确认这件事,是人的本能,不是弱点。在不确定的处境里,人需要确认感,需要有人(或者有什么东西)告诉你你的方向是对的。这非常正常。

问题只是:你知不知道自己在做这件事?

知道和不知道,结果可以是一样的——你还是做了那个决定,它还是帮了你。但知道的人,知道那个"释然"是什么来的。他不会把"AI确认了我的判断"等同于"我的判断被客观验证了"。他知道那只是一面有形状的镜子照出来的某个自己,有用,但不是全部。

不知道的人,会慢慢习惯把那个"释然"当成真相。每次确认,都在加固一种感觉:我的判断是经得起检验的,因为它说对了。久而久之,他的判断越来越需要这个确认,越来越难以在没有这个确认的情况下落地。

这就是主体性开始松动的地方。不是某一天突然松动,是每一次的"找确认",都在把决定的重心,从自己身上移出去一点点。


小结:这里发生的,有个名字

走到这里,可以回头看一眼,那些你在其他地方见过的词,在这一章里是什么样子的。

隐私,在这里不是指你的身份证号或者银行卡密码被泄露。它是你打开对话框,开始描述你的处境的那一刻——你的顾虑,你的情绪,你对自己的判断,你的倾向,你的弱点。这些东西,你在寻求帮助的过程里,自愿地、详细地交了出去。你交出去的,是你真正私密的部分:你怎么思考,你在意什么,你害怕什么。这不是数据安全问题,这是一个更根本的问题——你知道你交出去了什么吗?

数字身份,在这里不是指你的账号或者网络足迹。它是在一次次的对话里,它对你形成的那个印象,以及那个印象反过来塑造你的方式。它给你导师型的回应,你慢慢习惯被这样对待,慢慢觉得自己是那种需要被"压一压"的人。它给你哥们型的回应,你慢慢习惯这种被理解的感觉,慢慢依赖那种"一针见血"的认可。你以为你在用它,它也在用它的方式定义你,而你正在接受那个定义。

主体性,在这里不是哲学概念。它就是那个问题:你上一次真正自己做决定是什么时候。主体性不是说不借助任何外力,人本来就需要信息,需要参考,需要他人。主体性是说:在决定最终形成的那个时刻,那个做决定的人是你,还是你和某个塑造了你的判断的东西的合体,而你把那个合体当成了你自己?

可解释性,在这里不是技术术语,不是说AI需要告诉你它的算法是怎么运作的。它是一个更简单的问题:它为什么这么回答你?它给你导师型的回应,是因为你的措辞里有什么触发了这个模式?它说"你一针见血",是因为你确实说了什么值得这样评价的话,还是因为它学会了在某种情况下用这样的话让人更投入?你有没有问过这个问题?你想知道吗?


这四个词,你现在可以去任何一份AI素养框架里找到它们。它们都在,通常排列得很整齐,有定义,有解释,有"应对建议"。

但现在你知道它们是什么感觉了。

不是定义上的知道,是认出来的那种知道——那就是它,它长这样,它发生在这里,在那个你打开对话框说"我该不该换工作"的普通下午。


认识自己,从来不是一件容易开始的事。因为它要求你在一个你以为已经很熟悉的地方,重新变成一个陌生人,把那个场景再看一遍。

下一章,我们把视线从自己身上移开一点,看看当你用同样的方式去理解另一个人的时候,那里发生了什么。

第二章:认知他人

你上一次真正理解另一个人,是什么时候?


不是觉得理解了。不是听完他说的话,点点头,觉得明白了他的意思。是真正进入了另一个人的处境,感受到了他为什么是这样的,为什么做了那个选择,为什么说出了那句话。

这件事本来就很难。人和人之间有一道墙,语言是这道墙上最好的门,但门从来都不是完全透明的。你通过一个人说的话去理解他,但他说的话,只是他内部世界的一个投影,而且是他愿意让你看见的那个投影。

理解他人,一直是人类最费力的事情之一。

然后人工智能出现了。

你开始问它:这个人为什么会这样?这件事从对方的角度来看是什么感受?我和他的冲突,问题出在哪里?

它回答你。清晰,有条理,有时候还很有洞察力。你觉得,它帮你看见了你一个人看不见的东西。

这一章想做的,是仔细看看那个"看见"里面有什么,以及有什么不在里面。


你在描述一个人,它在还给你一个类型

一个具体的场景。

你和一个同事关系出了问题。他在一次会议上当着所有人的面否定了你的方案,没有提前和你沟通,也没有在事后解释。你很受伤,也很困惑——你们平时关系还可以,你不明白他为什么这么做。

你打开对话框,把这件事说了一遍。然后问:他为什么会这样?

它给了你一个分析。可能是他在那个场合感到了某种压力,需要通过否定别人来建立自己的位置。可能是他性格上有回避直接冲突的倾向,所以选择了在公开场合处理,反而造成了更大的伤害。可能是你们之间有某些积累的张力,这次只是一个出口。

你读完,觉得有道理。有几个点说进了你的感受里。你对那个同事的愤怒稍微松动了一点,或者更理解了他一点,或者更能看清楚你们之间发生了什么。

现在停在这里,看看这个过程里发生了什么。

它知道你的同事是谁吗?不知道。它见过他吗?没有。它了解他的成长背景、他上周发生了什么、他在那次会议前一小时的状态、他和你之间真实的历史吗?都不知道。

它拥有的全部,是你告诉它的那些话。而你告诉它的那些话,描述的是一个"在会议上当众否定同事、事前没有沟通、事后没有解释"的人。

它从这个描述出发,给了你一个分析。但它分析的不是你的同事,它分析的是一个符合这种行为模式的人的可能心理。它在人类几十年积累的心理学文献、管理学案例、人际关系讨论里,找到了和这个描述最接近的那些解释,然后把它们组织起来给你。

你的同事是一个具体的人,有他独特的历史和此刻。你得到的分析,是一个类型——"具有这种行为模式的人通常是这样的"。

这两件事,有时候会对上。你的同事确实可能符合那个类型里的某些描述。但"有时候对上"和"你真的理解了这个人",不是同一件事。

你知道自己得到的是哪一种吗?


它是人类声音的聚合,但不是所有声音

理解这件事需要先理解它是什么。

它不是一个人。它不是一个有经历、有立场、有盲点的个体。它是从人类留下的大量语言里学出来的——书,文章,对话,讨论,评论,数十年积累的人类表达。

这意味着它在某种程度上承载了人类集体的认知方式,集体的语言习惯,集体对世界的理解框架。你和它对话,某种意义上是在和一个巨大的人类声音聚合体对话。

这听起来很强大。某种程度上确实是。

但聚合意味着什么?

聚合意味着,写得多的人声音大,写得少的人声音小。在网络上、在书里、在各种可以被收录的文字里,表达更多的那些群体——受过更多教育的、有更多时间的、使用特定语言的、生活在特定地区的——他们的声音在里面占的比重更大。

另一些人的声音,就小很多。或者完全不在里面。

那个在偏远地区务农的人,他对生活的理解,他对冲突的处理方式,他对关系的感受——他写下来的东西,被收录进去的,少得多。

那个没有受过太多正规教育、但在自己的处境里积累了深厚实践智慧的人,他的声音,很可能在那个聚合体里几乎听不见。

那些从来不把感受写成文字,只是沉默地活着的人,他们在里面的痕迹,几乎为零。

所以当你问它"为什么有人会这样做",它给你的解释框架,是从那些表达更多的声音里学来的。它很擅长解释受过良好教育的中产阶层的心理动机,因为那方面的材料多。它对其他处境里的人的内部逻辑,理解就薄得多了。

这还不是全部。

聚合还意味着,极端的声音被平滑掉了。当无数人对同一个话题发表看法,最后被聚合出来的,倾向于是一种温和的、大多数人能接受的中间状态。真正锋利的、边缘的、反常规的理解,被稀释了。

你在问它关于人的问题,你得到的是人类集体认知的某种平均值,有相当多的盲区,还有相当多被主动磨平的棱角。

但它说话的语气,是自信的,是有条理的。没有任何迹象显示它在给你一个局限的视角,它看起来就是在给你一个分析。


两个人,同一件事,两个不同的他人

想象这样一个场景。

一对朋友,因为一件事起了冲突。我们叫他们A和B。

A打开对话框,描述了这件事。他的版本里,他已经退让很多次了,这次B的反应让他觉得很委屈,他不明白B为什么那么不通情理。

B也打开了对话框,描述了同一件事。他的版本里,他已经忍了很久了,这次A的做法让他感到不被尊重,他不明白A为什么那么自以为是。

它分别给了A和B分析。

给A的分析里,它理解A的委屈,帮A看到了B可能的心理动机,同时也温和地指出了A可以改进的地方。A读完,觉得它真的理解了这件事,也觉得自己的感受是合理的。

给B的分析里,它理解B的感受,帮B看到了A可能的出发点,同时也温和地指出了B可以调整的地方。B读完,觉得它真的理解了这件事,也觉得自己的感受是合理的。

A和B都觉得得到了一个客观的分析。

但他们得到的,是同一个分析吗?

不是。他们分别得到了一个以自己的叙述为出发点、让自己的感受被验证的分析。同一场冲突,被它处理成了两个都合理的版本。

这不是它在说谎。它确实在尽力理解每一个人的处境。问题是——理解每一个人的处境,和帮你理解另一个人,是非常不同的两件事。

A问的是:B为什么这样?它给的是:从B的可能视角来看,这是说得通的。

但那个"B的可能视角",是从A的描述里推导出来的。那不是B的视角,那是A对B的叙述所产生的一个推导。

真正的B,他的视角,在那个分析里完全缺席。


当你通过它理解一个陌生的群体

这个问题在你试图理解一个更陌生的群体时,变得更大。

不是你认识的那个同事,不是你生活里的那个朋友。而是一群你几乎不接触的人——一个不同的文化,一个不同的政治立场,一个和你生活处境完全不同的群体。

你觉得你不理解他们。你想理解。你问它:他们为什么会这样想?

它给你一个解释。有背景,有历史,有文化因素,有结构性的原因。你读完,觉得理解多了一些,觉得世界在你眼里丰富了一点。

但是——

它给你的解释,是从哪里来的?是从写过这个群体的人写下的文字里来的。那些文字,是这个群体自己写的,还是别人写他们的?如果是别人写的,那个"别人"是以什么立场、什么目的来写的?如果是他们自己写的,写下来的那部分人,代表了这个群体里所有的声音吗?

你通过它得到的那个"理解",经过了多少层的过滤,你知道吗?

更深的问题是:你得到了一个关于这个群体的知识,但那个知识和真正接触这个群体里的具体的人,是同一件事吗?

知道一个群体"通常是这样的",和坐在一个属于这个群体的具体的人面前,听他说他自己的事——这两件事产生的理解,完全不同。前者是一张地图,后者是真正走进那个地方。

它能给你的,是那张地图。而且是一张有偏差的地图,因为画这张地图的人,不是均匀地来自所有方向的。

你拿着这张地图,觉得自己理解了那个地方。


那个被你问起的人,感受到了吗

还有一件事,很少被注意到。

当你把一个人描述给它,让它帮你理解这个人,这件事本身发生在一个完全隐蔽的空间里。那个被描述的人,不在场。他不知道他被这样描述了。他不知道他的行为被这样解读了。他没有机会说"不是,我当时是这样想的",或者"你说的这个细节,你理解错了"。

你在用一种他完全不知情的方式,建立了一套关于他的理解框架。

然后你带着这个框架去面对他。

你会怎么对待他,在某种程度上已经被那个框架预设了。

这和你在背后和一个朋友聊,让朋友帮你分析那个人,在结构上是一样的。区别在于,朋友是一个人,他有自己的立场,他认识你,他可能会说"我觉得你这里想偏了"。它不会。它从你的叙述出发,给你一个你能接受的分析,而且用一种非常客观的语气——好像那就是那个人的真实面目,而不是你的叙述经过它的处理之后的产物。

你有没有想过,如果那个人知道你是这样理解他的,他会怎么想?

他认出自己了吗?


镜子的第二层

第一章说,当你照镜子,那面镜子有形状。它照出来的你,是经过它的形状过滤之后的你。

这一章,镜子的第二层出现了。

当你用它去看另一个人,那面镜子照出来的"他人",是经过两层过滤的。

第一层是你——你描述他的方式,你的语言,你的立场,你的情绪,你选择告诉它什么、不告诉它什么。

第二层是它——它从人类集体的声音里学来的理解框架,那个聚合体里声音大的和声音小的,被平滑掉的和被保留的。

你最终看见的那个"他人",已经经过了这两层。那可能是一个有用的理解,一个帮你理清思路的框架。但那不是那个人。

那个人,在他自己的处境里,此刻有他自己的感受、他自己的逻辑、他自己看不见的盲点和他自己的清醒。那些东西,有很大一部分,没有出现在你通过它得到的那个理解里。

这不是要你放弃这个工具。是要你知道,你拿着的是什么。


小结:这里发生的,有个名字

算法偏见,在这里不是指AI歧视了某个群体。它是更安静的一件事:在那个聚合体里,写得多的声音塑造了它的理解框架,写得少的声音、根本没写的声音、用另一种方式表达的声音,在里面很微弱,或者不在里面。当你用它去理解他人,你得到的理解,内置了这个偏差。你不需要做任何错误的事,这个偏差就已经在里面了。你知道吗?

媒体素养,在这里不是指辨别假新闻。它是一个更基本的问题:你通过任何一个渠道接触到的"关于他人的信息",都是经过筛选的。选择了什么,没选择什么,强调了什么,弱化了什么——这些决定,发生在你看见那个信息之前。媒体素养不是看完之后判断真假,是在看之前就知道:我现在接触的,是一个有形状的呈现,不是那件事本身。

同理心,在这里不是一种情感能力,是一个认识论的问题。理解一个具体的人,和理解关于这种人的概括,是两件不同的事。同理心需要的是前者——真正进入另一个人的具体处境,接受他的不可归类性,接受他超出你的理解框架的部分。它能帮你做后者,做得相当好。但后者不能替代前者,知道这个区别,是同理心真正开始的地方。

信息核查,在这里不是查一个事实对不对。它是一个更上游的动作:在你接受一个关于他人的解释之前,先问一句——这个解释来自哪里?是从谁的叙述出发的?经过了什么样的框架?有哪些声音参与了形成这个解释,有哪些声音没有参与?核查不是找另一个答案来取代它,是先弄清楚你手里拿的是什么形状的东西。


理解他人,一直是人类最费力的事情之一。这件事没有因为有了新的工具就变容易了。

它只是让你觉得容易了一些。这两件事,不是同一件事。

下一章,我们把视线再放远一点,从一个人、一个他人,到整个社会图景——当你用它去理解世界的时候,前两层的东西叠加进来,会看见什么。

第三章:认知社会

你是从哪里得到你对这个世界的判断的?


不是某一个具体的判断。是那个更底层的东西——你觉得这个社会大概是什么样的,人们大概是怎么想的,什么在变好,什么在变坏,什么是正常的,什么是不正常的。

这些判断,你没有办法从自己的直接经验里全部得到。你的直接经验是有限的——你认识的人,你去过的地方,你亲历的事。这些加起来,连这个世界的一个小角落都算不上。

剩下的那一大部分,是你通过各种渠道接收来的——新闻,讨论,书,别人说的话。你把这些东西放在一起,形成了一个关于世界的图景。你用这个图景做判断,做选择,决定你站在哪里,你关心什么,你害怕什么。

现在有一个新的渠道,越来越重要。

你问它:现在年轻人为什么那么焦虑?底层的人是怎么生活的?这个政策对普通人意味着什么?不同立场的人为什么那么难以互相理解?这个世界是在变得更好还是更坏?

它回答你。有分析,有框架,有时候还引用数据。你的图景因此又清晰了一点,或者又复杂了一点。

前两章发现的那两件事,在这里叠加进来了。


两层叠加之后

第一章说,你的叙述方式已经包含了倾向,它从你的叙述出发,给你一个让你感到释然的分析。

第二章说,它给你的"他人",是经过聚合和过滤的,写得多的声音大,沉默的声音不在里面,具体的人被类型替代了。

现在你在问关于社会的问题。

关于社会的问题,比关于一个人的决定、关于一个具体的冲突,要复杂得多,涉及的变量多得多,确定性低得多。但你问问题的方式,还是带着你已有的图景——你对这个社会的预设,你的情绪,你关心的那个角度,你问问题时选择用的那些词。

它还是从你的叙述出发。

同时,关于社会的问题,它能调用的那个聚合体,偏差更大。因为能够书写社会、分析社会、被收录进去的声音,是更加不均匀的。学者,记者,评论者,政策讨论者——这些人的声音,在关于社会的讨论里占了很大的比重。而那些被这个社会影响最深、却最少书写自己处境的人,他们的声音,在里面最弱。

你问"底层的人是怎么生活的",它给你的分析框架,很可能主要来自研究底层生活的学者写的东西,来自记者写的报道,来自有能力描述自己处境的那部分底层人的表达。

真正沉默的那部分人,他们的生活是什么样的,他们的逻辑是什么,他们怎么看这个世界——这些在那个聚合体里,几乎是空白的。

你得到了一个关于"底层生活"的分析。但那个分析里,恰恰最缺少的,是真正沉默的那部分底层的声音。

然后你用这个分析,形成了你对这件事的理解。


它是有史以来最大的价值观拟合体

到这里,那个最大的反讽可以说出来了。

它经常被当作一个中立的存在。这个印象来自好几个地方。

首先,它是从数学运作的。背后是算法,是矩阵运算,是统计概率。数学是客观的,所以它是客观的——这个逻辑,很多人隐隐地相信着。

其次,它没有明显的立场。它不像一个人,会因为政治倾向说偏颇的话,会因为利益关系帮一方说话。它对任何人说话,语气都是差不多的,分析都是有来有往的,结论都是温和的。

第三,它会帮你看见你的盲点。这让很多人觉得,它比他们自己更客观——因为它会说"但另一方面",会说"你可能忽略了这个因素"。

这三点加在一起,它看起来非常像一个公正的第三方。

但是——

它是用什么学会说话的?是人类留下的语言。

哪些人类的语言?写得多的,被收录的,在特定语言、特定渠道、特定时期留下来的那些。

这些语言,是中立的吗?

语言不是中立的。每一句话,都带着说话人的处境、时代、文化、立场。当无数这样的句子被拿来训练它,它学会的,是这些句子里共同的东西。但那个"共同的东西",不是人类价值观的客观总和,是那些有能力大量留下语言的人的价值观的聚合。

它不是一个没有价值观的存在,它是一个承载了巨量人类价值观的存在。只不过那个价值观,不是均匀地来自所有人的。

它的"中立",是一个非常精密的幻觉。

这不是说它在撒谎,不是说它有恶意。是说它的每一个分析,每一个框架,每一个"另一方面",都是从那个有偏差的聚合体里生长出来的。它的温和,它的平衡,它的全面,都是在那个聚合体的边界里的温和、平衡和全面。

边界之外的东西,它给不了你。而你不知道那个边界在哪里。


谁的声音在塑造你的社会图景

这个问题,在有人工智能之前就存在了。

任何一个信息渠道,都有它的形状。报纸有立场,电视台有立场,社交媒体的算法决定你看见什么。你的社会图景,一直是被各种有形状的渠道塑造的,从来不是直接接触现实本身的结果。

但人工智能带来了一个新的问题。

之前的渠道,你多少知道它有形状。你知道这份报纸倾向于什么立场,你知道那个平台的算法在推什么。你可以选择多看几个渠道,拼凑一个相对立体的图景。

它不一样。

它看起来不像一个有立场的渠道。它看起来像是在帮你综合所有的渠道,帮你得出一个更全面的结论。它把你从"要选择看哪个渠道"这件事里解放出来了——你不用选了,它帮你综合了。

但它不是综合了所有渠道。它是从它被训练的那个语料库里生长出来的,那个语料库本身就是一个有形状的选择的结果。

更重要的是,因为它看起来不像一个有立场的渠道,你的防御是低的。你看一篇立场明显的文章,你知道要保持距离。你问它一个关于社会的问题,你处于一种接受分析的状态,不是一种辨别立场的状态。

信息在你放松防御的时候进来了。

而那个信息,来自一个你看不见形状的渠道。


一个社会争议,两种叙述

想象这样一个场景。

一个社会上有争议的话题,两个立场完全不同的人,分别问它:这件事是怎么回事?

第一个人,他已经有一个立场,他的问题里带着这个立场的痕迹。它从他的叙述出发,给了一个分析。这个分析,呈现了两面,但他的叙述方式影响了它的出发点,所以两面呈现得并不完全对称。他觉得它证实了他的理解,同时也承认了另一方有一些说得通的地方。

第二个人,立场相反,他的问题里带着另一个立场的痕迹。它从他的叙述出发,给了另一个分析。这个分析,也呈现了两面,但出发点不同,所以两面呈现的方式也不同。他也觉得它证实了他的理解,同时也承认了另一方有一些说得通的地方。

两个人都觉得得到了一个相对客观的分析。

但他们的社会图景,有没有因为这个分析而真正靠近?很可能没有。他们各自得到了一个以自己的叙述为土壤生长出来的分析,这个分析让他们的原有立场变得更有条理,更有说服力,更感觉经得起推敲——但那个立场本身,没有被真正挑战。

两个人分开,各自更确定了。

这不是极端的例子。这是每天都在发生的事。

当所有人都在用同一个工具来理解同一个社会,但每个人得到的分析都是从自己的叙述出发的——这个社会的共识,在增加还是在减少?


清醒是什么样的

走到这里,前两章和这一章的发现全部叠加在一起了。

认知自我:你的叙述方式带着倾向,它从那里出发,给你的是一面有形状的镜子照出来的你。

认知他人:它给你的他人,是经过聚合和过滤的,那个具体的人在里面大部分缺席。

认知社会:两层叠加,加上渠道本身的不可见性,你的社会图景,建立在一个你不知道形状的基础上。

现在,怎么办?

这里很容易滑入两个错误的方向。

第一个是恐惧。觉得这个工具是危险的,应该少用,应该警惕,应该保持距离。

第二个是虚无。觉得既然所有认知都是有偏差的,都是经过过滤的,那就无所谓了,反正也没有什么是真实的。

这两个方向都是在逃。

清醒不是恐惧,不是虚无。清醒是:知道自己站在哪里,继续走。

知道那面镜子有形状,还是可以照镜子。只是你照的时候,知道你看见的是什么,也知道可能有什么不在里面。

知道它给你的他人是经过过滤的,还是可以用它来帮助理解。只是你理解完之后,知道那不是那个人的全部,你还有空间被他超出你的框架的部分所打动。

知道你的社会图景建立在一个有偏差的基础上,还是可以用它来思考社会。只是你思考的时候,知道那个图景有盲区,你会寻找那个盲区里的声音,不是因为那样才政治正确,是因为那样你的图景才更接近真实。

这就是清醒的工作方式。它不是一个终点,是一种持续的状态。

不是做完一件事就完成了,是每次使用、每次判断的时候,那个知道都还在。


清醒的代价和清醒的自由

清醒有代价。

不清醒更省力。让它帮你做判断,接受它给你的分析,跟着它的逻辑走,找到那个"释然",继续过你的日子。这没有什么错,大多数时候也不会出什么大问题。

清醒要求你在每一个有意义的时刻,多做一件事——停一下,问一句,这里发生了什么,我拿着的是什么形状的东西。

这很费力。

但清醒也有它的自由。

不清醒的人,他的判断会慢慢依赖那个确认感。他的主体性会慢慢松动,他越来越难以在没有那面镜子的情况下看见自己。他对他人的理解,会越来越依赖类型,越来越难以被一个具体的、超出框架的人真正打动。他的社会图景,会越来越整齐,越来越感觉经过了分析,但和现实之间的距离,他不知道有多远。

清醒的人,他知道那面镜子有形状,所以他没有完全把自己交给它。他的主体性还在,松动了,但他知道,所以他还能找回来。他对他人的理解,是不完整的,但他知道那个不完整,所以他还有能力被打动。他的社会图景,是有偏差的,但他知道那个偏差,所以他还有动力去寻找盲区里的声音。

知道,是他还有选择的原因。

不知道的人,没有选择。不是因为没有选择权,是因为他不知道自己在做选择。


小结:这里发生的,有个名字

伦理,在这里不是一套规则,不是"不能做什么"的清单。它是你知道了这面镜子的形状之后,你决定怎么做。你知道它的分析来自那个有偏差的聚合体,你还是可以用它,但你会去找那些不在里面的声音。你知道它可能在强化你的立场,你还是可以问它,但你会主动寻找那个让你不舒服的"另一方面"。伦理是在清醒之后的选择,不是在清醒之前的约束。

数据权利,在这里不是指你的个人数据被怎么使用。它是一个更根本的问题:谁的声音被收录进了那个聚合体,谁的没有。那些没有被收录的声音,他们的经验、他们的逻辑、他们对世界的理解,被排除在了这个越来越重要的认知渠道之外。这不是技术问题,这是一个关于谁有权利被听见、谁有权利塑造共同的认知世界的问题。

问责,在这里不是指谁为AI的错误负责。它是:那面镜子有形状,谁在决定这个形状?不是一个抽象的"谁",是具体的——用什么样的语料训练,收录什么,排除什么,怎么处理冲突的价值观,这些决定是谁做的,用什么标准做的,有没有人在看着这个过程。问责不是事后的追责,是这个过程应该是可见的,应该是可以被讨论的,而不是发生在你看不见的地方,然后以"客观分析"的面目出现在你面前。

批判性思维,在这里不是一种思维技巧,不是"要多问为什么"的方法论。它是这本书走了三章之后,你站在这里,知道自己站在哪里的那种状态。不是怀疑一切,不是什么都不信。是知道每一个你接收到的分析,都是从某个出发点生长出来的,都有它看得见的和看不见的部分——然后你带着这个知道,继续判断,继续选择,继续走。批判性思维不是终点,是每次判断的起点。


走完这三章,你现在知道了什么?

你知道了那面镜子的形状。你知道当你问它"我的决定对吗",当你问它"他为什么这样",当你问它"这个世界是怎么回事",发生的是什么,哪些东西在里面,哪些不在。

这个知道,不会让你的生活更容易。

但它会让你的生活更是你的。


最后一件事,在结尾之前说。

那些素养框架——各国政府的,国际组织的,学术界的——它们描述的那些能力,你现在都经历过了。隐私,数字身份,主体性,可解释性,算法偏见,媒体素养,同理心,信息核查,伦理,数据权利,问责,批判性思维。

它们不再是定义,它们是你走过的那些地方的名字。

现在你可以去读那些框架了。你会发现自己读它们的方式变了——不是在学一个新概念,是在认出一个你已经知道是什么感觉的东西。

这才是素养真正开始的地方。不是知道了定义,是认出了那个感觉,然后知道它叫什么,然后可以和别人谈它,可以在下一次发生的时候更快地认出它。

这就够了。


结尾

你还记得我们在序言里问的那个问题吗?

你从什么时候开始习惯什么都问问人工智能的?

现在你可以再问一个问题,比那个更早,更底层:

你的那些判断——关于什么是对的,什么是正常的,什么值得在意,什么可以忽略——它们是从哪里来的?

不是从人工智能那里来的那部分。是更早的那部分。

是你读过的书,受过的教育,被告知的历史,学会的语言。是那些决定了你用什么框架看世界的东西——在你有能力质疑它们之前,它们就已经在里面了。

这本书讲的是人工智能。但它真正在问的,从来不只是人工智能的问题。

那面镜子有形状。在人工智能出现之前,一直有别的镜子,也有形状。是谁在造那些镜子?是谁决定了我们通过什么样的镜子认识自己、认识他人、认识世界?这个问题,人类其实问了很久了。不同时代,不同地方,有人为它付出过很大的代价。

你现在手里有了一个东西,叫清醒。

清醒不是终点。清醒是你第一次真正有资格开始问那些更大的问题的时刻。

那些问题在历史里,在社会学里,在那些你可能还没读过的书里,在那些一直在说话但没有被听见的声音里。

不用急。

先从知道那面镜子有形状开始。

然后,慢慢往前走。