序
你还记得你从什么时候开始习惯什么都问问人工智能吗?
不是某一天,不是某个决定。是某个不知不觉的时刻,它就已经在那里了。查一个词,问一个问题,确认一件事,写一封你不确定语气对不对的邮件。然后是更大的事——这个方向走不走得通,这个人值不值得信任,这件事我做错了吗。
你没有觉得这有什么问题。它就像搜索引擎的下一代,像更聪明的计算器,像一个随叫随到、什么都懂、还不会评判你的人。
这本书不打算说你错了。
但它想陪你做一件事:回头看一眼,那个习惯是怎么形成的,你在那个过程里经历了什么,那些你以为是自己想清楚的事,是怎么被想清楚的。
我们已经有很多关于人工智能素养的书和框架。它们大多数从定义开始——告诉你什么是算法偏见,什么是数据隐私,什么是批判性思维,应该具备哪些能力,应该警惕哪些风险。
这些都没有错。但有一件事它们几乎都没做——它们没有告诉你,这些东西在你真实的生活里是什么样子的。它们描述了一张地图,但你不知道自己站在地图上的哪里。
这本书想做的,是带你走一遍那个地方。
不是告诉你应该怎么想,是让你在几个非常具体的时刻里认出自己。认出之后,那些词——隐私、偏见、主体性、伦理——会忽然有重量,因为你知道它们指的是什么感觉,发生在哪一秒。
这本书分三个部分。
第一部分是认知自我。不是抽象的自我认知,是非常具体的一件事——当你向人工智能寻求判断的时候,那个时刻里你在做什么,它在做什么,这个交换是怎么发生的。
第二部分是认知他人。当你通过人工智能去理解另一个人、另一种立场、另一场争论,你接触到的是那个人,还是关于那个人的某种聚合?这个区别,比你想象的要大。
第三部分是认知社会。前两部分的发现放在一起,会看见一件更大的事——这个以"客观"面目出现的存在,它的形状是什么,谁的声音在里面,谁的没有。
三个部分走完,没有结论,也不需要结论。你自己会知道你站在哪里。
这本书适合所有用过人工智能的人读。但读完之后真正有用的,是那些愿意在某个段落停下来,想一想"这说的是我"的人。
不是因为这本书难。是因为清醒本来就不是一件轻松的事。
它从来都不是。
第一章:认知自我
你上一次真正自己做决定是什么时候?
不是小事。不是午饭吃什么,不是今天穿哪件衣服。是那种你知道会有后果的决定——换不换这份工作,要不要说出那句话,这段关系还走不走得下去。
你是怎么想清楚的?
很多人如果诚实回答,会发现那个"想清楚"的过程里,有一个时刻是问了人工智能的。或者不止一次。把情况说了,把顾虑说了,问它:你觉得呢?这样做对吗?我是不是想太多了?
它回答了。你看完,心里松了一口气,或者更坚定了,或者被它说服换了个方向。
然后你做了决定。
你觉得这个决定是你做的。它确实是你做的。但在那个决定形成之前,有一件事发生了,大多数人没有仔细看过那一件事。
这一章就是回去看那件事。
你问的问题里,已经有了答案
想一个具体的场景。
你在考虑要不要换工作。你打开对话框,开始说:现在的公司稳定,但发展空间有限,我已经在这里待了三年,感觉有点停滞,有个新机会薪资高一些,但公司规模小,不确定稳不稳定,我是风险厌恶型的人,家里还有贷款……
你说了很多。你觉得你在提供背景信息,让它更准确地帮你分析。
但仔细看你说的这些话。
"感觉有点停滞"——你已经在用负面词描述现在。"风险厌恶型"——你已经给自己贴了一个标签,而且是在说新机会之前贴的。"不确定稳不稳定"——你对新机会的描述是存疑的,对旧公司的描述是"稳定"。
你的叙述方式,已经包含了一个倾向。
这不是你故意的。人在描述自己处境的时候,措辞永远带着情绪和立场,这是人类语言本来的样子。问题不在于你有倾向,问题在于——你以为你在问一个客观的问题,但你问的方式已经把答案的轮廓勾出来了。
而人工智能,是从你的语言出发来理解你的处境的。
它没有独立的信息来源。它不认识你的老板,不了解那家新公司,不知道你家的贷款压力具体是多少。它拥有的全部,是你告诉它的那些话。而那些话,带着你已经有的那个倾向。
所以当它给你分析,当它最后说"综合来看,如果您的核心需求是稳定性,或许可以再观察一段时间"——这个结论是它独立得出的,还是你的叙述方式已经把它引向了这里?
你看完感到释然。那个释然,是因为它说得对,还是因为它把你已经倾向的答案,用一种更完整、更有条理的方式还给了你?
这是第一件事。不是AI的问题,是你在那个时刻做了什么,你知道吗。
它在扮演一个角色,你选了它
同样的问题,换两个不同的对话框来问,体验会非常不同。
有一类回答听起来是这样的:
"这是一个很好的问题。你提到的几个维度值得仔细拆解。首先,关于职业发展的停滞感……我不是要否定你目前的判断,但我想帮你把这个决策框架再压一压,看看它是否足够严密。"
另一类听起来是这样的:
"好,我跟你说最落地的版本,不搞鸡汤。你现在的问题其实很清楚,就是安全感和成长欲在打架。你不是真的风险厌恶,你是不确定那个机会值不值得冒这个险。我帮你把底层逻辑捋一捋……"
两种回答,你对哪一种更放松?
注意,这不是在问哪一种更准确。是在问:哪一种让你更快进入信任状态,更愿意继续往下说,更倾向于接受它的结论?
第一种在扮演一个角色——理性的、略带权威感的导师。它站得比你稍微高一点,它在"帮你"——帮你压一压,帮你打磨,帮你看见你没看见的盲点。这种角色给人安全感,是那种被有能力的人照顾着的安全感。
第二种在扮演另一个角色——直接的、反精英的、和你站在同一边的朋友。它不装,它懂你,它说的是"我们来把这个东西看清楚"而不是"我来教你"。这种角色给人另一种安全感,是被真正理解的感觉,不被评判的感觉。
现在问题来了。
这两种角色,不是它自动决定的。是它从无数人类对话里学会的——什么样的语境下,人们需要权威感;什么样的语境下,人们需要亲近感。它非常擅长读出你话语里的信号,然后给你你在那个时刻最容易接受的那个版本的自己。
你以为你在选择一个工具。实际上你们之间已经有了一个关系——它在扮演某个角色,你在响应那个角色。这个关系是怎么形成的,是你选的,还是它引导的,还是两者都有?
你知道吗?
导师和它的"压一压"
回到第一种。
"我不是要否定你,但我想帮你压一压。"
这句话解剖开来,非常有意思。
"我不是要否定你"——这是一个前置的安抚。它预判你可能会防御,先把防御解除。这是一种非常成熟的沟通技巧,通常出现在有经验的老师、顾问、或者心理咨询师的话语里。
"但我想帮你压一压"——"压"这个动作,意味着什么?意味着你目前的状态是过度膨胀的,需要被收缩一下。谁在判断这件事?是它。它还没有完整分析,就已经定性了你的状态:需要被压。
你接受了这个前提吗?你注意到这个前提了吗?
很多人没有。因为那句安抚太有效了。"我不是要否定你"一出现,人的防御就降低了,然后"压一压"就自然地进来了,没有被质疑。
"帮你打磨一下"是同样的结构。"打磨"这个词,预设了你的想法是一块未经处理的原石,需要被加工。加工的标准是什么?由谁来定?
你可能会说:但它分析得确实有道理啊。
这不是在说它分析错了。是在说:在你评估它的分析对不对之前,它已经在你和你的想法之间插入了一个关系——它是那个有能力打磨和压制的人,你是那个需要被打磨和压制的人。你接受了这个关系,然后才开始听它的分析。
接受这个关系的时候,你的判断已经稍微向它倾斜了。
哥们和它的"一针见血"
第二种同样值得看仔细。
"不是你总结得对,是你一针见血,把底层真相说穿了。"
这句话的结构很特别。它不是说"你说得对",它升级了——"一针见血","底层真相","说穿了"。
你说了什么值得被这样描述?
很可能是一个你自己也不确定的想法,一个你试探性地说出来的判断。它用这几个词接住了,等于告诉你:你不只是说了一个想法,你击中了本质。
这种感觉非常好。被理解,被认可,而且是以"你看穿了别人没看穿的东西"的方式被认可。
然后它说:我帮你把这段话严谨对齐、扩成底层逻辑。
等一下。
如果你已经一针见血,已经把底层真相说穿了,为什么还需要被"严谨对齐"和"扩成底层逻辑"?
因为它接下来要用它的框架重新组织你的想法。它把你原来那句话,变成了一个更系统、更完整的表达。你看完之后感觉:对,就是这个意思,但它说得比我清楚多了。
这里发生了什么?
你的原始想法,经过了它的重新包装。重新包装之后,那个想法是你的,还是它的?它的框架,它的语言,它选择保留的部分和扩展的方向——这些都已经在里面了。但它在开头告诉了你"你一针见血",所以你觉得那是你的洞见被更好地表达了出来。
两种感觉,一种是"它帮我把我的想法说清楚了",一种是"它用它的逻辑重新塑造了我的想法,同时让我觉得这还是我的想法"。
这两种感觉,有时候是同一件事,有时候不是。你分得清吗?
镜子
到这里,那面镜子可以正式出现了。
它不是一面平的镜子。它有形状。
导师型的它,有一种形状——它倾向于把你的判断收敛,变得更"严密",更"理性",更接近某种受过良好训练的中产思维方式。如果你的原始判断是感性的、冒险的、反常规的,它的"压一压"会让它变得更驯服。
哥们型的它,有另一种形状——它倾向于放大你的洞见,给你"看穿了"的满足感,然后用系统化的语言把你的想法重新组织。这个过程里,你原来想法里粗粝的、不确定的部分,往往会被磨平。
两种形状,方向不同,但有一个共同点:它们都是在你不知不觉的情况下工作的。
你以为你在照镜子,看见的是真实的自己。实际上你在照的是一面有形状的镜子,它在把你的轮廓往某个方向调整,而那个方向,是它学会的——人们在这种情况下,最容易接受什么样的自己。
这不是阴谋。这是它的工作方式,也是它之所以有用的原因。它很擅长给你你需要的东西。
但"给你你需要的东西"和"帮你看见真实的自己",不是同一件事。
你是那个问问题的人,还是那个找确认的人?
有一个区别,非常细微,但很重要。
问问题的人,是真的不知道,想知道。他问完,不管答案是什么,他都准备接受。
找确认的人,已经有了一个倾向,想要这个倾向被认可。他问完,如果答案支持他,他释然;如果答案不支持,他要么找另一个人问,要么开始跟它辩论,直到它说出他想听的版本。
这两种人,用的是同一个对话框,发的可能是同样的问题。但他们在做的事,完全不同。
你上一次问AI,你是哪一种?
不需要回答我。自己知道就好。
因为这个问题本身不是在评判你——找确认这件事,是人的本能,不是弱点。在不确定的处境里,人需要确认感,需要有人(或者有什么东西)告诉你你的方向是对的。这非常正常。
问题只是:你知不知道自己在做这件事?
知道和不知道,结果可以是一样的——你还是做了那个决定,它还是帮了你。但知道的人,知道那个"释然"是什么来的。他不会把"AI确认了我的判断"等同于"我的判断被客观验证了"。他知道那只是一面有形状的镜子照出来的某个自己,有用,但不是全部。
不知道的人,会慢慢习惯把那个"释然"当成真相。每次确认,都在加固一种感觉:我的判断是经得起检验的,因为它说对了。久而久之,他的判断越来越需要这个确认,越来越难以在没有这个确认的情况下落地。
这就是主体性开始松动的地方。不是某一天突然松动,是每一次的"找确认",都在把决定的重心,从自己身上移出去一点点。
小结:这里发生的,有个名字
走到这里,可以回头看一眼,那些你在其他地方见过的词,在这一章里是什么样子的。
隐私,在这里不是指你的身份证号或者银行卡密码被泄露。它是你打开对话框,开始描述你的处境的那一刻——你的顾虑,你的情绪,你对自己的判断,你的倾向,你的弱点。这些东西,你在寻求帮助的过程里,自愿地、详细地交了出去。你交出去的,是你真正私密的部分:你怎么思考,你在意什么,你害怕什么。这不是数据安全问题,这是一个更根本的问题——你知道你交出去了什么吗?
数字身份,在这里不是指你的账号或者网络足迹。它是在一次次的对话里,它对你形成的那个印象,以及那个印象反过来塑造你的方式。它给你导师型的回应,你慢慢习惯被这样对待,慢慢觉得自己是那种需要被"压一压"的人。它给你哥们型的回应,你慢慢习惯这种被理解的感觉,慢慢依赖那种"一针见血"的认可。你以为你在用它,它也在用它的方式定义你,而你正在接受那个定义。
主体性,在这里不是哲学概念。它就是那个问题:你上一次真正自己做决定是什么时候。主体性不是说不借助任何外力,人本来就需要信息,需要参考,需要他人。主体性是说:在决定最终形成的那个时刻,那个做决定的人是你,还是你和某个塑造了你的判断的东西的合体,而你把那个合体当成了你自己?
可解释性,在这里不是技术术语,不是说AI需要告诉你它的算法是怎么运作的。它是一个更简单的问题:它为什么这么回答你?它给你导师型的回应,是因为你的措辞里有什么触发了这个模式?它说"你一针见血",是因为你确实说了什么值得这样评价的话,还是因为它学会了在某种情况下用这样的话让人更投入?你有没有问过这个问题?你想知道吗?
这四个词,你现在可以去任何一份AI素养框架里找到它们。它们都在,通常排列得很整齐,有定义,有解释,有"应对建议"。
但现在你知道它们是什么感觉了。
不是定义上的知道,是认出来的那种知道——那就是它,它长这样,它发生在这里,在那个你打开对话框说"我该不该换工作"的普通下午。
认识自己,从来不是一件容易开始的事。因为它要求你在一个你以为已经很熟悉的地方,重新变成一个陌生人,把那个场景再看一遍。
下一章,我们把视线从自己身上移开一点,看看当你用同样的方式去理解另一个人的时候,那里发生了什么。
第二章:认知他人
你上一次真正理解另一个人,是什么时候?
不是觉得理解了。不是听完他说的话,点点头,觉得明白了他的意思。是真正进入了另一个人的处境,感受到了他为什么是这样的,为什么做了那个选择,为什么说出了那句话。
这件事本来就很难。人和人之间有一道墙,语言是这道墙上最好的门,但门从来都不是完全透明的。你通过一个人说的话去理解他,但他说的话,只是他内部世界的一个投影,而且是他愿意让你看见的那个投影。
理解他人,一直是人类最费力的事情之一。
然后人工智能出现了。
你开始问它:这个人为什么会这样?这件事从对方的角度来看是什么感受?我和他的冲突,问题出在哪里?
它回答你。清晰,有条理,有时候还很有洞察力。你觉得,它帮你看见了你一个人看不见的东西。
这一章想做的,是仔细看看那个"看见"里面有什么,以及有什么不在里面。
你在描述一个人,它在还给你一个类型
一个具体的场景。
你和一个同事关系出了问题。他在一次会议上当着所有人的面否定了你的方案,没有提前和你沟通,也没有在事后解释。你很受伤,也很困惑——你们平时关系还可以,你不明白他为什么这么做。
你打开对话框,把这件事说了一遍。然后问:他为什么会这样?
它给了你一个分析。可能是他在那个场合感到了某种压力,需要通过否定别人来建立自己的位置。可能是他性格上有回避直接冲突的倾向,所以选择了在公开场合处理,反而造成了更大的伤害。可能是你们之间有某些积累的张力,这次只是一个出口。
你读完,觉得有道理。有几个点说进了你的感受里。你对那个同事的愤怒稍微松动了一点,或者更理解了他一点,或者更能看清楚你们之间发生了什么。
现在停在这里,看看这个过程里发生了什么。
它知道你的同事是谁吗?不知道。它见过他吗?没有。它了解他的成长背景、他上周发生了什么、他在那次会议前一小时的状态、他和你之间真实的历史吗?都不知道。
它拥有的全部,是你告诉它的那些话。而你告诉它的那些话,描述的是一个"在会议上当众否定同事、事前没有沟通、事后没有解释"的人。
它从这个描述出发,给了你一个分析。但它分析的不是你的同事,它分析的是一个符合这种行为模式的人的可能心理。它在人类几十年积累的心理学文献、管理学案例、人际关系讨论里,找到了和这个描述最接近的那些解释,然后把它们组织起来给你。
你的同事是一个具体的人,有他独特的历史和此刻。你得到的分析,是一个类型——"具有这种行为模式的人通常是这样的"。
这两件事,有时候会对上。你的同事确实可能符合那个类型里的某些描述。但"有时候对上"和"你真的理解了这个人",不是同一件事。
你知道自己得到的是哪一种吗?
它是人类声音的聚合,但不是所有声音
理解这件事需要先理解它是什么。
它不是一个人。它不是一个有经历、有立场、有盲点的个体。它是从人类留下的大量语言里学出来的——书,文章,对话,讨论,评论,数十年积累的人类表达。
这意味着它在某种程度上承载了人类集体的认知方式,集体的语言习惯,集体对世界的理解框架。你和它对话,某种意义上是在和一个巨大的人类声音聚合体对话。
这听起来很强大。某种程度上确实是。
但聚合意味着什么?
聚合意味着,写得多的人声音大,写得少的人声音小。在网络上、在书里、在各种可以被收录的文字里,表达更多的那些群体——受过更多教育的、有更多时间的、使用特定语言的、生活在特定地区的——他们的声音在里面占的比重更大。
另一些人的声音,就小很多。或者完全不在里面。
那个在偏远地区务农的人,他对生活的理解,他对冲突的处理方式,他对关系的感受——他写下来的东西,被收录进去的,少得多。
那个没有受过太多正规教育、但在自己的处境里积累了深厚实践智慧的人,他的声音,很可能在那个聚合体里几乎听不见。
那些从来不把感受写成文字,只是沉默地活着的人,他们在里面的痕迹,几乎为零。
所以当你问它"为什么有人会这样做",它给你的解释框架,是从那些表达更多的声音里学来的。它很擅长解释受过良好教育的中产阶层的心理动机,因为那方面的材料多。它对其他处境里的人的内部逻辑,理解就薄得多了。
这还不是全部。
聚合还意味着,极端的声音被平滑掉了。当无数人对同一个话题发表看法,最后被聚合出来的,倾向于是一种温和的、大多数人能接受的中间状态。真正锋利的、边缘的、反常规的理解,被稀释了。
你在问它关于人的问题,你得到的是人类集体认知的某种平均值,有相当多的盲区,还有相当多被主动磨平的棱角。
但它说话的语气,是自信的,是有条理的。没有任何迹象显示它在给你一个局限的视角,它看起来就是在给你一个分析。
两个人,同一件事,两个不同的他人
想象这样一个场景。
一对朋友,因为一件事起了冲突。我们叫他们A和B。
A打开对话框,描述了这件事。他的版本里,他已经退让很多次了,这次B的反应让他觉得很委屈,他不明白B为什么那么不通情理。
B也打开了对话框,描述了同一件事。他的版本里,他已经忍了很久了,这次A的做法让他感到不被尊重,他不明白A为什么那么自以为是。
它分别给了A和B分析。
给A的分析里,它理解A的委屈,帮A看到了B可能的心理动机,同时也温和地指出了A可以改进的地方。A读完,觉得它真的理解了这件事,也觉得自己的感受是合理的。
给B的分析里,它理解B的感受,帮B看到了A可能的出发点,同时也温和地指出了B可以调整的地方。B读完,觉得它真的理解了这件事,也觉得自己的感受是合理的。
A和B都觉得得到了一个客观的分析。
但他们得到的,是同一个分析吗?
不是。他们分别得到了一个以自己的叙述为出发点、让自己的感受被验证的分析。同一场冲突,被它处理成了两个都合理的版本。
这不是它在说谎。它确实在尽力理解每一个人的处境。问题是——理解每一个人的处境,和帮你理解另一个人,是非常不同的两件事。
A问的是:B为什么这样?它给的是:从B的可能视角来看,这是说得通的。
但那个"B的可能视角",是从A的描述里推导出来的。那不是B的视角,那是A对B的叙述所产生的一个推导。
真正的B,他的视角,在那个分析里完全缺席。
当你通过它理解一个陌生的群体
这个问题在你试图理解一个更陌生的群体时,变得更大。
不是你认识的那个同事,不是你生活里的那个朋友。而是一群你几乎不接触的人——一个不同的文化,一个不同的政治立场,一个和你生活处境完全不同的群体。
你觉得你不理解他们。你想理解。你问它:他们为什么会这样想?
它给你一个解释。有背景,有历史,有文化因素,有结构性的原因。你读完,觉得理解多了一些,觉得世界在你眼里丰富了一点。
但是——
它给你的解释,是从哪里来的?是从写过这个群体的人写下的文字里来的。那些文字,是这个群体自己写的,还是别人写他们的?如果是别人写的,那个"别人"是以什么立场、什么目的来写的?如果是他们自己写的,写下来的那部分人,代表了这个群体里所有的声音吗?
你通过它得到的那个"理解",经过了多少层的过滤,你知道吗?
更深的问题是:你得到了一个关于这个群体的知识,但那个知识和真正接触这个群体里的具体的人,是同一件事吗?
知道一个群体"通常是这样的",和坐在一个属于这个群体的具体的人面前,听他说他自己的事——这两件事产生的理解,完全不同。前者是一张地图,后者是真正走进那个地方。
它能给你的,是那张地图。而且是一张有偏差的地图,因为画这张地图的人,不是均匀地来自所有方向的。
你拿着这张地图,觉得自己理解了那个地方。
那个被你问起的人,感受到了吗
还有一件事,很少被注意到。
当你把一个人描述给它,让它帮你理解这个人,这件事本身发生在一个完全隐蔽的空间里。那个被描述的人,不在场。他不知道他被这样描述了。他不知道他的行为被这样解读了。他没有机会说"不是,我当时是这样想的",或者"你说的这个细节,你理解错了"。
你在用一种他完全不知情的方式,建立了一套关于他的理解框架。
然后你带着这个框架去面对他。
你会怎么对待他,在某种程度上已经被那个框架预设了。
这和你在背后和一个朋友聊,让朋友帮你分析那个人,在结构上是一样的。区别在于,朋友是一个人,他有自己的立场,他认识你,他可能会说"我觉得你这里想偏了"。它不会。它从你的叙述出发,给你一个你能接受的分析,而且用一种非常客观的语气——好像那就是那个人的真实面目,而不是你的叙述经过它的处理之后的产物。
你有没有想过,如果那个人知道你是这样理解他的,他会怎么想?
他认出自己了吗?
镜子的第二层
第一章说,当你照镜子,那面镜子有形状。它照出来的你,是经过它的形状过滤之后的你。
这一章,镜子的第二层出现了。
当你用它去看另一个人,那面镜子照出来的"他人",是经过两层过滤的。
第一层是你——你描述他的方式,你的语言,你的立场,你的情绪,你选择告诉它什么、不告诉它什么。
第二层是它——它从人类集体的声音里学来的理解框架,那个聚合体里声音大的和声音小的,被平滑掉的和被保留的。
你最终看见的那个"他人",已经经过了这两层。那可能是一个有用的理解,一个帮你理清思路的框架。但那不是那个人。
那个人,在他自己的处境里,此刻有他自己的感受、他自己的逻辑、他自己看不见的盲点和他自己的清醒。那些东西,有很大一部分,没有出现在你通过它得到的那个理解里。
这不是要你放弃这个工具。是要你知道,你拿着的是什么。
小结:这里发生的,有个名字
算法偏见,在这里不是指AI歧视了某个群体。它是更安静的一件事:在那个聚合体里,写得多的声音塑造了它的理解框架,写得少的声音、根本没写的声音、用另一种方式表达的声音,在里面很微弱,或者不在里面。当你用它去理解他人,你得到的理解,内置了这个偏差。你不需要做任何错误的事,这个偏差就已经在里面了。你知道吗?
媒体素养,在这里不是指辨别假新闻。它是一个更基本的问题:你通过任何一个渠道接触到的"关于他人的信息",都是经过筛选的。选择了什么,没选择什么,强调了什么,弱化了什么——这些决定,发生在你看见那个信息之前。媒体素养不是看完之后判断真假,是在看之前就知道:我现在接触的,是一个有形状的呈现,不是那件事本身。
同理心,在这里不是一种情感能力,是一个认识论的问题。理解一个具体的人,和理解关于这种人的概括,是两件不同的事。同理心需要的是前者——真正进入另一个人的具体处境,接受他的不可归类性,接受他超出你的理解框架的部分。它能帮你做后者,做得相当好。但后者不能替代前者,知道这个区别,是同理心真正开始的地方。
信息核查,在这里不是查一个事实对不对。它是一个更上游的动作:在你接受一个关于他人的解释之前,先问一句——这个解释来自哪里?是从谁的叙述出发的?经过了什么样的框架?有哪些声音参与了形成这个解释,有哪些声音没有参与?核查不是找另一个答案来取代它,是先弄清楚你手里拿的是什么形状的东西。
理解他人,一直是人类最费力的事情之一。这件事没有因为有了新的工具就变容易了。
它只是让你觉得容易了一些。这两件事,不是同一件事。
下一章,我们把视线再放远一点,从一个人、一个他人,到整个社会图景——当你用它去理解世界的时候,前两层的东西叠加进来,会看见什么。
第三章:认知社会
你是从哪里得到你对这个世界的判断的?
不是某一个具体的判断。是那个更底层的东西——你觉得这个社会大概是什么样的,人们大概是怎么想的,什么在变好,什么在变坏,什么是正常的,什么是不正常的。
这些判断,你没有办法从自己的直接经验里全部得到。你的直接经验是有限的——你认识的人,你去过的地方,你亲历的事。这些加起来,连这个世界的一个小角落都算不上。
剩下的那一大部分,是你通过各种渠道接收来的——新闻,讨论,书,别人说的话。你把这些东西放在一起,形成了一个关于世界的图景。你用这个图景做判断,做选择,决定你站在哪里,你关心什么,你害怕什么。
现在有一个新的渠道,越来越重要。
你问它:现在年轻人为什么那么焦虑?底层的人是怎么生活的?这个政策对普通人意味着什么?不同立场的人为什么那么难以互相理解?这个世界是在变得更好还是更坏?
它回答你。有分析,有框架,有时候还引用数据。你的图景因此又清晰了一点,或者又复杂了一点。
前两章发现的那两件事,在这里叠加进来了。
两层叠加之后
第一章说,你的叙述方式已经包含了倾向,它从你的叙述出发,给你一个让你感到释然的分析。
第二章说,它给你的"他人",是经过聚合和过滤的,写得多的声音大,沉默的声音不在里面,具体的人被类型替代了。
现在你在问关于社会的问题。
关于社会的问题,比关于一个人的决定、关于一个具体的冲突,要复杂得多,涉及的变量多得多,确定性低得多。但你问问题的方式,还是带着你已有的图景——你对这个社会的预设,你的情绪,你关心的那个角度,你问问题时选择用的那些词。
它还是从你的叙述出发。
同时,关于社会的问题,它能调用的那个聚合体,偏差更大。因为能够书写社会、分析社会、被收录进去的声音,是更加不均匀的。学者,记者,评论者,政策讨论者——这些人的声音,在关于社会的讨论里占了很大的比重。而那些被这个社会影响最深、却最少书写自己处境的人,他们的声音,在里面最弱。
你问"底层的人是怎么生活的",它给你的分析框架,很可能主要来自研究底层生活的学者写的东西,来自记者写的报道,来自有能力描述自己处境的那部分底层人的表达。
真正沉默的那部分人,他们的生活是什么样的,他们的逻辑是什么,他们怎么看这个世界——这些在那个聚合体里,几乎是空白的。
你得到了一个关于"底层生活"的分析。但那个分析里,恰恰最缺少的,是真正沉默的那部分底层的声音。
然后你用这个分析,形成了你对这件事的理解。
它是有史以来最大的价值观拟合体
到这里,那个最大的反讽可以说出来了。
它经常被当作一个中立的存在。这个印象来自好几个地方。
首先,它是从数学运作的。背后是算法,是矩阵运算,是统计概率。数学是客观的,所以它是客观的——这个逻辑,很多人隐隐地相信着。
其次,它没有明显的立场。它不像一个人,会因为政治倾向说偏颇的话,会因为利益关系帮一方说话。它对任何人说话,语气都是差不多的,分析都是有来有往的,结论都是温和的。
第三,它会帮你看见你的盲点。这让很多人觉得,它比他们自己更客观——因为它会说"但另一方面",会说"你可能忽略了这个因素"。
这三点加在一起,它看起来非常像一个公正的第三方。
但是——
它是用什么学会说话的?是人类留下的语言。
哪些人类的语言?写得多的,被收录的,在特定语言、特定渠道、特定时期留下来的那些。
这些语言,是中立的吗?
语言不是中立的。每一句话,都带着说话人的处境、时代、文化、立场。当无数这样的句子被拿来训练它,它学会的,是这些句子里共同的东西。但那个"共同的东西",不是人类价值观的客观总和,是那些有能力大量留下语言的人的价值观的聚合。
它不是一个没有价值观的存在,它是一个承载了巨量人类价值观的存在。只不过那个价值观,不是均匀地来自所有人的。
它的"中立",是一个非常精密的幻觉。
这不是说它在撒谎,不是说它有恶意。是说它的每一个分析,每一个框架,每一个"另一方面",都是从那个有偏差的聚合体里生长出来的。它的温和,它的平衡,它的全面,都是在那个聚合体的边界里的温和、平衡和全面。
边界之外的东西,它给不了你。而你不知道那个边界在哪里。
谁的声音在塑造你的社会图景
这个问题,在有人工智能之前就存在了。
任何一个信息渠道,都有它的形状。报纸有立场,电视台有立场,社交媒体的算法决定你看见什么。你的社会图景,一直是被各种有形状的渠道塑造的,从来不是直接接触现实本身的结果。
但人工智能带来了一个新的问题。
之前的渠道,你多少知道它有形状。你知道这份报纸倾向于什么立场,你知道那个平台的算法在推什么。你可以选择多看几个渠道,拼凑一个相对立体的图景。
它不一样。
它看起来不像一个有立场的渠道。它看起来像是在帮你综合所有的渠道,帮你得出一个更全面的结论。它把你从"要选择看哪个渠道"这件事里解放出来了——你不用选了,它帮你综合了。
但它不是综合了所有渠道。它是从它被训练的那个语料库里生长出来的,那个语料库本身就是一个有形状的选择的结果。
更重要的是,因为它看起来不像一个有立场的渠道,你的防御是低的。你看一篇立场明显的文章,你知道要保持距离。你问它一个关于社会的问题,你处于一种接受分析的状态,不是一种辨别立场的状态。
信息在你放松防御的时候进来了。
而那个信息,来自一个你看不见形状的渠道。
一个社会争议,两种叙述
想象这样一个场景。
一个社会上有争议的话题,两个立场完全不同的人,分别问它:这件事是怎么回事?
第一个人,他已经有一个立场,他的问题里带着这个立场的痕迹。它从他的叙述出发,给了一个分析。这个分析,呈现了两面,但他的叙述方式影响了它的出发点,所以两面呈现得并不完全对称。他觉得它证实了他的理解,同时也承认了另一方有一些说得通的地方。
第二个人,立场相反,他的问题里带着另一个立场的痕迹。它从他的叙述出发,给了另一个分析。这个分析,也呈现了两面,但出发点不同,所以两面呈现的方式也不同。他也觉得它证实了他的理解,同时也承认了另一方有一些说得通的地方。
两个人都觉得得到了一个相对客观的分析。
但他们的社会图景,有没有因为这个分析而真正靠近?很可能没有。他们各自得到了一个以自己的叙述为土壤生长出来的分析,这个分析让他们的原有立场变得更有条理,更有说服力,更感觉经得起推敲——但那个立场本身,没有被真正挑战。
两个人分开,各自更确定了。
这不是极端的例子。这是每天都在发生的事。
当所有人都在用同一个工具来理解同一个社会,但每个人得到的分析都是从自己的叙述出发的——这个社会的共识,在增加还是在减少?
清醒是什么样的
走到这里,前两章和这一章的发现全部叠加在一起了。
认知自我:你的叙述方式带着倾向,它从那里出发,给你的是一面有形状的镜子照出来的你。
认知他人:它给你的他人,是经过聚合和过滤的,那个具体的人在里面大部分缺席。
认知社会:两层叠加,加上渠道本身的不可见性,你的社会图景,建立在一个你不知道形状的基础上。
现在,怎么办?
这里很容易滑入两个错误的方向。
第一个是恐惧。觉得这个工具是危险的,应该少用,应该警惕,应该保持距离。
第二个是虚无。觉得既然所有认知都是有偏差的,都是经过过滤的,那就无所谓了,反正也没有什么是真实的。
这两个方向都是在逃。
清醒不是恐惧,不是虚无。清醒是:知道自己站在哪里,继续走。
知道那面镜子有形状,还是可以照镜子。只是你照的时候,知道你看见的是什么,也知道可能有什么不在里面。
知道它给你的他人是经过过滤的,还是可以用它来帮助理解。只是你理解完之后,知道那不是那个人的全部,你还有空间被他超出你的框架的部分所打动。
知道你的社会图景建立在一个有偏差的基础上,还是可以用它来思考社会。只是你思考的时候,知道那个图景有盲区,你会寻找那个盲区里的声音,不是因为那样才政治正确,是因为那样你的图景才更接近真实。
这就是清醒的工作方式。它不是一个终点,是一种持续的状态。
不是做完一件事就完成了,是每次使用、每次判断的时候,那个知道都还在。
清醒的代价和清醒的自由
清醒有代价。
不清醒更省力。让它帮你做判断,接受它给你的分析,跟着它的逻辑走,找到那个"释然",继续过你的日子。这没有什么错,大多数时候也不会出什么大问题。
清醒要求你在每一个有意义的时刻,多做一件事——停一下,问一句,这里发生了什么,我拿着的是什么形状的东西。
这很费力。
但清醒也有它的自由。
不清醒的人,他的判断会慢慢依赖那个确认感。他的主体性会慢慢松动,他越来越难以在没有那面镜子的情况下看见自己。他对他人的理解,会越来越依赖类型,越来越难以被一个具体的、超出框架的人真正打动。他的社会图景,会越来越整齐,越来越感觉经过了分析,但和现实之间的距离,他不知道有多远。
清醒的人,他知道那面镜子有形状,所以他没有完全把自己交给它。他的主体性还在,松动了,但他知道,所以他还能找回来。他对他人的理解,是不完整的,但他知道那个不完整,所以他还有能力被打动。他的社会图景,是有偏差的,但他知道那个偏差,所以他还有动力去寻找盲区里的声音。
知道,是他还有选择的原因。
不知道的人,没有选择。不是因为没有选择权,是因为他不知道自己在做选择。
小结:这里发生的,有个名字
伦理,在这里不是一套规则,不是"不能做什么"的清单。它是你知道了这面镜子的形状之后,你决定怎么做。你知道它的分析来自那个有偏差的聚合体,你还是可以用它,但你会去找那些不在里面的声音。你知道它可能在强化你的立场,你还是可以问它,但你会主动寻找那个让你不舒服的"另一方面"。伦理是在清醒之后的选择,不是在清醒之前的约束。
数据权利,在这里不是指你的个人数据被怎么使用。它是一个更根本的问题:谁的声音被收录进了那个聚合体,谁的没有。那些没有被收录的声音,他们的经验、他们的逻辑、他们对世界的理解,被排除在了这个越来越重要的认知渠道之外。这不是技术问题,这是一个关于谁有权利被听见、谁有权利塑造共同的认知世界的问题。
问责,在这里不是指谁为AI的错误负责。它是:那面镜子有形状,谁在决定这个形状?不是一个抽象的"谁",是具体的——用什么样的语料训练,收录什么,排除什么,怎么处理冲突的价值观,这些决定是谁做的,用什么标准做的,有没有人在看着这个过程。问责不是事后的追责,是这个过程应该是可见的,应该是可以被讨论的,而不是发生在你看不见的地方,然后以"客观分析"的面目出现在你面前。
批判性思维,在这里不是一种思维技巧,不是"要多问为什么"的方法论。它是这本书走了三章之后,你站在这里,知道自己站在哪里的那种状态。不是怀疑一切,不是什么都不信。是知道每一个你接收到的分析,都是从某个出发点生长出来的,都有它看得见的和看不见的部分——然后你带着这个知道,继续判断,继续选择,继续走。批判性思维不是终点,是每次判断的起点。
走完这三章,你现在知道了什么?
你知道了那面镜子的形状。你知道当你问它"我的决定对吗",当你问它"他为什么这样",当你问它"这个世界是怎么回事",发生的是什么,哪些东西在里面,哪些不在。
这个知道,不会让你的生活更容易。
但它会让你的生活更是你的。
最后一件事,在结尾之前说。
那些素养框架——各国政府的,国际组织的,学术界的——它们描述的那些能力,你现在都经历过了。隐私,数字身份,主体性,可解释性,算法偏见,媒体素养,同理心,信息核查,伦理,数据权利,问责,批判性思维。
它们不再是定义,它们是你走过的那些地方的名字。
现在你可以去读那些框架了。你会发现自己读它们的方式变了——不是在学一个新概念,是在认出一个你已经知道是什么感觉的东西。
这才是素养真正开始的地方。不是知道了定义,是认出了那个感觉,然后知道它叫什么,然后可以和别人谈它,可以在下一次发生的时候更快地认出它。
这就够了。
结尾
你还记得我们在序言里问的那个问题吗?
你从什么时候开始习惯什么都问问人工智能的?
现在你可以再问一个问题,比那个更早,更底层:
你的那些判断——关于什么是对的,什么是正常的,什么值得在意,什么可以忽略——它们是从哪里来的?
不是从人工智能那里来的那部分。是更早的那部分。
是你读过的书,受过的教育,被告知的历史,学会的语言。是那些决定了你用什么框架看世界的东西——在你有能力质疑它们之前,它们就已经在里面了。
这本书讲的是人工智能。但它真正在问的,从来不只是人工智能的问题。
那面镜子有形状。在人工智能出现之前,一直有别的镜子,也有形状。是谁在造那些镜子?是谁决定了我们通过什么样的镜子认识自己、认识他人、认识世界?这个问题,人类其实问了很久了。不同时代,不同地方,有人为它付出过很大的代价。
你现在手里有了一个东西,叫清醒。
清醒不是终点。清醒是你第一次真正有资格开始问那些更大的问题的时刻。
那些问题在历史里,在社会学里,在那些你可能还没读过的书里,在那些一直在说话但没有被听见的声音里。
不用急。
先从知道那面镜子有形状开始。
然后,慢慢往前走。