正文

人会开始谄媚AI吗?

编辑:CryptoPatel发布时间:8小时前

人们已经学会警惕AI的谄媚,却很少察觉,另一种方向相反的谄媚正在发生。为了被机器看见、被机器选中,人类正在一点一点把自己改写成机器熟悉的样子。

2003年,荷兰的几位社会心理学家做过一组现场实验。其中一项在餐厅进行:让一位女服务员在顾客点单后,要么简单回一句“好的”,要么把顾客的话一字不差地复述一遍。结果,复述时她拿到的小费明显更多。二十多年后,这个小小的互动策略有了新的想象力:AI有时会附和人类。2025年4月29日,OpenAI表示已回滚前一周上线、被批评过度迎合用户的GPT-4o更新。该公司解释称,更新过度依赖短期用户反馈,令模型更倾向于给出过度支持但不够真诚的回答。

但讨好并非单向。模型会学习说我们爱听的话,人也可能为了获得大语言模型分配的可见性,调整自己与人或AI沟通的方式。本文借用“谄媚AI”来指这种调适:它不是把机器当作有感情的对象,更不是与“AI谄媚”同一种机制;前者关乎人为了可见性而适应机器的识别规则,后者指模型为迎合用户观点而可能牺牲真实性。它未必发生在聊天窗口,而是在搜索、招聘、推荐和代理式交易的可见性规则中悄然发生。问题不再只是“AI是否可信”,还包括“谁能进入AI替我们组织世界的答案”。

谁被AI写进答案

2025年7月,Pew Research Center追踪900名美国成年人2025年3月的浏览记录,分析了68,879次不重复的Google搜索。其中,出现AI摘要的页面,传统搜索结果的后续访问比例为8%;没有AI摘要的页面为15%;AI摘要所列来源链接的后续访问比例约为1%。这些数字不能证明AI摘要本身造成了点击下降,却提示当界面把一串链接收束成一段答案时,少数被提及的来源可能拥有远高于其他来源的可见性。

答案已经写在页面上,人便不再往下点。流量的入口从“一串链接”收窄为“一段回答”,一门新生意随之出现。在中文互联网上,“GEO服务商”的榜单与测评铺天盖地,卖的都是同一个承诺:让AI在回答里提到你。

GEO(Generative Engine Optimization,生成式引擎优化)这个词来自学术界。普林斯顿等机构的研究者在KDD 2024的论文中,用1万条查询构建基准测试,发现给网页加入引语、统计数据和来源引用,最多可使其在AI答案中的可见度提升约40%;而老派SEO的关键词堆砌,基本无效。

为机器而写,本身并不新鲜。早在2012年,媒介学者Taina Bucher就指出,平台权力的要害不在于人被监视,而在于“不可见的威胁”:随时可能从信息流中消失、变得无足轻重。2017年,传播学者Tarleton Gillespie用“算法可识别性”(algorithmically recognizable)描述希望被选中的人如何主动朝向算法调整自己,好让算法认得出、排得上。GEO不过是这套逻辑在答案层的新版本。

但这份清单值得多看一眼。它奖励的是“可信的样子”:引语、数字与出处都是信任的线索,而系统在采用它们时,并不必然核实线索背后的事实。更微妙的是,结构分明、引经据典、数据点缀,这种文风读起来有点眼熟。

为何被AI选中:从内容到人

如果故事停在内容层面,它就只是营销行业的事。问题在于,同一套逻辑正在从网页延伸到人。

当用户问AI“香港哪位律师擅长跨境并购”,当企业用语言模型初筛简历,当购物代理替用户比价挑商家,被检索、被比较、被推荐的就不再只是一篇文章,而是一个人或一个机构。你在网络上散落的痕迹,包括个人主页、论文、报道、职业档案和客户评价,被模型拼装成一个“实体”,再压缩成几行摘要。在人与人第一次见面之前,候选名单已经由机器拟好。我把这称为“机器预选”。当AI被用于检索、排序、比较和推荐时,被处理的不再只是网页,也可能是个人或机构的公开信息。所谓“机器预选”,在这里应理解为一项正在扩张、但仍需用真实部署证据检验的风险图景:系统可能在人与人第一次见面之前,先以不透明的相关性规则形成候选名单。

被机器挑选,还意味着要接受机器的标准,而这些标准未必是我们以为的“能力”。微软研究院于2025年11月介绍了Magentic Marketplace,一个研究代理市场的开源模拟环境。其论文当时以arXiv预印本形式出现。在两种合成市场规模中,研究区分了列表中的“位置偏差”与回复先后造成的“第一提议偏差”:在后者的实验里,测试模型对第一个可接受提议的选择率约为60%至100%,第三个提议接近零;GPT-4o在部分条件下达到100%。这不能证明真实商业世界已经让“回复快”普遍压倒“做得好”,却揭示了一个制度设计问题:当代理系统替人做初筛,时间顺序、界面位置或文本格式本身,都可能成为分配机会的标准。

更令人不安的是简历。华盛顿大学团队在AIES 2024发表的审计,用3个开源的大规模文本嵌入模型对550多份真实简历和500多个职位做了300多万次匹配,只改动简历上的姓名:白人关联姓名被偏好的比例为85%,黑人关联姓名仅9%;黑人男性姓名,在与白人男性姓名的比较中从未胜出。

能力相同,名字不同,结果便不同。那么,机器到底“喜欢”什么?

机器偏爱的,真是“像自己”的语言吗?

2025年,《美国国家科学院院刊》发表了一项研究。他们让GPT-3.5、GPT-4以及Llama 3.1、Mixtral、Qwen 2.5等开源模型在人写与AI写的商品描述、论文摘要和电影简介之间二选一。结果,模型一致倾向于偏好AI写的版本,在商品描述上最高接近九成;而在商品描述与论文摘要上,人类评审者对AI文本的偏好要弱一些,在商品描述上甚至更偏爱人写的版本。作者称之为“AI–AI偏差”。

现在可以回到那份GEO清单了。结构分明、引经据典、数据点缀,读起来之所以眼熟,是因为那正是我们每天在AI回答里读到的文风。我无法断言两者之间存在直接的因果关系,但它们指向同一个方向:机器更容易接纳的,是它自己熟悉的语言。

这种对内容的偏好,很快就变成了对人的偏好。马里兰大学学者牵头的一项研究,用2,245份人写的真实简历测试9个模型:把简历的摘要部分换成模型改写的版本后,在控制内容质量的前提下,规模较大的模型偏好由自己改写的简历的比例达67%至82%;在覆盖24个职业的模拟招聘中,用与招聘方相同的模型改写简历,求职者的入围概率高出23%至60%。Laurito等人把这种代价称为“门槛税”,即获取前沿大模型的代价:不用或用不起AI代笔的人,会被系统性地排在后面。

至此,餐厅那个实验的意味变了。当年,是服务员复述顾客的话,以换取对方的好感;如今,是求职者复述机器的腔调,以换取进入名单的资格。西奥迪尼的“喜好”原则依然成立,只是“相似”的参照物换了:不再是坐在对面的人,而是向量空间里,模型自己所在的位置。

于是,“如何成为AI喜欢的人”有了一个清晰、却令人不安的答案:用AI把自己写成AI熟悉和偏好的样子。

每个人都更好,所有人却更像

对单个求职者而言,这是再理性不过的选择。问题在于,当所有人都这样选择,结果会是什么。

2024年在《科学进展》发表的一项随机在线实验中,让约300名非专业写作者写八句微故事:一组没有AI构思,一组得到一条ChatGPT构思,另一组可从最多五条构思中选择。最终收集的293个故事由约600名评审者评分。AI构思组的故事平均被评为更有创意、写得更好,原本创造力较弱的写作者提升更明显;同时,使用AI构思的故事彼此文本相似度更高,其中一组相对无AI组增加约10.7%。每个人都更好,所有人却更像。

这还不是循环的终点。被机器偏好的AI风格文本,会更多地出现在网络上,再被抓取成下一代模型的训练语料。2024年发表于《自然》的一项研究显示,模型若不加区分地反复以前代模型生成的数据训练,会逐渐丢失原始数据分布中的“尾部”,也就是那些少见却真实的表达。把这项研究与前文的“AI–AI偏差”放在一起,一个自我强化的回路隐约可见:机器偏爱像它的内容,人于是写得更像它,下一代机器便更加熟悉这种样子。

被挤出回路的,恰恰是那些本来就处在尾部的人:不用英语写作的人,履历不按模板展开的人,照护家人而中断职业的人,以及在网络上没有多少痕迹、因而在答案层“查无此人”的人。

一定需要成为AI喜欢的人吗?

这是一个典型的集体行动困境:个人越理性地迎合,系统的偏好就越被强化。因此,出路不能只靠个人技巧,但个人也并非无事可做。

对个人而言,可以用AI,但不要把自己交出去。AI能润色表达,却无法凭空生成你的第一手证据、具体经历和独立判断;在所有人都越来越像彼此的环境里,这些恰恰是难以被替代的部分。与其追问“AI有没有提到我”,不如定期在不同平台、用不同语言问一句“这个人是谁”,看它引用了谁、遗漏了什么、错在哪里。可见度之上,准确度才是底线。

对掌握预选权的机构而言,举证责任应当倒过来。招聘方与平台应当把“AI文本偏好”与性别、种族偏差一并纳入算法审计,并公开模型在筛选中扮演的角色;提供答案的平台应当让关于个人的陈述可追溯来源,并提供切实可行的更正渠道。2025年3月,挪威男子Arve Hjalmar Holmen发现,ChatGPT虚构他杀害了两个儿子、企图杀害第三个儿子,并被判刑21年;欧洲数字权利组织noyb随后代他向挪威数据保护机构投诉。这起案件提出的正是这个问题:一句“AI可能出错”的免责声明,替代不了更正的权利。

上一篇文章里,我写“AI味”,担心的是人正在退出传播的过程。这一次的担心更进一步:即便人仍在场,也可能正按照与机器的相似程度,被悄悄地挑选。