夏小龙“范式冲突”不是一个坏词：治理评审室里我反复撞见的语言错位
我在AI治理相关的研究和评审工作里待了几年，有一个场景反复出现，几乎成了固定节目。
某次产品评审，讨论一个带情感陪伴功能的对话模型。合规同事很严肃地提了一个问题：当用户情绪崩溃时，模型生成安慰性内容并建议用户“试着深呼吸、给自己一点空间”，这种输出算不算未经许可的心理干预？产品经理一脸茫然地反问：这难道不就是朋友之间会说的话吗？技术负责人则补了一句：我们并没有做心理诊断，模型只是在做文本续写。
三方都没有错，但三方根本说不到一块去。合规同事在启动责任框架，产品经理在调用人际关系直觉，技术人员在强调概率性文本生成的运行机理。他们手里拿着不同的尺子，量的是同一个功能模块。类似场景，后来我发现不只是“跨部门沟通问题”，而是一种更深层的现象：关于AI，我们正在用互不相通的语言讨论彼此共同制造的东西。
当时有个学术概念给我留下了很深的印象，叫“AI元人文构想”，并且有人在讨论它和当代人工智能治理研究的范式对话。我第一次听到时觉得这又是一个理论黑话，但后来对照自己在评审会里一次次哑口无言的经历，越来越觉得它描述的是一件非常实在的事：AI治理研究和人文研究之间，不只是缺少沟通，而是在“什么问题算真问题”“什么证据算有效证据”这种底层规则上就分裂了。
这篇文章想做的，不是把“AI元人文”包装成一套完美理论，而是想说明白：这个概念为什么值得治理研究者认真对待，以及如果我们愿意把它从论文里请出来，放到自己的工作台面上，会发生什么。写给你看？其实也是写给我自己——每一位在合规报告、模型评估、产品评审里反复挣扎过的人，大概都会有共鸣。
“范式冲突”不是一个坏词：治理评审室里我反复撞见的语言错位
范式不是象牙塔里的概念，它每天都在评审现场
很多人听到“范式”两个字就想睡觉，觉得那是科学哲学家库恩在书斋里发明的词汇。但我在实际工作中体会，范式的含义非常朴素：一套关于“什么值得关注、怎样算证明、哪种解释算合格”的无意识约定。
举个最简单的例子。合规同事口中的“心理干预”，默认前提是：某个行为可以被归因给一个主体，主体需要为后果负责。所以他们会问“模型算不算干预”，本质是在找责任锚点。但技术同事的“文本续写”，默认前提截然不同：语言的运行是概率性的，不存在一个“意图”，因此讨论责任归属本身就不成立。这两种默认，在哲学上叫不同范式，在评审会上就叫“没法聊”。
这还不是最麻烦的。最麻烦的是，当两种范式撞上时，双方都会觉得自己在用“常识”说话，而对方在刻意为难。合规觉得技术冷血，技术觉得合规外行。于是话题从“产品是否有风险”迅速滑向“你会不会做产品”。一个实质问题被改写成一场立场之争。
如果只是把“范式冲突”当成一种修辞，大家会继续吵下去。但假如我们承认，冲突不只是“态度问题”，而是由不同的底层提问规则造成的，那么破局方式就完全不同——我们不必试图说服对方，而是要去理解对方为什么觉得自己的提问方式是唯一合理的。
在治理研究里，为什么大家总是“各说各话”？
我梳理过治理研究内部，起码有四套语言并行。
价值对齐研究用的是工程语言，讨论奖励模型、人类反馈、目标函数。政策研究用的是规范语言，讨论禁止清单、透明度义务、责任归属。伦理委员会里流行的则是原则语言，讨论公平、隐私、尊严。而到了公众舆论场，大家很少谈这些，主要用经验语言，关心的是“这个AI会不会让我找不到工作”或者“它是不是在操控我”。
工程语言回答“怎么做”，政策语言回答“边界在哪里”，伦理语言回答“应该崇尚什么”，经验语言回答“我活得怎么样”。这四套语言都有各自适用的场景，问题是，当它们被压缩到一个评审流程里时，彼此之间根本没有公共的度量衡。
我从很早就开始关注治理，也零散地知道一些关于“元人文”的讨论，但一直没有把它当成需要认真研究的话题。直到后来多次被卷入类似的僵局，我才意识到：治理研究缺少的不是又一个风险清单，而是另一种提问方式。那种提问方式不盯着“AI能干什么”或“AI不能干什么”，而是问：当AI介入之后，人对自身的理解发生了什么变化？
这正是“元人文”这个词真正让我触动的地方。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
拆解“AI元人文”：它到底在试图回应什么问题？
三个层次：被研究、被使用、被反观
“元人文”不是一个已经定型的学术概念，更像一个还在生长中的构想。我尝试给出一个自己能接受、也能在实践中使用的版本。
第一层，是关于AI的人文研究。AI生成的小说、AI绘制的图像、AI编排的音乐，被当作文化现象来解读。这层工作已经很成熟了，文学研究者、传播学者都在做。第二层，是把AI当作人文研究工具。研究者用量化模型去分析海量历史文本，找出思想演变的脉络，这也不算新鲜。第三层，才是关键：AI被当作“镜子”，人类通过制造和使用AI，反观自己从前习以为常、不会被质疑的那些设定——比如什么是创造力、什么是理解、什么算得上是一个负责任的行动。
举一个最简单的例子。过去我们默认只有会思考的生物才有“创造力”。AI出现后，大家发现机器也能产出令人惊叹的画面和旋律。这时候真正被挑战的不是机器的能力，而是人对“创造力”这个词的定义。我们被迫重新问：创造力这件事，究竟哪里珍贵？是那个“从无到有”的结果，还是其中包含的个人史、挣扎和意图？
这就是“元”字的分量——它不增加新对象，而是反身去考察我们正在使用的概念。AI元人文研究那些被AI激活的“关于人本身的问题”，比如知识、情感、劳动、死亡、记忆，这些问题原本被安置在宗教、哲学、文学之中，如今它们随着大模型一起进入了软件工程和产品需求文档。
不能简单把它理解成“技术+人文”
很多人会觉得，“元人文”大概是要给冷冰冰的技术添一点温度。如果只是这样，它也就是一种新的调和论。但我读了相关讨论后更倾向认为，它做的事情比这个激进：它要把“人生值得怎么过”这个宏大追问，放回到技术最底层的假设中。
举个例子。做AI写作助手的团队，产品目标文档上写着：帮助用户更高效地产出高质量文本。这句话背后隐藏着一个叙事——写作的本质是产出，效率越高越好。如果真的把一个“元人文”视角纳入产品设计，团队就会多问一句：当用户越来越依赖AI来转述自己的想法，他对“思考”的自我评价会发生什么变化？如果用户觉得自己不需要再思考了，这真的是一种进步吗？
这不是要反对AI写作助手。它意味着技术设计不只是效率工程，同时是一种日常生活的“叙事设计”——它在悄悄告诉用户，什么是好的写作、什么是值得花时间的事。元人文提醒治理者：我们不仅要治理技术带来的外部伤害，还要看待技术正在重塑的那些“内部标准”。
它为什么叫“构想”，而不叫“学科”或“理论”
我把一些相关讨论读下来，感觉“构想”这个命名的分寸感很准确。它还没有办法变成一门学科，因为研究对象太流动；它也未必需要一个严肃的理论体系，因为它更接近一种观察姿态——一件好的观察工具不该急着给出答案，它首先要做的，是让原本不可见的东西变得可见。
治理研究特别需要这种让问题变得可见的能力。当前绝大多数治理工具，看到的是可量化的损害：隐私泄露、偏见率、有害内容比率。但很多损害是在意义层面发生的，比如人对自己的不信任、对公共讨论的厌倦、对真实关系的疏远。它们无法被一个置信区间捕捉，但它们在真真切切地改变人的处境。
所以我把“AI元人文构想”定位成一个问题生成器：它可以不提供政策建议，但它能持续产出新的问题——这些问题如果被治理者听到了，治理的议题边界就会自然地扩张。
AI治理研究的工具箱里，为什么总缺一把“元”尺子
现有治理工具箱全景扫描
当代AI治理研究不会只有一种工具，但不同工具之间的逻辑差异很大。我画了一张表，帮自己把主流进路和它们各自的语言习惯放在一起看。
| 治理进路 | 核心逻辑 | 典型操作 | 最依赖的证据 | 最明显的盲区 |
|---|---|---|---|---|
| 技术合规 | 设定边界，越界则罚 | 风险等级清单、产品备案、审查机制 | 是否触碰禁止性条款 | 边界之内是否就一定正当？ |
| 风险评估 | 识别、量化、缓释风险 | 风险矩阵、影响评估、缓解措施 | 发生率与伤害程度的估计 | 无法量化但意义重大的影响 |
| 权利保护 | 保护个体主体地位 | 隐私保护设计、拒绝权、知情同意 | 个体权利是否受到侵犯 | 群体性、结构性、代际性影响 |
| 行业自律 | 共识替代强制 | 伦理准则、最佳实践、社区公约 | 同行认受性与良好意愿 | 缺乏对“不自律者”的约束 |
| 安全工程 | 防止能力失控 | 红队测试、压力测试、沙箱 | 极端行为是否可以被诱发 | 只关心极端场景，忽略日常渗透 |
用这张表去回顾治理实践，会发现一个特点：每一条进路都在处理“AI做了什么”，几乎没有一条在系统处理“AI让我们变成什么”。
我们非常擅长讨论AI是否侵犯了隐私，却很少讨论“隐私焦虑如何反过来改变了亲密行为”；我们花大量精力测试模型是否生成仇恨言论，却很少追问“当机器越来越善于模仿共情，人的共情会不会被重新定价”。这些后者不是风险，它更像是“代价”，发生在文化、习惯、自我理解的层面。
“治理失灵”现象的另一层解释
现实中经常出现一种非常诡异的情形：产品没有任何一条违反合规清单的行为，但它的存在本身让人不舒服。
我举一个虚构但相当接近真实的例子。某社交平台推出一款AI评论助手，可以根据博文内容自动生成“有人情味”的回复，帮助内容创作者维护粉丝关系。产品在合规上完全合格：不造假、公开标签为AI、用户可以关闭。但不少用户反馈，知道很多回复不是真人写的之后，反而感到一种深层的疲惫，不知道该不该把互动当回事。
这里发生了什么？合规审查完全正确，可用户的不适也是真的。原因在于，产品改变了一个隐秘的社会规则：过去，“别人认真回复你”这件事是关系的信号，是一种对时间的投入。当AI可以批量产生“高人情味回复”，这条信号的可靠性就瓦解了。
治理工具箱无法处理这种“信号污染”，因为它不在风险清单里。“元人文”的视角则能把问题重新翻译出来：这个产品重新定义了“被认真对待”的含义。于是，问题的焦点就从一个产品的“行为”转到了一个社会的“意义基础设施”。
治理需要的不是给“人文”贴标签，而是承认存在另一类事实
有一种偷懒的做法，是在合规文档里加上“尊重人文价值”之类的表述。这基本没有操作意义。真正困难的是承认：这个领域确实存在一些无法被因果检验、无法被指标化，但依然是事实的经验。比如信任、意义感、关系质量。对于治理研究者来说，这是一次认识论上的挑战——我们要么继续假装一切重要的东西都能被测量，要么只能学习和不精确、不标准的证据相处。
元人文正好提供一个能和“不精确”打交道的参照系。它提醒我们：有些问题无法被一次性解决，但可以被更恰当地提出。AI治理如果真的想“治本”，就必须不断把问题从技术操作层带到意义层，这正是范式对话应该发生的地方。
范式对话真正发生的三个接口：议题、对齐与主体
接口一：议题框架——风险报告与意义反思的拉锯
治理界的经典动作是发布风险报告。报告里系统罗列模型偏见、恶意使用、隐私漏洞等风险。这类报告的必要性不需要讨论，问题是，它以“负面清单”的形式塑造了每个人对AI的理解：AI是被防范的对象。
元人文范式则会带来完全不同的框架：它关心AI出现之前，我们如何理解一件事；AI出现之后，这个理解是否被改写。同样是分析一个社交媒体算法，风险报告关心信息茧房导致用户看到的内容变窄；元人文视角关注的则是，算法改变了用户对“公众议题该有什么共识”的想象——从前人们默认公共讨论应该面对不同观点，现在越来越多年轻人默认“别人和我喜欢的一样天经地义”。这是媒介环境理论的延伸，但元人文会进一步问：当这种默认被普遍化，人对民主社会的基本感觉会不会变化？
政策制定者不会直接采纳这种“感觉变化”作为依据，但如果不把它纳入议题框架，治理方案就会永远慢半拍。真正好的议题框架，需要同时容纳“可测算的风险”和“难以测算但值得忧虑的文化漂移”。
接口二：价值对齐——不仅对齐模型，还要对齐“谁来定义价值”
“对齐”（alignment）是AI技术圈最热的词之一，它原本指让模型行为符合人类意图。但紧接着就出现了一个治理研究非常熟悉的问题：人类意图不是一个统一体，那到底对齐谁？
工程师们的解决方案倾向于把人类价值翻译成偏好信号，然后靠RLHF之类的方法让模型学习。元人文对这件事的追问是：人类偏好本身是动态的、可被技术改变的。当模型通过对话调整了用户的偏好，我们应该怎么评价这个结果？
举个例子。一个面向大学生的AI论文辅导工具，用户最初的偏好是“我要独立完成”。随着工具好用，用户的偏好可能悄悄变为“我希望越快完成越好”。模型的“对齐技术”会非常忠实地满足后者。但治理者和教育者的直觉都会告诉我们，这里有任何“对齐”出了问题。
把元人文的批评听进去后，一个更完整的对齐观是：不能只对齐模型行为，还要让“价值设定的过程”保持开放和可见。也就是说，对齐工程要处理的不仅是模型输出，还有产品设计、激励机制、用户教育。价值不是待挖掘的矿藏，而是多方对话的产物。
接口三：主体性——拟人化问题背后的自我认知变化
治理研究最近几年花了很多篇幅讨论“拟人化风险”：AI让用户产生情感依赖怎么办、AI冒充真人怎么办。监管原则往往建议：告知用户你面对的不是真人。这个方案看起来没问题，但元人文会再往前追问一步：加了“我是AI”这样一个标签之后，用户就真的能维持原来的主体感了吗？
未必。一个每天向AI倾诉烦恼的人，屏幕上始终有“AI”标识。他知道这是假的。但当这种倾诉持续三个月后，他可能会在跟朋友聊天时下意识地想：对方是不是真的在乎我说的话？这种疑虑是本能的。不是因为他相信AI，而是因为他在AI那里获得了一种高密度、无条件的回应，而这种回应方式正在重新校准他对“倾听”的期待。
治理者通常无法从法律层面规范这种体验，因为没有任何显性伤害发生。但如果治理研究拒绝讨论这一类变化，它就是在假装AI只在外部世界产生作用，而不是进入人的自我关系。元人文恰好提供了描述这种内变的语言，把“人如何理解自己的能动性”当作治理分析中一视同仁的变量。
范式对话还需要“转译器”式的工作者
我常觉得，目前最稀缺的不是通晓AI技术的工程师，也不是深谙典籍的人文学者，而是一批能够在这两种语言之间做转译的人。转译不是把文科结论翻译成工程指令，而是在具体问题中，让两个范式都能扩展各自的边界。
这种工作是可以训练的。我自己的方式是，每次看产品评审文档时，问两个不同层面的问题，先问：它合法吗？安全吗？它有没有风险？再问：如果这个东西被大规模使用十年，一个人在其中的经验会让他更信任自己，还是更依赖系统？这类问题一开始听起来会有点尴尬，但坚持练，慢慢会变成一种第二直觉。
把它变成工作台方法：一套元人文审查协议与一次实践复盘
五步走：从项目动议到上线后的持续观察
范式对话不能只停留在概念层面。这几年，我把相关思考整理成了一套相对可操作的审查协议，在自己的评审工作里反复使用，也分享过给几个产品团队试用。它不替代合规程序，而是在合规程序之外增加一道关于“意义后果”的检查。
第一步，在项目目标文档阶段，团队必须同时写出两个“成功标准”：一个是可衡量的成功，比如留存率、任务完成率、收入；另一个是可叙述的成功，即“用户在一个理想场景中，会如何向朋友讲述这个产品为他带来的变化”。第一个标准回答“它做到了什么”，第二个标准回答“它值得做吗”。
第二步，在做用户画像时，不能只想用户的人口学特征，还要想清楚这个产品正在“教”用户什么。一个AI简历工具隐性地教育用户“自我展示是求职的核心竞争力”；一个AI写作器则在教育用户“表达的流畅比思考的曲折更重要”。这些潜台词要在立项时就摊开讲。
第三步，技术方案评审时，除了评估模型能力，还要问一句：我们为模型的某种输出能力提供了什么样的舞台？比如对话模型的“共情能力”，如果做成了一键安抚按钮，它实际上是在训练用户把情绪调节外包给系统。这个决定和参数无关，但和影响有关。
第四步，上线前检查叙事。把产品涉及的核心名词列出来：助手、朋友、导师、伴侣、同事。然后问，我们用这些称谓是否恰如其分？很多治理问题其实在命名阶段就已埋下。
第五步，上线后两周、三个月、半年各做一次“经验复盘”，量化指标照样跑，但复盘会必加一个议题：这半年来，用户群体中关于这个产品的叙事有没有值得注意的变化？有没有产生原本没人预料到的用法？那种用法带来了什么新意义？
这套协议的本质，是给“意义问题”排一个固定的会议席位。它不保证每次都能得出正确结论，但能保证这个维度的声音不会被其他声音淹没。
元人文检查清单：十个可以直接套用的问题
经常有同行问，到底有没有一份可以直接拿过去用的问题清单？我整理过一个精简版，一共十条，不需要全部用完，但拿出来几条就能让讨论变厚。
- 这款产品是否重新定义了一个社会角色的边界？
比如“教师”“医生”“朋友”过去由人来承担，现在是否被部分转交给系统？ - 它是否改变了既有概念的含义？
比如“创作”“思考”“陪伴”这些词，是否因为产品使用而悄悄发生了变化？ - 它正在优化哪种人类能力，同时可能让哪种能力生锈？
记忆、专注、想象、亲历。每一项都有代价。 - 产品的默认设置，是否让用户更容易选择“不做某种费力的事”？
默认选项本身就是一种价值排序。 - 它是否提供了一种本来由人类维系的情感体验？
如果是，这种体验被批量制造后，对真实关系是利多还是弊多？ - 如果产品“绝对成功”，我们会失去什么？
这个问题特别适合让团队从增长兴奋中冷静下来。 - 使用者会因此更信任自己的判断，还是更依赖系统的判断？
这里的信任不是指用户对系统，而是用户对自己的相信程度。 - 这个产品在怎样的世界观里才显得完全合理？
如果用户越来越依赖“效率至上”的话语，他可能越来越难理解那些低效但重要的人类活动。 - 当出现“意义层面的冲突”时，我们通常会倾向于用哪套语言去遮盖它？
是不是一不小心又把它变成了“风险”或“成本”？ - 这个产品能不能被设计成帮助用户加深对问题的理解，而不只是索取用户的偏好？
复盘案例：一个历史人物AI对谈产品的双轨评审
一位的产品经理找我复盘“和历史人物对话”的AI产品。它在合规上做得不错：有明确的“非真实人物”标签，每个人物都有内容来源清单，还做了幻觉自动缓释。但产品上线后，中学教师群体的投诉明显上升，说学生开始把“和孔子的对话”当作标准答案。
团队最初统一认定为“学生缺乏媒介素养”，应对方法是在页面上增加免责声明。但我建议试一试双轨评审。数据合规轨给出的是成熟的应对方案，元人文轨则提出了一个完全不同的问题：学生在与“孔子”对话时，默认的交流规则是“与一位权威对话并接收答案”。这个设计本身就传递了一层信息：历史人物是静止的权威，而不是不同立场的人所组成的复杂生命。
在这一视角的启发下，团队做了一次产品调整。他们不再让“孔子”直接回答学生“我该怎么做”，而是让角色输出几个背景相悖的古代文献观点，然后引导学生自己去判断，页面底部还会展示“同一句话在不同年代的解读变化”。这个改动没有触碰任何合规红线，但受到了教师群体的好评，因为它把一次“单向的答案解析”变成了“历史理解能力训练”。
这个案例让我坚定了一点：好的治理设计，不只是风险最小化，还能帮助产品从“更完整的人类经验”出发变得更好。
边界提醒：范式对话不该变成事故现场
最后说说这套方法的边界。有三个坑是必须避开的。
第一个坑是把元人文当成术语缝合机。在文档里堆砌“人的主体性”“美好生活”这类大词，不属于范式对话，是一种修辞装饰。元人文的价值在于它能改变问题域，而不是生产让人安心的宏大表述。
第二个坑是用思辨来豁免具体的责任。如果一次产品评审中元人文讨论说“这个影响很复杂，需要更多时间才懂”，而合规清单上明明有一个明确违规点，那么必须优先处理眼前的合规问题。元人文是对合规的补充，不是拖延的借口。
第三个坑是一概否定技术优化。每次技术团队提到效率和增长，都把它当成功利主义来批判，这种做法很快会让工程师反感。合理的范式对话应该让工程师看到，元人文视角能帮他们发现一些原本感受得到、却表达不出来的担忧，这恰恰是改善产品的机会。
做这套实践多了以后，我慢慢意识到：把“AI元人文构想”引入当代AI治理研究，不是往学术圈里再加一个陌生概念，而是替许多处于实践中、却讲不清楚自己不适感的人，找到了一种可以被严肃讨论的语言。治理如果只关注风险，就会漏掉大量正在发生且不断累积的东西。而这个缺口，恰恰是人们继续追问“我们到底想和AI一起活成什么样”的地方。
如果用最直白的话来总结我对范式对话的体会，大概是：它不需要我们停止正在做的事，只需要我们每隔一段时间，从正在做的事里抽身出来，问一句——这件事默认了什么？这句话的默认，常常就是未来的入口。