1. 这年头,为什么AI新闻造假比你想的更严重
先聊个我最近的真实感受。去年底我在做舆情监测项目的技术评估,发现一个很扎心的现象:用AI生成的所谓“新闻稿”,在社交平台上的传播速度是人工稿件的三到五倍。原因很简单——AI生成的文本信息密度高、语法干净、逻辑自洽,甚至还能模仿特定媒体的行文风格,普通人根本看不出破绽。但问题恰恰出在这里:它越“像”新闻,越可能是一本正经地胡说八道。
你可能会问,这不就是传统意义上的假新闻吗?区别大了。传统假新闻通常是人为捏造,往往存在低级错误、情绪化表达、信息来源模糊等特征,只要稍微有点媒介素养的人多问几句就能发现问题。而AI生成的内容,它会把“可能正确”和“事实正确”混为一谈。比如我问一个模型“某市地铁三号线最近是否发生故障”,它可能基于训练数据里几年前的类似事件,生成一条“某市地铁三号线因设备故障停运”的完整信息,时间、经过、官方回应一应俱全——但这件事可能根本没发生过,或者不是最近发生的。
这就是为什么我一直在推一件事:对AI生成的新闻做系统性的自动化事实核查,不能靠读者肉眼去分辨,也不能靠平台简单粗暴地贴“疑似AI生成”的标签。这套事情需要有一层专门的工具来做判断,也就是本文要展开的“事实核查器”。
这篇文章是写给谁看的?如果你在做内容审核、舆情监控、新闻采编、数据分析,或者你本身在搞AI应用开发,想给自己的产品加一道“内容真实性检测”的关卡,那这篇实践记录会非常对口。我会从原理讲到实操,再给你一套能直接落地的检测流程和工具选型思路,包括我自己踩过的坑。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 事实核查器检测的核心逻辑:不是“查真假”,而是“查一致性”
很多第一次接触事实核查器的朋友会有一个误区:以为这东西像搜索引擎一样,输入一句话,返回“真”或“假”。实际完全不是这样。主流的AI新闻事实核查器,核心逻辑是**“基于证据的一致性评估”**——它不直接判断某件事是否存在,而是判断“这段话中的关键信息,是否能在可靠的知识源中找到支持”。
这个差别很重要。举个例子,“某明星今天出席电影节”这句话,如果查不到任何媒体报道,核查器不会立刻判定为“假”,因为可能只是新闻还没被收录。它更可能给出的是“可信度中等,现有证据无法证实”之类的结果。换句话说,事实核查器做的是一个置信度打分,而不是二值判定。
我用的这套基于事实核查器的检测方案,整体流程分为以下几层:
- 输入层:接收待检测的新闻文本,支持单篇文章、单条推文、甚至一段短视频转写的字幕文本。
- 预处理层:做句子切分、命名实体识别、关键信息抽取,把长文拆成一个个“可验证的原子事实”。
- 检索层:把提取出的原子事实映射到知识库中去比对,知识源可以是百科数据、权威新闻库、结构化知识图谱。
- 证据评估层:对每条原子事实计算“支持度得分”,看知识库中有多少证据支持它、有多少证据反对它、是否有冲突信息。
- 汇总输出层:把全篇的检测结果做成报告,输出整体可信度、具体可疑句、建议核查的证据链接。
2.1 为什么要拆句子而不是整篇判断?
因为我测试过整篇判断的效果,结果让人头大。大模型对一整篇文章给出“真实性评分”时,往往会受篇幅和情绪影响,出现“平均化”倾向——一篇五段文章里只有一段是假的,整篇评分可能还在“基本可信”的区间,这在实际审核场景里等于没查。拆句之后,每条信息独立过一遍证据链,问题立刻就清晰了。
举个我在测试中的实际数据。我拿同一篇AI生成的科技新闻跑了两种模式,整篇判断模式的输出是“可信度75%”,看起来没啥问题。但拆成12个原子事实后,发现有3条无法检索到任何匹配证据,且这3条恰好是文中最核心的结论性叙述。也就是说,整篇判断把它“糊”过去了,拆句判断直接把它“揪”出来了。
2.2 核心流程里的两个关键模块
预处理层里有两个模块决定了整个核查器的上限。
第一个是三元组提取。一篇新闻可以拆成若干个“主语-
