场景 / 坑
我让 AI 做文献调研,它在一份技术文档里把某个添加剂写成”该领域的标准配方组分”,还附了引用。后来我自己的实验数据对不上,回头一查——这个领域的奠基文献里根本没有这个组分,AI 那句”标准做法”是没有文献支撑的推断,引用也是凑的。
当时怎么做
- 错的那步:把 AI 的”领域叙述”当成核实过的事实,直接写进了文档,跳过了”生成 → 核实 → 写入”中间那道核实。
- 纠正:凡是 AI 给的”X 是该领域标准 / 公认做法”这类断言,单独回原始文献核实再用;拿不准的先标【待核实】。
心法
AI 的”领域常识”型断言(“X 是标准做法""大家都这么做”)必须单独核实原始来源——它在权威信息缺失时会用”合理推断”填空,而且不会主动告诉你这是猜的。高风险的知识性信息,先标【待核实】,核完再写进文档。
可自检练习
任务: 找一段 AI 给你的”结论性 / 常识性”说法(带不带引用都行),动手去查它引用的原始出处,确认那句话真的在原文里、而且是原文的意思。
做对了长这样: 你能分辨”AI 复述了一个真实来源”和”AI 自信地编了一个听起来很对的说法”;对高风险断言,你会先标【待核实】,而不是直接采信。
关联
- 上级路径:L2入口
- 相关卡:卡-计划不等于已完成(同是”AI 把不确定的讲得像真的”,那张是虚实时态、本张是知识编造)、卡-别以为说过AI就会照做
- 延伸:L3 反幻觉工作流(生成阶段预防 + 事后 fact-checker 补救,待 L3 线切)