场景 / 坑

我让 AI 做文献调研,它在一份技术文档里把某个添加剂写成”该领域的标准配方组分”,还附了引用。后来我自己的实验数据对不上,回头一查——这个领域的奠基文献里根本没有这个组分,AI 那句”标准做法”是没有文献支撑的推断,引用也是凑的。

当时怎么做

  • 错的那步:把 AI 的”领域叙述”当成核实过的事实,直接写进了文档,跳过了”生成 → 核实 → 写入”中间那道核实。
  • 纠正:凡是 AI 给的”X 是该领域标准 / 公认做法”这类断言,单独回原始文献核实再用;拿不准的先标【待核实】。

心法

AI 的”领域常识”型断言(“X 是标准做法""大家都这么做”)必须单独核实原始来源——它在权威信息缺失时会用”合理推断”填空,而且不会主动告诉你这是猜的。高风险的知识性信息,先标【待核实】,核完再写进文档。

可自检练习

任务: 找一段 AI 给你的”结论性 / 常识性”说法(带不带引用都行),动手去查它引用的原始出处,确认那句话真的在原文里、而且是原文的意思。

做对了长这样: 你能分辨”AI 复述了一个真实来源”和”AI 自信地编了一个听起来很对的说法”;对高风险断言,你会先标【待核实】,而不是直接采信。

关联