场景 / 坑

早期用网页 AI 时,它反复犯同一个错——我明明在对话里已经纠正过了,它下一次还是照犯。我火大,开始”骂”它。

后来 AI 自己给我解释了原因:模型在训练时,某些”认知 / 先验”的比重被压得很高,高到哪怕你在上下文里纠正了,也盖不过那个先验。表现出来就是:你明明提醒过它、纠正过它,它还在犯原来的错。

当时怎么做

  • 错在哪:默认”我指出过 / 提醒过一次,它就会记住并遵守”,所以一看它照犯就只会生气,而生气没有任何用。
  • 真相:上下文里一句轻飘飘的纠正,未必压得过它根深蒂固的先验。

心法

别把”说过一次”当成”它会永远照做”。重要的规则要重复、要标成醒目的【铁律】/【必须】,而且要在过程中主动复检它是不是又忘了——把守规则的责任放在你这边,别指望它自觉。

可自检练习

任务: 下次 AI 重复犯一个你已经纠正过的错时,别骂、也别只是再轻描淡写提醒一次,改做三步:

  1. 把那条关键规则单独拎出来,用醒目标记重申一遍,例如:「【铁律】文件名一律用英文,不要出现中文标点。」
  2. 在它下一次输出后主动检查:它这回遵守了吗?
  3. 如果又忘了,就再重申一次(必要时换更强的措辞 / 举个反例),而不是期待它自觉。

做对了长这样:

  • 面对 AI 反复犯错,你的第一反应是**“重申 + 标记 + 复检”**,而不是生气。
  • 你不再假设”提醒过=永久生效”,会在关键节点主动回头查它有没有跑偏

关联