先别急着怪模型,它只是在猜下一个词
大模型会“编”,这事挺常见。你问它某个冷门法规第几条,它可能给你一个像模像样的条款号。说实话,我有次碰到时也愣了下——语气太稳了。
所谓反幻觉技术基础,核心不是给模型装测谎仪,而是让它知道自己可能不知道,并且尽量把回答拉回可验证的信息上。比如你让客服机器人回答退货政策,它若没检索到最新规则,就该说“我需要查一下”,而不是硬答。

基础招式:检索、工具与约束提示
检索增强生成常被拿来做一层护栏。简单说,先查资料,再组织答案。像开卷考试。模型手里有原文,胡编空间会小一些。
不过话说回来,检索也不是处处管用。检索错了,答案照样跑偏。工具调用是另一条路:算数交给计算器,查天气走接口,查数据库走 SQL。从实操角度看,能交给确定性系统的,尽量别让模型心算。
提示约束也有用。比如要求只依据材料回答,材料没提就说不知道。但别指望一句咒语解决很多问题。据一些用户反馈,长文档里夹带矛盾信息时,模型仍可能挑错。
还有一个挺实用的小动作:引用溯源。让模型在关键句后面标来源。哪怕标得不完美,审核的人也能顺着线索查。这个在法务、医疗、金融里比较常见。

落地时要留意的坑:评估、更新与人工兜底
很多人上来就问,用哪个模型能压住幻觉?这问题本身有点危险。幻觉没法被某个开关一直关掉。更现实的做法,是搭建一套组合流程。
事实核查层可以放在输出前。对关键实体、数字、日期做比对。比如医疗问答里,剂量和禁忌症要单独校验。金融场景里,收益率和费率别让模型自由发挥。
不确定性估计也值得关注。让模型给出置信度,或者让多个模型交叉回答,分歧大的进入人工复核。这个可能因人而异,业务能承受的风险不同,阈值也不同。
评估别只看感觉。可以准备一批带标准答案的问题集,定期跑。看幻觉率、无答率、引用准确率。指标不用多,能反映业务风险就行。
有空做点红队测试。故意问模糊问题、诱导性问题、时间敏感问题。看它什么时候开始编。这比只夸模型聪明有用。
还有知识更新。政策变了,索引没变,模型就会拿着旧地图带路。维护周期要看业务变化速度,快则每天增量,慢则按周或按月。
延伸:反幻觉不是追求没有错误,而是让错误可发现
有意思的是,反幻觉技术和内容安全、可解释性经常交叉。它们都不是单点工具,更像一整套工程习惯。
常见疑问:小模型能不能做反幻觉?可以,但通常要配更强的检索和更严的规则。大模型也不是免检,上下文一长,照样会丢线索。
所以别把反幻觉理解成让模型不犯错。更接近的目标是:错误更少,错误更早被发现,关键场景有人兜底。您在实际使用中还遇到过哪些情况?欢迎结合具体场景继续探讨。