现在大家用生成式AI找信息、写内容，最怕遇到AI一本正经编瞎话，反幻觉技术基础就是用来解决这个痛点的常见底层方案。
基础认知：反幻觉技术到底解决什么问题
业内把AI生成不存在、不符合事实内容的问题，叫做
AI幻觉。
反幻觉技术基础，不是某一个特定的神奇算法，是一系列用来降低AI幻觉概率的底层技术方向的统称。
比如你问AI“某本2024年新出版的社科书核心观点是什么”，没做反幻觉处理的AI，可能会瞎编一堆根本不存在的观点凑回答。
做了基础反幻觉处理的AI，会直接告知你没有找到可验证的对应信息，不会乱输出。
大模型AI幻觉错误回答对比示例图
核心路径：目前落地较多的两类基础方案
说实话，现在行业内常见的反幻觉基础方案，主要分两类，各有适用场景。
一类是训练微调阶段的事实对齐，就是给模型输入大量标注好的事实类样本，让模型提前学习如何区分确定事实和不确定内容，从训练底层养成不瞎编的习惯。
另一类是推理阶段的
检索增强生成，也就是现在商用AI工具常用的基础方案，简单说就是AI生成回答前，先去提前准备好的可信知识库搜一遍相关内容，再结合搜到的真实信息组织语言。
从实操角度看，后者对中小规模的应用场景来说，落地成本更低，效果也更明显。
比如做企业内部的AI政策咨询，把公司所有公开政策文档存入专属知识库，AI回答前先检索，出错概率会下降很多。
检索增强反幻觉技术工作流程示意图
入门需要避开的常见误区
入门需要避开的常见误区
很多刚接触的人会觉得，做了反幻觉基础处理，AI就完全不会出错了。不对。
据一些用户反馈，目前的基础反幻觉技术只能降低幻觉出现的概率，没法完全杜绝幻觉。
还有一个常见误区，就是觉得反幻觉一定会影响AI的创意能力。这个可能因人而异，也看参数调整，基础反幻觉一般只对事实性输出做约束，创意类需求的影响很小。
需要留意的是，不同场景要调整反幻觉的权重，做事实查询、新闻摘要这类需求，可以把权重调高；做创意写作、头脑风暴这类，可以调低权重，适配不同需求。
您在使用AI的过程中，还遇到过哪些离谱的AI幻觉问题？欢迎结合具体场景继续探讨。
