现在我们用的各类AI生成工具，反幻觉技术就是帮AI避免一本正经胡说八道的基础支撑。
反幻觉技术到底是什么，通常用在哪儿
说白了，它就是给AI套上“只说真话”缰绳的基础技术集合。
我们现在用到的AI搜索、企业知识库问答、学术资料整理工具，背后都靠它托底。
比如你让AI整理某新能源创业公司近年的公开融资信息，没有成熟反幻觉技术加持的AI，会顺着你的提问编出不存在的融资轮次和金额，甚至把别家公司的信息安在它头上。
看着逻辑通顺术语齐全，实际上全错。
大语言模型AI幻觉与反幻觉输出对比图
反幻觉技术的两大核心基础
有意思的是，目前行业里较为常见的反幻觉方案，核心基础其实只有两类。
一类是
检索增强生成，也就是常说的RAG，简单说就是AI回答你问题之前，先去指定的可信知识库搜一遍匹配内容，再基于搜到的真实信息组织语言，相当于开卷考试，不给瞎编的空间。
另一类是
对齐微调，也就是拿大量已经标注好对错的案例训练模型，教模型识别什么内容是编造的，生成的时候主动避开幻觉内容。
据一些用户反馈，大部分商用AI工具都会把两种方案结合使用，效果比单独用一种更稳定。
检索增强生成RAG反幻觉基础流程图
普通人需要留意的几个常识
从实操角度看，就算有成熟的反幻觉技术基础加持，AI也不会完全不出错。
需要留意的是，如果你要用AI生成需要公开引用的专业内容，比如论文参考文献、公开报道引用的数据，最好自己再核对一遍原始来源。
这个可能因工具而异，不同工具训练方向不同，反幻觉的能力也有差别，主打法律文书的AI，反幻觉训练重点就和通用聊天AI不一样。
很多人有个误区，觉得加了反幻觉技术的AI就不会出错，其实它只是降低了胡说的概率，没办法彻底消除幻觉。
您在实际使用AI的过程中，还遇到过哪些离谱的AI幻觉？欢迎结合具体场景继续探讨。
