基础认知:大语言模型引用机制到底是什么
它其实是大语言模型搭配检索增强生成技术,给生成内容匹配来源出处的一套运行规则。
通常用在需要溯源的场景,比如学术整理、行业报告撰写、信息查证等等。
举个例子,你让大模型整理今年的AI行业融资事件,开启大语言模型引用机制后,它会告诉你每个融资信息最初来自哪个媒体的报道,而不是只给你干巴巴的事件列表。

实际使用中的关键注意事项
据一些用户反馈,开启引用机制也会出现出处匹配错误的情况。
这个坑很多人踩过。很多人默认标了引用的内容就一定准确,实际上还是要自己核对一遍来源是否对应。
需要留意的是,多数大模型的引用机制,只能覆盖生成过程中实时检索到的公开内容。训练数据里的存量内容,很多没法给出准确引用。
比如在你查询几年前的专业出版物内容时,模型就算能说出核心观点,也大概率标不出准确的引用来源。

延伸视角:和手动参考文献有什么区别

有意思的是,很多人会把它和我们写论文时加的参考文献搞混。
手动加参考文献是写完内容后,额外标注参考来源,一般只列在文末。大语言模型引用机制是生成内容的过程中,逐句或者逐段匹配对应来源,可以直接链接到原出处。
从实操角度看,现在这个机制还在持续迭代,不同厂商的实现差异还比较大,这个可能因人而异,不同用户的使用体验差别也不小。
您在实际使用大语言模型开启引用功能的时候,还遇到过哪些奇怪的问题?欢迎结合具体场景继续探讨。