幻觉是什么,怎么减少?
先理解原理和示例,再练习完整口述与追问。
回答要点
指模型生成看似合理但不符合事实或证据的内容,原因不只“缺上下文”。可通过可靠检索、工具查询、约束输出、来源引用、拒答与人工复核降低风险,不能保证彻底消除。
原理拆解
幻觉是输出与事实或给定证据不符的内容,可能来自信息缺失、知识过期、检索错误、推理错误或要求过度确定。减少幻觉需要明确任务、提供可信资料、约束可回答范围,并验证引用和结论;仅让模型“不要胡说”没有足够的技术保障。
示例与推演
知识库问答先检索授权文档,回答中把结论关联到具体片段;证据冲突时说明冲突与版本,检索不到时表达无法确认。可用包含无答案、过期信息、相似但不同实体的问题集测试,统计引用支撑率与拒答质量,不只评价语气是否流畅。
易错点
RAG 也可能检索到错误或恶意文本。引用存在不代表引用真的支持结论,需要校验来源、内容与权限。
参考回答可直接练习口述
幻觉是模型生成形式上合理、实际上错误或没有证据支持的内容,例如不存在的接口、错误字段或伪造引用。它不只因缺上下文发生,也与模型能力、问题歧义和推断过程有关。我会提供真实资料、检索与工具结果,约束输出,允许无答案,并在重要环节验证事实与来源。降低温度、加一句“不要胡编”或接入 RAG 都不能保证彻底消除。
面试官可能继续问追问与完整解答展开收起
追问
答案附了链接就一定正确吗?——还要验证来源真实存在,以及来源是否支持具体结论。
追问回答
不一定。链接可能不存在、指向不相关页面,或页面不支持该结论。应分别校验来源真实性、引用片段与结论的对应关系、时效和权限;有引用格式只是可核对线索,不是事实保证。