反幻觉技术是当前生成式AI减少内容不实、胡说八道的核心支撑，大部分普通用户都在不知不觉中用到了它。
什么是反幻觉技术，通常用在哪些场景
说白了，它就是一套约束大模型生成内容，避免输出不符合事实、凭空捏造内容的技术集合。
比如你让AI整理某高校教授的研究成果，它凭空编出一篇这位教授从来没发过的论文；你问AI某条地铁线末班车时间，它给你说错了一个小时——这些离谱的错误就是AI「幻觉」，反幻觉技术就是用来解决这类问题的。
反幻觉技术的主流基础路径
当前较为常见的基础做法分两类，一类是训练阶段调优，一类是推理阶段约束。
说实话，训练阶段的优化普通用户接触不到，都是大模型厂商在做，比如用更高质量的标注数据做微调，给模型建立更准确的事实关联。
推理阶段的方法普通人其实天天碰到，检索增强生成就是反幻觉最常用的基础技术之一——AI生成回答前，先去指定的可信知识库检索对应事实，确认信息后再整理输出。
举个例子，你让AI整理某行业2023年的市场规模，带检索功能的AI会先拉公开报告里的已有数据，不会随便瞎编一个数字。据一些用户反馈，开了检索之后，AI瞎编引用的情况少了很多。
普通人使用需要留意的细节
很多人以为反幻觉技术能完全消除错误，其实不是，它只是降低幻觉出现的概率，没法做到完全不出错。
需要留意的是，如果你要把AI生成的内容用到专业场景，比如整理学术引用、写项目报告，哪怕AI开了反幻觉功能，你也要自己核对原始信息来源。
从实操角度看，你自己提问的时候加一点约束，比如要求「不确定的内容直接说明，不要瞎编」，本身就是一种简易的反幻觉操作，不用依赖厂商的技术就能实现。
您在实际使用AI的时候，还碰到过哪些离谱的幻觉问题？欢迎结合具体场景继续探讨。
