消费日报网 > 品牌战略

如何让大模型输出更精准、更可靠的结果?

时间:2024-05-10 10:01:09 来源:消费日报网

  大模型虽然强大,但是也有技术缺陷。有时会产生“幻觉”,甚至会犯一些事实性错误。这是大模型技术逻辑带来的天然缺陷,大模型的技术机理是,通过大量的知识训练,基于概率最大的原则生成答案。

  那么这就带来了几个问题,公开的数据库中往往缺乏真正有用的知识,大模型能学习到只是“皮毛”,由此生成的答案只能是泛泛而谈;而且一旦在训练过程中学习到了不准确的内容,大模型生成的答案就会产生偏差。再者,大模型是基于概率来生成答案,即便是“1加1等于几”这样的问题,也是大模型在训练的过程中,“发现”1+1后面出现2的概率最大,所以才会给出2的答案。除了“1+1=2”这样铁一般的事实不容易出错外,在很多问题上,大模型都不能保证百分之百正确。

  大模型另外一项重大挑战是,没有办法实时更新知识。比如,ChatGPT 3.5只学习了2021年9月之前的知识,此后这个世界产生的新知识就无从知晓了。

  那么有没有什么办法让大模型变得更准确、更专业呢?答案是有的,这就是今天要谈的检索增强生成技术。

  检索增强生成技术英文简称RAG,它的技术原理是整合外部知识库,在大模型接收到提问时,先去检索外部知识库,并将其提供给大模型。这样,大模型在生成答案时,能够参考这些外部数据库中的信息,从而生成更准确和相关的答案。这种方式不仅增强了大模型的输出质量,还避免了重新训练模型的繁琐过程。

  百融云创大模型应用一站式开发平台

  百融云创将RAG技术引入到大模型应用一站式开发平台——赛博坦,并对Q&A场景专门做了模型能力的强化。在RAG技术的加持下,赛博坦能够学习到足够个性、专业、有用的知识,全面提升了生成答案的精准度和专业性,效果出奇的好。

 01微信截图_20240513104457.jpg

 

02微信截图_20240513104559.jpg

  在赛博坦平台上,用户可以通过角色设定、人物性格、能力范围等基础设定,打造个性化十足、能力强大的助理机器人。但此时的机器人在处理专业工作上,还差一些专业训练。用户可以点开知识管理模块上传文件,它可以是问答、文档,也可以是数据表格。完成上传后,“机器人”会全面学习这些文件,形成知识块。当用户提问时“机器人”通过RAG技术把与问题相关的知识检索出来,并提供给大模型,利用其语义理解能力,结合上下文最终生成问题答案。

  每个领域都有自己的智慧和专业知识,RAG的精髓在于能够帮助企业建立专属知识库,这个知识库就像是企业独有的秘笈和配方,不仅可信、有用还独有,这为大模型解决具体行业的具体任务时提供了基础。

  同时,RAG还拥有强大的知识长期记忆和理解关联能力,能进行复杂的逻辑推理和概念关联,从而生成更深入的解析和推断。这使得大模型兼具专业性、精准性、可追溯三大优势。

  01专业性

  RAG如同给大模型开了一个外挂,让它在回答问题之前先在企业的专业知识库里“过过脑子”。同样一个问题,在应用RAG技术前后会产生截然不同的答案。如果用户能建立一个足够强大的企业知识库,大模型很快就能从一个“票友”进化成行业专家。知识改变命运,这句话也适用于大模型。

  02精准性

  知识不在多,在于精。RAG能帮助大模型抓到问题的核心,并且回答到点上。利用RAG技术实现知识的嵌入、分块和提取,可以为大模型规范出框架和边界,使其在一定范围内去阅读、理解和回答,而不是任其天马行空,这将大大减少其“胡说八道”的概率。百融云创利用赛博坦平台服务了某机构的客服部门,该机构利用赛博坦平台设定线上智能客服的角色、性格,并上传大量语料形成知识库,在RAG的助力下,该机构智能客服与用户的交互变得十分顺畅和丝滑,此前“答非所问”的情况大为改观。

  03透明可追溯

  RAG技术另外一项优势就是知识的可追溯性,当机器人回答某个问题的时候,会清晰地显示引用知识的源头。一直以来,大模型的“黑盒”模式让人们难以完全信任,RAG则有效改变了这一情况。

  我们利用赛博坦平台问了一个问题,“财富管理客户智能运营怎么做?”可以看到,在回答这个问题的同时,它还展示了引用的知识来源。

 03微信截图_20240513104730.jpg

  结合RAG技术的赛博坦,模型的表达能力和预测性能得到显著提升。在第三方测评机构的测评中,百融云创大模型的准确性和精准性,取得了行业领先的成绩,多项指标优于ChatGPT3.5。

消费日报网版权及免责声明:
1. 凡本网注明“来源:消费日报网” 的所有作品,版权均属于消费日报网。如转载,须注明“来源:消费日报网”。违反上述声明者,本网将追究其相关法律责任。
2. 凡本网注明 “来源:XXX(非消费日报网)” 的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3. 任何单位或个人认为消费日报网的内容可能涉嫌侵犯其合法权益,应及时向消费日报网书面反馈,并提供相关证明材料和理由,本网站在收到上述文件并审核后,会采取相应措施。
4. 消费日报网对于任何包含、经由链接、下载或其它途径所获得的有关本网站的任何内容、信息或广告,不声明或保证其正确性或可靠性。用户自行承担使用本网站的风险。
5. 基于技术和不可预见的原因而导致的服务中断,或者因用户的非法操作而造成的损失,消费日报网不负责任。
6. 如因版权和其它问题需要同本网联系的,请在文章刊发后30日内进行。
7. 联系邮箱:xfrbw218@163.com  电话:010-67637706

标签:
编辑: 孙亮
相关新闻