零门槛利用AI PAAS的应用评估功能定位效果瓶颈并优化-回答不全类问题
  

王红伟94 4821

{{ttag.title}}


在上一个分享“基于AI PaaS 的某企业知识问答应用效果优化案例-检索不到类问题”中,我们介绍了 通过AI PAAS的评估结果-问题定位功能,解决了RAG应用中检索不到的问题(因为表格解析分片导致的问题)。这个过程需要我们去检查工作流中检索节点的输出结果,并且对照分片结果进行排查,这样的问题排查过程比较适合对RAG有一定理解的人员。

下边介绍的方法,更适合没有RAG知识的人员,仅利用AI PaaS的应用评估功能就可以快速定位效果瓶颈并优化(针对生成回答不全类问题)。



一、问题定位

step 1. 通过AI PAAS评估结果中的评估详情,找到“回答不全”问题类别。


step 2.  还原问答现场

查看问答详情,在测试中回答结果如下。


step 3.  确认答案差异点

标准答案如下:

通过对比发现,检索结果正确,但缺少部分内容(红框部分),故判断为大模型对回答结果做了总结,造成回答结果不全。

二、优化方法
通过上述分析判断,在生成阶段,大模型对检索正确的结果进行了“发挥”,因此判断可以通过优化提示词来约束大模型的生成。

在原提示词上增加约束:"4. 请直接引用背景知识的原文,不要对背景知识进行总结归纳。" 修改提示词保存。

在调试问答窗口,输入相同问题,重新测试后,回答结果与标准答案一致。

以上就是仅仅通过修改大模型提示词,来对回答不全的生成结果进行优化的过程示例。


打赏鼓励作者,期待更多好文!

打赏
11人已打赏

jan 发表于 2025-5-13 08:56
  
路过学习,利用工具利用AI PaaS的应用评估功能就可以快速定位效果瓶颈并优化
新手378833 发表于 2025-5-28 09:09
  
用心学习,感谢指教。。。。。。。。。。。。。
dhf 发表于 2025-5-29 11:56
  
道路千万条,学习第一条!每天迅速GET新知识!
发表新帖
热门标签
全部标签>
有一说一
纪元平台
功能体验
存储
专家分享
迁移
每日一问
GIF动图学习
每周精选
信服课堂视频
虚拟机
项目案例
地址转换
追光者计划
技术笔记
安全攻防
问题分析处理
流量管理
终端接入
「智能机器人」
专家说
声音值千金
工具体验官
解决方案
VPN 对接
标准化排查
答题自测
新版本体验
上网策略
资源访问
排障笔记本
产品预警公告
技术晨报
社区新周刊
升级
日志审计
设备维护
技术争霸赛
以战代练
场景专题
全能先锋系列
产品解析
产品连连看
功能咨询
秒懂零信任
文档捉虫
齐鲁TV
高频问题集锦
【 社区to talk】
云化安全能力
故障笔记
排障那些事
2025年技术争霸赛
安装部署配置
测试报告
SDP百科
山东区技术晨报
华北区交付直播
MVP
每日一记
运维工具
原创分享
sangfor周刊
SANGFOR资讯
授权
玩转零信任
升级&主动服务
行业实践
产品知识周周练
畅聊IT
专家问答
技术圆桌
在线直播
信服故事
卧龙计划
平台使用
技术盲盒
北京区每日一练
产品动态
用户认证
技术顾问
天逸直播
POC测试案例
安全效果
关键解决方案
S豆商城资讯
2023技术争霸赛专题
高手请过招
产品体验官
VMware替换
网络基础知识
华北区拉练
西北区每日一问
热门活动
2024年技术争霸赛

本版版主

8
11
2

发帖

粉丝

关注

2
7
0

发帖

粉丝

关注

0
3
0

发帖

粉丝

关注

36
18
1

发帖

粉丝

关注

1
1
0

发帖

粉丝

关注

本版达人