训练基于原则的提示提升推理能力 提出ConstitutionalExperts方法
  

火狐狸 240

{{ttag.title}}
训练基于原则的提示提升推理能力
提出ConstitutionalExperts方法,通过为大型语言模型(LLM)的不同语义区域训练基于原则的提示,并使用专家混合(MoE)架构在推理时精确路由,实现了相较于其他提示优化技术在多个NLP任务上的显著性能提升,这一结果强调了在模型推理阶段考虑数据语义相似性的重要性。
[CL]《ConstitutionalExperts: Training a Mixture of Principle-based Prompts》S Petridis, B Wedin, A Yuan, J Wexler, N Thain [Google Research] (2024)
https://arxiv.org/abs/2403.04894

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
每日一问
2024年技术争霸赛
干货满满
技术盲盒
技术笔记
GIF动图学习
技术咨询
产品连连看
新版本体验
功能体验
标准化排查
信服圈儿
信服课堂视频
自助服务平台操作指引
2023技术争霸赛专题
答题自测
深信服技术支持平台
通用技术
秒懂零信任
畅聊IT
安装部署配置
安全攻防
上网策略
SDP百科
每周精选
专家问答
技术圆桌
在线直播
网络基础知识
VPN 对接
社区帮助指南
纪元平台
技术晨报
场景专题
MVP
升级
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
答题榜单公布
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
北京区每日一练
故障笔记

本版版主

461
245
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人