1. 学习和遗忘大型语言模型中的不安全示例 研究了LLM在定制
  

火狐狸 482

{{ttag.title}}
1. 学习和遗忘大型语言模型中的不安全示例
研究了LLM在定制微调过程中学习不安全示例的行为和遗忘模式,并提出ForgetFilter算法,该算法基于遗忘信号强度来过滤不安全数据,从而在保持模型安全性的同时不损害下游任务性能。
[CL]《Learning and Forgetting Unsafe Examples in Large Language Models》J Zhao, Z Deng, D Madras, J Zou, M Ren [University of Massachusetts Amherst & Columbia University & Google] (2023)
https://arxiv.org/abs/2312.12736

2. DSFormer:通过密集稀疏权重分解对文本转换器进行有效压缩
DSFormer是一种用于压缩Transformer模型的替代分解方案,通过使用小的稠密矩阵和半结构稀疏矩阵的乘积来更有效地压缩模型,并通过新的STF算法实现了更好的准确性。
[CL]《DSFormer: Effective Compression of Text-Transformers by Dense-Sparse Weight Factorization》R Chand, Y Prabhu, P Kumar [Microsoft Research] (2023)
https://arxiv.org/abs/2312.13211

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
西北区每日一问
技术盲盒
每日一问
技术笔记
干货满满
GIF动图学习
功能体验
通用技术
标准化排查
SDP百科
产品连连看
技术咨询
技术圆桌
社区新周刊
2023技术争霸赛专题
秒懂零信任
自助服务平台操作指引
信服课堂视频
畅聊IT
在线直播
新版本体验
技术晨报
安装部署配置
sangfor周刊
VPN 对接
专家问答
高手请过招
升级&主动服务
答题自测
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
原创分享
解决方案
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
高频问题集锦

本版版主

461
247
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人