港中文大学提出的新训练优化器 Adam-mini Adam-mini可以大幅优
  

火狐狸 771

{{ttag.title}}
港中文大学提出的新训练优化器 Adam-mini

Adam-mini可以大幅优化模型训练的效率:将AdamW的内存占用减少了45%-50%。同时在大型语言模型的预训练、微调和RLHF任务上,达到了与AdamW相当或更好的性能。Adam-mini显著提高了训练吞吐量,例如在Llama2-7B预训练中比AdamW快49.6%。

Adam-mini的核心思想是:减少Adam中学习率资源的使用,通过根据Hessian矩阵结构将参数分成块,并为每个块分配单一但有效的学习率。

https://arxiv.org/abs/2406.16793

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
高手请过招
每日一问
纪元平台
新版本体验
功能体验
GIF动图学习
【 社区to talk】
产品连连看
标准化排查
安全效果
社区新周刊
信服课堂视频
答题自测
畅聊IT
专家问答
技术笔记
技术圆桌
在线直播
MVP
网络基础知识
安装部署配置
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
2023技术争霸赛专题
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
技术晨报
平台使用
技术盲盒
山东区技术晨报
文档捉虫
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
西北区每日一问
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
专家说
热门活动
产品动态
行业实践
产品解析
关键解决方案

本版版主

461
248
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人