DataComp-LM:寻找下一代语言模型训练集 Llama 3就揭示了一个严
  

火狐狸 925

{{ttag.title}}
DataComp-LM:寻找下一代语言模型训练集
Llama 3就揭示了一个严峻且悲观的现实:在不改变模型架构的情况下,将数据量从2万亿(2T)增加到15万亿(15T),就能大力出奇迹。这也就意味着,从长远来看,基座模型的发展机会,只能独属于大公司。而考虑到Scalng Law的边际效应,如果我们希望在下一代模型身上看到从GPT-3到GPT-4级别的演进,就需要至少再清洗出至少10个数量级的数据(比如150T)。就在最近,好消息来了!DCLM团队从CommonCrawl里,清洗出了240T的数据。显然,这给Scaling Law的支持者们带来了福音——数据是不缺的,然而,你有卡吗?

《DataComp-LM: In search of the next generation of training sets for language models》

论文:https://arxiv.org/abs/2406.11794

资讯:https://mp.weixin.qq.com/s/26HAPNf8AAScPPE9OEA6zQ

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

嘀嘀柠柠 发表于 2024-9-6 05:44
  
每天坚持打卡学习签到!!
发表新帖
热门标签
全部标签>
西北区每日一问
技术盲盒
安全效果
【 社区to talk】
技术笔记
干货满满
每日一问
信服课堂视频
新版本体验
GIF动图学习
技术咨询
功能体验
2023技术争霸赛专题
产品连连看
安装部署配置
通用技术
秒懂零信任
技术晨报
自助服务平台操作指引
原创分享
标准化排查
排障笔记本
玩转零信任
排障那些事
SDP百科
深信服技术支持平台
POC测试案例
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
高手请过招
升级&主动服务
高频问题集锦
社区新周刊
全能先锋系列
云化安全能力

本版版主

461
247
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人