gpt-3.5-turbo的参数大小约7B 一篇新的论文《Logits of API-Protected L
  

火狐狸 466

{{ttag.title}}
gpt-3.5-turbo的参数大小约7B
一篇新的论文《Logits of API-Protected LLMs Leak Proprietary Information》揭示了 GPTgpt-3.5-turbo的参数大小约7B!
我们收集了近 6000 个数据样本。分析结果显示,当索引值位于 4600 到 4650 之间时,数据的变化趋势与模型的嵌入向量大小直接相关,从而暗示了该模型的嵌入向量大小最大可能是这个范围。这一发现与常规的嵌入向量大小设定(通常是 2 的幂或其和)不同,引人猜测 gpt-3.5-turbo 的实际嵌入向量大小可能接近 4096 或 4608。进一步推测,如果 gpt-3.5-turbo 采用的是与大多数基于 Transformer 的大语言模型相似的架构,那么它的参数数量可能接近 70 亿,这一数字基于大多数嵌入向量大小为 4096 的 Transformer 模型的参数数量。
论文:https://arxiv.org/html/2403.09539v1

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
每日一问
技术盲盒
干货满满
技术笔记
产品连连看
2024年技术争霸赛
GIF动图学习
新版本体验
技术咨询
SDP百科
标准化排查
2023技术争霸赛专题
每周精选
信服课堂视频
通用技术
秒懂零信任
功能体验
玩转零信任
自助服务平台操作指引
上网策略
原创分享
畅聊IT
技术圆桌
安全攻防
社区帮助指南
技术晨报
答题自测
专家问答
在线直播
MVP
网络基础知识
安装部署配置
升级
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
北京区每日一练
场景专题
故障笔记

本版版主

461
247
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人