科思哲 发表于 2023-12-26 08:56
  
每天坚持打卡学习签到!!
dhf 发表于 2024-6-4 10:20
  
感谢楼主的精彩分享,有助工作!!!
dhf 发表于 2024-6-12 10:00
  
感谢楼主的精彩分享,有助工作!!!
dhf 发表于 2024-6-14 21:25
  
感谢楼主的精彩分享,有助工作!!!
科思哲 发表于 2024-6-15 08:48
  
多谢分享,有助于工作。
1. 微软出的LLM Prompt压缩工具 LLMLingua,在对齐后使用训练有素
  

火狐狸 3182

{{ttag.title}}
1. 微软出的LLM Prompt压缩工具
LLMLingua,在对齐后使用训练有素的小语言模型(如 GPT2-small 或 LLaMA-7B)来检测提示语中不重要的标记,并在黑盒 LLM 中使用压缩后的提示语进行推理,以最小的性能损失实现高达 20 倍的压缩。
地址:github.com/microsoft/LLMLingua

2. 从头开始构建Deep Q-Learning深度强化学习环境
地址:https://towardsdatascience.com/d ... arning-375876ee2472

3. Intel开源的神经压缩器
Intel® Neural Compressor:Intel开源的神经压缩器,提供统一API,支持主流深度学习框架(如 TensorFlow、PyTorch、ONNX Runtime 和 MXNet)上的模型压缩技术,包括量化、剪枝、蒸馏和神经架构搜索。
GitHub: github.com/intel/neural-compressor

打赏鼓励作者,期待更多好文!

打赏
22人已打赏

发表新帖
热门标签
全部标签>
每日一问
2024年技术争霸赛
技术盲盒
GIF动图学习
技术笔记
干货满满
新版本体验
产品连连看
功能体验
2023技术争霸赛专题
信服圈儿
通用技术
标准化排查
技术咨询
技术晨报
华北区交付直播
每周精选
场景专题
信服课堂视频
答题自测
流量管理
华北区拉练
安装部署配置
畅聊IT
技术圆桌
用户认证
VPN 对接
自助服务平台操作指引
终端接入
排障笔记本
玩转零信任
秒懂零信任
专家问答
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
每日一记
运维工具
云计算知识
原创分享
解决方案
sangfor周刊
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
北京区每日一练
故障笔记

本版版主

461
245
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人