×

超融合能否跑deepseek

新手881837 734

{{ttag.title}}
RT,当前有台安装了4张3090的服务器跑着deepseek内部使用,现在想对该服务器进行虚拟化并加入现有集群,deepseek可以跑在超融合内吗

解决该疑问,预计可以帮助到 13055 人!

回帖即可获得
2S豆
,被楼主采纳即奖励20S豆+10分钟内回帖奖励10S豆 [已过期] ,了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

一抹月光 发表于 2025-4-11 08:51
  
可以。。。。。。。。。。。。。。。。。。。。
王老师 发表于 2025-4-11 09:49
  
RTX 3090:每张显卡拥有24GB显存,适合运行中小规模的DeepSeek模型(如7B、14B或32B参数量)。但对于更大规模的模型(如70B),可能需要多卡协作。
虚拟化环境的影响:虚拟化会引入一定的性能开销,尤其是在GPU资源分配和调度方面。在虚拟化环境中运行DeepSeek时,必须确保GPU资源能够高效分配和利用。
深度学习任务通常需要高速存储和低延迟网络。确保超融合集群的存储性能(如NVMe SSD)和网络带宽(如10GbE或更高)能够满足需求。
在超融合环境中运行DeepSeek是可行的,但需要仔细规划和配置,尤其是GPU资源的分配和管理。以下是关键建议:

优先考虑GPU直通技术,以减少性能损耗。
确保超融合平台支持GPU相关的功能(如直通或vGPU)。
根据实际需求选择合适的虚拟化平台或容器化方案。
实习19857 发表于 2025-4-12 09:38
  
应该是可以的 这个不跟上的话 那就落后了
王老师 发表于 2025-4-13 09:26
  
在超融合环境中运行DeepSeek是可行的,但需要仔细规划和配置
俞建水 发表于 2025-4-14 08:45
  
这个没操作过,看看大家怎么说1
大智哥 发表于 2025-4-15 09:06
  
当然可以了,只要给虚拟机的资源足够算力跟的上,与实体物理机没什么区别。

等我来答:

换一批

发表新帖
作者其他文章
热门标签
全部标签>
每日一问
新版本体验
技术咨询
标准化排查
安全效果
纪元平台
【 社区to talk】
产品连连看
功能体验
GIF动图学习
干货满满
技术笔记
问题分析处理
安装部署配置
自助服务平台操作指引
技术盲盒
社区新周刊
专家问答
运维工具
技术晨报
华北区交付直播
西北区每日一问
高手请过招
sangfor周刊
2023技术争霸赛专题
每周精选
信服课堂视频
畅聊IT
答题自测
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
流量管理
每日一记
云计算知识
用户认证
原创分享
解决方案
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
社区帮助指南
答题榜单公布
通用技术
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
山东区技术晨报
文档捉虫活动
齐鲁TV
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
故障案例库

本版版主

197
335
996

发帖

粉丝

关注

217
292
151

发帖

粉丝

关注

25
16
5

发帖

粉丝

关注

7
12
27

发帖

粉丝

关注

5
10
7

发帖

粉丝

关注

32
37
46

发帖

粉丝

关注

本版达人

皮皮虾·真

本周建议达人

郑州网络

本周分享达人

二进制网络

本周提问达人