超融合能否跑deepseek

新手881837 10111

{{ttag.title}}
RT,当前有台安装了4张3090的服务器跑着deepseek内部使用,现在想对该服务器进行虚拟化并加入现有集群,deepseek可以跑在超融合内吗

解决该疑问,预计可以帮助到 13321 人!

回帖即可获得
2S豆
,被楼主采纳即奖励20S豆+10分钟内回帖奖励10S豆 [已过期] ,了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

一抹月光 发表于 2025-4-11 08:51
  
可以。。。。。。。。。。。。。。。。。。。。
王老师 发表于 2025-4-11 09:49
  
RTX 3090:每张显卡拥有24GB显存,适合运行中小规模的DeepSeek模型(如7B、14B或32B参数量)。但对于更大规模的模型(如70B),可能需要多卡协作。
虚拟化环境的影响:虚拟化会引入一定的性能开销,尤其是在GPU资源分配和调度方面。在虚拟化环境中运行DeepSeek时,必须确保GPU资源能够高效分配和利用。
深度学习任务通常需要高速存储和低延迟网络。确保超融合集群的存储性能(如NVMe SSD)和网络带宽(如10GbE或更高)能够满足需求。
在超融合环境中运行DeepSeek是可行的,但需要仔细规划和配置,尤其是GPU资源的分配和管理。以下是关键建议:

优先考虑GPU直通技术,以减少性能损耗。
确保超融合平台支持GPU相关的功能(如直通或vGPU)。
根据实际需求选择合适的虚拟化平台或容器化方案。
实习19857 发表于 2025-4-12 09:38
  
应该是可以的 这个不跟上的话 那就落后了
王老师 发表于 2025-4-13 09:26
  
在超融合环境中运行DeepSeek是可行的,但需要仔细规划和配置
俞建水 发表于 2025-4-14 08:45
  
这个没操作过,看看大家怎么说1
大智哥 发表于 2025-4-15 09:06
  
当然可以了,只要给虚拟机的资源足够算力跟的上,与实体物理机没什么区别。
冰窟蚂蚁 发表于 2025-5-6 19:59
  
HCI 安装GPU,需要授权不了 关注下。CPU授权还有

等我来答:

换一批

发表新帖
作者其他文章
热门标签
全部标签>
故障笔记
每日一问
信服课堂视频
安装部署配置
新版本体验
GIF动图学习
技术笔记
功能体验
2025年技术争霸赛
纪元平台
排障那些事
标准化排查
测试报告
专家分享
每日一记
【 社区to talk】
问题分析处理
高手请过招
王者破雾峡谷
文档捉虫
每周精选
2024年技术争霸赛
社区新周刊
安全效果
行业实践
知识大闯关
大规模VMware迁移替代
产品连连看
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
日志审计
流量管理
运维工具
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
2023技术争霸赛专题
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
技术晨报
平台使用
技术盲盒
山东区技术晨报
齐鲁TV
华北区交付直播
北京区每日一练
场景专题
西北区每日一问
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
专家说
热门活动
产品动态
产品解析
关键解决方案
声音值千金
工具体验官
产品知识周周练
产品体验官
有一说一
VMware替换
课后茶话社
案例实践挑战
破雾实践案例

本版版主

213
334
718

发帖

粉丝

关注

8
17
28

发帖

粉丝

关注

12
11
1

发帖

粉丝

关注

本版达人

皮皮虾·真

本周建议达人

郑州网络

本周分享达人

二进制网络

本周提问达人