超融合能否跑deepseek

新手881837 5906

{{ttag.title}}
RT,当前有台安装了4张3090的服务器跑着deepseek内部使用,现在想对该服务器进行虚拟化并加入现有集群,deepseek可以跑在超融合内吗

解决该疑问,预计可以帮助到 13128 人!

回帖即可获得
2S豆
,被楼主采纳即奖励20S豆+10分钟内回帖奖励10S豆 [已过期] ,了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

一抹月光 发表于 2025-4-11 08:51
  
可以。。。。。。。。。。。。。。。。。。。。
王老师 发表于 2025-4-11 09:49
  
RTX 3090:每张显卡拥有24GB显存,适合运行中小规模的DeepSeek模型(如7B、14B或32B参数量)。但对于更大规模的模型(如70B),可能需要多卡协作。
虚拟化环境的影响:虚拟化会引入一定的性能开销,尤其是在GPU资源分配和调度方面。在虚拟化环境中运行DeepSeek时,必须确保GPU资源能够高效分配和利用。
深度学习任务通常需要高速存储和低延迟网络。确保超融合集群的存储性能(如NVMe SSD)和网络带宽(如10GbE或更高)能够满足需求。
在超融合环境中运行DeepSeek是可行的,但需要仔细规划和配置,尤其是GPU资源的分配和管理。以下是关键建议:

优先考虑GPU直通技术,以减少性能损耗。
确保超融合平台支持GPU相关的功能(如直通或vGPU)。
根据实际需求选择合适的虚拟化平台或容器化方案。
实习19857 发表于 2025-4-12 09:38
  
应该是可以的 这个不跟上的话 那就落后了
王老师 发表于 2025-4-13 09:26
  
在超融合环境中运行DeepSeek是可行的,但需要仔细规划和配置
俞建水 发表于 2025-4-14 08:45
  
这个没操作过,看看大家怎么说1
大智哥 发表于 2025-4-15 09:06
  
当然可以了,只要给虚拟机的资源足够算力跟的上,与实体物理机没什么区别。
冰窟蚂蚁 发表于 2025-5-6 19:59
  
HCI 安装GPU,需要授权不了 关注下。CPU授权还有

等我来答:

换一批

发表新帖
作者其他文章
热门标签
全部标签>
新版本体验
每日一问
标准化排查
信服课堂视频
GIF动图学习
纪元平台
产品连连看
社区新周刊
平台使用
功能体验
安全效果
高手请过招
【 社区to talk】
答题自测
技术笔记
网络基础知识
云化安全能力
专家问答
安装部署配置
上网策略
每周精选
畅聊IT
技术圆桌
在线直播
MVP
升级
安全攻防
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
2023技术争霸赛专题
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
技术晨报
技术盲盒
山东区技术晨报
文档捉虫
齐鲁TV
华北区交付直播
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
西北区每日一问
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
专家说
热门活动
产品动态
行业实践
产品解析
关键解决方案

本版版主

193
354
1003

发帖

粉丝

关注

6
12
27

发帖

粉丝

关注

5
10
7

发帖

粉丝

关注

32
38
46

发帖

粉丝

关注

11
4
1

发帖

粉丝

关注

本版达人

皮皮虾·真

本周建议达人

郑州网络

本周分享达人

二进制网络

本周提问达人