【案例分享】AICP接入deepseek案例-部分问题解决方案
  

Bzxll 3418

{{ttag.title}}
本帖最后由 Bzxll 于 2025-2-24 16:53 编辑

前情提示:此文章为测试分享案例,并非官方推荐部署方式,推荐部署详细请咨询深信服AICP专家。

【环境】各个平台版本:
虚拟化平台VM 6.7
SCP 6.10.2
SKE容器 -2.0.0
AICP平台 -1.1.0
GPU服务器(裸金属服务器) -v1.26.15
Deepseek-32B-int8(两张4090共48GB显存,只能跑起来INT8量化版或14B版本)

【环境】GPU裸金属服务器配置:
1、英伟达4090-24GB *2张
2、内存256GB
3、一台服务器
4、4块1.7TB的SSD固态(两块raid1作为系统盘,两块作为LVM存储)
实测下来存储有点低。

【DeepSeek下载地址】
DeepSeek官方Hugging Face仓库(国内访问不到):https://huggingface.co/deepseek-ai

网上说的deepseek满血版本为617B模型,未量化版本,需要大概860GB显存。
DeepSeek量化版本(非官方):https://modelscope.cn/collection ... till-8b016d8505df4f


【部署准备-软件】

【部署准备-IP】
管控面SCP与SKE:
SCP-1个管理IP
SKE容器-2个IP
AICP-1个IP
Api接口IP-1个
单台裸金属节点-管理业务复用-1个IP
【部署流程】
1、        在VM上部署SCP、SKE容器和裸金属服务器,按照官方手册导入镜像部署,很简单,不过多介绍。


温馨提示:VM上部署SCP会有授权导入的问题,推荐还是直接在HCI上部署SCP。解决方案需要专家去查,根据具体原因分析。


裸金属服务器使用的网络是管理与存储复用


2、        主要说一下裸金属服务器组LVM时会出现报错如何解决。
在裸金属服务器组建LVM报错:


(部署完AICP平台后出现的)在AICP配置存储LocalStorage报错:

前提:SKE容器已经完成裸金属服务器的纳管操作。
步骤一:进入SKE后台,kubectl edit deployment platform-manager -n aicp-system先打开这个
步骤二:找到一行/sys/block/vda  更改为/sys/block,保存即可。
步骤三:返回平台等待5分钟后,刷新界面,此报错即可解决。


3、        部署AICP平台,很简单将下载好的文件导入,等待自动部署完成即可。不做过多介绍,请看手册。

4、【重点】由于AICP 1.1.0版本内置还没有deepseek,需要上传deepseek支持的文件,下载deepseek兼容包上传。(注意:deepseek支持的功能,不支持训练等。)

将下载好的文件上传至此地方(具体详细可见附件)

确认镜像版本在区间在以下列表,如果不是以下镜像列表


5、        导入deepseek模型


(图中文件为未量化版本,实际跑起来的是int8的量化版本,忘记拍照记录了)


上传成功后组建服务,就可以选deepseek模型了。




6、        启动模型
测试此项目首次上传成了未量化版本,导致实例一直启动失败,查看日志发现是显存不够。之后删掉未量化模型,重新上传int8的量化版本,再建立模型启动成功。


测试性能


最后接入chatbox工具测试效果
Chatbox工具:https://chatboxai.app/zh

配置调优参数:
将VLLM引擎中的多步调度功能启用,
启用方式--将参数"num-scheduler-steps": 1, 改为这个 "num-scheduler-steps": 8,



附件:
AICP1.1.0蒸馏版本deeepseek适配.pdf (226.47 KB, 下载次数: 18)

8254767bc09928b55a.png (472.56 KB, 下载次数: 138)

8254767bc09928b55a.png

352567bc09a443b34.png (1.11 MB, 下载次数: 133)

352567bc09a443b34.png

打赏鼓励作者,期待更多好文!

打赏
2人已打赏

冰窟蚂蚁 发表于 2025-3-20 19:50
  
平台打好,怎么训练本地知识库
发表新帖
热门标签
全部标签>
每日一问
新版本体验
【 社区to talk】
纪元平台
安全效果
功能体验
标准化排查
技术咨询
产品连连看
秒懂零信任
社区新周刊
高手请过招
运维工具
自助服务平台操作指引
GIF动图学习
技术圆桌
日志审计
资源访问
西北区每日一问
云化安全能力
信服课堂视频
专家问答
安装部署配置
项目案例
社区帮助指南
技术晨报
文档捉虫活动
每周精选
畅聊IT
答题自测
技术笔记
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
问题分析处理
流量管理
每日一记
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
干货满满
玩转零信任
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
答题榜单公布
2023技术争霸赛专题
通用技术
卧龙计划
华北区拉练
天逸直播
以战代练
技术盲盒
山东区技术晨报
齐鲁TV
华北区交付直播
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
故障案例库

本版达人

新手89785...

本周建议达人

YangZhe...

本周分享达人