咨询一下,深信服的AICP产品中,是否支持大模型的评估功能

新手623872 3408

{{ttag.title}}
咨询一下,深信服的AICP产品中,是否支持大模型的评估功能?如果支持的话,是基于哪个开源软件做的?EvalScope吗

该疑问已被 解决,获得了 20 S豆

回帖即可获得
2S豆
,被楼主采纳即奖励20S豆+10分钟内回帖奖励10S豆 [已过期] ,了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

AICP的评估能力并非依赖EvalScope开源软件,而是通过以下方式实现:

AICP平台集成了深信服自主研发的评估工具链,可对模型训练过程(如损失函数、准确率)和推理结果(如精度、效率)进行实时监控与量化分析。
与训练推理框架深度集成:
平台支持VLLM、DeepSpeed、Llama-Factory等主流训练推理框架,这些框架本身包含评估模块(如DeepSpeed的自动混合精度训练评估、VLLM的分布式推理性能评估),AICP通过调用这些模块实现评估功能。

用户可在创建训练或推理任务时,配置自定义评估指标(如F1值、BLEU分数等),平台会联动生成推荐的评估参数,并在任务执行过程中自动收集与分析数据。
本答案是否对你有帮助?
王老师 发表于 2025-10-9 15:48
  
深信服的AICP产品支持大模型的评估功能,但其评估能力并非基于EvalScope开源软件实现,而是通过内置的评估框架与工具链完成。
AICP作为深信服推出的私有化、一站式大模型训练与推理平台,其核心定位是覆盖大模型开发全生命周期,包括数据接入、模型训练、模型管理、模型压缩、模型加密及模型推理。评估功能作为模型开发的关键环节,必然被纳入平台能力体系。
王老师 发表于 2025-10-9 15:51
  
AICP的评估能力并非依赖EvalScope开源软件,而是通过以下方式实现:

AICP平台集成了深信服自主研发的评估工具链,可对模型训练过程(如损失函数、准确率)和推理结果(如精度、效率)进行实时监控与量化分析。
与训练推理框架深度集成:
平台支持VLLM、DeepSpeed、Llama-Factory等主流训练推理框架,这些框架本身包含评估模块(如DeepSpeed的自动混合精度训练评估、VLLM的分布式推理性能评估),AICP通过调用这些模块实现评估功能。

用户可在创建训练或推理任务时,配置自定义评估指标(如F1值、BLEU分数等),平台会联动生成推荐的评估参数,并在任务执行过程中自动收集与分析数据。
新手565981 发表于 2025-10-29 15:46
  
深信服的AICP产品支持大模型的评估功能,但需要针对特定的模型。

等我来答:

换一批

发表新帖
热门标签
全部标签>
有一说一
纪元平台
功能体验
存储
专家分享
迁移
每日一问
GIF动图学习
每周精选
信服课堂视频
虚拟机
项目案例
地址转换
追光者计划
技术笔记
安全攻防
问题分析处理
流量管理
终端接入
「智能机器人」
专家说
声音值千金
工具体验官
解决方案
标准化排查
答题自测
新版本体验
上网策略
资源访问
排障笔记本
产品预警公告
技术晨报
社区新周刊
升级
日志审计
设备维护
技术争霸赛
以战代练
场景专题
全能先锋系列
产品解析
产品连连看
VPN 对接
功能咨询
秒懂零信任
文档捉虫
齐鲁TV
高频问题集锦
【 社区to talk】
云化安全能力
故障笔记
排障那些事
安装部署配置
测试报告
SDP百科
山东区技术晨报
华北区交付直播
MVP
每日一记
运维工具
原创分享
sangfor周刊
SANGFOR资讯
授权
玩转零信任
升级&主动服务
行业实践
2025年技术争霸赛
产品知识周周练
畅聊IT
专家问答
技术圆桌
在线直播
信服故事
卧龙计划
平台使用
技术盲盒
北京区每日一练
产品动态
用户认证
技术顾问
天逸直播
POC测试案例
安全效果
关键解决方案
S豆商城资讯
2023技术争霸赛专题
高手请过招
产品体验官
VMware替换
网络基础知识
华北区拉练
西北区每日一问
热门活动
2024年技术争霸赛

本版版主

8
11
2

发帖

粉丝

关注

2
7
0

发帖

粉丝

关注

0
3
0

发帖

粉丝

关注

36
18
1

发帖

粉丝

关注

1
1
0

发帖

粉丝

关注

本版达人