看到AI,第一反应这是智能化问答平台吗?哈哈哈 好奇心驱使我一探究竟,想要了解了解这个AICP是什么!
概述: 深信服AI算力平台(AI Computility Platform,简称 AICP是面向大模型场景,全新发布的私有化、一站式大模型训练和推理服务运行平台。兼容主流开源大模型,围绕大模型项目开发的全生命周期,提供异松GPU 算力管理调度、模型和数据管理、模型训练和推理过程管理、模型量化模型加密等能力,降低用户应用大模型 AI技术的门槛。提供“向导化配置一键训练 ””降低一半推理成本、性价比翻倍””模型加密、保障知识产权“三大价值。让用户将精力投入在垂直场景业务设计、数据准备和效果评测阶段,快速迭代垂直场景大模型,加速大模型业务落地。
新增功能: 异构 GPU 算力资源池管理 :支持管理监控英伟达、天数智芯异构 GPU 算力池,支持对接 EDS 外置存储; 模型管理、数据集管理:支持管理微调、预训练、配比数据集,支持管理主流开源基础大模型(包括 Qwen2、Yi、llama2、baichuan2), 模型训练管理:支持大模型微调(包括全参和 LORA)和预训练; 模型调优:支持 BAQ 业务感知量化,支持模型动态加密; 模型服务:支持多实例模型服务,支持数据回流; 在线体验:支持同时对比3个模型服务的回答效果和性能
「本期话题来了」 1.在你看来AI算力平台有什么样的优点?
2.AI算力平台在你看来有什么样的缺点?
3.你如何看待A ICP,对AICP1.0.0有哪些期待呢?
【畅聊时间】 2024年9月25日-10月09日
【本期奖励】 1、幸运奖:本帖设置2000S豆回帖奖励,每次回复有机会获得20S豆 2、优秀回复奖:凡回复的内容,被管理员设置为优秀回复的,即可获得300S豆打赏! 3、最高人气奖:被管理员设置为优秀回复并且点赞数最多的用户,可获得800S豆奖励(要求点赞数至少在10条以上)
希望大佬们积极回复一下望各位不吝赐教。 |