德德 发表于 2023-2-12 11:52
  
感谢楼主分享,学习一下
乀糖果 发表于 2023-3-15 13:37
  
感谢楼主分享,每日学习打卡
新手413594 发表于 2023-6-24 22:14
  
楼主分享的案例很实用,具有典型性,希望有更多这样的干货供我们学习参考,非常感谢!
韩立春 发表于 2023-6-27 16:51
  

感谢分享,有助于工作和学习
一个无趣的人 发表于 2024-10-28 23:21
  
对于智能边缘计算的相关解决方案,介绍的很详细。
深信服智能边缘计算平台解决边缘AI落地“老三难” 
  

阿云在战斗 109462人觉得有帮助

{{ttag.title}}
在各行各业,AI技术正在深入应用到各个场景。比如在电力行业,有AI协助“值守”,电力用户可以减少运维人力成本的投入,保障电力基础设施的正常运转。还能通过AI技术分析电力场站的视频监控,可以进行实时运检,提高电力场站的运检效率。

深信服智能边缘计算平台在软硬件适配、模型部署、复杂模型运行等方面简化边缘AI应用开发的难度,帮助开发者更加高效实现边缘AI应用落地。今天来为大家揭晓深信服智能边缘计算平台如何解决边缘AI工程化落地的三大难题。

一、软、硬件异构,兼容适配「难」

由于底层AI芯片和框架的方案很多,AI应用的开发者在做软硬协同及适配开发时难度非常高。基于深信服智能边缘计算平台的云边智能协同底座,实现了适配兼容,在模型迁移适配、AI应用构建部署以及推理性能优化等多个维度,帮助企业开发者实现云边智能高效协同。

深信服智能边缘计算平台内置的边缘推理引擎Sangfor Runtime,适配主流的深度学习框架、神经网络模型(包含目标检测、目标追踪、图像分类等),通过一套标准接口,帮助开发者快速实现算法面向边缘AI芯片的自动适配以及性能调优,为用户提供一站式边缘AI推理服务,进一步降低算法在不同边缘AI芯片间的迁移成本。

二、场景多样复杂,模型部署「难」

在实施交付现场,不同摄像头接入的视频流存在多类型场景的智能化分析需求,传统点对点的配置效率低下,加大了交付成本。

在AI应用构建阶段,深信服智能边缘计算平台通过可视化界面配置,开发者只需要上传AI模型文件,平台将实现自动AI镜像打包过程,帮助开发者自动构建可用于边缘节点上运行的AI应用镜像,大幅节省应用开发时间。基于深信服边缘AI技术,用户在研发边缘AI应用时,可以降低成本、提高模型性能。

此外,深信服智能边缘计算平台面向交付人员,提供多模型AI应用快速部署与模型智能调度的能力。交付人员基于客户的业务场景需求,根据同时运行算法的数量及算法依赖关系,通过可视化界面配置单模型调度、多模型并行调度、多模型串行调度及混合调度,最终满足不同场景下AI多模型应用的分发与部署运行,提高实时部署的便捷性。

三、大而全的复杂模型运行「难」

相较于中心云服务器,边缘节点的资源配置有限,难以运行大而全的复杂模型。如果将云端训练好的AI算法模型迁移至资源、算力相对有限的边缘节点,算法开发人员需要做大量模型量化、优化以及算子层面的调整工作,过程繁杂,优化效果高度依赖开发者经验。

深信服智能边缘计算平台支持开发者根据业务需求,在云上部署大模型,边缘部署小模型。边缘侧针对样本数据进行难易判别,简单样本在边缘侧由小模型完成推理,难例样本回传至云端由大模型完成推理,并自动实现云边推理结果汇总。这样,用户在边缘侧推理可获得更短的时延以及更高吞吐量,并兼顾了云侧推理的精度。

以上就是本期关于深信服智能边缘计算平台的分享,关注“深信服科技”公众号,可以获取更多技术内容。

打赏鼓励作者,期待更多好文!

打赏
44人已打赏

发表新帖
热门标签
全部标签>
西北区每日一问
技术盲盒
安全效果
干货满满
技术笔记
【 社区to talk】
每日一问
信服课堂视频
GIF动图学习
新版本体验
2023技术争霸赛专题
技术咨询
功能体验
产品连连看
安装部署配置
通用技术
秒懂零信任
技术晨报
自助服务平台操作指引
原创分享
标准化排查
排障笔记本
玩转零信任
排障那些事
SDP百科
深信服技术支持平台
升级&主动服务
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
高手请过招
高频问题集锦
社区新周刊
POC测试案例
全能先锋系列
云化安全能力

本版达人

新手89785...

本周建议达人

YangZhe...

本周分享达人