深信服桌面云aDesk如何实现轻松运维?这篇技术解析告诉你答案
  

阿云在战斗 19730

{{ttag.title}}

近日,QCon全球软件开发大会在广州举办。深信服创新研究院高级技术专家易佳在现场带来《深信服桌面云AIOps智能运维一体化方案演进》的主题演讲。


本次演讲重点分享了深信服在桌面云场景下AIOps的相关实战经验,以下是他的演讲内容摘要。

一、深信服桌面云简介

桌面云,即虚拟桌面架构(Virtual Desktop Infrastucture),俗称虚拟云桌面(VDI)。VDI的核心是云桌面的计算存储网络在服务器端完成,通过专有协议连接云桌面。易佳介绍,深信服桌面云具有移动性强、不受地域限制、集中管控、安全度高等特点。

二、挑战与方案设计

随着桌面云运维遇到第三方软件兼容性、蓝屏、木马等挑战,企业需要快速定位问题所在,如应用卡慢、响应延迟等,以及企业可能遇到私有云资源不足、硬件故障、网络等深层挑战,为此,深信服提出了桌面云智能运维一体化技术方案。

该方案包括数据服务和智能分析服务两大核心部分。其中,数据源主要为Logs、Traces和Metrics,表示桌面云的日志、链路和指标数据。

所有数据经由数据总线流入数据分析引擎,统一存储于InfluxDB、MongoDB等数据库,结合OpenAPI,供上层调度、分析和业务应用。

调度器部分,包括策略下发器、动作与建议编排、平台自身健康监测等;

算法分析部分,包含特征工程、训练与模型调优,常用算法如故障预测、异常检测、关联推理等;

业务系统部分,包括闲置虚拟机识别、虚拟机扩容缩容建议等,如果出现故障,对故障进行溯源和故障分析。

这里数据采集引擎使用的是Sangfor AIOps Agent,借鉴了telegraf、datadog等开源agent的思想,实现了基于Golang的插件化采集引擎,支持采集Windows、Linux等多类不同维度的指标数据,供给AIOps分析。

随着用户诉求和用户体量的的不断变化,AIOps数据模型与AI框架演进了三个版本。

第一个版本主要是一套轻量级监控分析系统,支持时序数据、告警数据、统计分析和容器化部署;支持主机、虚拟机数据采集做简单AI分析,适用于小规模用户。

第二个演进的版本是一个轻量级AIOps引擎,支持OpenAPI和数据统一调度。同时也在这个版本引入缓存机制,实现了存算分离。同时,更多的AI算法也得到了支持。

从第三个版本开始,实现了一套桌面云全栈AIOps引擎。在该版本中,面对数据上报的性能瓶颈问题,抽象了数据接口,实现负载均衡。

其次是设计了投递分级,内存磁盘双对列。对于优先级比较高的实际数据、实际体验影响比较关键的指标,优先保障入库。

同时,也做了多级分表,优化了数据结构。保留横向扩展能力,按集群分库分表。减少非必要的tag入库,如ip和hostname,只在tag中保留一个。

为了平衡实时性与准确度,减少重复数据,可以按采集指标区分不同采集周期,如CPU设定为10s采集一次,memory设定为20s采集一次;静态数据尽量只采集一次,如服务器型号、磁盘大小;加入了时间窗口内数据去重,如进程信息等;根据指标量与繁忙程度,动态调整采集周期。

最后,针对多维异构数据进行了冷热分层处理,冷数据存档供AI离线分析和模型训练,热数据实时监控和展示。

三、算法设计

深信服桌面云AIOps引擎提供业务自适应的AI调度,包括统一数据管理、统一模型管理和统一平台策略。

涉及的算法包括基于bagging策略的分段线性回归算法、基于网格搜索的缩扩容模型、基于资源约束算法和贪心策略的虚拟机新增模型、基于时间序列特征提取和随机森林的闲置资源识别模型等。

基于bagging策略的分段线性回归算法,目的是设计一套评分模型来评测当前虚拟机、主机和集群的健康程度。

基于CPU、内存、磁盘、告警等多维度学习,为每个维度建立弱学习器,最后综合多个弱学习器构建强学习器,计算得出整体的健康评分。

该算法综合评价多维核心资源消耗数据,以识别整体负载水平,结合专家经验设置的告警规则以捕捉偶发异常,运用bagging策略进行加权投票计算出机器的最终健康度评分。

基于网格搜索的缩扩容模型在公有云或混合云场景也比较常见。当虚拟机CPU和内存资源不够或过剩时,需要做精细化调度,在保证体验的同时,控制运营成本。

该模型基于历史的CPU和内存时序数据来计算有效峰值,根据计算得到的资源有效峰值数据判断是否命中缩容/扩容策略,若命中则进一步判断该虚拟机是否处于懒惰机制保护时间段,判断通过后基于网格搜索以及A/B Test方法给出虚拟机最佳推荐配置。

资源约束算法和贪心策略的虚拟机新增模型,是基于总体可容纳并发和当前并发来设计的,根据并发量来计算整个集群剩下多少内存和vCPU,读取集群整体配置情况以及当前虚拟机并发情况。

根据经验换算公式得到mhz单位的CPU容量剩余数据与内存剩余数据,捕捉虚拟机平均vCPU消耗数据后,基于资源约束算法结合贪心策略,输出可新增虚拟机建议和硬件扩容优化指引。

基于时间序列特征提取和随机森林的闲置资源识别模型,结合可扩展假设测试的时间序列特征,扩充虚拟机特征维度,训练随机森林模型,输出虚拟机闲置概率以及处置建议,同时收集用户反馈迭代优化预训练模型以形成闭环。

四、实践与落地效果

该方案支撑大盘、集群、主机、虚拟机、网络、存储、应用软件全栈监控与分析。方案引入50+规则诊断一些核心指标问题,采集超过800维度的数据,适配30+卡慢场景,实现20+机器学习和统计算法,从而做到识别出常见的异常问题。

在桌面云场景下,虚拟机内第三方进程问题比较多,应用深信服桌面云AIOps方案之后可以改善很多。

针对卡慢问题,深信服桌面云卡慢/故障异常检测准确率达到87%。实施卡慢缓解建议后,约有47%的问题能够得到明显缓解。

执行AIOps优化策略后,整体成本平均下降18%左右。同时,AIOps的智能诊断能力,可以覆盖桌面云65%的已知资源卡慢问题。

此外,深信服桌面云AIOps也面临一些挑战。比如私有云场景下,因网络限制,很难获取大规模数据持续不断地进行AI学习,这导致整个AI链路过长。其次,用户的业务场景很多,在医疗、金融等不同场景下,算法模型如何做到较高的覆盖率和精准的识别,这也是当前比较棘手的一个问题。

深信服桌面云未来的演进方向,会体现在增加更多的反馈和模型的自更新机制,实现多业务场景的覆盖。同时,基于业务画像和运维知识图谱,实现精细化故障诊断。

以上就是关于《深信服桌面云AIOps智能运维一体化方案演进》的分享,关注“深信服科技”公众号,持续获取更多技术干货内容。

打赏鼓励作者,期待更多好文!

打赏
8人已打赏

新手620211 发表于 2023-4-27 21:35
  
感谢分享有助于工资和学习!
乀糖果 发表于 2023-3-11 11:38
  
有助于学习!!!!!!!!!!!!!!
糖果星球 发表于 2023-3-11 11:37
  
有助于学习!!!!!!!!!!!!!!
新手517842 发表于 2022-9-5 13:08
  

感谢分享,学习一下。
新手031815 发表于 2022-9-5 13:05
  


感谢楼主的分享,学习学习~~~
新手780102 发表于 2022-9-5 12:56
  
感谢分享,学习一下。
wshellym 发表于 2022-9-5 09:59
  
感谢楼主的分享,学习学习~~
新手078326 发表于 2022-9-4 11:27
  
感谢分享,学习一下。
新手612152 发表于 2022-9-3 12:20
  
感谢楼主的分享,学习学习~~~
发表新帖
热门标签
全部标签>
西北区每日一问
技术盲盒
安全效果
【 社区to talk】
技术笔记
干货满满
每日一问
信服课堂视频
新版本体验
GIF动图学习
技术咨询
功能体验
2023技术争霸赛专题
产品连连看
安装部署配置
通用技术
秒懂零信任
技术晨报
自助服务平台操作指引
原创分享
标准化排查
排障笔记本
玩转零信任
排障那些事
SDP百科
深信服技术支持平台
POC测试案例
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
高手请过招
升级&主动服务
高频问题集锦
社区新周刊
全能先锋系列
云化安全能力

本版热帖

本版达人