头像被屏蔽
JM 发表于 2023-7-17 11:23
  
提示: 作者被禁止或删除 内容自动屏蔽
dhf 发表于 2023-10-16 10:38
  
每日打卡学习,感谢分享,学习了!!!
python数据爬虫获取数据
  

新手189589 82694人觉得有帮助

{{ttag.title}}
【背景】
孵化新功能应用管控需要大量应用评分数据,无相关数据,BG侧规划新功能需要数据支撑。

【预研】
调研友商已有大量评分数据,数据使用无限级分类,人工收集难度大,计划编写数据爬虫获取数据。


【爬虫编码】

组装请求体,获取单列数据:
def request_data(selector):
    """    获取应用单列数据    """    url = 'https://epvqdk.manage.trendmicro.com/WebApp/OSCE_iAC/OsceIac/ApiEntry'    headers = {        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/113.0.0.0 Safari/537.36',        'X-Requested-With': 'XMLHttpRequest',        'Cookie': COOKIE    }    data = {        "param": {            "category": "rule",            "function": "getCssTreeNode",            "parameter": {                "selector": selector,                "showOption": 0,                "upperLevel": 0,                "lowerLevel": 0            },            "body": {}        }    }    response = requests.put(url, headers=headers, json=data)    result = response.json()    return result['Data']['data']['cssTreeNodeList']




指定Excel键组:
def get_excel_keys():
    """
     获取Excel键数组
    """
    return [
        'path_name',
        'name',
        'airScore',
        'major',
        'minor',
        'globalUsage',
        'apacUsage',
        'emeaUsage',
        'jpnUsage',
        'larUsage',
        'nabuUsage',
        'ordering',
        'siblingCount',
        'childCount'
    ]



递归进行数据获取:
def recursion_selector(item, row, parent_name):
    """
     递归选择查询
    """
    if item['childCount'] > 0:
        data = request_data(item['selector'])
        for new_item in data:
            new_item["path_name"] = parent_name + " -> " + str(new_item['name'])
            # print('子类:' + new_item["path_name"] + '  评分:' + str(new_item['airScore']))
            one_excel_data = []
            for excel_key in get_excel_keys():
                one_excel_data.append(new_item[excel_key])
            # 写入数据集合
            row.append(one_excel_data)
            recursion_selector(new_item, row, new_item["path_name"])
    return row



写入Excel工作表:
def save_excel_file():
    """
     开始写入excel文件
    """
    # 数据集合
    row = []
    # 请求参数
    selector = []
    data = request_data(selector)
    for item in data:
        # print('父类:' + str(item['name']))
        parent_name = item['name']
        item["path_name"] = item['name']
        one_excel_data = []
        for excel_key in get_excel_keys():
            one_excel_data.append(item[excel_key])
        # 写入数据集合
        row.append(one_excel_data)
        # 递归子类
        recursion_selector(item, row, parent_name)
        # # 暂时只输出一个
        # break

    # print(row)
    # 创建一个工作簿和工作表
    wb = Workbook()
    ws = wb.active

    # 表头
    one_excel_data = []
    for excel_key in get_excel_keys():
        one_excel_data.append(excel_key)
    ws.append(one_excel_data)

    # 将数组中的数据写入工作表中
    for item in row:
        ws.append(item)

    # 将工作簿保存为Excel文件
    wb.save('output.xlsx')



【数据爬取结果】

打赏鼓励作者,期待更多好文!

打赏
19人已打赏

发表新帖
热门标签
全部标签>
每日一问
新版本体验
【 社区to talk】
技术咨询
安全效果
纪元平台
功能体验
产品连连看
标准化排查
GIF动图学习
干货满满
社区新周刊
技术笔记
问题分析处理
安装部署配置
技术晨报
自助服务平台操作指引
技术盲盒
高手请过招
信服课堂视频
专家问答
运维工具
华北区交付直播
排障那些事
西北区每日一问
答题自测
在线直播
每周精选
畅聊IT
技术圆桌
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
流量管理
每日一记
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
社区帮助指南
答题榜单公布
2023技术争霸赛专题
通用技术
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
山东区技术晨报
文档捉虫活动
齐鲁TV
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
故障案例库

本版版主

13
185
6

发帖

粉丝

关注

127
322
359

发帖

粉丝

关注

本版达人

LoveTec...

本周分享达人

新手24116...

本周提问达人