关于网站数据采集

bobby 1919

{{ttag.title}}
一般来说 我们的企业会将自己的网站发布到公网中 供公网浏览,以此了解企业文化和产品等等,但是总会遭遇网站采集器的侵扰,导致不同的域名却是相同的网站内容, 而用户访问网站往往是根据关键字什么的进行,而不会刻意的去在意域名是否一样,这对企业来说造成很大困扰,因为网站采集器采集到的网站数据+非法域名组成的网站,很可能包含欺骗,非法链接 如果一旦用户不知情点进去,造成什么损失,首先受影响的一定是企业。我使用AF做了这样一个应对方式,那就是开启服务器保护——WEB应用保护,并且在防护类型中勾选了网站扫描,以此阻止爬虫的进入和对网页信息进行爬取。虽然还没使用爬虫工具实验,但是应该效果不错。本身来说数据采集工具是基于网站漏洞和爬虫抓取来获得数据,上述策略可以封闭漏洞,并扫描爬虫链,对于数据采集器来说效果应该不差。具体的容我使用八爪鱼试试再给结果。不过我做了一个实验,几乎许多网站都可以另存到本地,然后你就获取了网站除了程序意外的大部分网站文件,希望信服研发部门可以对此在防火墙改进,基于网站文件对网站的安全想点办法。

和楼主有同感吗?赶快顶起来助力研发哥快速完善!

发表的建议被采纳即可获得100-1000S豆不等,如果您在建议专区表现活跃,可获得产品顾问荣誉勋章!了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

北回归线 发表于 2016-6-29 09:09
  
网站要做防采集
AF开发规划经理 发表于 2016-6-28 16:54
  
钓鱼网站不仅仅是采集, 防扫描解决不了钓鱼网站的问题、
发表新帖
热门标签
全部标签>
西北区每日一问
安全效果
高手请过招
【 社区to talk】
纪元平台
每日一问
新版本体验
产品连连看
社区新周刊
干货满满
技术咨询
GIF动图学习
标准化排查
自助服务平台操作指引
功能体验
每周精选
社区帮助指南
VPN 对接
技术笔记
秒懂零信任
技术盲盒
POC测试案例
信服课堂视频
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
安装部署配置
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
答题榜单公布
2023技术争霸赛专题
通用技术
卧龙计划
华北区拉练
天逸直播
以战代练
技术晨报
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
升级&主动服务
高频问题集锦
全能先锋系列
云化安全能力

本版版主

1
3
10

发帖

粉丝

关注

396
143
63

发帖

粉丝

关注

5
8
7

发帖

粉丝

关注

0
2
1

发帖

粉丝

关注

本版达人

新手61940...

本周建议达人

BGP网络

本周分享达人

BGP网络

本周提问达人