关于网站数据采集

bobby 1469

{{ttag.title}}
一般来说 我们的企业会将自己的网站发布到公网中 供公网浏览,以此了解企业文化和产品等等,但是总会遭遇网站采集器的侵扰,导致不同的域名却是相同的网站内容, 而用户访问网站往往是根据关键字什么的进行,而不会刻意的去在意域名是否一样,这对企业来说造成很大困扰,因为网站采集器采集到的网站数据+非法域名组成的网站,很可能包含欺骗,非法链接 如果一旦用户不知情点进去,造成什么损失,首先受影响的一定是企业。我使用AF做了这样一个应对方式,那就是开启服务器保护——WEB应用保护,并且在防护类型中勾选了网站扫描,以此阻止爬虫的进入和对网页信息进行爬取。虽然还没使用爬虫工具实验,但是应该效果不错。本身来说数据采集工具是基于网站漏洞和爬虫抓取来获得数据,上述策略可以封闭漏洞,并扫描爬虫链,对于数据采集器来说效果应该不差。具体的容我使用八爪鱼试试再给结果。不过我做了一个实验,几乎许多网站都可以另存到本地,然后你就获取了网站除了程序意外的大部分网站文件,希望信服研发部门可以对此在防火墙改进,基于网站文件对网站的安全想点办法。

和楼主有同感吗?赶快顶起来助力研发哥快速完善!

发表的建议被采纳即可获得100-1000S豆不等,如果您在建议专区表现活跃,可获得产品顾问荣誉勋章!了解更多S豆奖励信息

完善手机号和公司名称,让服务更省心更便捷!立即完善

AF开发规划经理 发表于 2016-6-28 16:54
  
钓鱼网站不仅仅是采集, 防扫描解决不了钓鱼网站的问题、
北回归线 发表于 2016-6-29 09:09
  
网站要做防采集
发表新帖
热门标签
全部标签>
每日一问
2024年技术争霸赛
技术盲盒
技术笔记
干货满满
信服课堂视频
产品连连看
新版本体验
技术晨报
功能体验
每周精选
秒懂零信任
GIF动图学习
2023技术争霸赛专题
技术咨询
安全攻防
信服圈儿
问题分析处理
运维工具
通用技术
华北区交付直播
答题自测
在线直播
安装部署配置
原创分享
深信服技术支持平台
社区帮助指南
天逸直播
以战代练
自助服务平台操作指引
齐鲁TV
北京区每日一练
畅聊IT
专家问答
技术圆桌
MVP
网络基础知识
升级
上网策略
测试报告
日志审计
流量管理
每日一记
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
标准化排查
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
答题榜单公布
纪元平台
卧龙计划
华北区拉练
山东区技术晨报
文档捉虫活动

本版版主

396
137
63

发帖

粉丝

关注

本版达人

新手61940...

本周建议达人

BGP网络

本周分享达人

BGP网络

本周提问达人