神经网络爬虫NeuScraper 提出一种名为NeuScraper的神经网络网页
  

火狐狸 159

{{ttag.title}}
神经网络爬虫NeuScraper
提出一种名为NeuScraper的神经网络网页抓取工具(网络爬虫),旨在改善大规模语言模型预训练中使用的数据集质量。传统基于规则的网页抓取方法难以应对日益复杂的网页结构,导致抓取到的文本含有大量噪声。NeuScraper利用浅层神经网络结构和布局信息高效地提取网页的主要内容,实验结果显示其性能比基准抓取工具提高了20%,且在GPU上运行时能够实现高速处理。该工具开源可用,有助于构建更高质量的预训练语料库。
[CL] Cleaner Pretraining Corpus Curation with Neural Web Scraping
Github:https://github.com/OpenMatch/NeuScraper
论文:https://arxiv.org/abs/2402.14652

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
每日一问
技术盲盒
技术笔记
干货满满
技术咨询
功能体验
新版本体验
产品连连看
GIF动图学习
标准化排查
自助服务平台操作指引
运维工具
2023技术争霸赛专题
通用技术
秒懂零信任
技术晨报
信服课堂视频
用户认证
安装部署配置
深信服技术支持平台
安全攻防
SDP百科
设备维护
社区帮助指南
答题自测
每日一记
玩转零信任
畅聊IT
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
上网策略
测试报告
日志审计
问题分析处理
流量管理
云计算知识
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选

本版版主

461
244
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人