如何提高PACS图像在不同存储间的传输速率
  

新手233854 3267

{{ttag.title}}
本帖最后由 新手233854 于 2020-10-8 09:10 编辑

应用场景:新旧存储交替,旧存储中的数据需要迁到新存储中。大量小文件需要在两个存储间拷贝传输。

PACS图像文件大多在几百K到5M之间,无论是scp拷贝还是rsync同步,速度都只能稳定在20MByte/S左右。当有几百TB文件需要传输时,一般要耗时几个月才能把数据传完。并不是存储的性能只有20M/S,而是由于小文件传输的特性决定的,就算是在SSD本地硬盘间拷贝,速度同样起不来。

要提高传输速率,可以通过加大并发来实现。

以下是一个简易版的脚本,测试速度可以达到200M/S。存储的性能在400M/S,已经达到期望值。


新旧存储都通过NFS挂载在服务器上,通过cp本地对拷。脚本仓促写成,未加完善,中间使用绝对路径和数字常量,后期可以参数化,但测试阶段已基本满足需要。

代码插入后缩进错乱,以附件方式上传。


并发度定为15,当子任务结束并发小于10时,生成新的任务。


监控网络吞吐量,输入输出都在200M/S左右。新旧存储都是网络挂载,所以流量走的网络。



服务器总体负载情况:

248285f7debbc6aafe.png (111.55 KB, 下载次数: 205)

248285f7debbc6aafe.png

p.zip

704 Bytes, 下载次数: 5

python脚本

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

gqce 发表于 2020-10-8 09:13
  
感谢分享
sxfusr 发表于 2020-10-9 15:13
  
打卡学习
Sangfor_闪电回_朱丽 发表于 2020-10-19 11:10
  
感谢楼主带来的干货分享,已将文章收录并放到社区技术博客中,以便让更多的用户关注和学习!

社区有奖征文活动【原创分享计划】已开启,赶快投稿,领S豆和现金包!具体内容要求和奖励规则请参考:
http://bbs.sangfor.com.cn/forum.php?mod=viewthread&tid=124801
发表新帖
热门标签
全部标签>
2025年技术争霸赛
功能体验
GIF动图学习
标准化排查
每日一问
新版本体验
纪元平台
产品连连看
高手请过招
【 社区to talk】
信服课堂视频
2023技术争霸赛专题
每周精选
2024年技术争霸赛
社区新周刊
安全效果
畅聊IT
答题自测
专家问答
技术笔记
技术圆桌
在线直播
MVP
网络基础知识
安装部署配置
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
技术晨报
平台使用
技术盲盒
山东区技术晨报
文档捉虫
齐鲁TV
华北区交付直播
北京区每日一练
场景专题
故障笔记
排障那些事
西北区每日一问
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
专家说
热门活动
产品动态
行业实践
产品解析
关键解决方案

本版达人

feeling

本周分享达人

新手29676...

本周提问达人