如何提高PACS图像在不同存储间的传输速率
  

新手233854 3142

{{ttag.title}}
本帖最后由 新手233854 于 2020-10-8 09:10 编辑

应用场景:新旧存储交替,旧存储中的数据需要迁到新存储中。大量小文件需要在两个存储间拷贝传输。

PACS图像文件大多在几百K到5M之间,无论是scp拷贝还是rsync同步,速度都只能稳定在20MByte/S左右。当有几百TB文件需要传输时,一般要耗时几个月才能把数据传完。并不是存储的性能只有20M/S,而是由于小文件传输的特性决定的,就算是在SSD本地硬盘间拷贝,速度同样起不来。

要提高传输速率,可以通过加大并发来实现。

以下是一个简易版的脚本,测试速度可以达到200M/S。存储的性能在400M/S,已经达到期望值。


新旧存储都通过NFS挂载在服务器上,通过cp本地对拷。脚本仓促写成,未加完善,中间使用绝对路径和数字常量,后期可以参数化,但测试阶段已基本满足需要。

代码插入后缩进错乱,以附件方式上传。


并发度定为15,当子任务结束并发小于10时,生成新的任务。


监控网络吞吐量,输入输出都在200M/S左右。新旧存储都是网络挂载,所以流量走的网络。



服务器总体负载情况:

248285f7debbc6aafe.png (111.55 KB, 下载次数: 199)

248285f7debbc6aafe.png

p.zip

704 Bytes, 下载次数: 5

python脚本

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

gqce 发表于 2020-10-8 09:13
  
感谢分享
sxfusr 发表于 2020-10-9 15:13
  
打卡学习
Sangfor_闪电回_朱丽 发表于 2020-10-19 11:10
  
感谢楼主带来的干货分享,已将文章收录并放到社区技术博客中,以便让更多的用户关注和学习!

社区有奖征文活动【原创分享计划】已开启,赶快投稿,领S豆和现金包!具体内容要求和奖励规则请参考:
http://bbs.sangfor.com.cn/forum.php?mod=viewthread&tid=124801
发表新帖
热门标签
全部标签>
新版本体验
每日一问
高手请过招
GIF动图学习
功能体验
安全效果
产品连连看
安装部署配置
纪元平台
标准化排查
【 社区to talk】
升级
测试报告
用户认证
解决方案
社区新周刊
技术笔记
秒懂零信任
每周精选
西北区每日一问
信服课堂视频
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
安全攻防
上网策略
日志审计
问题分析处理
流量管理
每日一记
运维工具
原创分享
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
2023技术争霸赛专题
卧龙计划
华北区拉练
天逸直播
以战代练
技术晨报
平台使用
技术盲盒
山东区技术晨报
文档捉虫
齐鲁TV
华北区交付直播
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
排障那些事
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
专家说
热门活动
产品动态
行业实践
产品解析
关键解决方案

本版达人

feeling

本周分享达人

新手29676...

本周提问达人